neural network 구현
처음부터 코드로 구현 -> 프레임워크를 사용 - 모든 neural network의 layer를 직접 구현 → 모델을 구성하는데 필요한 모든 구성 요소를 제공 - loss function 구현 → 다양한 loss function 제공 - 모든 layer의 weight, bias에 대해 gradient를 계산 → 자동 미분 - 최적화 알고리즘 구현 → 다양한 optimizer 제공
- 효율적이고 간단함 - > 많은 기업에서 딥러닝 프레임워크를 활용하고, 지원 자격으로 능숙한 활용 능력을 요구
프레임워크 트렌드
- 이미 많은 딥러닝 프레임워크가 오픈소스로 공개 (TensorFlow(Google) 2. PyTorch(Meta), JAX(Google), MXNet(Apache))
- PyTorch의 사용자는 크게 증가
왜 PyTorch를 사용하는가? 1. Natural language processing - 허깅페이스는 가장 대중적인 NLP 커뮤니티 - 대부분의 허깅페이스 공개 모델은 PyTorch가 사용됨 2. Computer vision - timm, segmentation_models_pytorch 라이브러리 등 - Vision 관련 사전학습된 모델을 편리하게 사용할 수 있도록 PyTorch 생태계가 구축돼 있음
3. Large language model(LLM) - 같은 기조로 최근 LLM 모델들 또한 PyTorch 프레임워크로 공개됨
