[boostcamp] 부스트캠프 AI Tech 7주차 돌아보기

1. 잘한 것

- 프로젝트에서 정확도를 높이기 위한 코드로 일부 기여하였습니다. 

- 프로그래밍 능력을 높이기 위해 이번 주에 할당된 코딩테스트 문제 풀이는 모두 완료하였습니다.

- 프로젝트 완료 후 필요한 일련의 작업(Wrap-up report 등)들을 지원하면서 팀을 지원했습니다. 

2. 부족한 것

- 모델을 사용함에 있어 해당 모델을 채택해야 하는 이유에 대한 탐구가 부족했습니다. 

- 이번 주에 배운 것들이 많았는데, 그 모든 것을 다 시도해보지 못했습니다. 

3. 배운 것

- 딥러닝에서 사용할 수 있는 베이스 코드 템플릿 :

https://seanpark11.tistory.com/124, https://github.com/SuyoungPark11/my-code-snippet

📖 데이터셋, 훈련, 테스트 등 딥러닝에서 공통적으로 사용할 수 있는 코드

➡️ 새롭게 알게 된 내용들을 지속적으로 정리/추가/수정하면서 딥러닝 코드를 작성할 때 속도와 효율을 높일 수 있도록 할 예정입니다.  

 

- 효율적인 훈련을 위한 테크닉

📖 Data Caching : 전체 이미지를 미리 벡터화해서 npy 형태로 저장해 활용

📖 Gradient Accumulation : 여러 배치에서 계산된 그래디언트를 누적해 업데이트

📖 Mixed Precision : FP16로 타입캐스팅을 통해 연산 효율화

 

- 이미지 분류 문제에 대한 정의 : https://seanpark11.tistory.com/128

📖 레이블 유형에 따른 분류(Binary, Multiclass, Mulilabel), 이미지 특성(Coarse-grained, Fine-grained), 접근 방식(Few-shot, One-shot, Zero-shot) 

 

- 이미지 데이터에 대한 사용하기 위해 : https://seanpark11.tistory.com/133

📖 PIL, OpenCV 라이브러리 사용 

 

- 그 외 프로젝트를 진행하면서 해결했던 오류 : https://seanpark11.tistory.com/132

4. 시도할 것

- 이번 프로젝트에서는 WandB를 사용하지 않았는데, 새로운 프로젝트에서는 활용할 예정입니다.

- 학습된 모델의 가중치를 활용하는 전이학습을 시도해볼 예정입니다.

- 쉘 스크립트로 좀 더 나은 환경을 구축하는데 활용해볼 예정입니다.

- 새로운 프로젝트의 주제인 Object Detection에 대해 그동안 배웠던 것을 복습해보고, 적용할만한 모델들에 대해 공부해볼 계획입니다.