Zero-shot Learning/Few-shot Learning
Zero-Shot-Learning : 이미 충분히 학습이 된 네트워크(Foundation Model) 에서의 정보를 토대로
학습되지 못한 전혀 새로운 대상(혹은 의미)를 추론하여 학습된 모델을 통해 클래스로 분류하는 것을 의미한다.
Few-Shot-Learning : 충분히 학습 된 Foundation Model에 전이 학습 등을 통하여 아주 소량의 라벨링 된 데이터틀 가지고
새로운 클래스를 만들어 Inference 시 인식하도록 하는 것이다. 이는 대량 학습을 위한 무수한 라벨링 데이터들에 대해 소모 되는 비용과 시간을 절약하기 위함이다. 기존의 분류체계만으로 새로운 학습에 적용하여 더 빠르게 학습하도록 유도하는 것이다. 이는 어느정도 인지 능력이 있는 사람의 빠른 학습 과정의 원리와 매우 유사하다.
Zeo-Shot-Learning 을 위해서 Foundation Model 이 필요로 하는 학습 방식이 3 군으로 분류된다.
1. 임베딩 공간 학습 : 어떤 대상과 의미(추상적 포함)를 개략적으로 연결하여 학습하는 방식이다.
이를 통해 새로운 대상이나 의미에 대하여 가까운 해당 클래스에 인접하게 추론하는 것이다.
2. 속성 기반 학습 : 학습 과정에서 어떤 대상에 대하여 추상적이고 간략한 의미보다는 좀 더 디테일한 속성들을 표현하는 방식으로 진행이 된다.
따라서 새로운 대상을 추론하는데 있어서 해당 속성을 토대로 인식한다. 의미론적 학습이라고도 한다.
3. 텍스트-이미지 연결 : 이미지와 이에 대한 자세한 설명을 곁들여 학습한 모델을 통해 새로운 물체 또한 대상(ZSL) 속성을 통해 분류 추론할 수 있는 모델이다.