Data Augmentation using Large Language Models:Data Perspectives, Learning Paradigms and Challenges

Ding, B., Qin, C., Zhao, R., Luo, T., Li, X., Chen, G., Xia, W., Hu, J., Luu, A. T., & Joty, S. (2024). Data Augmentation using Large Language Models: Data Perspectives, Learning Paradigms and Challenges. arXiv:2403.02990v4.

- upstage 멘토링 2주-1일차 제공 아티클

• 데이터 중심 접근
  - 최근 인공지능(AI) 연구의 중요한 패러다임 중 하나는 "데이터 중심 접근"
  - 모델의 성능을 높이기 위해 데이터를 다양하고 고품질로 확보하는 것이 필수적이라는 점을 강조
  - AI 시스템이 학습할 수 있는 유효한 정보를 확보하는 것이 중요하며, 이를 위해 고품질의 데이터를 모으는 과정이 필요.
  
  
• 데이터 확보의 어려움
  - 데이터 수집은 고비용, 고시간이 소요되는 작업이며, 데이터 레이블링 과정에서 인간의 개입으로 인해 오류가 발생
      -> 데이터의 일관성이나 정확성을 유지하는 것이 도전 과제
  - 데이터 증강의 필요성: 데이터 증강(DA)은 이러한 문제를 해결하기 위한 중요한 기술로 부각
  - 데이터 증강은 기존 데이터를 다양하게 변형하거나 새롭게 생성하여 데이터의 양과 다양성을 증대
  - 모델의 성능을 향상시키는 효과
• 대형 언어 모델(LLM)의 역할
  - LLM은 방대한 양의 텍스트 데이터를 학습해 다양한 텍스트를 생성할 수 있기 때문에 텍스트 기반의 데이터 증강에 매우 효과적
  - LLM을 활용하여 새로운 텍스트 데이터를 생성함으로써, 기존의 데이터 수집과 레이블링의 한계를 극복
  
  
• LLM을 활용한 데이터 증강의 주요 이점
  - 다양한 학습 데이터 확보
        - LLM을 사용하면 기존 데이터셋에 포함되지 않은 새로운 텍스트 샘플을 생성
        - 이는 특히 데이터가 부족하거나 수집이 제한적인 분야에서 매우 유용
              - 의료 데이터나 법률 데이터와 같이 민감하고 접근이 제한된 분야에서 데이터 증강이 큰 역할
   - 고품질 텍스트 생성
       - LLM은 문맥을 이해하고 자연스러운 텍스트를 생성하는 능력이 있어 인간이 생성한 데이터와 유사한 품질의 텍스트를 생성
       - 경우에 따라 LLM이 생성한 데이터가 오히려 인간이 작성한 데이터보다 오류가 적고 일관성이 높은 경우
  - 데이터셋의 다양성 증대
       - LLM이 다양한 표현 방식으로 텍스트를 생성할 수 있으므로, 데이터셋의 다양성을 높이는 데 유리
       -  같은 의미를 가진 다양한 표현을 학습하게 함으로써 모델이 새로운 상황에 대해 더 잘 대응
       - 모델의 일반화 성능을 향상
  
  
• 학습 패러다임 (Learning Paradigms)
  - 지도 학습(Supervised Learning)
       - 전통적인 지도 학습에서 데이터 증강은 매우 중요
       - LLM이 생성한 텍스트 데이터는 라벨을 지정할 수 있어 지도 학습에서 데이터의 양을 늘리고, 모델이 더 많은 경우의 수를 학습할 수 있도록 도와줌
  - 반지도 학습(Semi-supervised Learning)
       - 반지도 학습에서는 일부 라벨이 없는 데이터와 함께 학습할 때 LLM이 생성한 데이터가 유용
       - LLM을 통해 생성된 텍스트 데이터에 자동으로 라벨을 부여
       - 일부는 라벨 없이 활용하여 모델이 데이터를 더 잘 학습할 수 있게 함.
  - 자기지도 학습(Self-supervised Learning)
       - 텍스트 데이터 자체의 구조를 활용해 학습하는 자기지도 학습에서도 데이터 증강이 유용
             - 다음 단어를 예측하거나 문장의 일부분을 복원하는 태스크를 통해 모델이 언어 구조를 학습
  - 강화 학습(Reinforcement Learning)
       - LLM을 활용한 데이터 증강은 강화 학습에서 다양한 시나리오를 생성해 유용하게 사용
             - 특정 행동을 학습할 때 다양한 상황을 반영한 데이터 생성이 가능
  
  
• 데이터 증강 전략 (Data Augmentation Strategies)
  - 텍스트 재구성(Text Rephrasing)
       - 원래의 의미는 유지하면서도 표현 방식만 변경된 문장을 생성하여 데이터셋의 다양성을 높임
             - "사과는 빨갛다"는 "빨간색 과일 중 하나는 사과다"와 같은 식으로 표현을 변형
       - 이는 자연어 처리(NLP)에서 중요한 역할을 하며, 모델이 다양한 문맥과 표현을 학습할 수 있도록 도움
  - 질문-답변 생성(Question-Answer Pair Generation)
       - 특정 주제에 대한 질문과 그에 대한 답변을 생성하는 기법
             - "대기 오염이란 무엇인가?"와 같은 질문과 그 답변을 생성함으로써 QA 시스템이나 챗봇 학습에 활용
  - 감정/문체 변형(Style Transfer)
       - 텍스트의 문체나 감정을 변형하여 다양한 스타일의 텍스트를 생성
               - 문장을 감정적으로 표현하거나, 더 공식적인 문체로 변환하는 것이 가능
       - 이는 문체가 중요한 역할을 하는 응용 분야에서 유용
  - 멀티모달 데이터 증강(Multimodal Data Augmentation)
       - LLM을 통해 텍스트뿐만 아니라 이미지나 오디오와 관련된 텍스트 설명을 생성하여 멀티모달 데이터 증강도 가능
       - 이를 통해 이미지-텍스트 매칭 데이터셋을 구축할 수 있으며, 이는 이미지 설명 생성이나 시각적 인식 등 다양한 분야에 적용
  
  
• 도전 과제 (Challenges)
  - 데이터 품질 관리(Data Quality Management)
       - LLM이 생성한 데이터는 품질이 항상 보장되지 않기 때문에, 학습에 적합한 데이터만 선별
       - 생성된 텍스트의 의미적 일관성을 확인하거나, 사실성 검증이 필요
       - 이를 위해 품질 평가 지표와 시스템을 개발하는 것이 필요
  - 편향 문제(Bias Issues)
       - LLM이 학습한 데이터 자체에 편향이 존재하면 생성된 데이터에도 편향이 반영될 가능성이 큼
       - 성별이나 인종 편향이 있는 데이터를 생성할 경우, 이는 모델 학습에 문제를 일으킬 수 있음
              -> 편향 제거와 관련된 기술이 필요
  - 계산 비용(Computation Cost)
       - LLM을 활용한 데이터 증강은 계산 자원을 많이 소모
       - 특히 대규모 모델을 사용해 다량의 데이터를 생성하고 이를 반복적으로 학습시키는 과정에서 고성능 하드웨어와 효율적인 알고리즘이 요구
       - 비용 절감을 위해 최적화된 기법과 하드웨어 활용이 중요
  
  
• 향후 연구 방향 (Future Directions)
  - 자동 품질 평가 시스템
       - 생성된 데이터의 품질을 자동으로 평가하는 시스템 개발이 필요
       - 생성된 텍스트의 문법, 의미 일관성, 사실성 등을 평가할 수 있는 자동화된 도구가 필요
  - 멀티모달 데이터 증강 연구
       - 텍스트 이외의 이미지, 오디오와 같은 데이터를 LLM과 결합하여 더 복합적인 데이터 증강 연구가 필요
       - 멀티모달 AI 모델의 성능을 높일 수 있는 중요한 요소
  - 사용자 맞춤형 데이터 생성(User-customizable Data Generation)
       - 사용자가 특정 속성(예: 감정, 주제, 문체)을 설정하여 데이터 증강을 할 수 있도록 하는 방법이 필요
       - 특정 요구에 맞춘 맞춤형 모델 개발에 유용할 것