How I Aligned Your Model: Scaling Up Multilingual Safety Training with Templates
템플릿 기반 데이터 증강을 통해 60개 언어에 대응하는 다국어 안전 정렬(Safety Alignment) 데이터셋 MSafeTemp를 구축하고 모델 성능을 개선함
논문이 다루는 내용
현재 LLM의 안전 정렬은 영어 중심이며, 저자원 언어에 대한 다국어 대응 능력이 부족한 실정입니다. 기존 데이터셋은 규모가 작거나 특정 문화권의 유해 주제를 반영하지 못하는 한계가 있습니다. 이를 해결하기 위해 유해 프롬프트에서 안전한 템플릿을 추출하고, 이를 번역한 뒤 문화적 맥락이 담긴 개체로 채우는 확장 가능한 템플릿 기반 증강 파이프라인을 제안합니다. 그 결과 60개 언어를 지원하는 MSafeTemp 데이터셋을 공개했습니다. 실험 결과, 영어 중심 평가가 다국어 안전성을 오판할 수 있음을 확인했으며, 템플릿 기반 데이터 증강이 다국어 안전 성능을 효과적으로 향상시킴을 입증했습니다.
핵심 결과
-
템플릿 기반의 확장 가능한 다국어 유해/정상 데이터 증강 파이프라인 개발
-
60개 언어를 아우르는 검증된 다국어 안전 정렬 데이터셋 MSafeTemp 공개
-
영어 중심 평가가 놓칠 수 있는 문화적 맥락과 다국어 취약점 식별
실무에서 볼 만한 점
글로벌 서비스를 타겟팅하는 LLM 개발 시, 영어 중심의 안전 가이드라인이 특정 문화권에서 발생할 수 있는 위험을 방어하지 못하는 문제를 해결할 수 있습니다.
읽을 때 확인할 점
-
MSafeTemp 데이터셋을 활용하여 현재 개발 중인 모델의 다국어 안전성 벤치마크 수행
-
기존 영어 중심 안전 학습 데이터에 템플릿 기반 다국어 데이터를 혼합하여 미세 조정(Fine-tuning) 실험
-
특정 지역의 문화적 맥락이 반영된 유해 프롬프트 공격 테스트 수행