Texas Tech University Is Using A.I. to Cut Left-Leaning Content - The New York Times

텍사스 공과대학교(Texas Tech University)가 정치적 편향성을 제거하기 위해 AI 기술을 도입했으나, 이것이 오히려 특정 정치적 성향(Left-leaning)의 콘텐츠를 검열하는 도구로 작용할 수 있다는 논란이 제기되었습니다.

본 사안은 LLM(Large Language Model)의 Fine-tuning 과정에서 발생하는 'Alignment(정렬)' 기술이 어떻게 특정 이데올로기를 강화하거나 억제하는 데 사용될 수 있는지를 보여줍니다. 알고리즘이 텍스트의 정치적 성향을 분류(Classification)하고 필터링하는 과정에서 데이터셋의 편향이 모델의 출력값에 직접적인 영향을 미치는 메커니즘을 포함합니다. 이는 RLHF(Reinforcement Learning from Human Feedback) 과정에서 인간 피드백이 주관적 가치 판단에 따라 모델의 가치관을 형성할 수 있음을 시사합니다.