The Stanford ReviewAI & LLM
Stanford R&DE Uses AI to Race Swap Students for Advertising - The Stanford Review
스탠퍼드 대학교의 주거 및 식당 운영 부서(R&DE)가 홍보용 광고 제작 과정에서 생성형 AI를 사용하여 학생들의 인종과 외모를 임의로 변경한 사건이 발생했습니다. 이는 단순한 이미지 편집을 넘어, 특정 인종적·신체적 정체성을 인위적으로 조작하여 원본 인물을 대체하는 윤리적 문제를 야기했습니다.
기술적으로 볼 만한 점
이번 사례는 Generative AI의 Image-to-Image 변환 및 Inpainting 기술이 데이터의 진실성을 훼려할 수 있음을 보여줍니다. 특정 인물의 특징을 유지하면서도 인종(Race)과 성별(Gender)을 교체하는 Face Swap 알고리즘과 체형을 조절하는 Image-to-Image 변환 기술이 결합되어 사용되었습니다. 이는 모델의 학습 데이터 편향(Bias)이 결과물에 투영될 때, 원본 데이터의 정체성을 완전히 삭제하거나 왜곡할 수 있는 기술적 위험성을 시사합니다.
주요 내용
-
스탠퍼드 R&DE는 홍보물 제작 시 원본 사진의 인물을 AI로 생성된 다른 인종과 체형으로 교체하는 방식을 사용했습니다.
-
기술적으로는 인물의 특징을 변형하는 Face Swap 및 신체 비율을 조정하는 생성형 알고리즘이 적용되었습니다.
-
학생들은 자신의 정체성이 삭제되고 인위적으로 조작된 결과물에 대해 심각한 윤리적 문제를 제기했습니다.
-
이는 생성형 AI를 활용한 콘텐츠 제작 시 데이터의 무결성과 윤리적 가이드라인이 부재할 때 발생하는 사회적 파장을 보여줍니다.