MIT NewsAI & LLM
When AI art has no author: Study finds generated images often can’t be traced to training data - MIT News
2026년 8월 18일 오후 04:35
#Diffusion Model#AI#Copyright Law#MIT CSAIL#Attribution Decay
요약
MIT CSAIL 연구진은 생성형 AI 모델의 학습 데이터 규모가 커질수록 개별 데이터가 출력물에 미치는 영향력이 사라지는 '귀속 감쇄(Attribution Decay)' 현상을 발견했습니다. 이는 특정 데이터가 결과물에 기여하지 않으므로 저작권이나 출처를 특정할 수 없게 되는 기술적 임계점이 존재함을 시사합니다.
기술적으로 볼 만한 점
연구팀은 데이터 삭제 시 출력 변화를 완벽히 검증하기 위해 'Diffusion Ensemble' 아키텍처를 설계하여, 재학습 없이도 특정 데이터의 영향을 제거할 수 있는 'Counterfactual(반사실적)' 모델링을 구현했습니다. 실험 결과, 학습 데이터 규모가 커질수록 개별 데이터의 영향력을 나타내는 'Counterfactual Radius'가 역거듭제곱 법칙(Inverse Power Law)에 따라 감소하며, 이는 데이터 규모가 커질수록 개별 데이터의 기여도가 수학적으로 소멸함을 입증합니다. 특히 이 방식은 기존의 근사치(Approximation) 방식과 달리 데이터 삭제 후 결과의 불변성을 확정적으로 보여주는 최초의 정밀 방법론입니다.
주요 내용
- 학습 데이터 규모가 커질수록 개별 데이터가 생성 결과에 미치는 영향이 사라지는 'Attribution Decay' 현상이 발생합니다.
- 연구팀이 개발한 'Diffusion Ensemble' 아키텍처는 대규모 데이터셋에서도 재학습 없이 특정 데이터의 영향을 제거하여 인과 관계를 검증할 수 있게 합니다.
- 데이터 규모가 커질수록 개별 데이터의 영향력(Counterfactual Radius)은 역거듭제곱 법칙을 따르며 감소하여, 특정 저작물로의 귀속이 불가능해집니다.
- 이 현상은 생성형 AI의 결과물이 특정 저작물의 복제(Derivative work)가 아닌 독자적 창작물로 간주될 수 있는 기술적 근거가 될 수 있습니다.