Can We Defend Against AI-Generated Video Attacks on Real-World Crisis Events? A Systematic Evaluation of Detectors, Generators and Social Dissemination

실제 위기 상황을 모사한 AI 생성 영상에 대한 탐지 성능과 사회적 확산 시의 신뢰성 문제를 다룬 벤치마크 연구

최근 AI 영상 생성 기술이 전쟁이나 재난 등 실세계 위기 상황을 정교하게 모사하며 오정보 확산 위험을 높이고 있습니다. 기존 벤치마크는 생성 조건에 따른 탐지 성능 변화나 사회적 확산 과정에서의 신뢰성 검증이 부족한 실정입니다. 이를 해결하기 위해 실제 영상을 앵커로 활용하는 17,886개의 영상 데이터셋인 RA-Bench를 제안합니다. 연구진은 7종의 전통적 탐지기, 10종의 제로샷 멀티모달 모델, 2종의 미세조정 MLLM을 대상으로 성능을 평가했습니다. 실험 결과, 현재의 탐지 방식들은 생성 조건에 따라 성능이 불균형하며 사회적 확산 과정에서 탐지 난이도가 급격히 상승함을 확인했습니다. 결론적으로 진화하는 생성 모델에 대응할 수 있는 강력하고 견고한 탐지 기술의 필요성을 강조합니다.

AI 생성 영상이 정교해짐에 따라 기존 탐지 알고리즘이 실세계 데이터(특히 위기 상황)에서 어떻게 무력화되는지 이해하고 대비할 수 있습니다.