‘President of the Unites States’: White House’s AI accord includes spelling error - The Guardian
도널드 트럼프 대통령과 주요 AI 기업 CEO들이 AI의 안전한 개발을 약속하는 'Super Intelligence' 협약을 체결했으나, 문서 내 'United States'가 'Unites States'로 오기되는 실수가 발생했습니다. 이번 협약은 규제보다는 기업의 자율적인 통제와 감사를 골자로 하며, 기술 주도권 확보와 안전성 사이의 균형을 모색하는 첫 단계로 평가됩니다.
기술적으로 볼 만한 점
이번 협약은 AI 시스템의 오작동을 방지하기 위해 4단계의 '통제 및 감사(controls and audits)' 프레임워크를 제안합니다. 내부적으로는 사이버 보안, 생물 보안(biosecurity), 화학적 위협을 방지하기 위한 모니터링 팀을 운영하고, 외부적으로는 독립적인 감사 기관을 통해 AI의 의도된 동작 여부를 검증하는 구조입니다. 이는 기술적 통제(Internal controls)와 이사회 수준의 거버넌스(External monitors)를 결합하여 AI의 위험한 역량(capabilities)을 관리하려는 시도입니다.
주요 내용
-
Anthropic, OpenAI, Nvidia, Meta, Google, SpaceX(Elon Musk) 등 주요 AI 기업 리더들이 자발적 안전 개발 협약에 서명했습니다.
-
협약의 핵심은 기업 내부의 강력한 통제와 독립적인 외부 감사(independent external auditor)를 통한 4단계 검증 체계 구축입니다.
-
트럼프 대통령은 규제보다는 기업의 '자율적 규제(self-policing)'를 강조하며, 미국의 AI 글로벌 리더십 확보를 우선시하고 있습니다.
-
문서상 'President of the Unites States'라는 오타가 발견되었으나, 이는 기술적 프레임워크의 법적 효력 여부와 별개로 행정적 실수를 보여줍니다.