Governor Newsom announces world-leading experts to deliver on his AI executive order, including advancing creation of a “kill switch” - California State Portal | CA.gov
캘리포니아 주지사 개빈 뉴섬이 AI 안전 규제 강화를 위해 독자적인 감시 체계와 '킬 스위치(Kill Switch)' 개발을 위한 전문가 그룹을 발표했습니다. 이는 프런티어 모델(Frontier Model)의 위험성을 제어하기 위해 기업 내부로 독립적인 검증 기관을 투입하고, 비상시 모델 가동을 즉각 중단할 수 있는 기술적·제도적 장치를 마련하는 것을 골자로 합니다.
기술적으로 볼 만한 점
이번 정책의 핵심은 프런티어 모델의 통제 불능 상태를 방지하기 위한 '비상 차단(Emergency Shutoff)' 메커니즘의 기술적 구현과 독립적 감사(Auditing) 프레임워크의 구축입니다. SB 813 및 AB 1405 법안을 바탕으로, 외부 검증 기관이 모델의 안전 프레임워크를 실시간으로 검증하고 위험 요소를 평가할 수 있는 기술적 표준을 수립합니다. 이는 모델의 정렬(Alignment) 실패나 예기치 못한 자율적 행동이 발생했을 때, 물리적/논리적 수준에서 모델의 연산을 중단시키는 기술적 프로토콜을 제도화하려는 시도입니다.
주요 내용
-
프런티어 모델의 위험 제어를 위해 기업 내부에 독립적인 제3자 검증 기관을 배치하는 '임베디드 감사' 방식 도입을 검토합니다.
-
통제 불능 상태의 모델을 즉각 중단할 수 있는 기술적 장치인 '킬 스위치(Kill Switch)' 개발을 위한 전문가 협업을 추진합니다.
-
SB 813 및 AB 1405를 통해 AI 시스템의 안전성과 위험을 객관적으로 평가할 수 있는 독립적 검증 및 감사 등록 체계를 구축합니다.
-
연방 정부의 규제 공백을 메우기 위해 캘리포니아가 선제적으로 AI 안전 가이드라인과 투명성 보고 의무를 법제화합니다.