NVIDIA BlogAI & LLM
Industry Leaders Unite in Open Secure AI Alliance for AI Safety and Security - NVIDIA Blog
2026년 7월 27일 오전 09:06
#Agent#Rust#OpenSource#AI Agent#Security
요약
NVIDIA, Microsoft, Hugging Face 등 글로벌 기술 리더들이 결성한 'Open Secure AI Alliance'는 AI 보안 위협에 대응하기 위해 오픈 소스 기반의 방어 도구와 기술을 개발하는 것을 목표로 합니다. 폐쇄형 모델의 불투명성에서 벗어나, 누구나 검증하고 배포할 수 있는 오픈 모델과 오픈 Harness(제어 프레임워크)를 통해 분산된 방어 생태계를 구축하고자 합니다.
기술적으로 볼 만한 점
이번 연합은 단순한 모델 공개를 넘어 Identity, Permissions, Guardrails(안전 가드레일)를 포함하는 전체 Agent Stack의 보안을 지향합니다. NVIDIA의 NOOA(NVIDIA Labs Object-Oriented Agent) 프로젝트는 Agent의 행동을 테스트, 추적, 감사할 수 있는 연구 프레임워크를 제공하며, Hugging Face의 Safetensors는 원격 코드 실행(RCE) 위험이 없는 안전한 모델 저장 형식을 지원합니다. 또한 Microsoft의 MDASH는 멀티 모델 Agentic Scanning을 통해 취약점을 탐지하는 오케스트레이션 기술을 선보이며, HPE의 SPIFFE/SPIRE는 Zero-trust 기반의 암호학적 신원 검증을 통해 AI Agent 간의 보안 통신을 보장합니다.
주요 내용
- Hugging Face의 사례처럼 폐쇄형 AI가 보안 분석을 차단할 때, 자체 인프라에서 실행 가능한 Open-weight 모델이 신속한 침입 대응(Forensic Analysis)의 핵심이 됩니다.
- AI 보안은 모델 가중치(Weights)뿐만 아니라 Identity, Isolation, Logging 등 전체 Agent Stack의 무결성을 확보하는 방향으로 진화해야 합니다.
- 정부와 기업은 오픈 모델을 리스크가 아닌 방어 자산으로 인식하고, 데이터셋 및 Red-teaming 도구와 같은 공유 인프라에 투자해야 합니다.