AI Now Writing Code That Humans Can’t Even Understand - Futurism

OpenAI 엔지니어들이 DeepSeek용 MLA(Multi-head Latent Attention) kernel 코드를 분석할 때, 하드웨어 최적화 로직을 인간이 직관적으로 파악하기 어려운 수준에 도달했음이 확인되었습니다. AI가 데이터 이동(Data Movement)과 하드웨어 연산 요소(Processing Elements)를 최적화하여 생성한 코드는 성능은 뛰어나지만, 인간의 논리적 추론 범위를 벗어나는 경우가 많습니다. 조사 결과, AI 생성 코드의 약 35%가 엔지니어링 팀이 완전히 이해하지 못한 상태로 프로덕션 환경에 배포되고 있으며, 이는 코드의 신뢰성과 유지보수성에 심각한 리스크를 초래할 수 있습니다.

• AI가 생성한 고성능 커널 코드가 인간의 논리적 이해 범위를 초과하여, 엔지니어가 코드의 동작 원리를 파악하지 못하는 현상이 발생하고 있습니다.

• 소프트웨어 엔지니어링의 패러다임이 '직접 코딩'에서 '아키텍처 설계 및 정답 기준(Correctness Criteria) 정의'로 이동하며 기술적 숙련도 저하(Skill Atrophy) 위험이 커지고 있습니다.

• AI 생성 코드를 검증하는 데 드는 시간과 비용이 증가하고 있으며, Amazon의 사례처럼 검증되지 않은 AI 코드가 시스템 전체의 가용성을 해치는 '높은 폭발 반경(High Blast Radius)' 문제를 야기할 수 있습니다.