Ask, Don't Equip: Question-Driven Coding Agents for Deep Kernel Optimization
질문 중심의 에이전트 전략을 통해 기존의 도구 제공 방식보다 효율적으로 고성능 GPU 커널 최적화를 달성하는 방법론
논문이 다루는 내용
기존의 GPU 커널 최적화 에이전트는 정해진 규칙을 따르는 스크립트 방식과 자유도가 높지만 비효율적인 오픈 엔드 방식 사이의 트레이드오프 문제를 겪고 있습니다. 두 방식 모두 에이전트에게 더 많은 정보와 도구를 제공하는 데 집중하지만, 정작 최적화의 방향성을 결정하는 데는 한계가 있습니다. 본 논문은 에이전트가 스스로 질문을 던져 문제의 핵심을 파악하는 'KernelSeek' 프레임워크를 제안합니다. KernelSeek는 특정 연산자에 대한 사전 지식 없이도 질문을 통해 시스템의 계층을 이동하거나 가설을 검증하며 최적화를 수행합니다. 실험 결과, 기존 도구 중심 에이전트보다 훨씬 적은 단계로 FlashAttention-3 및 FlashAttention-4 수준의 고성능 커널을 생성하는 데 성공했습니다.
핵심 결과
-
질문 기반의 의사결정: 단순 정보 제공이 아닌, 가설 검증과 계층 이동을 위한 질문이 최적화의 핵심임을 입증
-
KernelSeek 프레임워크: 범용 코딩 에이전트, 검증 가능한 목표를 가진 최소한의 하네스, 질문 뱅크의 결합
-
고성능 커널 생성: CUTLASS나 cuBLAS 같은 라이브러리 없이도 최신 아키텍처(Hopper, Blackwell)용 고성능 커널 구현
실무에서 볼 만한 점
LLM 에이전트 설계 시 단순히 RAG나 도구를 늘리는 것보다, 에이전트가 스스로 문제를 정의하고 질문하게 하는 '전략적 사고'가 성능 향상에 더 결정적임을 보여줍니다.
읽을 때 확인할 점
-
에이전트 워크플로우에 '자기 질문(Self-Questioning)' 루프 도입 실험
-
도구(Tool) 중심 설계와 질문(Question) 중심 설계의 성능 비교 테스트
-
특정 도메인 지식 없이 에이전트가 스스로 가설을 세우고 검증하는 환경 구축