LLMs are General Asynchronous Agents

최신 LLM은 자율 에이전트로서 능력이 향상되고 있으나, 읽기-생각-실행의 순차적 상호작용 사이클에 갇혀 있는 한계가 있습니다. 하지만 음성 비서나 로봇 제어와 같은 실세계 작업은 작업 수행 중에도 새로운 입력이 들어오는 비동기적 특성을 가집/니다. 본 논문은 다양한 비동기 작업들을 일반화하여 서로 다른 동시성 유형에 적응할 수 있는 범용 비동기 에이전트 개념을 제안합니다. 이를 위해 사용자가 추론 코루틴과 중첩된 메모리 상태를 정의할 수 있는 비동기 LLM 프레임워크를 개발했습니다. 실험 결과, Qwen 3.x 모델은 별도의 태스크 특화 학습 없이도 비디오 이해, 게임, 모니터링 등에서 뛰어난 비동기 운영 능력을 보여주었습니다.

• 순차적 루프를 탈피한 범용 비동기 에이전트 프레임워크 개발

• 중첩된 메모리 상태를 지원하는 추론 코루틴(Inference Coroutines) 구조 도입

• 추가 학습 없이 기존 모델(Qwen 3.x)을 활용한 비동기 작업 수행 검증

• 제시된 코루틴 기반 프레임워크를 활용한 실시간 스트리밍 데이터 처리 실험

• 중첩된 메모리 상태가 에이전트의 문맥 유지에 미치는 영향 분석

• 기존 순차적 에이전트와 비동기 에이전트 간의 응답 속도 및 작업 효율 비교