Pods as Workers, Not Agents: Rethinking the Deployment Unit for AI Agents on Kubernetes

Kubernetes에서 AI 대리인을 위한 새로운 배포 단위 접근법을 제안합니다.

Kubernetes에서 AI 대리인을 운영할 때 각 대리인이 고유의 Pod를 가져야 하는지에 대한 논의가 필요합니다. kagent 프로젝트는 대리인이 단기적이고 일시적이며, 서브 대리인을 생성하고 인간 승인을 기다릴 수 있기 때문에 각 대리인에 대한 하나의 Pod는 비효율적이라고 주장합니다. 대신, agent-substrate는 논리적 'Actor'를 장기적인 작업자 Pods에 할당할 수 있도록 제어 플레인을 추가합니다.

A new approach for deployment units of AI agents on Kubernetes is proposed.

The article discusses whether each AI agent should have its own Pod when running on Kubernetes. The kagent project argues against this idea, stating that agents are typically bursty and short-lived, can spawn subagents, and may await human approval. It suggests that having one Pod per agent is wasteful. Instead, the agent-substrate adds a control plane to schedule logical 'Actors' onto long-lived worker Pods.