OpenAI Introduces Websocket-Based Execution Mode to Reduce Latency in Agentic Workflows

OpenAI가 에이전트 워크플로우의 성능 향상을 위한 웹소켓 기반 실행 모드를 도입했습니다.

OpenAI는 Responses API에 웹소켓 기반 실행 모드를 도입하여 에이전트 워크플로우의 성능을 개선했습니다. 이 업데이트는 HTTP 요청-응답 사이클을 지속적인 연결로 대체하여 최대 40%의 지연 시간을 줄입니다. 이는 실제 AI 시스템의 스트리밍, 도구 실행 및 다단계 오케스트레이션을 향상시킵니다.

OpenAI introduces WebSocket-based execution mode to enhance agentic workflow performance.

OpenAI has introduced a WebSocket-based execution mode for its Responses API to enhance agentic workflow performance. This update reduces latency by up to 40% by replacing HTTP request-response cycles with persistent connections. It improves streaming, tool execution, and multi-step orchestration in production-scale AI systems.