Forge는 에이전트 작업에서 LLM의 신뢰성을 크게 향상시키는 도구입니다.
Forge는 자체 호스팅 LLM의 도구 호출을 안정화하기 위해 설계된 도구로, 에이전트의 작동 신뢰성을 53%에서 99%로 향상시킵니다. 주요 기능으로는 잘못된 도구 호출을 복구하는 rescue parsing, 재시도 유도, 필수 단계 강제, VRAM 인식 토큰 예산 등이 있습니다. 이는 다단계 에이전트 워크플로우에서 작은 로컬 모델의 안정성을 높이는 데 기여합니다.
Forge enhances LLM reliability in agent tasks significantly.
Forge is a tool designed to stabilize tool calls for self-hosted LLMs, enhancing agent reliability from 53% to 99%. Its core features include rescue parsing for recovering erroneous tool calls, prompting retries, enforcing mandatory steps, and managing VRAM-aware token budgets. This contributes to the stability of small local models in multi-step agent workflows.