Echo는 오픈 가중치 모델을 조합해 비용 절감과 효율성을 높인 새로운 접근법이다.
Echo는 GLM-5.2와 Kimi K2.7 등 다양한 오픈 가중치 모델을 요청별로 조합하여 사용합니다. 이를 통해 단일 모델의 한계를 극복하고, 각 요청에 따라 필요한 연산량과 참여 모델을 조정할 수 있습니다. 간단한 프롬프트에는 적은 추론 자원만 사용하여 비용을 3분의 1로 줄이는 효과를 거둡니다.
Echo combines open weight models to enhance efficiency and reduce costs.
Echo uses a combination of various open weight models like GLM-5.2 and Kimi K2.7 for each request. It overcomes the limitations of single models by adjusting the computation and involved models based on each request. This allows it to use less inference resources for simpler prompts, achieving a cost reduction to one-third.