Hugging Face에 Kimi-K3 모델 공개, 멀티모달 작업 지원.
Hugging Face에서 Kimi-K3라는 새로운 멀티모달 에이전트 모델이 공개되었습니다. 이 모델은 2.8조 개의 매개변수를 가지고 있으며, 104만 8,576개의 토큰 컨텍스트를 지원합니다. Kimi Delta Attention(KDA), Attention Residuals, Stable LatentMoE와 같은 최신 기술을 활용하여 코딩, 지식 작업 및 추론을 수행할 수 있도록 설계되었습니다.
Hugging Face releases Kimi-K3 model, supporting multimodal tasks.
Hugging Face has unveiled a new multimodal agent model called Kimi-K3. This model boasts 2.8 trillion parameters and supports a context of 1,048,576 tokens. It utilizes cutting-edge technologies such as Kimi Delta Attention (KDA), Attention Residuals, and Stable LatentMoE to facilitate coding, knowledge work, and inference.