Intel squeezed a 1.58-bit LLM down to 1.485 bits without changing a single weight

인텔 연구팀이 1.58비트 LLM을 1.485비트로 압축하는데 성공했습니다.

인텔 연구진이 1.58비트 언어 모델을 단 한 가지 가중치도 변경하지 않고 1.485비트로 압축하는 성과를 거두었습니다. 이 연구는 3진법 모델을 활용하여 성능을 최적화하는 방법을 탐구하고 있습니다. 이와 같은 접근법은 모델의 효율성을 크게 향상시킬 수 있는 잠재력을 지니고 있습니다.

Intel researchers successfully compressed a 1.58-bit LLM down to 1.485 bits without altering weights.

Intel researchers achieved a breakthrough by compressing a 1.58-bit language model to 1.485 bits without changing any weights. This research explores the use of a ternary model to optimize performance. Such approaches have significant potential to greatly enhance model efficiency.