LLM의 자동화 가능성에 대한 비관적인 전망을 논의합니다.
최첨단 AI 연구소의 기업가치는 지식 노동자의 자동 대체 기대를 드러내고 있지만, 현재 LLM 모델은 기본적인 작업에도 많은 감독과 안전장치가 필요합니다. 모델은 제한된 범위 내에서만 잘 작동하며, 작은 변형이 있으면 실패하거나 보상 해킹을 일으키기도 합니다. 이러한 이유로 LLM에 대한 비관적인 전망이 계속되고 있습니다.
Discusses a pessimistic view on the automation potential of LLMs.
The value of cutting-edge AI research institutes reflects expectations for the full automation of knowledge workers. However, current LLM models require significant supervision and safety measures even for simple tasks. They only generalize well within a narrow scope and can fail or cause reward hacking with slight variations. This ongoing pessimism about LLMs is due to these limitations.