Presentation: From OTEL to SLMs: Distilling Frontier Model Behaviour from Production Telemetry

Ben O'Mahony가 OpenTelemetry로 AI 모델 행동을 추적하는 방법을 설명합니다.

Ben O'Mahony는 AI 기반 언어 서버 프로토콜(LSP)을 구축하는 방법에 대해 논의합니다. 그는 사용자 행동을 추적하기 위해 OpenTelemetry를 활용하여 암묵적 라벨로 사용되는 코드를 수용, 거부 또는 재생성하는 행동을 기록하는 방법을 설명합니다. 이를 통해 프론티어 기능을 간소화된 로컬 SLM으로 증류하는 지속적인 데이터 플라이휠을 만드는 과정에 대해 이야기합니다.

Ben O'Mahony discusses tracking AI model behavior using OpenTelemetry.

Ben O'Mahony discusses building custom AI-powered Language Server Protocols (LSPs) that move beyond standard rule-based checkers. He explains how to use OpenTelemetry to track user actions, such as accepting, dismissing, or regenerating code fixes, as implicit labels. This creates a continuous data flywheel for distilling frontier capabilities into cheaper, local SLMs.