Presentation: Enchant Your AI and APIs with eBPF Magic 🪄

Dan Finneran은 eBPF를 사용하여 AI API 트래픽을 제어하는 방법을 설명합니다.

Dan Finneran은 생산 환경에서 관리되지 않는 AI 생성 코드의 위험을 논의합니다. 그는 eBPF가 Kubernetes에서 AI API 트래픽을 가로채고 제어하는 방법을 보여줍니다. 커널 수준의 소켓 훅을 통해 투명한 프롬프트 필터링, 모델 교체, 토큰 제한, 시스템 호출 제한을 가능하게 하여 애플리케이션 소스 코드를 수정하거나 컨테이너를 재시작하지 않고 AI 에이전트를 보호할 수 있음을 설명합니다.

Dan Finneran discusses using eBPF to manage AI API traffic in production.

Dan Finneran addresses the risks of unmonitored AI-generated code in production environments. He demonstrates how eBPF can intercept and control AI API traffic in Kubernetes. By utilizing kernel-level socket hooks, he explains how prompt filtering, model swapping, token limits, and syscall restrictions can secure AI agents without needing to modify application source code or restart containers.