우리 팀만의 vLLM 플러그인 만들기 2편 - 모델 변환부터 배포까지 AI-native로 자동화하기
vLLM에서 모델 변환과 배포 자동화의 구현과 개선 과정을 다룬 글입니다.
The article discusses automating model conversion and deployment in vLLM.
AI가 선별한 아티클
vLLM에서 모델 변환과 배포 자동화의 구현과 개선 과정을 다룬 글입니다.
The article discusses automating model conversion and deployment in vLLM.
이중 언어 머신러닝 강좌를 위한 Jupyter Notebook 형식의 오픈소스 자료 개발 중.
Building a bilingual machine learning course in Jupyter Notebook format as an open-source resource.
MLXP에서 Kubernetes 기반 LLM 서빙 최적화 기술 도입 사례를 공유합니다.
The article shares the case of implementing Kubernetes-based LLM serving optimization technologies at MLXP.
AI 스택 보안을 위한 로드맵을 제공하는 시리즈입니다.
A series providing a roadmap for securing AI systems.
AI 에이전트의 91%가 성공적으로 배포되지 않는 이유를 다룬 기사입니다.
The article discusses why 91% of AI agents fail in production and what differentiates the successful 9%.
Kanana-O 음성 AI 모델을 서비스하기 위한 최적화 기법을 공유한 글입니다.
The article shares optimization techniques for serving the Kanana-O voice AI model.
리디가 추천 시스템을 MLOps 플랫폼으로 개선하기로 결정했다.
RIDI decides to enhance its recommendation system by switching to an MLOps platform.