LLM 애플리케이션과 AI 에이전트를 전문으로 하는 독립 AI 컨설턴트이자 교육자로 활약해 왔으며, 현재는 모티프에서 모델 개발, 시스템 최적화 업무를 맡고 있다. 한국에서 베스트셀러가 된 『LLM을 활용한 실전 AI 애플리케이션 개발』(책만, 2024)을 저술했으며, ML
옵스와 LLM옵스로 완성하는 A1 시스템 구축을 다루는 『머신러닝 플랫폼 엔지니어링』(책만, 2025)도 번역했다.
머신러닝 시스템을 프로덕션에 올려 본 사람이라면 누구나 한 번쯤 도구의 미로에서 길을 잃어 본 경험이 있을 것입니다. 실험 추적부터 파이프라인 오케스트레이션, 모델 서빙, 모니터링까지 단계마다 각기 다른 도구가 있고, 같은 단계 안에서도 여러 도구가 경쟁하며, 그 조합은 팀마다 제각각입니다.
ML옵스(MLOps)는 소프트웨어 분야를 통틀어도 도구 파편화가 유난히 심한 영역입니다. 얼마 전까지 이 파편화를 극복하는 방법은 하나뿐이었습니다. 도구를 하나하나 직접 설치하고, 설정 파일과 씨름하고, 에러 메시지를 검색하며 몸으로 부딪히는 것입니다. 그런데 최근 생성 AI의 급속한 발전으로 인해 코딩 에이전트와 협업하는 개발 방식이 자리 잡으면서 사정이 달라졌습니다. 설치와 설정, 예제 실행 같은 '실행의 비용이 눈에 띄게 낮아진 것'입니다.
어제까지 하루가 걸리던 환경 구성을 이제는 에이전트에게 맡기고, 우리는 결과를 검토하면 됩니다.
그렇다면 이제 무엇이 병목일까요? 저는 실행이 아니라 멘탈 모델(mental model)이라고 생각합니다. 이 지도 위에 어떤 도구들이 있는지, 각 도구는 어떤 문제를 풀기 위해 존재하는지, 도구를 선택하고 운영할 때 무엇을 고려해야 하는지에 대한 그림이 머릿속에 있어야, 에이전트에게 올바른 방향을 제시하고 그 결과를 판단할 수 있습니다. 실행이 값싸진 시대에 정말 필요한 것은 역설적으로, 좋은 지도입니다.
그런 지도를 얻는 가장 좋은 시작점은 여전히 숙련된 엔지니어가 쓴 책이라고 믿습니다. 예전에는 기술 서적을 펼치면 실습을 전부 직접 따라 해야 한다는 부담이 앞섰습니다. 지금은 다릅니다. 실행 단계는 에이전트와 나누어 맡고, 우리는 개념과 도구 사이의 관계, 저자가 수많은 시행착오 끝에 내린 판단에 집중하며 읽을 수 있습니다. 책을 읽는 부담은 줄었는데 얻어갈 수 있는 것은 오히려 많아진 셈입니다.
이 책은 실험 추적에서 파이프라인, 서빙, 모니터링을 거쳐 LLM 운영에 이르기까지 머신러닝 시스템 전반의 도구와 지형을 하나의 흐름으로 보여줍니다. 프로덕션 환경에서 오래 부딪혀 온 저자들이 그린 지도라는 점에서, 지금 이 시점에 꼭 필요한 책이라고 생각합니다.
이 책이 독자 여러분의 머릿속에 믿을 만한 지도 한 장을 남기기를 바랍니다.