발행 · Published by
McKinsey QuantumBlack · quantumblack.com
📄 Original: Creating a Future-Proof Enterprise Agentic Platform Architecture →
한 줄 요약 — AI 에이전트가 PoC에서 진짜 가치 창출로 졸업하려면 플랫폼화가 필수다. 맥킨지 퀀텀블랙이 50+ 엔터프라이즈 적용 경험으로 도출한 3계층(데이터·모델·오케스트레이션) × 12원칙. 거버넌스를 1일차부터 설계하는 것이 가장 큰 차이를 만든다.
지난 1년 사이 AI 에이전트 도입은 폭증했지만 대부분 일회성 PoC에서 끝난다. 그 이유는 단순하다 — 에이전트를 만들 줄은 알아도, 그것을 수십·수백 개로 확장하면서 관리할 플랫폼을 설계할 줄은 모른다. 맥킨지 퀀텀블랙은 이 갭을 메우려 "에이전틱 플랫폼"이라는 새 카테고리를 제안한다. 단일 에이전트가 아니라 에이전트 운영 인프라 자체가 차별화 자산이라는 주장.
가장 큰 메시지. "에이전트 만들기"는 끝났다. 이제 게임은 "에이전트를 50개·100개·1000개로 확장하면서도 안전·재현성·관측성을 유지하는 플랫폼"이다. 그리고 그 플랫폼은 PoC가 끝난 뒤가 아니라 첫날부터 설계해야 한다.
에이전트는 데이터 위에서 산다. 데이터가 흩어져 있고·버전이 다르고·신선도가 깨지면 에이전트는 환각의 슈퍼머신이 된다.
단일 LLM에 묶이는 시대는 끝났다. 작업별로 다른 모델, 비용·지연·정확도 trade-off를 동적으로 선택해야 한다.
에이전트가 1개일 땐 문제 없다. 50개가 동시에 돌 때 충돌·교착·무한 루프가 일어난다. 오케스트레이션은 에이전트 OS이다.
맥킨지의 가장 강한 주장: 거버넌스를 PoC 후에 추가하면 늦다. 데이터 권한·모델 선택·행동 통제·감사 로그를 1일차 아키텍처 결정에 넣어야 함. 후추가 시 80%는 결국 시스템 재설계로 이어진다.
실패 패턴 1번. "일단 동작하는 에이전트 만들고, 안전·로그는 나중에" → 결과: 보안 감사 통과 못 함, 처음부터 다시.
실패 패턴 2번. "AI 에이전트 1개를 잘 만들고 거기서 확장" → 결과: 그 1개에 최적화되어 있어 50개 운영 시 무너짐. 처음부터 N개 가정한 설계 필요.
1. PoC ≠ 플랫폼. PoC에 쓴 코드의 80%는 플랫폼화 시 버려야 한다. 이걸 인식하고 시작.
2. 데이터 정비가 전제조건. Single source of truth 없는 회사는 에이전트 플랫폼 시작 의미 없음. 6~12개월 데이터 정비 먼저.
3. 멀티 모델이 디폴트. Claude·GPT·Gemini·사내 모델을 작업별로 라우팅. 단일 vendor 전략은 협상력·비용 양쪽에서 손해.
4. 사람 in the loop의 위치 결정이 핵심. 모든 결정에 사람을 넣으면 자동화 의미 없음. 어디까지 자동·어디부터 사람인지의 경계 설정이 곧 전략.
5. 재현성·감사 가능성이 진짜 차별화. 금융·의료·공공 진출엔 필수, 그 외 영역에도 곧 따라옴.