"ChatGPT는 잘 쓰는데, 왜 우리 회사 데이터는 AI가 모를까요?"
많은 기업 실무자들이 겪는 현실입니다. 생성형 AI가 일반 지식은 풍부하지만, 정작 우리 회사의 ERP 데이터나 내부 규정은 전혀 모릅니다. 그렇다면 글로벌 기업들은 어떻게 이 문제를 해결하고 있을까요?
2023년부터 2025년까지, 세계적인 기업들은 단순한 AI 도입을 넘어 AX(AI 전환)에 사활을 걸고 있습니다. 월마트는 150만 직원을 위한 슈퍼에이전트를 구축했고, 클라르나는 AI로 인력을 40% 줄이면서도 생산성을 폭발시켰으며, 모건스탠리는 수십 년간 쌓인 투자 지식을 AI로 자산화했습니다.
이들의 공통점은 무엇일까요? 바로 '에이전틱 AI'와 '보안'에 주목했다는 점입니다.
월마트: 전 직원을 위한 슈퍼에이전트
월마트는 2024년까지 사내용 AI를 글로벌 11개국으로 확대하며 AI 기업으로의 전환을 선언했습니다. 단순히 챗봇 하나를 도입한 것이 아니라, 직원 150만 명이 각자의 업무에 맞는 AI 비서를 갖게 만든 것입니다.
슈퍼에이전트 전략
월마트가 선보인 슈퍼에이전트는 사용자 그룹별로 특화되어 있습니다. 고객용 '스파키(Sparky)', 공급 업체용 '마티(Marty)', 엔지니어용 '위비(Wibey)', 그리고 직원용 슈퍼에이전트까지. 기능별로 분산되어 있던 수십 개의 AI 에이전트를 사용자 중심으로 통합한 것이죠.
이들은 월마트가 직접 개발한 머신러닝 플랫폼 '엘리먼트(Element)'와 자체 개발한 대형언어모델 '월러비(Wallaby)' 위에서 구동됩니다. 외부 AI 서비스에 의존하지 않고 자체 인프라를 구축한 것입니다.
압도적인 활용도
매장 직원 150만 명이 사용하는 업무 보조 AI는 주당 90만 명 이상이 접속하며, 하루 300만 건 이상의 질의를 처리합니다. 대부분 기업이 AI 에이전트 하나를 확산하는 데도 어려움을 겪는 현실을 고려하면, 월마트의 전사적 AI 인프라 구축 속도와 범위는 놀라운 수준입니다.
더그 맥밀런 CEO는 "AI는 고객의 선호도와 맥락을 고려한 초개인화 경험을 제공할 것"이라며 적응형 리테일(Adaptive Retail) 구현을 강조했습니다. 월마트의 해외 사내용 AI 도입 사례는 AI를 통해 사람의 역량을 증폭시키는 방향을 보여줍니다.
클라르나: AI를 통한 운영 효율의 극치
스웨덴 핀테크 기업 클라르나는 정반대의 접근을 선택했습니다. AI를 통해 극한의 운영 효율화를 추구한 것이죠.
파격적인 구조 조정
세바스찬 시미아트코프스키 CEO는 AI 도입과 자연 감소로 회사 인력이 약 5000명에서 3000명으로, 40%나 감소했다고 밝혔습니다. 특히 2023년 오픈AI와 협력해 AI 고객 서비스 시스템을 도입하면서, 700명의 고객 서비스 인력을 AI가 대체했습니다.
지식의 휘발 방지
인력 감축이 가능했던 이유는 지식이 사람의 머릿속이 아닌 AI 시스템에 저장되어 있기 때문입니다. 사내 지식 베이스인 'Kiki'를 통해 임직원 87% 이상이 AI를 활용하며, 하루 2000건 이상의 질문을 처리합니다.
클라르나가 3000명으로도 회사를 운영할 수 있는 것은 퇴사자가 나가도 그가 처리하던 업무 로직과 지식이 시스템에 남아있기 때문입니다. 이는 해외 사내용 AI 도입 사례 중에서도 가장 극적인 효율화 사례로 꼽힙니다.
모건스탠리: 잠자는 지식의 자산화
모건스탠리는 2023년 금융권 최초로 오픈AI와 협력해 사내 지식 기반 AI를 구축했습니다. 수십 년간 축적된 투자 리서치와 보고서가 그저 서버에 저장되어 있었다면, 이제는 살아 숨 쉬는 지식 자산이 된 것입니다.
AI @ Morgan Stanley
이 시스템은 10만 개 이상의 내부 투자 리서치 및 문서를 연결하여, 자산 관리사들이 필요한 정보를 몇 초 만에 찾을 수 있게 해줍니다. 외부 유출 없는 안전한 환경에서 내부 데이터만 학습하고 조회하는 구조입니다.
에이전틱 AI의 힘
자산 관리사들은 이제 수천 페이지의 리포트를 직접 뒤지지 않습니다. AI와 대화하며 최적의 투자 전략을 수립합니다. 이러한 변화는 실제 기업 가치로 이어졌습니다. 모건스탠리는 최근 한국 기업에 대한 투자 의견을 상향 조정하며 "에이전틱 AI를 활용할 이상적 플랫폼"이라고 평가하기도 했습니다.
오픈AI는 모건스탠리를 시작으로 미국 국방부와 2억 달러 규모의 계약을 체결하는 등 맞춤형 기업 AI 컨설팅 시장을 본격 공략하고 있습니다. 다만 구축 비용이 최소 137억 원에서 수천억 원에 달한다는 점이 부담으로 작용합니다.
글로벌 해외 사내용 AI 도입 사례로 본 3가지 핵심 트렌드
세 기업의 사례를 분석하면 공통된 트렌드가 보입니다.
핵심 키워드 | 상세 내용 | 비고 |
|---|---|---|
데이터 연결 | 물리적 통합이 아닌 논리적 연동 방식 | 기존 시스템 유지, 빠른 도입 |
에이전틱 AI | 스스로 판단하고 실행하는 지능형 비서 | 단순 챗봇 탈피, 업무 자동화 |
보안(Security) | 온프레미스 및 폐쇄망 기반의 데이터 보호 | 외부 유출 차단, 감사 로그 |
데이터 연결의 중요성
월마트든 클라르나든 모건스탠리든, 모두 기존 시스템을 완전히 갈아엎지 않았습니다. 대신 AI가 여러 시스템의 데이터를 논리적으로 연결해서 읽을 수 있게 만들었습니다. 이는 구축 기간과 비용을 획기적으로 줄이는 핵심 전략입니다.
에이전틱 AI의 시대
단순히 질문에 답하는 챗봇을 넘어, 스스로 판단하고 업무를 실행하는 에이전트가 필요합니다. 월마트의 슈퍼에이전트처럼 각 직무에 특화된 AI가 실무자의 파트너가 되는 것이죠.
보안은 타협 불가
모든 기업이 온프레미스 또는 폐쇄망 기반의 보안 구조를 강조합니다. 아무리 똑똑한 AI라도 데이터가 외부로 유출된다면 도입할 수 없습니다.
우리 기업도 글로벌 수준의 AI를 도입할 수 있을까요?
해외 사내용 AI 도입 사례를 보면 부럽지만, 현실적인 장벽이 있습니다. 수천억 원의 구축 비용, 2만 명의 기술 인력, 그리고 보안 우려. 중견 기업 입장에서는 엄두가 나지 않는 규모입니다.
하지만 핵심은 규모가 아닙니다. 월마트, 클라르나, 모건스탠리의 공통점을 다시 보세요. 데이터를 통합하지 않고 연결했고, 외부 유출을 차단했으며, 자연어로 질문하면 즉시 답을 얻을 수 있게 만들었습니다.
이 세 가지 조건을 충족하는 시스템이라면, 우리 기업도 글로벌 수준의 AI를 활용할 수 있습니다. 중요한 것은 기술의 크기가 아니라 우리 회사 데이터를 AI가 얼마나 정확히 이해하느냐입니다.
실제로 국내 기업들도 온프레미스 환경에서 사내 데이터를 연결하는 AI 시스템을 도입하며 검색 시간 80% 단축, 업무 자동화 90% 달성 같은 성과를 내고 있습니다. 글로벌 트렌드를 따라가는 것은 이제 선택이 아닌 생존의 문제입니다.
실용적인 AI 활용 인사이트 및 최신 트렌드를 알아보고 싶으시다면 디피니트 다비스(DARVIS) 블로그를 구독해 보세요. AI 활용 노하우와 실제 사례를 통해 업무 생산성을 높이는 방법을 공유합니다.
더 많은 AI 인사이트를 보고 싶으시다면 'AI 인사이트 더 보러가기'를 통해 둘러보시면 도움이 되실 겁니다. 감사합니다.