기업에서 데이터를 조회하려면 어떻게 해야 할까요?
ERP에 로그인해서 메뉴를 찾고, 조건을 설정하고, 조회 버튼을 누릅니다. 원하는 데이터가 아니면 다시 조건을 바꿔서 조회합니다. 좀 더 복잡한 분석이 필요하면 IT팀에 요청해서 SQL 쿼리를 받아야 하고, 그게 며칠씩 걸리기도 합니다.
마케터가 '지난 분기 지역별 매출'을 보고 싶은데, 데이터베이스 구조를 모르면 직접 뽑을 수가 없습니다. 결국 IT팀에 요청하고 기다리는 수밖에요.
그런데 만약 이렇게 물어보면 어떨까요?
'지난 분기 매출이 가장 높은 지역 5곳 보여주고, 전년 대비 증감률도 같이 알려줘.'
시스템이 알아서 필요한 데이터베이스를 찾고, 쿼리를 만들고, 결과를 정리해서 보여준다면요. 이게 바로 지금 일어나고 있는 변화입니다.
API 시대는 어떻게 저물고 있나
40년간 이어진 패턴
소프트웨어를 다루는 방식은 계속 바뀌어왔습니다. 하지만 한 가지는 변하지 않았어요. 사람이 기계의 언어를 배워야 했다는 점입니다.
1980년대에는 CLI(Command Line Interface, 명령줄 인터페이스)를 썼습니다. 검은 화면에 'grep', 'ssh', 'ls' 같은 명령어를 직접 타이핑해야 했죠. 이 명령어들을 모르면 컴퓨터를 쓸 수가 없었습니다.
2000년대 중반에는 API(Application Programming Interface)가 주류가 됐습니다. 'GET /users'처럼 HTTP 요청을 보내서 데이터를 주고받는 방식이죠. 웹 서비스들이 서로 연결되기 시작했습니다.
2010년대에는 SDK(Software Development Kit)가 등장했습니다. 'client.orders.list()' 같은 함수를 호출하면 됐어요. HTTP 요청을 직접 작성할 필요가 없어졌습니다.
공통점은 여전히 기계의 언어
CLI, API, SDK. 형태는 달라졌지만 본질은 같았습니다.
사람이 기계가 이해하는 형식으로 명령을 내려야 했습니다. 어떤 명령어를 써야 하는지, 어떤 엔드포인트를 호출해야 하는지, 어떤 함수를 불러야 하는지를 사람이 알아야 했죠.
개발자가 아닌 사람들에게 이건 늘 진입장벽이었습니다.
LLM 덕분에 이제는 기계의 언어가 아닌 자연어
LLM(Large Language Model, 대규모 언어 모델)이 이 흐름을 뒤집고 있습니다.
이제는 기계가 사람의 언어를 이해합니다. 사용자가 'API를 어떻게 호출해야 하지?'라고 고민할 필요가 없어졌어요. 대신 '무엇을 달성하고 싶은가?'만 말하면 됩니다.
인터페이스가 코드에서 언어로 바뀌고 있는 겁니다.
기업이 자연어 인터페이스에 주목하는 이유
문제는 툴이 없는 게 아니다
기업에는 시스템이 넘쳐납니다. ERP, MES, CRM, SCM, 그룹웨어 등 하나같이 중요한 시스템들이죠.
그런데 정작 현장에서는 이런 말을 자주 듣습니다.
'시스템은 많은데 정작 쓸만한 정보는 부족해요.'
왜 그럴까요? 각 시스템마다 인터페이스가 다르기 때문입니다. ERP 조회 방법과 MES 조회 방법이 다릅니다. 시스템마다 사용법을 배워야 하고 데이터를 연결하려면 또 다른 작업이 필요합니다.
직원들이 데이터를 활용하지 못하는 이유는 툴이 없어서가 아닙니다. 툴이 너무 많고, 각각의 사용법을 익히는 데 시간이 걸리기 때문입니다.
자연어가 해결하는 것
자연어 인터페이스는 이 문제를 근본적으로 해결합니다.
사용자가 시스템의 구조를 몰라도 됩니다. 테이블 이름이 뭔지, 컬럼이 어떻게 연결돼 있는지 알 필요가 없어요. 그냥 원하는 걸 말하면 됩니다.
예를 들어볼게요.
기존 방식: 마케터가 지역별 매출 분석을 하려면 IT팀에 요청 → IT팀이 SQL 작성 → 결과 전달 → 마케터가 확인 → 추가 질문이 있으면 다시 요청
자연어 방식: 마케터가 '지난 분기 지역별 매출 보여주고 이상치 표시해줘'라고 입력 → 시스템이 바로 결과 제공 → 추가 질문도 즉시 가능
McKinsey 조사에 따르면, 생성형 AI를 활용하는 조직 중 63%가 이미 텍스트 생성 기능을 업무에 활용하고 있습니다. 데이터 접근 방식도 빠르게 바뀌고 있는 거죠.
데이터 접근이 쉬워지면서 바뀌는 데이터 분석가의 역할
기존에는 데이터를 다루는 사람이 따로 있었습니다. 분석가가 CSV를 추출하고, 가공하고, 정리해서 보고서를 만들었죠. 이 과정에 며칠이 걸리기도 했습니다.
자연어 인터페이스가 도입되면 이 흐름이 바뀝니다.
데이터가 필요한 사람이 직접 데이터에 접근합니다. 중간 단계가 사라지면서 의사결정 속도가 빨라집니다. 데이터를 다루던 사람은 단순 추출 작업에서 벗어나 분석과 인사이트 도출에 집중할 수 있게 되고요.
자연어로 데이터에 접근하는 방법
자연어를 쿼리로 바꾸는 기술
사용자가 자연어로 질문하면, AI가 이를 해석해서 실제 데이터베이스 쿼리로 변환합니다. 이 기술을 Text2SQL이라고 부릅니다.
예를 들어 '3월 매출이 가장 높은 제품은?'이라고 물으면, AI가 다음 과정을 거칩니다.
질문의 의도 파악 (매출, 3월, 제품, 최고값)
관련 테이블과 컬럼 식별
SQL 쿼리 생성
쿼리 실행 및 결과 반환
결과를 자연어로 정리해서 응답
사용자는 이 과정을 전혀 알 필요가 없습니다. 그냥 질문하고 답을 받으면 되죠.
여러 시스템을 연결하는 구조
실제 기업 환경에서는 데이터가 여러 시스템에 흩어져 있습니다. ERP에 재무 데이터가 있고, MES에 생산 데이터가 있고, CRM에 고객 데이터가 있죠.
자연어 인터페이스가 제대로 작동하려면 이 시스템들이 연결돼야 합니다. AI가 '어떤 시스템에서 어떤 데이터를 가져와야 하는지'를 알아야 하거든요.
이걸 가능하게 하는 게 MCP(Model Context Protocol) 같은 표준입니다. AI가 기업 내 여러 시스템의 기능을 발견하고, 필요한 데이터를 가져오고, 작업을 실행할 수 있게 해주는 프로토콜이죠.
쉽게 말하면, AI와 기업 시스템 사이의 통역사 역할을 하는 겁니다.
새로운 역할의 등장
이런 변화는 조직 구조에도 영향을 미칩니다.
기존에는 API를 설계하고 연결하는 '통합 엔지니어'가 필요했습니다. 이제는 다른 역할이 중요해지고 있어요.
온톨로지 엔지니어: 비즈니스 용어와 시스템 데이터를 매핑하는 역할
AI 권한 설계 담당자: AI가 접근할 수 있는 기능의 범위와 권한을 설계하는 역할
에이전트 지원 전문가: AI 에이전트가 올바르게 작동하도록 관리하는 역할
인터페이스가 사람 중심으로 바뀌면서 도메인 지식과 프롬프트 설계, 감독 능력이 더 중요해지는 겁니다.
주의할 점, 자연어는 애매하다
장점이자 약점
자연어는 유연합니다. 같은 의도를 여러 방식으로 표현할 수 있죠. 하지만 이게 문제가 되기도 합니다.
'매출이 좋은 제품'이라고 하면, 매출액이 높은 건지, 성장률이 높은 건지, 이익률이 높은 건지 애매합니다. AI가 잘못 해석하면 엉뚱한 결과가 나올 수 있어요.
자연어 인터페이스를 도입할 때는 이런 모호함을 어떻게 처리할지 고민해야 합니다.
가드레일이 필요하다
자연어로 시스템을 제어할 수 있다는 건, 잘못된 명령도 쉽게 내릴 수 있다는 뜻입니다.
권한 관리, 로그 기록, 실행 전 확인 같은 안전장치가 필수입니다. API 시대에 인증과 권한 관리가 중요했던 것처럼, 자연어 인터페이스 시대에도 거버넌스는 여전히 중요합니다.
기업 입장에서는 '어떤 질문에 어떤 데이터까지 보여줄 것인가'를 명확하게 정의해야 합니다.
지금 기업이 준비해야 할 것
1단계: 자연어를 인터페이스 레이어로 인식하기
자연어 인터페이스는 그냥 '편한 기능' 수준이 아닙니다. 기존 CLI → API → SDK로 이어진 인터페이스 진화의 다음 단계입니다.
화려한 부가 기능이 아니라, 핵심 인터페이스 레이어로 봐야 합니다.
2단계: 현재 보유한 기능 점검하기
회사에 어떤 데이터 서비스가 있는지, 어떤 분석 기능이 있는지, 어떤 API가 있는지 정리해보세요.
그리고 질문해보세요. '이 기능들이 자연어로 호출될 수 있는가? 사용자가 의도를 말하면 시스템이 알아서 찾아줄 수 있는가?'
3단계: 작은 영역에서 시작하기
처음부터 전사 시스템을 연결하려고 하면 복잡해집니다. 특정 업무 영역을 정해서 파일럿을 돌려보세요.
예를 들어 고객 지원팀에서 자주 묻는 질문들, 또는 영업팀에서 반복적으로 요청하는 데이터 조회 같은 것들이요.
작은 성공 사례를 만들고, 점차 확장하는 게 현실적입니다.
마치며
소프트웨어 인터페이스는 늘 진화해왔습니다. CLI에서 API로, API에서 SDK로. 그리고 이제 자연어로 넘어가고 있습니다.
중요한 건 이게 단순한 UX 개선이 아니라는 점입니다. 데이터에 접근하는 방식, 업무를 처리하는 방식, 조직이 작동하는 방식 자체가 바뀌는 겁니다.
'어떤 API를 호출해야 하지?'가 아니라 '무엇을 달성하고 싶은가?'
질문이 바뀌면 일하는 방식도 바뀝니다.
지금 우리 조직의 데이터 접근 방식은 어떤가요?
아직도 IT팀에 요청하고 며칠씩 기다리고 있다면 이제는 변화를 준비할 때입니다.
AI 인사이트, 더 보고 싶으신가요?
실용적인 AI 활용 인사이트와 최신 트렌드를 더 알고 싶으시다면 디피니트의 DARVIS 블로그를 구독해보세요. (블로그 구독시 AI 관련 오프라인 행사 초대장, AI 트렌드를 우선 공유드립니다.)
DARVIS 블로그에서는 매주 업데이트되는 AI 활용 노하우와 실제 사례를 통해 업무 생산성을 높이는 방법을 공유합니다.
더 많은 AI 인사이트들이 궁금하시다면 아래의 ‘AI 인사이트 더 보러가기’를 통해서 둘러보세요.
참고 자료:
"Why 'which API do I call?' is the wrong question in the LLM era"