기업과 기관의 데이터는 여러 시스템과 문서에 흩어져 있어, 생성형 AI가 답변할 때 근거를 연결하기가 쉽지 않습니다. 이 문제를 풀 방법으로 지식 그래프가 쓰이고 있습니다. 이 글에서는 지식 그래프의 정의와 유래, 구성과 구축 흐름, 활용 분야, 국내 사례와 도입 시 확인할 점을 순서대로 살펴봅니다.
지식 그래프란?
지식 그래프는 개체(노드)와 개체 사이의 관계(엣지), 그리고 개체나 관계에 붙는 속성으로 지식을 표현하는 그래프 형태의 모델입니다. 예를 들어 '도쿄-수도이다-일본'이라는 하나의 사실은 도쿄와 일본이라는 두 개체가 '수도이다'라는 관계로 이어진 모습으로 나타냅니다.
이런 사실이 수없이 연결되면 문서 안의 문장으로는 보이지 않던 관계를 따라가며 정보를 찾을 수 있습니다. 한 개체에서 출발해 연결된 개체를 차례로 확인하는 방식이어서, 여러 문서에 나뉜 정보를 하나로 모아 볼 때 유용합니다. 다만 지식 그래프는 W3C가 정한 표준 용어라기보다 업계와 연구계에서 널리 쓰는 개념입니다.
지식 그래프의 유래
지식 그래프라는 용어가 널리 알려진 계기는 구글입니다. 구글은 2012년 5월 검색 블로그에서 지식 그래프를 발표하며 "things, not strings"라는 표현을 썼습니다. 검색어를 단순한 문자열로 처리하는 방식에서 벗어나, 실제 세계의 사람·장소·사물과 그 관계를 이해하겠다는 뜻입니다. 구글은 당시 5억 개 이상의 개체와 35억 개 이상의 사실·관계를 담고 있다고 밝혔고, Freebase와 Wikipedia, CIA World Factbook 등의 정보를 활용했다고 설명했습니다.
형식적인 기반으로는 W3C의 RDF가 자주 언급됩니다. W3C의 RDF 1.1 명세는 사실을 주어, 서술어, 목적어로 이루어진 트리플로 나타내고, 이 트리플의 집합을 RDF 그래프라고 정의합니다. 그래프의 노드는 트리플의 주어와 목적어로 구성됩니다. 웹의 문서를 데이터 단위로 연결하겠다는 시맨틱 웹의 구상도 이 모델과 맞닿아 있습니다.
지식 그래프의 구성과 구축 흐름
지식 그래프와 그래프 데이터베이스는 역할이 다릅니다. 지식 그래프가 무엇을 어떤 의미로 표현할지에 관한 모델이라면, 그래프 데이터베이스는 그 표현을 저장하고 질의하는 기술입니다. 여기에 개념과 관계의 의미를 정의하는 온톨로지를 더하면 데이터를 더 일관되게 해석할 수 있습니다.
구축은 보통 다음 순서로 진행됩니다.
데이터 수집: 데이터베이스 표, 로그, 문서 등 여러 형태의 데이터 모으기
개체·관계 추출: 문서에서 사람, 제품, 조직 같은 개체와 그 관계 찾기
정규화와 연결: 같은 대상을 하나로 묶고 고유 식별자 부여하기
저장과 질의: 그래프 데이터베이스에 적재해 관계 탐색하기
활용: 검색, 추천, 질의응답 등에 적용하기
지식 그래프 활용 분야
검색과 추천에서는 개체 사이의 관계가 결과의 맥락을 만들어 줍니다. 키워드가 같은 문서를 찾는 데서 나아가 연관된 인물, 제품, 개념을 함께 보여 줄 수 있기 때문입니다.
생성형 AI와 결합한 대표 방식은 GraphRAG입니다. Microsoft Research의 Edge 등이 2024년 발표한 연구는 문서에서 개체와 관계로 이루어진 그래프를 만들고 이를 요약해, 약 100만 토큰 규모의 데이터셋 전체를 묻는 질문에서 답변의 포괄성과 다양성이 높아졌다고 보고했습니다. 관계와 출처가 연결되어 있으면 답변의 근거를 원문까지 따라가기 쉬워지므로, 환각 가능성을 낮추는 데 기여할 수 있습니다.
지식 그래프 국내 사례 (1) - 서울대병원
서울대학교병원은 2025년 3월 한국형 의료 거대언어모델 개발을 발표했습니다. 병원 발표에 따르면 한국 의료 법률과 국문 논문 초록, 학회 진료 지침을 통합하고 의학용어 표준화 작업을 거쳐, 지식 그래프 기반 검색증강생성(RAG)과 다학제 멀티 에이전트 프레임워크를 개발했습니다. 병원은 이 모델을 연구와 업무 보조에 활용할 계획이라고 밝혔습니다.
지식 그래프 국내 사례 (2) - 수성구·화성시
공공 분야에서는 실증과 구축이 이어지고 있습니다. 보도에 따르면 대구 수성구는 오픈데이터포럼의 공공데이터·AI 활용 리빙랩 사업으로, 보건복지부 복지 지침과 구청 복지 자료, 업무 매뉴얼을 대상으로 지식 그래프와 RAG를 결합한 근거확인형 AI 어시스턴트를 실증하고 있습니다. 지원 조건과 예외를 구분하고, 답변과 함께 근거가 된 문서와 조항을 보여 주는 방식입니다.
화성시는 행정안전부 공공부문 AI 서비스 지원 공모사업에 선정되어 2026년 7월부터 2027년 1월까지 도시데이터플랫폼을 구축하고 있습니다. 시가 운영하는 63개 정보시스템 가운데 38개 데이터베이스를 우선 연계하고, 도시데이터의 관계를 온톨로지로 모델링해 이상징후를 탐지하는 체계를 만드는 사업입니다. 두 사례 모두 현재 진행 중인 사업입니다.
도입 시 확인할 점
지식 그래프는 데이터를 연결하는 만큼 원천 데이터를 정리하는 일에서 시작합니다. 어떤 질문에 답하게 할지 활용 목적을 먼저 정하면 필요한 개체와 관계의 범위도 분명해집니다. 시스템마다 같은 고객이나 설비를 다른 이름으로 관리하고 있다면 하나의 개체로 묶는 작업이 필요합니다. 개체와 관계의 의미는 현업의 도메인 전문가와 함께 정하고, 출처와 갱신 이력을 남겨 두면 시간이 지나도 신뢰할 수 있는 지식 그래프로 활용할 수 있습니다.
지식 그래프는 AI가 흩어진 지식을 근거와 함께 활용하도록 돕는 기반입니다
지식 그래프는 검색에서 출발해 의료와 공공 분야의 생성형 AI 활용으로 범위를 넓히고 있습니다. 국립국어원도 한국문화 지식 그래프 구축을 포함한 AI 지식자원 7종을 추진하며 온용어에서 한국언어문화 지식 그래프를 보여 주는 등, 공공에서도 지식 자원을 쌓는 움직임이 이어지고 있습니다. 앞으로 AI가 답변의 근거를 확보하는 기반으로 지식 그래프의 활용이 더 늘어날 것으로 기대됩니다.
실용적인 AI 활용 인사이트 및 최신 트렌드를 알아보고 싶으시다면 블로그를 구독해 보세요. 업무 현장에 적용할 수 있는 AI 활용 사례와 노하우를 공유합니다.
더 많은 AI 인사이트를 보고 싶으시다면 'AI 인사이트 더 보러가기'를 통해 둘러보시면 도움이 되실 겁니다. 감사합니다.