공공기관 AI 도입 현황, 효과적인 도입을 위해 고려해야 하는 것

공공기관 AI 도입 현황, AI 대전환 시대? 공공부문도 예외는 아니다

2025년 현재, 대한민국 공공기관 AI 도입 현황이 정말 대단합니다.

2014년부터 2023년까지 10년간 전체 공공기관 401곳 중 243개 기관이 AI를 도입했습니다. 도입률 60.6%, 계약 건수 5,891건, 계약 금액만 해도 2014년 2,823억 원에서 2023년 1조 3,279억 원으로 5배 이상 폭증했습니다.

폭발적으로 늘어나는 AI 활용 분야

챗봇과 민원 자동화 분야가 압도적입니다.

2017년 단 8건에 불과했던 챗봇 도입이 2023년에는 312건으로 급증했습니다. 전국 지자체와 공공기관 곳곳에서 "무엇을 도와드릴까요?"라고 묻는 AI 챗봇을 만나는 것이 이제 일상이 되었습니다.

문서 자동화와 OCR(광학문자인식) 기술 도입도 빠르게 확산되고 있습니다.

방대한 종이 문서를 디지털화하고, 텍스트를 음성으로 변환하며, 데이터를 자동으로 분류하는 업무가 AI로 대체되고 있습니다.

정책 분석과 연구 지원 분야에서도 AI 활용이 늘고 있습니다.

한국과학기술기획평가원(KISTEP)은 내부 정책분석용 생성형 AI 챗봇 'KISTEP GPT'를 도입해 조직 전체에 AI 활용을 확산시키고 있습니다. 행정안전부와 국토교통부는 건축행정 허가, 법령 검색 등에 초거대 AI를 활용하고 있죠.

공공기관 AI 도입 현황, 중앙정부와 지자체, 도입 패턴이 다르다

지자체는 대민 서비스에 집중하고 있습니다.

전체 AI 도입 사업의 76.5%가 행정, 공공질서·안전, 교통/물류 등 국민이 직접 체감할 수 있는 서비스 영역에 몰려 있습니다. 주로 소규모·소액 계약으로 진행되며, 업무 효율보다는 시민 서비스 개선에 초점을 맞추고 있습니다.

반면 중앙정부는 내부 효율화에 주력하고 있습니다.

69.2%의 사업이 정책 분석·연구, 행정 내부 효율화에 집중되어 있으며, 대형 시스템 기반의 계약이 많고 기술적·연구적 체계성이 높은 특징을 보입니다.

사회서비스 분야까지 확산되는 AI

복지와 돌봄 서비스에도 AI가 진출하고 있습니다.

경기도 사회서비스원은 AI 노인 말벗 서비스를 도입해 사회적 돌봄 분야에서 AI의 가능성을 입증했습니다. AI가 노인분들과 전화 통화를 하며 안부를 묻고 대화 상대가 되어주는 혁신적인 서비스입니다.

특히 2016년 알파고 충격 이후 AI 도입이 급가속화되었고, 2025년 현재는 디지털 플랫폼 정부 정책과 함께 생성형 AI, 초거대 AI, LLM(대형 언어 모델) 도입이 폭발적으로 늘고 있습니다.

국가 차원의 AI 전략, 이제 선택이 아닌 필수

이처럼 공공기관 AI 도입 현황을 살펴보면 지금 도입하지 않은 곳들은 얼른 속도를 내고 결정을 해야 하는 시점이라는 것을 알 수 있었습니다.

더군다나 정부는 2030년까지 공공부문 AI 도입률 95%를 목표로 하고 있어, 앞으로 5년 내에 거의 모든 공공기관이 AI를 도입하게 될 전망입니다.

2025년 4월 발표된 '공공부문 초거대 AI 도입·활용 가이드라인 2.0'은 단순 도입을 넘어 운영, 유지관리, 성과관리까지 아우르는 체계적 접근을 안내하고 있습니다.

AI Framework Act(AI 기본법)도 2026년 1월 22일 시행을 앞두고 있습니다. 위험 기반 규제체계를 도입하여 고위험 AI 시스템에 대한 감독 의무를 규정하면서도, AI 산업 활성화와 신뢰성 확보를 동시에 추진하겠다는 정부 의지가 명확합니다.

뒤처지는 순간, 격차는 돌이킬 수 없다

사실 AI를 도입한 기관과 그렇지 않은 기관 사이의 격차가 벌써 벌어지고 있습니다.

AI를 도입한 공공기관들은 민원 응답 시간을 15분에서 30초로 단축하고, 반복 업무를 90% 자동화하며, 담당자 업무시간을 월 40시간씩 확보하고 있습니다.

반면 아직 도입하지 않은 기관들은 여전히 같은 질문을 하루에 수십 번 답하고, 여러 시스템을 오가며 자료를 찾느라 정작 중요한 업무에 집중하지 못하고 있습니다.

더 심각한 것은 시간이 갈수록 도입 비용과 복잡성이 커진다는 점입니다. 앞서 도입한 기관들이 AI 활용 노하우를 축적하는 동안, 늦게 시작한 기관들은 더 많은 시행착오를 겪어야 합니다.

국가 인공지능 위원회는 2024년 9월 대통령 직속으로 발족되었고, 국가 AI 컴퓨팅 센터 구축에 GPU 10,000대를 확보하겠다고 발표했습니다. 이는 공공부문 AI 확산이 더 이상 선택이 아닌 국가 차원의 필수 과제임을 보여줍니다.

하지만 AI 도입, 왜 이렇게 어려울까?

현실은 녹록지 않습니다. 많은 공공기관이 AI 도입을 원하지만 실제로는 다음과 같은 벽에 부딪히고 있습니다.

보안 문제가 가장 큰 걸림돌입니다.

최근 중국산 AI 서비스(DeepSeek 등)에 대한 사용 제한이 내려지면서 외부 AI 서비스에 대한 우려가 커졌습니다. 개인정보가 포함된 민감한 데이터를 외부 클라우드에 올려야 한다면 당연히 꺼려질 수밖에 없습니다.

기존 시스템과의 연동 문제도 심각합니다.

공공기관은 NTIS, 전자결재시스템, 행정정보시스템, 정책연구자료시스템 등 수많은 개별 시스템을 운영하고 있습니다. 새로운 AI 시스템을 도입하려면 이 모든 시스템을 다시 설계해야 한다고 생각하니 엄두가 나지 않는 것이 당연합니다.

전문 인력 부족과 예산 부담도 큽니다.

AI 시스템을 구축하고 운영할 전문가도 부족하고, 대규모 투자가 필요할 것 같아 1년 단위 예산 체계에서는 접근하기 어려워 보입니다.

다비스(DARVIS): 설치가 아닌 '연결'로 해결하는 스마트한 선택

하지만 AI 도입이 꼭 복잡하고 어려울 필요는 없습니다.

DARVIS(디피니트 AI 솔루션, 다비스)는 기존의 복잡한 AI 도입 방식과는 완전히 다른 접근을 제시합니다. 새로운 시스템을 처음부터 구축하는 것이 아니라, 기존 시스템들을 그대로 두고 AI가 이들을 논리적으로 '연결'해주는 방식입니다.

보안 걱정 없는 온프레미스 방식

다비스(DARVIS)는 온프레미스 설치로 모든 데이터가 기관 내부에서만 처리됩니다. 클라우드 업로드가 전혀 없고, 외부 AI 서비스에 의존하지 않습니다.

데이터 제로 저장 정책으로 처리 후 즉시 데이터를 폐기하며, GUARDIA 보안 모듈을 통해 NAC, DRM 등 기존 보안 체계와도 완벽하게 연동됩니다.

기존 시스템은 그대로, AI만 추가

"우리 시스템을 다 바꿔야 하나?"라는 걱정은 필요 없습니다.

ERP, 전자결재, 문서관리, 인사시스템 등 기존 인프라를 전혀 건드리지 않고 다비스(DARVIS)가 이들 사이의 다리 역할을 합니다. 담당자가 "작년 사회서비스 예산 집행률 알려줘"라고 자연어로 질문하면, AI가 여러 시스템에서 관련 데이터를 찾아 통합된 답변을 제공합니다.

txt2SQL로 복잡한 데이터 질의도 간단하게

"올해 1분기 복지 서비스 참여율 추세 분석해 줘"라고 말하면, 다비스(DARVIS)의 txt2SQL 기술이 자동으로 데이터베이스 쿼리를 생성하고 표, 그래프, 분석 결과까지 포함한 보고서를 만들어줍니다. SQL을 모르는 담당자도 자연어만으로 복잡한 데이터 분석이 가능합니다.

평균 1.5개월 내 전사 도입 완료

파일럿 프로젝트부터 전사 확산까지 평균 1.5개월이면 충분합니다.

기존 시스템을 바꾸지 않기 때문에 개발 기간이 짧고, 단계별로 확산해 나가면서 위험을 최소화할 수 있습니다.

다비스 도입 실제 성공 사례: 서울시여성가족재단

서울시여성가족재단은 직원 220명, 예산 400억 원 규모로 성장했지만 행정인력은 부족한 상황이었습니다. 60개 이상의 복잡한 내부 규정과 조례, 예산 자료 때문에 직원들의 문의가 끊이지 않았죠.

다비스(DARVIS) 도입 후 정보 검색 시간이 15분에서 30초로 단축되었고, 복지부서 반복 문의의 90%가 자동화되었습니다. 담당자들은 월 40시간의 업무시간을 확보할 수 있게 되었고, 더 중요한 정책 업무에 집중할 수 있게 되었습니다. 무엇보다 온프레미스 설치로 보안 우려 없이 AI의 효과를 누릴 수 있었습니다.

지금이 바로 시작할 때입니다

2025년은 공공기관 AI 도입의 분수령이 될 것입니다.

AI Framework Act가 2026년 1월 시행을 앞두고 있고, 공공부문 초거대 AI 도입·활용 가이드라인 2.0도 발표되었습니다. 정부 차원에서 AI 도입을 적극 지원하고 있는 지금이야말로 가장 유리한 시점입니다.

더 이상 미루면 안 됩니다. 이미 도입한 60%의 기관들과의 격차가 벌어지고, 나중에는 더 복잡하고 비용이 많이 드는 방식으로 접근해야 할 수도 있습니다.

다비스(DARVIS)는 설치가 아닌 연결로 이 모든 문제를 해결합니다. 기존 시스템은 그대로 두고, 보안은 철저히 지키면서, 평균 1.5개월 만에 AI의 효과를 체험할 수 있습니다.

오늘은 공공기관 AI 도입 현황을 알아보면서 효과적 도입을 위해 어떤 방법을 고려해야 하는지 같이 생각해 보았습니다.

이 글을 통해 다비스(DARVIS)에 대해 더 알아보고 싶으신 분들은 서비스 소개서를 받아보셔서 더 많은 정보를 얻으시길 바랍니다.

감사합니다.