공공기관 AI 도입, 이미 '검토 단계'를 넘었다
"공공기관에서 AI를 도입하는 건 아직 먼 이야기 아닌가요?"
많은 사람들이 이렇게 생각합니다. 하지만 현실은 다릅니다. 공공기관의 AI 도입은 이미 검토 단계를 넘어 실행과 성과 단계에 들어섰습니다.
2025년 7월, 서울경제진흥원(SBA)은 생성형 AI 기반 업무비서 '스바봇'을 도입해 연간 약 5만3000시간의 업무 시간을 절감하고, 약 10억원의 비용을 절감할 것으로 공식 발표했습니다. 이는 인력 약 25명 분량에 해당하는 수치입니다. 단순한 파일럿 테스트가 아니라 실제 업무에서 측정 가능한 성과를 낸 사례입니다.
같은 시기 한국수자원공사(K-water)는 환경 분야 공공기관의 'AI 전환 선도기관'으로 지정되어 공공 AI 활용 논의를 주도하고 있습니다. 정부와 지방자치단체 차원에서도 디지털 전환 정책이 가속화되면서 AI 도입은 선택이 아닌 필수가 되어가고 있습니다.
왜 지금 공공기관이 AI를 도입하는가
공공기관이 AI를 도입하려는 이유는 크게 3가지가 있습니다. 바로 업무 인력 한계에 닿았다는 점과 행정 효율성에 대한 요구가 증가했다는 것, 마지막으로 디지털 전환 정책이 가속되고 있다는 점입니다.
업무 인력 한계
공공기관은 민원 증가, 업무 복잡도 상승에도 불구하고 인력 증원에는 제약이 있습니다. 제한된 인력으로 더 많은 일을 처리해야 하는 현실에서 AI는 현실적 대안입니다.
행정 효율성 요구 증가
국민들은 더 빠르고 정확한 공공서비스를 원합니다. 24시간 민원 응대, 실시간 정보 제공, 신속한 의사결정이 필요합니다. 기존 방식으로는 한계가 명확합니다.
디지털 전환 정책 가속
정부는 공공기관의 디지털 전환을 적극 추진하고 있습니다. AI 도입은 디지털 전환의 핵심 과제입니다.
공공기관이 AI를 도입하면 실제로 달라지는 업무
그렇다면 위 세 가지 문제점의 해결 방법이 AI인 것만 같은데요, "AI가 있으면 다 좋아지나요?"라는 질문을 하실 수 있을 것 같습니다. 공공기관이 AI를 도입하게 되면 실제로 업무가 어떻게 달라질까요?
1. 민원 응대 자동화
AI 챗봇이 24시간 민원 질의응답을 처리합니다. "전입 신고 어떻게 하나요?", "출산 지원금 신청 조건이 어떻게 되나요?" 같은 반복적인 질문에 자동으로 답변합니다.
결과적으로 반복 민원 응대가 30~60% 정도 자동화 될 수 있으며, 이로 인한 콜센터 상담 대기시간이 대폭 단축되게 됩니다. 민원 담당자는 복잡한 케이스에 집중을 할 수 있게 되죠.
2. 내부 문서·규정 검색
수천 개의 내부 규정, 매뉴얼, 지침서를 AI가 학습합니다. "주거급여 신청 절차"를 검색하면 관련 조례와 지침을 즉시 찾아줍니다.
문서 검색 시간이 15분이었던 것이 30초로 단축이 가능해지며, 신입 직원 온보딩 기간도 30일에서 10일로 감소될 수 있습니다.
3. 보고서·회의 자료 정리
회의록을 자동 요약하고, 주간 보고서 초안을 생성하며, 여러 문서를 통합 분석합니다. 보고서 작성 시간이 약 80% 혹은 그 이상 단축시킬 수 있으며, 문서 품질 일관성이 향상되는 효과를 누릴 수 있습니다.
4. 데이터 기반 정책 지원
사회·경제 데이터를 분석해 정책 설계에 필요한 인사이트를 제공하고, 정책 효과를 사전 시뮬레이션합니다. 데이터가 명확해지기 때문에 데이터를 통한 결정이 가능해지며 주관적 판단 의존도가 감소하게 됩니다.
단순 자동화가 아닌 업무 보조 AI의 역할
중요한 점은 AI가 사람을 대체하는 것이 아니라 사람의 판단을 돕는다는 것입니다. 반복 업무는 AI가 처리하고, 직원들은 전문성이 필요한 업무에 집중할 수 있습니다. 업무 속도가 빨라지고, 오류와 누락이 줄어들며, 직원 만족도도 높아집니다.
하지만 '아무 업체나' 선택할 수 없는 공공기관 AI 도입
하지만 공공기관 AI 업체는 일반 기업처럼 선택을 하면 안 됩니다. 공공기관은 민간 기업과 근본적으로 다르기 때문입니다.
보안·망분리 요구사항
많은 공공기관은 인터넷이 차단된 망분리 환경에서 일합니다. 외부 클라우드 AI 서비스를 사용할 수 없습니다. ChatGPT에 업무 자료를 입력하는 순간 보안 규정 위반입니다.
개인정보 보호
고객 정보, 민원 데이터, 복지 수급자 정보를 다룹니다. 데이터가 외부로 전송되는 것 자체가 개인정보보호법 위반 위험입니다.
감사·책임 구조
공공기관은 AI가 낸 결과에 대해 책임을 져야 합니다. "AI가 그렇게 말했습니다"는 변명이 되지 않습니다. 복지 대상자 탈락, 민원 분류 오류, 정책 판단 실수는 모두 행정 책임과 법적 책임으로 이어집니다.
설명 가능성
왜 이런 결과가 나왔는지 설명할 수 있어야 합니다. 감사 시 로그를 제출할 수 있어야 하고, 결과를 재현할 수 있어야 합니다.
민간 기업용 AI를 그대로 도입했을 때의 리스크
일반 SaaS형 AI 서비스는 편리하지만 공공기관에는 치명적 한계가 있습니다. 데이터 외부 전송, 커스터마이징 제한, 감사 로그 부족, 망분리 환경 미지원이 그것입니다.
실제 공공기관이 AI 도입을 주저하는 이유
"AI 도입하고 싶지만 보안이 걱정됩니다."
"시스템이 너무 많아서 AI랑 연결할 수 있을지 모르겠습니다."
"AI가 잘못 판단하면 누구 책임인가요?"
"효과를 어떻게 증명하나요?"
이런 질문들이 해결되지 않으면 공공기관은 AI 도입을 시작할 수 없게 되죠. 그렇기 때문에 공공기관 AI 업체를 찾을 때, 반드시 알아야 할 사항이 있습니다.
공공기관 AI 도입 시 반드시 체크해야 할 5가지
아래에 자세히 설명해두는 5가지 체크포인트를 가지고 공공기관 AI 업체를 찾으시면 좋은 곳을 만날 수 있습니다.
1. 보안 중심 설계
처음부터 보안을 고려해 설계된 AI여야 합니다. 일반 AI에 보안 기능을 나중에 추가하는 것이 아니라, 온프레미스·망분리·데이터 비전송이 기본 구조여야 합니다.
2. 업무 보조형 AI
'자동으로 판단하는 AI'가 아니라 '사람의 판단을 돕는 AI'여야 합니다. 검색, 요약, 추천, 정리가 주요 기능이고, 최종 결정은 반드시 사람이 하는 구조입니다.
3. 시스템 연계 역량
단순히 AI 모델만 제공하는 것이 아니라, 기존 행정 시스템(ERP, 그룹웨어, 문서관리)과 연결할 수 있는 통합 역량이 필요합니다. AI를 업무 위에 자연스럽게 얹는 설계 능력입니다.
4. 감사·보고 대응 가능 구조
질의-응답 로그, 참조 문서 출처, 접근 권한 관리, 결과 재현 가능성이 기본으로 제공되어야 합니다. 감사원, 감독기관의 요구에 대응할 수 있는 구조여야 합니다.
5. "말 잘하는 AI"보다 중요한 것들
공공기관에는 창의적으로 글을 잘 쓰는 AI보다, 정확하게 사내 문서를 찾고, 안전하게 데이터를 조회하며, 투명하게 근거를 제시하는 AI가 필요합니다.
다비스(DARVIS)는 공공기관 AI 도입에서 어떤 역할을 할 수 있을까
디피니트의 다비스(DARVIS)는 앞서 설명한 공공기관의 요구사항을 충족하도록 설계된 기업용 AI 플랫폼입니다.
온프레미스·폐쇄망 환경 대응
다비스(DARVIS)는 공공기관 내부 서버에 직접 설치됩니다. 데이터가 외부로 전송되지 않고, 인터넷이 차단된 망분리 환경에서도 100% 독립적으로 작동합니다. AI GUARDIA 보안 시스템이 민감한 질문을 자동으로 차단하고, 부서별·직급별 접근 권한을 세밀하게 설정할 수 있습니다.
내부 데이터 기반 RAG 구조
수천 개의 사내 문서(규정, 매뉴얼, 지침, 보고서)를 AI가 학습합니다. "주거급여 신청 절차"를 검색하면 관련 조례를 찾아 인용하며 답변합니다. 출처를 명확히 표시하고, 검색 정확도는 96% 이상을 보장합니다.
일반 AI처럼 지어내지 않고, 실제 문서 근거를 제시합니다.
ERP·그룹웨어·문서 시스템 연동
기존 행정 시스템을 교체하지 않고 그 위에 'AI 레이어'를 추가하는 방식입니다. "지난 분기 민원 처리 건수와 평균 처리 시간"이라고 자연어로 물으면 자동으로 SQL을 생성해 데이터베이스를 조회합니다.
여러 시스템에 흩어진 데이터를 하나의 질문으로 통합 조회할 수 있습니다.
자동 판단이 아닌 업무 보조
다비스(DARVIS)는 추천과 제안을 할 뿐, 자동으로 실행하지 않습니다. 직원이 검토하고 승인하는 구조입니다. 복지 대상자 선정, 민원 분류, 정책 판단 같은 민감한 영역에서 Human-in-the-loop 원칙을 자연스럽게 지킵니다.
출처 추적·로그 관리
누가, 언제, 무엇을 조회했는지 모든 기록이 남습니다. AI가 어떤 문서를 참조했는지, 어떤 데이터를 사용했는지 추적 가능합니다. 감사원 감사, 내부 감사 시 필요한 자료를 즉시 제공할 수 있습니다.
감사 대응 가능
결과를 재현할 수 있고, 판단 근거를 설명할 수 있으며, 접근 권한을 관리할 수 있습니다. 공공기관이 가장 두려워하는 "AI 책임 문제"를 구조적으로 해결합니다.
공공기관 AI 도입의 핵심은 '기술'이 아니라 '적합성'
가장 화려한 AI가 아니라, 우리 기관 환경에 맞는 AI가 중요합니다.
공공기관 AI 도입 성공의 조건은 명확합니다. 보안을 지키면서, 기존 시스템과 연결되고, 실제 업무를 자동화하며, 성과를 측정할 수 있어야 합니다. 그리고 무엇보다 사람의 판단을 대체하지 않고 돕는 구조여야 합니다.
일반 AI 기업이 "우리 AI는 성능이 좋습니다"라고 말할 때, 공공기관 AI 업체는 "귀 기관의 보안 정책을 충족합니다", "기존 시스템과 연동됩니다", "감사에 대응할 수 있습니다"라고 말할 수 있어야 합니다.
향후 공공기관 AI 도입 흐름 전망
서울경제진흥원의 성공 사례가 언론에 보도되면서 다른 공공기관들도 AI 도입을 본격 검토하고 있습니다. 한국수자원공사처럼 선도기관으로 지정되어 확산을 주도하는 움직임도 나타나고 있습니다.
앞으로 2~3년 내에 대부분의 공공기관이 AI를 도입할 것입니다. 중요한 것은 빠르게 도입하는 것이 아니라, 안전하고 효과적으로 도입하는 것입니다.
공공기관에 맞는 AI 업체를 선택하고, 작은 파일럿으로 시작해 효과를 검증한 후 점진적으로 확산하는 전략이 가장 안전합니다. 기술이 아니라 적합성이 성공을 결정합니다.