제조 현장에서도 LLM에 대한 관심이 빠르게 높아지고 있습니다. 설비 매뉴얼을 자연어로 검색하거나, 품질 이슈를 요약하거나, 작업 지시를 보조하는 용도로 쓸 수 있다는 기대감이 큽니다. 그런데 막상 ChatGPT 같은 범용 LLM을 제조 현장에 그대로 가져다 쓰면 문제가 금방 드러납니다.
설비 코드를 물어보면 엉뚱한 답이 나오고, 사내 불량 유형이나 공정 약어를 엉뚱하게 해석합니다. 그럴듯하게 들리는 답변인데, 현장 맥락이 빠져 있어 실제로는 쓸 수 없는 내용인 경우가 많습니다. 제조업 LLM이 따로 필요한 이유가 여기에 있습니다.
이 글은 범용 LLM이 왜 제조 현장에서 한계를 드러내는지, 그리고 어떤 방식으로 제조업에 맞게 만들 수 있는지를 살펴봅니다.
범용 LLM이 제조 현장에서 통하지 않는 이유
범용 LLM은 일반 지식에는 강하지만, 기업 내부 데이터는 기본적으로 알지 못합니다. 공정 조건, 설비 로그, 품질 이력, 작업 표준은 보안상 외부 학습에 포함되지 않습니다. 그래서 범용 모델은 제조 질문에 답할 때 현장 맥락이 빠진 일반론을 내놓게 됩니다.
전문 용어 문제도 큽니다. 설비 코드, 불량 유형, 라인명, 사내 약어는 회사마다 다르고, 같은 단어가 현장에 따라 전혀 다른 의미로 쓰이는 경우도 있습니다. 범용 모델은 이런 차이를 구분하지 못합니다. 여기에 공정 맥락 부재까지 더해지면 문제는 더 심각해집니다. 예를 들어 같은 "정지"라는 표현도 계획 정지인지 비상 정지인지에 따라 대응이 완전히 달라지는데, 사내 데이터와 연결되지 않은 모델은 이 차이를 알 수 없습니다.
제조업은 작은 오차도 품질 문제와 비용 손실로 직결됩니다. 그럴듯하지만 틀린 답변을 현장에서 그대로 따랐을 때의 리스크가 다른 산업보다 훨씬 큽니다. 범용 LLM을 제조 현장에 그대로 쓰기 어려운 이유입니다.
제조업 LLM을 만드는 세 가지 방법
이 한계를 넘으려면 LLM에 사내 데이터와 공정 맥락을 붙여줘야 합니다. 대표적인 방법이 RAG, 파인튜닝, 온프레미스 세 가지입니다. 어느 하나가 정답이라기보다, 현장 상황에 따라 선택하거나 조합하는 방식입니다.
RAG(검색 증강 생성)는 모델 자체를 바꾸지 않고, 질문할 때 사내 문서나 데이터베이스에서 관련 근거를 찾아 함께 넣는 방식입니다. 새 SOP, 설비 매뉴얼, 품질 규정이 추가되면 문서만 넣으면 바로 반영됩니다. 최신 문서를 자주 업데이트해야 하거나, 답변의 근거를 함께 보여줘야 하는 상황에 적합합니다. 다만 검색 품질이 낮으면 답변도 흔들리고, 문서 정제와 검색 엔진 구성에 별도 작업이 필요합니다.
파인튜닝은 모델을 추가 학습시켜 제조 현장 특유의 용어, 답변 스타일, 출력 형식을 맞추는 방식입니다. 설비 이상 분류, 품질 이슈 요약, 작업 보고서 초안처럼 형식이 중요한 반복 업무에 강합니다. 단, 데이터 준비와 학습 비용이 크고, 문서가 바뀌면 다시 학습해야 하는 부담이 있습니다.
온프레미스는 모델을 사내 서버나 폐쇄망 안에 두고 운영하는 방식입니다. 공정 데이터, 설비 로그, 품질 이력처럼 외부로 보내기 어려운 데이터를 다룰 때 보안 측면에서 가장 안전합니다. 초기 인프라 투자가 크고 운영 부담이 있지만, 망 분리 환경이 필수인 제조 현장에서는 사실상 기본 조건이 됩니다.
제조업에서 가장 현실적인 접근은 온프레미스 환경에서 RAG로 먼저 시작하고, 반복 업무가 확인되면 파인튜닝으로 출력 품질을 고정하는 순서입니다. 공정 변경이 잦고 문서가 분산된 제조 현장에는 RAG 먼저, 파인튜닝 나중 전략이 가장 잘 맞습니다.
실제 도입 사례
창립 54년의 중견 제조기업 삼신은 LLM 기반 맞춤형 AI 시스템을 구축해 설계·구매·품질 핵심 업무에 적용했습니다. RAG 기반 지식 검색 시스템으로 사내 기술 문서와 설계 자료를 통합해 AI 질의 방식으로 즉시 탐색할 수 있게 했습니다. ERP 기반 약 30만 건의 BOM 데이터를 활용해 신규 품목 코드를 자동 생성하고, 고객 시방서를 자동 분석해 기술 요구사항과 리스크를 점검하는 기능도 구현했습니다. 단순 챗봇이 아니라 실제 제조 업무 흐름을 분석한 AI 에이전트라는 점에서 제조업 디지털 전환의 새로운 방향으로 평가됩니다.
글로벌 제조 현장에서도 비슷한 방향의 도입이 늘고 있습니다. 설비 매뉴얼과 유지보수 기록을 LLM에 연동해 작업자가 자연어로 질문하면 대응 방법을 안내하는 시스템, IoT 데이터와 연계해 실시간 설비 상태를 모니터링하고 고장 가능성을 예측하는 방식, 품질 데이터를 분석해 불량 원인과 해결책을 제안하는 구조가 대표적입니다. 공통점은 범용 모델을 그대로 쓰는 것이 아니라, 사내 데이터와 연결해 현장 맥락을 붙인다는 점입니다.
제조업 LLM, 어디서 시작하면 되는가
시작 전에 세 가지 질문을 먼저 던져보는 것이 좋습니다. 문서를 찾아서 답해야 하는 상황이 많다면 RAG가 먼저입니다. 항상 같은 형식으로 답변이 나와야 한다면 파인튜닝을 검토해야 합니다. 데이터를 외부로 내보낼 수 없다면 온프레미스가 전제 조건입니다.
현실적인 시작 순서는 사내 문서를 정제하고 구조화하는 것부터입니다. 흩어진 매뉴얼, SOP, 품질 규정을 정리하지 않으면 RAG를 구축해도 검색 품질이 낮아 답변이 흔들립니다. 문서 정제가 되면 RAG로 먼저 구축하고, 운영 로그를 보며 검색과 답변 품질을 단계적으로 개선해나가는 방식이 실패를 줄입니다.
제조 문서와 데이터를 AI로 연결하는 방법
다비스(DARVIS)의 DARVIS Docs는 사내 규정, 매뉴얼, SOP를 AI가 바로 이해하고 연결해 자연어 질문으로 즉시 검색하고 출처 기반의 정확한 답변을 제공합니다. 최신 문서가 자동으로 반영되고, 답변 근거 문서가 함께 제시됩니다.
DARVIS ONTOLOGY HUB는 데이터 간 관계와 의미, 규칙을 연결해 모든 판단의 정확도를 높입니다. 기존 시스템 변경 없이 5주 안에 시작할 수 있습니다. 범용 LLM으로 해결되지 않던 제조 현장의 질문, 사내 데이터를 연결하는 것에서 답이 달라집니다.
실용적인 AI 활용 인사이트 및 최신 트렌드를 알아보고 싶으시다면 디피니트 다비스(DARVIS) 블로그를 구독해 보세요. 제조 현장의 실제 문제 해결 사례와 AI 활용 노하우를 공유합니다.
더 많은 제조 AI 인사이트를 보고 싶으시다면 'AI 인사이트 더 보러가기'를 통해 둘러보시면 도움이 되실 겁니다. 감사합니다.