PoC 성공 이후 현장 안착 위한 인프라·데이터·조직 연동 전략 강조

(지디넷코리아=남혁우 기자)생성형 인공지능(AI)이 현장에 성공적으로 도입되고 실질적인 성과를 내기 위해선 단순한 기술 검토를 넘어 4가지 실행 과제를 해결해야 한다는 분석이 제기됐다.

26일 스켈터랩스는 커니코리아가 주최한 ‘AI 인 액션’ 포럼에서 개념 검증(PoC) 이후 본격 도입 단계에서 마주치는 병목 요인을 네 가지 핵심 과제로 정리해 발표했다고 밝혔다.

스켈터랩스는 메타넷 그룹의 AI 전문기업으로 산업 적용형 AI(Applied AI) 전략을 주도하고 있다. 단순 PoC를 넘어 고객사의 실제 업무에 AI를 적용하는 프로젝트를 추진 중이며, 다양한 메타넷 계열사와 공동 프로젝트를 통해 생성형 AI 내재화 및 솔루션 고도화에 집중하고 있다.

스켈터랩스 변규홍 CAIO(이미지=스켈터랩스)

이날 발표에 나선 변규홍 스켈터랩스 최고AI책임자(CAIO)는 "PoC 단계에서의 성과가 실제 도입 성공으로 이어지는 것은 아니다"라며, "AI를 실제 업무에 쓸 수 있는 역량 확보가 관건"이라고 말했다.

스켈터랩스가 제시한 첫 번째 과제는 인프라 현실 검증이다. 변 CAIO는 "PoC 환경에서 잘 작동하던 LLM이 운영 단계에 들어가면 동시 사용자 증가나 처리량 한계 등으로 인해 성능이 급격히 저하되는 경우가 많다"며, 실사용 시나리오 기반의 인프라 수용력 점검이 필수라고 강조했다.

두 번째는 데이터 구조화 문제다. 생성형 AI의 환각 현상을 완화하기 위한 검색 증강 생성(RAG) 적용이 증가하고 있지만 단순 검색 결과 제공만으로는 한계가 있다는 설명이다.

변 CAIO는 "불명확한 데이터를 AI에 전달하면 오히려 오류를 더 빠르게 확산시킬 수 있다"며 AI가 문맥을 이해할 수 있도록 데이터 전처리와 구조화가 반드시 선행돼야 한다고 말했다.

세 번째 과제로는 멘탈 모델 이식이 지목됐다. 그는 "AI가 조직의 판단 기준과 선호를 학습해야 한다"며, "신입사원이 OJT를 통해 업무 기준을 익히는 것처럼, AI도 인간이 평가한 데이터를 기반으로 더 나은 응답을 학습해야 한다"고 강조했다. 스켈터랩스는 이를 위해 강화학습(RL), 직접 선호 최적화(DPO) 기술을 도입해 평가 고도화 자동화 체계를 실험 중이다.

네 번째는 시스템 연동 방식의 전환이다. AI가 단순한 답변 생성 기능을 넘어서 ERP, 그룹웨어 등 기업 내 시스템과 유기적으로 연결돼야 생산성 향상이 가능하다는 것이다. 변 CAIO는 이 과정에서 AI가 시스템 기능을 이해하고 자율 호출할 수 있는 구조로 모델 컨텍스트 프로토콜(MCP)을 소개하며 이는 기존 API나 RPA보다 더 유연하게 LLM에 적합하다고 설명했다.

변 CAIO는 "이제는 단순히 생성형 AI의 기술적 가능성을 검토하는 단계를 넘어, 조직에 실질적으로 도입하고 활용하기 위한 실행 전략 수립이 더욱 중요해졌다"며, "AI를 실제 업무에 쓸 수 있게 만드는 역량이야말로 기업의 핵심 경쟁력이 될 것"이라고 밝혔다.

남혁우 기자(firstblood@zdnet.co.kr)

Copyright © 지디넷코리아. 무단전재 및 재배포 금지.