【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]“AI 모델보다 중요한 건 운영”…오픈소스 인프라, 누가 책임지나

온카뱅크관리자

2026-09-03 06:07:25

<div id="layerTranslateNotice" style="display:none;"></div> 9월15일 서울 양재 엘타워서 ‘오픈 테크넷 서밋 2026’ 개최 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="6E9c1HEoWQ">
 <figure class="figure_frm origin_fig" contents-hash="3cb25d50e1ff6cdb1833a63ec6835f3bbbfff4ce2023afa2762aa3f7c27e0978" dmcf-pid="PD2ktXDglP" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/03/552796-pzfp7fF/20260903060052828ervi.png" data-org-width="640" dmcf-mid="4zelb7vmvM" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/03/552796-pzfp7fF/20260903060052828ervi.png" width="658">
 </figure>
 [디지털데일리 이안나기자] 기업의 생성형 인공지능(AI) 활용이 시험 단계를 넘어 실제 서비스로 확산하면서 오픈소스 기반 AI 인프라 운영 책임이 새로운 과제로 떠올랐다. AI 모델부터 개발도구와 추론 엔진, 쿠버네티스까지 여러 오픈소스 기술을 조합하는 방식이 보편화됐지만, 장애나 보안 문제가 발생했을 때 이를 누가 관리하고 책임질 것인지에 대한 체계는 아직 부족하다는 지적이다.
 클라우드네이티브컴퓨팅재단(CNCF)이 올해 1월 공개한 조사에 따르면 컨테이너 이용 기업 중 82%가 실제 운영 환경에서 쿠버네티스를 사용하고 있다. 생성형 AI 모델을 운영하는 기업 가운데 66%는 일부 또는 전체 AI 추론 작업을 쿠버네티스로 관리하는 것으로 나타났다.
 과거 웹과 애플리케이션을 운영하는 데 주로 쓰였던 쿠버네티스가 이제는 AI 모델 학습과 추론, 그래픽처리장치(GPU) 자원 관리까지 담당하는 공통 기반으로 자리 잡고 있는 셈이다. 기업 AI 인프라도 단일 제품이 아니라 오픈모델과 파이토치 같은 머신러닝 개발도구, vLLM 같은 추론 엔진, 쿠버네티스와 각종 배포·점검 도구가 결합된 형태로 바뀌고 있다.
 오픈소스 활용 속도와 관리 체계 사이에는 여전히 격차가 있다. 리눅스재단이 전 세계 관계자 851명을 조사한 ‘글로벌 오픈소스 현황 2025’에 따르면 AI·머신러닝 분야의 오픈소스 도입률은 40%로 전년보다 5%포인트 증가했다.
 반면 명확한 오픈소스 전략을 마련한 조직은 34%, 전담 조직인 오픈소스 프로그램 오피스(OSPO)를 운영하는 조직은 26%에 그쳤다. 운영 중인 오픈소스에 대해 12시간 이내 기술지원을 기대한다는 응답은 71%에 달했다. 오픈소스 의존도는 높아졌지만 이를 관리할 조직과 책임체계는 상대적으로 뒤처져 있다는 의미다.
 김윤원 맨텍솔루션 대표는 앞서 &lt;디지털데일리&gt;와 인터뷰에서 “AI 모델보다 서비스가 안정적으로 돌아가는 구조를 만드는 것이 훨씬 중요하다”고 강조했다. AI 활용이 실제 서비스 단계로 넘어가면서 개별 기술의 성능뿐 아니라 전체 인프라 상태를 한눈에 파악하고 통제하는 능력이 중요해졌다는 설명이다.
 AI 인프라를 구성하는 오픈소스 종류와 조합이 복잡하다는 점도 부담이다. 추론 엔진이나 프로그램 묶음을 업데이트하면 GPU 드라이버, 컨테이너 환경, 쿠버네티스 버전과 충돌할 수 있다. 장애가 발생해도 모델과 애플리케이션, 인프라 중 어디에서 문제가 시작됐는지 바로 가려내기 어렵다. 오픈소스마다 업데이트 주기와 기술지원 방식이 다르다는 점도 장기 운영을 어렵게 한다.
 오픈모델과 오픈소스 AI 경계가 혼재돼 있다는 문제도 있다. 모델 가중치를 내려받을 수 있다는 이유만으로 모든 모델을 오픈소스로 보기는 어렵다. 오픈소스이니셔티브(OSI)는 오픈소스 AI가 사용·연구·수정·공유의 자유를 보장해야 하며 모델 가중치뿐 아니라 학습·실행 코드와 학습데이터에 관한 충분한 정보도 제공해야 한다고 규정한다.
 이에 따라 기업은 모델 성능뿐 아니라 상업적 이용과 재배포가 가능한지, 학습데이터 출처가 공개됐는지, 업데이트는 얼마나 오래 제공되는지 등을 함께 살펴야 한다. 오픈소스 관리 범위가 기존 소프트웨어 라이선스를 넘어 모델과 데이터, AI 인프라 전반으로 넓어지고 있는 것이다.
 국내 기업들도 여러 오픈소스 기술을 한곳에서 관리할 수 있는 기능을 강화하고 있다. 맨텍솔루션은 지난 4월 쿠버네티스 기반 AI 플랫폼 ‘아코디언 3.0’을 출시했다. 회사 측에 따르면 이 제품은 GPU 자원 분할·관리, 여러 쿠버네티스 환경의 통합관리, AI를 활용한 장애예측 기능 등을 제공한다. 서로 다른 버전의 쿠버네티스와 AI 자원을 하나의 화면에서 관리해 운영 부담을 줄이겠다는 구상이다.
 나무에이엑스는 오픈소스 추론 엔진 vLLM과 쿠버네티스 기반 분산 추론 기술 llm-d를 활용한 AI 모델 운영 전략을 제시하고 있다. 여러 사용자가 한정된 GPU를 나눠 쓰는 기업 환경에서 모델 배포와 확장, GPU 이용 효율을 함께 관리하는 방식이다. AI 인프라의 경쟁이 GPU를 확보하는 단계에서 확보한 자원을 안정적이고 경제적으로 운영하는 단계로 옮겨가고 있다는 설명이다.
 NHN클라우드는 오픈소스 통합 서비스 ‘하이퍼프레임’을 통해 고객 맞춤형 컨설팅부터 구축, 운영, 유지보수와 기술지원까지 제공한다. 기업이 여러 오픈소스를 직접 조합하고 관리하는 대신 전문 사업자가 사전 검증과 장애 대응을 맡는 방식이다.
 <div contents-hash="abfa3a81ce573a78dca249150974916eb65254d25ec708d32b4c70eda09d3d17" dmcf-pid="F7mUne71T7" dmcf-ptype="general">
 오픈소스 기반 AI 인프라에서는 기술을 자유롭게 선택할 수 있는 개방성과 운영 책임을 함께 확보해야 한다. 특정 업체에 지나치게 의존하지 않으면서도 어떤 기술과 버전을 사용하고 있는지, 누가 업데이트와 장애 대응을 맡을 것인지 정해둘 필요가 있다. 앞으로 기업용 AI 인프라 경쟁력도 오픈소스를 얼마나 안정적으로 검증하고 지원할 수 있는지에 따라 갈릴 전망이다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="28a2afc1c0248f35cb3b2231e5a5dade372c3ff0302053f12f69e8258693dfa3" dmcf-pid="3zsuLdztSu" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/03/552796-pzfp7fF/20260903060054176ctfu.png" data-org-width="640" dmcf-mid="8a0JvCnQyx" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/03/552796-pzfp7fF/20260903060054176ctfu.png" width="658">
 </figure>
 이 같은 AI 시대 오픈소스 운영과 책임 문제를 논의하는 자리가 마련된다. 과학기술정보통신부가 주최하고 정보통신산업진흥원과 &lt;디지털데일리&gt;가 공동 주관하는 ‘오픈 테크넷 서밋 2026’이 오는 9월15일 서울 양재동 엘타워 그레이스홀에서 열린다. ‘AI 시대 오픈소스 거버넌스·보안·표준 혁신’을 주제로 AI 도입부터 검증, 운영, 확산까지 필요한 기업 전략을 다룬다.
 오전 세션에서는 감정한 깃랩(GitLab) 솔루션 아키텍트가 안전한 에이전틱 오케스트레이션 플랫폼 구축 방안을 발표한다. 오진석 메가존클라우드 전무는 공격 도구로 활용되는 오픈 AI에 대한 방어 전략을, 김제민 삼성전자 빅데이터센터 파트장은 삼성전자의 에이전틱 AI 도입과 운영 혁신 여정을 소개한다.
 오후에는 A·B 트랙으로 나뉜다. A트랙에서는 윤종원 스패로우 최고기술책임자(CTO)가 AI 시대 소프트웨어 신뢰성 확보 전략을, 고우주 나무에이엑스 최고AI책임자(CAIO)가 오픈소스 LLM의 효율적인 공유·배포 방안을 발표한다. 이진현 맨텍솔루션 전무는 AI 네이티브 인프라의 조건과 구축 전략을 다룬다.
 B트랙에서는 이창원 오라클 상무가 AI 시대 엔터프라이즈 자바와 오픈소스 플랫폼 운영 전략을 발표한다. 김지섭 뤼튼테크놀러지스 CoS는 AI 전환의 현실적 과제를, 박제호 GS네오텍 시큐리티 리드는 오픈소스 취약점의 공급망 보안 대응 전략을 공유한다.
 이어 이주영 NHN클라우드 개발장의 소규모 오픈모델 활용 방법론, 정영진 링크알파(LinqAlpha) 엔지니어의 AI 코딩 에이전트 시대 시프트레프트 보안 전략, 이서연 클라우드브로 공동창업자·CSO의 오픈소스 검증·도입 플레이북 발표가 진행된다. 손석호 한국전자통신연구원(ETRI) 전문위원은 신뢰할 수 있는 에이전틱 AI 시스템 구축을 위한 클라우드 네이티브 오픈소스 기술 동향을 소개한다.
 사전 등록은 디지털데일리 홈페이지를 통해 가능하다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기