유연한 인프라 설계와 GPU 최적화로 AI 워크로드 안정 구현

[이데일리 김현아 기자] 클라우드 소프트웨어 전문 기업 오케스트로(대표 김범재)가 지난 19일 서울 양재 엘타워에서 열린 ‘K-AI PaaS Summit 2025’에서 효과적인 프라이빗 AI 워크로드 구현을 위한 클라우드 인프라 구축 전략을 주제로 발표를 진행했다.

이 행사는 한국클라우드산업협회 주관으로 열렸으며, 산업계, 정부, 지자체 등에서 약 300명이 참석해 AI 네이티브 전략 및 클라우드 생태계 구축 방향을 논의하는 자리로 마련됐다.

오케스트로는 이날 발표를 통해 AI 기술 확산, 데이터 주권(소버린 AI) 이슈, 퍼블릭 클라우드 비용 부담 등이 기업의 인프라 전략에 중대한 영향을 미치고 있다고 분석했다.

특히 AI 워크로드가 기업 전반에 걸쳐 전략 자산으로 부상하면서 유연하고 최적화된 인프라의 필요성이 커지고 있다는 점을 강조했다.

시장조사기관 IDC는 AI 시장 규모가 2027년까지 1조 달러에 이를 것으로 전망하고 있으며, 스태티스타(Statista) 또한 생성형 AI의 확산에 따라 프라이빗 GPU 인프라 수요가 급증할 것으로 내다봤다. 이에 따라 오케스트로는 업무 특성에 최적화된 인프라 설계, GPU 자원 운영의 효율성 확보, 확장 가능한 구조의 중요성을 강조하며, 이를 위한 전략을 공유했다.

오케스트로는 자사의 IaaS 기반 서버 가상화 솔루션 ‘콘트라베이스(CONTRABASS)’와 PaaS 기반 클라우드 네이티브 운영 플랫폼 ‘비올라(VIOLA)’를 중심으로 프라이빗 AI 인프라 구성 전략을 소개했다. GPU 환경에 대한 모니터링 대시보드, GPU 가상화, 베어메탈 자동화, NVIDIA 생태계 통합 등을 통해 자원 활용의 극대화를 도모하고 있다고 밝혔다.

또한, 자사 클라우드 환경 내에서 구현한 RAG 기반 프라이빗 LLM(거대언어모델) 적용 사례를 공개하며, 복잡한 인프라 환경에서도 안정적으로 AI 서비스를 운영할 수 있는 기술 역량을 입증했다.

김범재 대표는 “AI 워크로드는 더 이상 기술 영역에 국한되지 않고, 기업 운영 전반에 영향을 주는 전략 자산”이라며 “오케스트로는 앞으로도 AI에 최적화된 클라우드 인프라를 통해 다양한 고객 환경에서 유연하고 안정적인 운영을 지원하고, 국내 AI·클라우드 생태계 발전에 이바지할 것”이라고 밝혔다.

한편 오케스트로는 IaaS, PaaS, CMP, AIaaS, AIOps, DevOps 등 풀스택 클라우드 솔루션을 제공하고 있으며, VM웨어의 대안으로 주목받는 ‘콘트라베이스’를 비롯한 독자 기술력을 바탕으로 시장 내 입지를 확대하고 있다.

김현아 (chaos@edaily.co.kr)

Copyright © 이데일리. 무단전재 및 재배포 금지.