[IT동아 강형석 기자] 인공지능의 추론 계산량이 빠르게 증가하면서 기업들은 시설(인프라) 투자에 열을 올리고 있다. 메타는 2025년 중 인공지능 인프라 확보 목적으로 최대 720억 달러(약 94조 230억 원)를 투자하고, 구글도 인공지능 데이터센터에 최대 750억 달러(약 115조 7200억 원)를 지출할 예정이다. ▲소프트뱅크 ▲오픈AI ▲오라클 ▲엔비디아 ▲Arm ▲마이크로소프트 등으로 구성된 스타게이트 프로젝트는 총 사업규모가 5000억 달러(약 729조 3500억 원)에 달한다. 엄청난 비용 중 대부분은 시설과 장비 투자에 쓴다.

2025년 3월 18일(미국 현지 기준) 개최된 GTC 2025 기조연설에 나선 젠슨 황(Jensen Huang) 엔비디아 최고경영자(CEO)는 “인공지능은 변곡점을 지나고 있다. 더 똑똑해지고 유용해졌다. 하지만 인공지능 모델을 훈련하는 데 필요한 추론 데이터의 양은 1년 사이에 급격히 증가했다. 데이터 센터 투자액 또한 2028년에는 1조 달러(약 1458조 7000억 원)에 달할 것으로 예상된다”고 말했다.

사티아 나델라(Satya Nadella) 마이크로소프트 최고경영자(CEO)는 2025년 4월 30일 진행된 컨퍼런스 콜에서 “인공지능 언어 모델 성능은 매 6개월마다 2배씩 증가하고 있다. 2025년 6월 이후에는 인공지능 연산에 필요한 데이터 센터 용량에 제약이 발생할 것”이라고 말했다.

앤디 재시(Andy Jassy) 아마존 CEO도 “아마존의 인공지능 잠재력을 완전히 구현하려면 클라우드 내에 인프라와 데이터가 있어야 한다. 2025년 하반기에는 용량을 늘려 더 많은 고객을 지원하고 사업 수익을 확보할 것”이라고 말했다.

마이크로소프트, 구글, 아마존 등 인공지능 서비스 기반 대규모 데이터 센터와 클라우드 인프라를 갖춘 하이퍼스케일러(Hyperscaler)들은 폭발적으로 증가하는 인공지능, 클라우드 데이터를 처리하는 데 집중하고 있다. 하지만 단순히 저장공간을 늘리는 것으로 문제 해결은 불가능하다. 방대한 데이터를 빠르고 효율적으로 전송하는 기술이 필요하다. 네트워크 장비, 기술 시장이 함께 주목받는 이유다.

인공지능, 클라우드 환경 구축의 필수 시설 ‘데이터 센터’

데이터 센터는 컴퓨터, 네트워크 장비 등을 모아 놓은 건물 또는 장소를 의미한다. 우리가 가정, 직장 내에서 컴퓨터(PC) 1대~2대 가지고 작업을 하지만, 데이터 센터 내에는 수천 대에서 수십만 대에 달하는 컴퓨터가 모여 있다. 데이터 센터 내에 설치된 컴퓨터는 모두 거미줄처럼 연결되어 있는데 필요한 데이터를 단독 처리하거나 순차(병렬) 처리한다. 마치 PC로 구성된 거대한 두뇌인 셈이다.

데이터 센터는 컴퓨터와 네트워크 장비가 대규모 시설 내에 구축되어 있다 / 출처=AMD

데이터 센터의 역할은 다양하다. 데이터 저장, 수집, 처리 과정은 기본이고 시스템 자원을 외부에서 사용 가능하도록 도와준다. 넷플릭스 앱에 접속해 영화를 본다고 가정하자. 사용자는 앱에 접속해 원하는 콘텐츠를 감상하면 되지만 넷플릭스는 수많은 영상, 게임 콘텐츠를 전 세계에 설치된 데이터 센터 내에 저장한다. 앱으로 원하는 콘텐츠를 요청하면 데이터 센터는 요청한 콘텐츠를 찾아 사용자에게 전송한다.

인공지능 서비스를 쓸 때도 마찬가지다. 사용자가 원하는 프롬프트(문자)를 입력해주면 사진영상, 검색 결과를 정리하는 등 원하는 결과물을 얻는다. 하지만 데이터 센터 내에서는 언어 모델이 저장된 자료를 계속 분석하고 학습하며 정확한 결과를 도출하는 데 집중한다. 마치 사람이 학습하는 것과 유사하다. 개인이 다루기 어려운 방대한 연산을 데이터 센터가 대신하고 있다.

시장조사 기업 IDC와 씨게이트가 발간한 ‘데이터 시대 2025’에 따르면 2018년부터 2025년까지 전 세계 데이터 센터 저장 데이터 용량은 10배 이상 증가할 것으로 예상된다. 2025년까지 175제타바이트(ZB – 1750억 테라바이트)의 데이터가 저장된다는 이야기다. 현재 PC 저장장치 최대 전송속도를 초당 10기가바이트(GB)라 가정하면 모든 데이터를 내려받는 데 약 55만 4520년이 걸린다.

데이터를 빠르게 전송하는 네트워크 기술 개발 가속화

폭증하는 데이터 센터 내 인공지능 연산 결과물과 저장 데이터들을 적재적소에 전달하려면 초고속 네트워크 전송 기술이 필요하다. 하지만 데이터 센터 간 전송 외에도 일반 소비자에게 원활한 서비스를 제공하는 등 시장의 요구조건은 다양하고 복잡해졌다. 네트워크 시스템과 관련 인프라 구축에 대한 기업의 관심이 증가하는 이유다.

엔비디아는 네트워크 전송 기술을 직접 개발, 데이터 전송 속도를 최적화했다 / 출처=엔비디아

엔비디아는 스펙트럼(Spectrum)-X로 대응 중이다. 블랙웰 플랫폼에는 스펙트럼-X800 이더넷 스위치와 퀀텀(Quantum)-X800 스위치가 호흡을 맞춘다. 스펙트럼-X는 인공지능 가속기가 처리한 데이터를 순차적으로 처리했던 기존 네트워크 전송 방식이 아닌 가속기간 상호 연동을 통해 속도를 높인다. 빠른 데이터 전송을 위해 블루필드(BlueField)-3 네트워크 가속기(SuperNIC)를 쓴다. 이 장치는 1초에 400기가비트(Gb)를 전송할 수 있다. 초당 50기가바이트(GB) 전송이 가능한 성능이다. 스펙트럼-X800 스위치 장비는 64개 네트워크 단자를 제공하며 단자당 초당 800기가비트 데이터 전송을 지원한다.

스펙트럼-X의 성능을 개선하면서 루빈 플랫폼이 적용되는 시점인 2026년에는 데이터 전송량을 최대 2배 끌어 올리는 게 엔비디아의 계획이다. 기기간 데이터 전송을 지원하는 NV링크(NVLink)도 6세대에서 초당 3600기가바이트를 전송하는 것을 목표로 개발을 진행하고 있다.

AMD, 인텔, 네트워크 기업 등도 연합을 구성해 초고속 전송 기술 개발에 나섰다 / 출처=AMD

AMD도 인공지능 가속기에서 처리되는 데이터 전송 속도를 높이기 위해 초 가속 연결(Ultra Accelerator Link) 그룹을 결성했다. 인텔, 브로드컴, 마이크로소프트, 메타, 구글, HP 등 IT 기업이 참여해 데이터 센터 내 인공지능 시스템을 위한 고속ㆍ저지연 통신 기술을 논의한다. 이미 울트라 이더넷 컨소시엄(UE Consortium)을 통해 초기 기술을 개발했다. 1세대 고속 전송 기술은 인공지능 시스템 내에서 최대 1024개 가속 연결을 지원하고 각 장치간 메모리 접근 및 저장이 가능하다.

네트워크 인프라 기업의 2025년 1분기 실적 호조 ‘시장은 성장 중’

네트워크 기술과 함께 인프라(시설) 시장도 지속 성장 중이다. 네트워킹 및 광자학(포토닉스) 기술을 다루는 코히런트의 2025년 1분기 실적은 15억 달러로 이전 분기의 14억 4000만 달러(약 2조 102억 원)를 상회했다. 인공지능 데이터 센터와 통신 부문의 수요 상승이 실적을 견인했다. 2025년 2분기 실적 전망치도 14억 2500만 달러(약 1조 9887억 원)에서 15억 7000만 달러(약 2조 1910억 원)를 제안하며 시장 예상치 14억 7000만 달러(약 2조 515억 원)를 만족했다. 특히 광섬유로 800기가비트(100Gb x 8) 데이터 전송이 가능한 800G 트랜시버의 수요 증가가 예상됐다.

데이터 센터 네트워크 스위치와 소프트웨어 설루션을 제공하는 아리스타 네트웍스도 2025년 1분기 매출 20억 1000만 달러(약 2조 8051억 원)를 기록하며 시장의 예상을 상회했다. 800기가비트 스위치 장비와 연결 플랫폼 등 인공지능 네트워크 인프라의 판매 확대가 실적에 영향을 줬다.

네트워크 전문 기업 시스코 시스템즈도 2025년 1분기 실적을 공개했다. 매출 141억 달러(약 19조 6342억 원)로 이전 분기 140억 달러(약 19조 4950억 원) 대비 소폭 상승했지만 인공지능 인프라 부문 수주액이 10억 달러(약 1조 3925억 원)를 돌파한 것으로 알려지며 성장에 대한 기대감을 심어줬다. 척 로빈스(Chuck Robbins) 시스코 CEO는 “인공지능 시장 흐름이 강하게 유지되리라 믿는다. 시스코는 미래 성장을 위해 계속 투자할 것”이라고 말했다.

하지만 트럼프 행정부의 무역 관세는 네트워크 인프라 기업 투자 심리의 변수로 작용하고 있다. 네트워크 인프라 기업은 모두 매출 증가에 자신감을 보이면서도 관세가 장기적으로 순이익에 영향을 줄 것으로 예상했기 때문이다. 트럼프 행정부가 국가 간 관세 협정을 어떻게 마무리하는가에 따라 투자 변동성이 발생할 전망이다.

IT동아 강형석 기자 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

Copyright © IT동아. 무단전재 및 재배포 금지.