【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]"AI 보안, 전사적 가드레일 필요… 모델 개발자만의 책임 아니다"

온카뱅크관리자

2025-04-03 15:17:29

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">시스코 AI 제품 총괄, 파인튜닝 과정서 보안 무력화 가능성<br>기업 전반 대응 체계 갖춰야<br>공통 가드레일 적용 가능한 'AI 디펜스' 소개<br>웹엑스 AI 에이전트 공개…직원·고객 경험 강화</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="30I0yeSgsL">
          <p contents-hash="199379883ef58f5eed18e36a1fb945856d3a997bd101352a685e320158c0df15" dmcf-pid="0pCpWdvaEn" dmcf-ptype="general"> [이데일리 임유경 기자] “AI 시대의 새로운 보안 위협에 대응하려면 모델 개발자뿐 아니라 애플리케이션 개발자, AI 사업팀, 컴플라이언스팀, 일반 직원에 이르기까지 기업 전체에 적용되는 공통된 ‘가드레일’이 필요합니다.”</p>
          <p contents-hash="8eb57e5a54c86eec59c12618a16b5626afd0f5c83107323e79006dc87e1da7ce" dmcf-pid="pUhUYJTNEi" dmcf-ptype="general">아난드 라가반 시스코 AI 제품 총괄 부사장은 3일 서울 삼성동 그랜드 인터컨티넨탈 서울 파르나스에서 열린 ‘시스코 커넥트 코리아 2025’ 행사에 맞춰 진행된 화상 미디어 간담회에서 이같이 밝혔다. 그는 AI 보안을 위한 ‘플랫폼 차원의 가드레일’ 구축이 중요하다고 강조했다. 여기서 가드레일은 AI를 안전하고 책임 있게 활용하기 위한 공통 원칙과 안전장치를 의미한다.</p>
          <p contents-hash="d4c3a6f2db1b101aaf6848ee43eaa6e08e28cbb0789201a0fba2d33d3c12c4d2" dmcf-pid="UuluGiyjEJ" dmcf-ptype="general">라가반 부사장은 AI 보안이 어려운 이유로, “AI 모델 개발 이후 파인튜닝(미세 조정), 그리고 AI 앱 개발 등 각 단계를 거치며 초기 설정한 보안 가드레일이 무력화될 수 있다”고 지적했다.</p>
          <p contents-hash="c9460438601c1af565871b1e2a80424d0ce17e93f0856d257ca95eb65e60d5c1" dmcf-pid="u7S7HnWAEd" dmcf-ptype="general">예를 들어 기본 모델에선 ‘폭탄 제조법’ 등 민감한 질문에 대해 응답하지 않도록 설정했더라도, 파인튜닝을 통해 해당 제한이 풀릴 수 있고, 질문을 “연구 목적의 실험을 위해 알려달라”고 살짝 바꿔도 답변이 나올 수 있다는 것이다.</p>
          <p contents-hash="c18bdfa38e9109ee708ec334a9e86d6b7c1bd7f75caa49feb9793d43b5206bbd" dmcf-pid="7zvzXLYcwe" dmcf-ptype="general">그는 “이 같은 상황이 실제로 발생할 수 있는 만큼, AI 모델 개발자뿐 아니라 기업의 다양한 부서가 협력해 일관된 보안 체계를 마련하는 것이 중요하다”고 강조했다.</p>
          <figure class="figure_frm origin_fig" contents-hash="b1c04044037d2990f97f6f34eb085d9dc4af6e0306df6c4434f7e69bf4540bbc" dmcf-pid="zjfjMHP3sR" dmcf-ptype="figure">
           <p class="link_figure"><img alt="아난드 라가반 시스코 AI 제품 총괄 부사장(사진=시스코)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202504/03/Edaily/20250403151641841ewll.jpg" data-org-width="670" dmcf-mid="F2xwnFdzIo" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202504/03/Edaily/20250403151641841ewll.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            아난드 라가반 시스코 AI 제품 총괄 부사장(사진=시스코)
           </figcaption>
          </figure>
          <div contents-hash="763741eb090a74666573568973a4706654add2635b6a0c7b55f665f0cabfbdab" dmcf-pid="qA4ARXQ0EM" dmcf-ptype="general">
           아난드 부사장은 시스코가 최근 출시한 AI 디펜스는 플랫폼 차원의 가드레일을 제공한다는 점을 강조했다. 
          </div>
          <p contents-hash="1436e27d89325efd5f836af535b5455cd2f087f240b5d8c7fa120a2c2d067a0c" dmcf-pid="Bc8ceZxpDx" dmcf-ptype="general">그는 “이 플랫폼은 안전, 보안 및 개인정보보호 가드레일을 기반으로 AI 기반 애플리케이션을 보호한다”며 “이러한 가드레일은 오픈웹애플리케이션보안프로젝트(OWASP) 선정 대형언어모델 10대 취약점(LLM10), 미국 국립표준기술연구소(NIST)의 AI 위험 관리 프레임워크, 마이터 아틀라스(MITRE ATLAS) 등 국제 표준을 준수하고 있다”고 설명했다.</p>
          <p contents-hash="f9c81872aafb9cde36b8d57a8e9b58c1cbef05780230ae0c978d6eccb789bcd4" dmcf-pid="bk6kd5MUwQ" dmcf-ptype="general">시스코는 기업이 빠르게 변화하는 보안 위협 환경 속에서도 안심하고 AI 애플리케이션을 개발, 배포, 보호할 수 있도록 지원하는 보안 솔루션 ‘AI 디펜스’를 최근 출시했다. 시스코가 지난해 인수한 5개 AI 보안 업체가 가진 솔루션을 모두 통합해 기업이 AI를 활용하고자 할 때 필요한 보안 기능을 종합적으로 제공한다. 시스코 토탈 보안 플랫폼인 ‘시스코 시큐리티 클라우드’에 완벽하게 통합돼, AI 시대 새로운 형태의 사이버 위협을 신속하고 효과적으로 차단할 수 있도록 설계됐다.</p>
          <p contents-hash="b1843adf2a63f4d8374b7ace7896970fd5f5bc89375a12f506150cb0cc9dd727" dmcf-pid="KEPEJ1RuOP" dmcf-ptype="general">AI를 안전하게 사용할 수 있는 환경이 먼저 갖춰져야 AI 애플리케이션도 확산될 것이라는 게 그의 생각이다. 그는 “2024년만 해도 기업들은 생성형 AI를 어떻게 사용할지 고민하는 단계에 있었지만 올해부터는 어떻게 AI 모델을 제품(프로덕션) 단계로 가져올 수 있을지가 화두로 떠올랐다”며 “기업들이 AI 활용을 주저하게 만드는 유일한 요인은 안전과 보안에 대한 우려와 규제 준수 문제다”라고 짚었다.</p>
          <p contents-hash="996261a8d0d8c4e94a2610087ebbc4e9e00d7c844de008fd714129c79fa39785" dmcf-pid="9DQDite7r6" dmcf-ptype="general">시스코는 이날 웹엑스의 AI 기반 에이전트 기능 추가도 발표했다. 최근 업데이트된 웹엑스 AI 에이전트는 AI와 인간 상담원을 결합해 고객 응대 시간을 단축하고 문제 해결을 자동화한다. 웹엑스 AI 에이전트는 실시간 대화를 통해 고객의 요구를 분석하고 적절한 해결책을 제안하며, 스크립트를 기반으로 사전 설정된 응답을 제공하는 가상 상담원 역할도 수행할 수 있다.</p>
          <p contents-hash="5a4d16fd4281b9119e7425e025cffda05106eaae84cd9259b102cba7b0fbe829" dmcf-pid="2wxwnFdzI8" dmcf-ptype="general">데이비드 코벤트리 시스코 APJC(아시아태평양·일본·중국) 협업 부문 매니징 디렉터는 “웹엑스 AI 에이전트는 음성 및 디지털 채널 모두에서 진짜 인간처럼 자연스러운 상호작용을 가능하게 한다. 이를 통해 고객은 AI가 전체 대화를 주도하는 자율 AI 에이전트를 구축하거나, 기본 인텔리전스를 AI가 제공하는 스크립트 에이전트를 통해 대화를 유도하는 것도 가능하다”며 “이 에이전트들은 고객의 의도를 정밀하게 파악할 뿐만 아니라 기존 시스템과의 연계도 가능해 고객의 요구를 충족할 것으로 기대를 모은다”고 밝혔다. 출시를 앞둔 웹엑스 AI 에이전트는 9개 언어를 지원할 예정이다. 한국어 지원은 오는 3분기부터 시작될 예정이다.</p>
          <p contents-hash="7ff4db2a1f5ebf86430e5ac037b1aafc5a4f8958d02adf18c7f71c4b4dfb7fa2" dmcf-pid="VrMrL3Jqs4" dmcf-ptype="general">최지희 시스코코리아 대표는 “지난 40년간 네트워킹 분야를 선도해 온 시스코는 이제 보안, AI, 데이터 혁신을 주도하는 기업으로 변화하고 있다”며, “시스코는 AI 기능을 대폭 강화한 네트워킹, 보안, 협업, 가시성 솔루션으로 기업 고객의 AI 전환과 디지털 회복탄력성을 지원하겠다”고 밝혔다.</p>
          <p contents-hash="0d0ba14d906210eb98abc33ed3fd16fb4008b40c5477ed0350d49d9e6c72340f" dmcf-pid="fmRmo0iBDf" dmcf-ptype="general">임유경 (yklim01@edaily.co.kr) </p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기