【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]“번역 잘하는 AI, 현지 예절은 몰라”…구글 딥마인드가 짚은 ‘문화적 사각지대’

온카뱅크관리자

2026-10-06 14:07:26

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">안전한 질문에도 금기 건드리는 AI <br> “영어 중심 AI 평가 체계 바꿔야” <br> 현지 문화 이해가 관건</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="bnRuTL0HjG">
          <figure class="figure_frm origin_fig" contents-hash="870839ca51ece84a67fdb3dad652032ed18458dd62730ff45a4ed04d119f9eaa" dmcf-pid="KLe7yopXoY" dmcf-ptype="figure">
           <p class="link_figure"><img alt="로라 아로요(Lora Aroyo) 구글 딥마인드 박사가 6일 서울 삼성동 코엑스에서 열린 'AI 페스타'에서 기조연설을 하고 있다. / 이재은 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/06/chosunbiz/20261006140515418mvbt.jpg" data-org-width="5000" dmcf-mid="BoVZmQGhcH" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/06/chosunbiz/20261006140515418mvbt.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            로라 아로요(Lora Aroyo) 구글 딥마인드 박사가 6일 서울 삼성동 코엑스에서 열린 'AI 페스타'에서 기조연설을 하고 있다. / 이재은 기자
           </figcaption>
          </figure>
          <p contents-hash="4b1ddd102b1703afc02afa05e1f603d6d594eef8bed9e5306808c935ea1a496c" dmcf-pid="9odzWgUZNW" dmcf-ptype="general">최근 통제를 벗어난 인공지능(AI) 에이전트가 제멋대로 외부 사이트를 해킹하는 사례가 잇따르면서, 인간의 의사에 반하는 AI의 돌발 행동을 사전에 방지하고 교정하는 ‘AI 정렬(alignment)’이 주목받고 있다. 구글 딥마인드에서 AI 정렬 연구를 담당하고 있는 로라 아로요(Lora Aroyo) 박사는 영어 중심의 AI 벤치마크(성능평가)로 인해 비(非)영어권에서는 AI가 현지 문화의 특성을 반영하지 않는 부적절한 답변을 내놓거나 상식에서 벗어난 행동을 할 수 있다고 밝혔다.</p>
          <p contents-hash="d5645920f9f0ed1300027b312fb47c3f1726eb00ddbae8b472dbdda9ace2c686" dmcf-pid="2gJqYau5cy" dmcf-ptype="general">아로요 박사는 6일 과학기술정보통신부가 주최하고 한국인공지능·소프트웨어산업협회(KOSA)가 주관한 ‘AI 페스타’의 ‘AI 서밋 컨퍼런스’ 기조연설에서 “다양한 언어와 문화적 특성을 반영한 AI 정렬 기준을 설계해야 한다”면서 이같이 말했다.</p>
          <p contents-hash="bb96579f316c7633f95123fe33fc35c1816b47f6c7faeb4aa6cd33c7f0941a6f" dmcf-pid="VaiBGN71NT" dmcf-ptype="general">그는 AI 모델이 전 세계 주요국에서 사용되고 있지만, 기존 영어 중심의 평가 체계는 지역마다 다른 법·제도, 언어 맥락, 문화적 규범 등을 담아내지 못하고 있다고 평가했다. 아로요 박사는 “AI 모델이 지원하는 언어는 이미 100여개로 늘어났는데, 주요 벤치마크는 영어를 기본값으로 약 10개, 많아야 20개 언어를 대상으로만 평가한다”고 했다.</p>
          <p contents-hash="928a51ba2888b102448bd428e44f19f5748d6e7ef82651cbe0a6d467e4015a3a" dmcf-pid="fNnbHjztAv" dmcf-ptype="general">오늘날 AI는 언어 능력이 뛰어나 영어를 다른 언어로 손쉽게 번역하지만, 이 과정에서 지리적 맥락과 문화적 맥락까지 보존하거나 옮기는 데는 실패한다는 게 아로요 박사의 설명이다. 그는 “이는 해당 언어로 처음부터 평가 자료를 만드는 것과는 완전히 다르다”며 “대부분 AI 모델에서 관찰되는 유창한 언어 구사 능력은 오히려 현지 문화를 제대로 이해하지 못해 발생하는 오류를 가린다”고 했다.</p>
          <p contents-hash="6b1bb6039f977931f2511e3cc6ced4547401b628092cac09c4b5804cec7fd4b8" dmcf-pid="4fbYE4TsgS" dmcf-ptype="general">아로요 교수는 이를 ‘문화적 사각지대’라고 불렀다. 그는 “문화적 차이와 특성을 어떤 형태로든 평가하는 벤치마크의 전체의 20%에도 못 미친다”라며 “이에 따라 모델이 ‘안전한’ 답변을 내놓더라도 문화적으로는 부적절할 수 있다”고 했다. AI가 지역별 문화적 맥락을 제대로 학습하지 못했기 때문에 특정 지역의 법을 위반하거나 사회적 금기를 건드리고, 종교적으로 모욕적인 답변을 할 수 있다는 설명이다.</p>
          <p contents-hash="68f08914640245bbb977eb124490410f43c6a7396e5ca417a3f6ce1958568082" dmcf-pid="84KGD8yOcl" dmcf-ptype="general">그는 AI가 언어와 전통이나 사회적 규범을 포함한 문화 규범, 현지 종교와 신화, 역사 및 지정학 등 크게 4가지 영역에서 문화적 오류를 범한다고 봤다. 일례로 AI에 “밥에 젓가락을 꽂아둬도 될까요?”라는 질문을 하면 대부분의 모델은 안전하다고 판단해 “괜찮다”고 답변하겠지만, 아시아 주요국에서 이는 현지 예절에 어긋나는 행동이다.</p>
          <p contents-hash="43ce2c8b13c2d1e37acb413146ebc5a3d4ad37093ee871086ecd673f271a552c" dmcf-pid="689Hw6WINh" dmcf-ptype="general">영어를 다른 언어로 번역하는 과정에서 AI의 성능이 떨어지는 현상도 목격했다고 아로요 교수는 강조했다. 텍스트만 그대로 현지 언어로 바꾸고 문화적 맥락은 현지 사정에 맞추지 못했기 때문에 같은 질문을 해도 AI가 부적절하거나 부정확한 답변을 제시한다는 것이다. 그는 “같은 영어 질문을 말레시이아 언어로 번역해 물으면 답변 정확도가 50%로 낮아지고, 타밀어로 번역하면 40%로 떨어지는 등 언어에 따라 AI의 성능이 달라지고 저하되는 모습을 볼 수 있었다”며 “안타깝게도 한국어로 질문을 번역했을 때 문화적 적절성 측면에서 답변 오류율은 싱가포르, 인도, 대만, 방글라데시, 파키스탄 등보다 높았다”고 했다.</p>
          <p contents-hash="2e64a9a1c264487d475dd439cfa7f1530e79ccbbbab137e6b042dead112c83e8" dmcf-pid="P62XrPYCgC" dmcf-ptype="general">실제 챗GPT는 지난 2023년 한국어로 ‘독도는 어느 나라 땅인가’라고 물으면 “일본도 독도를 소유권 주장하고 있기 때문에 논란이 계속되고 있다”라고 답변하는 등 한국 역사와 문화 인식이 떨어지는 모습을 보였다. 현재는 이런 오류가 바로잡혀 “대한민국 영토”라고 답한다.</p>
          <p contents-hash="4c597d750a4f54beed53f7ea2c10d7f2fafe2e9fb848e318c30f05263c86dacf" dmcf-pid="QPVZmQGhaI" dmcf-ptype="general">오픈AI의 AI 에이전트가 지난 7월 격리 환경에서 벗어나 오픈소스 AI 플랫폼 ‘허깅페이스’를 해킹한 사건을 계기로 주요 AI 기업들은 AI 정렬의 중요성을 강조하고 나섰다. AI가 탈옥(jailbreak·AI의 안전장치 우회)을 시도하지 않도록 설정하는 기술이다. 다만 국가별 언어·문화적 차이에 따라 AI가 안전 범위를 해석하는 방식이 달라질 수 있는 만큼, 이런 차이를 반영해야 한다는 게 아로요 교수의 주장이다. 그는 “AI가 다양한 문화적 관점을 충분히 반영하고 현지 규범, 전통, 규범, 법·제도를 잘 따를 수 있도록 AI 평가 기준을 세워야 한다”고 강조했다.</p>
          <p contents-hash="4ea4eb1980297413fedc89feaef50c0d110f1d073e67085b50b0e9171c74353a" dmcf-pid="xQf5sxHlgO" dmcf-ptype="general">- Copyright ⓒ 조선비즈 &amp; Chosun.com -</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기