【오즈커뮤-OZcommunity】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 스포츠뉴스 : 안구정화 놀이터홍보 놀이터후기공유 피해사례공유

로그인

글쓰기

[IT뉴스]구글 이어 메타 AI도 오류로 망신…'신뢰성 점검' 숙제 받은 빅테크들

온카뱅크관리자

2024-03-06 11:00:04

<div id="layerTranslateNotice" style="display:none;"> 
        </div>  <strong class="summary_view" data-translation="true">"데이터 학습 과정에서 과잉 보정돼 오류" <br> 빅테크 내부 'AI레드팀' 역할 확대에 관심</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="98ZqMCme5M">
          <figure class="figure_frm origin_fig" dmcf-pid="2dU4oYva5x" dmcf-ptype="figure">
           <p class="link_figure"><img alt="메타의 이미지 생성형 인공지능(AI)인 이매진이 만든 이미지. 사진 악시오스 캡처" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202403/06/hankooki/20240306110007670xymw.jpg" data-org-width="560" dmcf-mid="5QxJw01mGk" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202403/06/hankooki/20240306110007670xymw.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            메타의 이미지 생성형 인공지능(AI)인 이매진이 만든 이미지. 사진 악시오스 캡처
           </figcaption>
          </figure>
          <p dmcf-pid="foBxA5GkXP" dmcf-ptype="general"><strong>구글에 이어 메타도 명령어만 입력하면 이미지를 그려주는 생성형 인공지능(AI)이 엉뚱한 이미지를 내놓아 망신을 자초하고 있다. </strong>AI 개발 열풍을 이끄는 빅테크들이 시장 선점을 위해 '새 상품' 출시 경쟁에 급급해 AI 기술의 한계를 스스로 드러냈다는 지적이 나온다. </p>
          <p dmcf-pid="4mxNhBuS56" dmcf-ptype="general">5일 IT(정보기술) 업계에 따르면 <strong>메타가 지난해 12월 출시한 생성형AI인 '이매진 위드 메타 AI(이매진)'에서 편향되거나 역사적으로 사실과 다른 이미지를 생성하는 오류가 일어나고</strong> 있다. 예를 들어 사용자가 '교황 이미지를 그려줘'라고 요청하면 이매진은 흑인 교황을 그렸다. 역사적 사실을 고려하지 않고 잘못된 결과물을 내놓은 셈이다. </p>
          <p dmcf-pid="8sMjlb7vY8" dmcf-ptype="general"><strong>구글도 지난달 출시한 생성형AI모델인 '제미나이'의 이미지 생성 기능에서 오류가 발생해 20여 일 만에 서비스를 중단</strong>했다. 제미나이도 독일 나치군을 아시아인으로 묘사하는 등 사실과 다른 이미지를 만들었다. 오픈AI의 챗GPT 추격자로 내세웠던 제미나이의 신뢰성 논란이 일자 구글 내부에선 순다르 피차이 최고경영자(CEO)가 물러나야 한다는 요구까지 나오고 있다. </p>
          <hr class="line_divider" dmcf-pid="QwPgIzph1V" dmcf-ptype="line">
          <h3 dmcf-pid="xrQaCqUlt2" dmcf-ptype="h3">정확성 떨어지는 생성형AI… 'AI레드팀' 운영 강화하는 기업들 </h3>
          <figure class="figure_frm origin_fig" dmcf-pid="yZkS3dxp59" dmcf-ptype="figure">
           <p class="link_figure"><img alt="생성형 인공지능(AI)이 발전하면서 잘못된 정보를 내놓는 오류도 덩달아 늘어나고 있다. 게티이미지뱅크" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202403/06/hankooki/20240306110009718rokv.jpg" data-org-width="640" dmcf-mid="KAJEyVbY1R" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202403/06/hankooki/20240306110009718rokv.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            생성형 인공지능(AI)이 발전하면서 잘못된 정보를 내놓는 오류도 덩달아 늘어나고 있다. 게티이미지뱅크
           </figcaption>
          </figure>
          <p dmcf-pid="Y1DTpiRu5b" dmcf-ptype="general"><strong>빅테크들의 생성형AI가 정확하지 않은 결과물을 내놓는 건 데이터 학습 과정에 문제가 있기 때문</strong>으로 분석된다. 생성형AI는 초거대언어모델(LLM)에 방대한 양의 데이터를 학습시켜 일종의 알고리즘을 구축한 후 이를 바탕으로 이미지나 텍스트를 만들어 낸다. 이때 AI의 편향성 논란을 피하기 위해 '인종·성별·직업 등에 편견이 없어야 한다'는 다양성만 지나치게 학습시키다 보니 왜곡된 결과물이 나오는 것이다. 구글 스스로도 "다양성을 주의하라는 지침을 강화한 후 알고리즘이 지나치게 신중해지면서 과잉 보정을 불러왔다"고 분석했다. </p>
          <p dmcf-pid="G3mY7oJqGB" dmcf-ptype="general"><strong>생성형 AI의 정확성 높이기가 새로운 과제로 떠오르자 빅테크는 내부에서 쓴소리를 담당하는 'AI레드팀' 운영을 확대하는 모습</strong>이다. 통상 테크 기업에서 레드팀은 소프트웨어(SW) 보안을 강화하는 역할을 한다. 하지만 <strong>AI레드팀은 AI가 비윤리적이거나 부적절한 답변을 내놓지 않도록 사전 테스트를 해 신뢰성을 높이는 역할</strong>을 맡고 있다. 실제 마이크로소프트(MS)는 AI레드팀의 테스트를 반드시 통과해야 생성형AI 서비스를 출시할 수 있다. 오픈AI도 최근 동영상을 만드는 AI인 '소라(Sora)'를 위험 기술로 분류하고 영화 제작사, 디자이너 등이 합류한 레드팀을 꾸려 안전성 테스트를 하는 중이다. </p>
          <p dmcf-pid="H0sGzgiBHq" dmcf-ptype="general">국내 기업들도 AI레드팀 운영에 힘을 싣고 있다. <strong>네이버는 올해 초 AI 안전성 연구를 전담하는 조직인 '퓨처 AI 센터'를 최수연 네이버 대표 직속으로 새로 만들었다</strong>. 퓨처 AI 센터에서는 AI 안전성과 정확성을 높이기 위한 기술을 연구하고 AI윤리 정책을 연구하고 있다. <strong>카카오도 기술윤리위원회에서 AI 윤리 준수 여부를 감시</strong>하고 있다. 인권과 기술윤리팀이 방향성을 제시하면 각 계열사 대표나 최고기술책임자(CTO)가 참여하는 위원회에서 기술‧서비스 내용을 점검하는 방식이다. 국내 IT 업계 관계자는 "생성형 AI는 작동 방식이 불분명하고 적용 범위가 너무 넓어 최대한 많은 경우의 수로 점검하는 과정이 필요한 상황"이라고 설명했다. </p>
          <p dmcf-pid="XE8Lsu3I1z" dmcf-ptype="general">김지현 기자 hyun1620@hankookilbo.com</p>
         </section> 
        </div> 
        <p data-translation="true">Copyright© 한국일보. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

올나잇스머프

100

풀카

100

우로스써보세요

100

노익스플로드

100

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기