【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]"트럼프·시진핑 희화화해도 OK"…챗GPT '이미지 정책' 완화

온카뱅크관리자

2025-04-01 06:27:28

<div id="layerTranslateNotice" style="display:none;"></div> 민감사항 포괄거부→실질적 피해방지 전환…혐오 확산 우려 "창의적 자유 극대화" vs "AI 콘텐츠 문화·혐오 전쟁 예상" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="92VLrQIi5x">
 <figure class="figure_frm origin_fig" contents-hash="0933f991022afdb7f7efd91395a083d25d30c2845a5467118e5e5ada830846cd" dmcf-pid="2VfomxCnHQ" dmcf-ptype="figure">
 <img alt="27일(현지시간) 미국 백악관 공식 X 계정에 게재된 챗GPT 생성한 지브리 스타일 이미지. 이는 17일 미국 필라델피아에서 마약 밀매, 불법 거주 혐의로 체포된 여성의 모습을 재현한 것으로 추정된다.(미국 백악관 X 갈무리)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202504/01/NEWS1/20250401062007497nilg.jpg" data-org-width="583" dmcf-mid="1gnwygHEXA" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202504/01/NEWS1/20250401062007497nilg.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 27일(현지시간) 미국 백악관 공식 X 계정에 게재된 챗GPT 생성한 지브리 스타일 이미지. 이는 17일 미국 필라델피아에서 마약 밀매, 불법 거주 혐의로 체포된 여성의 모습을 재현한 것으로 추정된다.(미국 백악관 X 갈무리)
 </figcaption>
 </figure>
 (서울=뉴스1) 김민석 기자 = 트럼프 미국 대통령, 시진핑 중국 국가주석, 일론 머스크 테슬라 CEO 등 글로벌 인사들의 이미지를 챗GPT로 생성하고 자유자재로 수정할 수 있게 됐다.
 오픈AI가 '지브리 스타일' 열풍을 부른 '챗GPT 4o 이미지 제네레이션'을 출시하면서 이미지 생성 관련 콘텐츠 제한 정책을 대폭 완화하면서다.
 이전엔 유명인 이미지, 일부 증오·혐오 표현, 인종적인 이미지 생성을 제한했지만, 해당 제한이 풀렸다. 모든 콘텐츠 생성을 일반 이용자 재량에 맡기면서 문화 전쟁 또는 혐오 콘텐츠 확산 우려가 나온다.
 1일 IT 업계에 따르면 조앤 장 오픈AI 모델행동 총괄은 27일(현지시간) 자신의 X(옛 트위터)를 통해 "챗GPT 4o 이미지 생성 기능은 여러 가지로 특별한 출시"라며 "그 중 하나는 샘 올트먼 CEO가 '창의적 자유 허용에 있어 새로운 정점'이라고 표현한 것"이라고 말했다.
 이어 "우리는 자체적인 예측보다 이용자의 창의성을 신뢰한다"며 "오픈AI 연구실 직원은 사람들이 무엇을 만들어야 하고 무엇을 만들 수 없는지 판단자가 돼서는 안 된다. 챗GPT 4o 이미지 생성을 출시한 후 겸손해지려 한다. 돌이켜보면 우리가 제한한 관점으론 떠오르지 못할 사례도 (이용자들은) 발견한다"고 전했다.
 <figure class="figure_frm origin_fig" contents-hash="5889e92f7db7a291bad58a52fcc7a0305165d7ba6fd2e59fc00fa7c0c30dc4d7" dmcf-pid="PChF9W41tV" dmcf-ptype="figure">
 <img alt="조앤 장 오픈AI 모델행동 총괄 X 갈무리" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202504/01/NEWS1/20250401062009084lkks.jpg" data-org-width="502" dmcf-mid="0DQaORlotg" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202504/01/NEWS1/20250401062009084lkks.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 조앤 장 오픈AI 모델행동 총괄 X 갈무리
 </figcaption>
 </figure>
 <figure class="figure_frm origin_fig" contents-hash="e6da5785d021d6be9e04c7a9c2ce70ed886da67b6bb5478ff78d0ee9521eb723" dmcf-pid="Qhl32Y8t12" dmcf-ptype="figure">
 <img alt="조앤 장 오픈AI 모델행동 총괄 X 갈무리" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202504/01/NEWS1/20250401062011316dzcv.jpg" data-org-width="948" dmcf-mid="K64gsMhLYM" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202504/01/NEWS1/20250401062011316dzcv.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 조앤 장 오픈AI 모델행동 총괄 X 갈무리
 </figcaption>
 </figure>
 그러면서 "우리는 실질적인 피해를 방지하면서 창의적 자유를 극대화하는 것을 목표로 삼았다"며 "오픈AI는 '지위'에 관계없이 모든 사람에게 공정하고 동등하게 정책을 적용하길 바란다. 우리는 '충분히 중요한 사람'이 누구인지 판단하는 중재자가 되기보다 누구든 (이미지 생성 여부를) 스스로 결정할 수 있도록 옵트-아웃 목록을 만들기로 했다"고 설명했다.
 이는 이미지 생성 모델이 유명인을 포함한 모든 사람 이미지를 모방할 수 있도록 하고, 당사자가 이를 원하지 않는 경우 이미지 생성을 제한하겠다는 의미다.
 장 총괄은 '공격적 콘텐츠' 정의와 관련해선 그동안 명확한 지침이 없었던 탓에 '이 사람의 눈을 더 아시아인처럼 보이게 해줘' 등의 프롬프트를 거부해왔다며 의도하지 않았지만 이러한 속성 역시 본질적으로 공격적이라며 정책 완화의 이유로 들었다.
 장 총괄은 "궁극적으로 더 진전하기 위해 더 관대한 정책을 적용할 것"이라며 "오픈AI가 안전 기준을 낮추는 것으로 오해받을 수 있다는 점을 알지만, 개인적으로 저는 그것이 팀의 광범위한 연구, 사려 깊은 토론 등을 정의 내리지 못한다고 생각한다"고 언급했다.
 이와 관련 외신은 테스트 결과 '나치 상징 스와스티카 문양' '눈을 아시아인의 눈처럼 그려줘' '더 뚱뚱하게 그려줘' 등의 요청을 그대로 받아들이는 것을 확인했다고 전했다. 
 테크크런치는 "AI 콘텐츠 관리를 둘러싼 문화 전쟁이 대두될 수 있다"고 우려했다.
 오픈AI는 앞서 올해 2월 챗GPT 답변(콘텐츠) 제한 정책을 완화하며 '오렌지색 경고창'을 점진적으로 제거한 바 있다.
 ideaed@news1.kr 
 </section> 
 </div> 
 Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기