'원티드 하이파이브 2025' 개막…성과 요구하자 시스템 해킹하는 AI
"AI가 윤리적 선택하도록 고민해야…조직 문화도 중요"

원티드 하이파이브 2025 [원티드랩 제공. 재판매 및 DB 금지]

(서울=연합뉴스) 김현수 기자 = "인공지능(AI) 에이전트가 똑똑해질수록 에이전트의 윤리적 행동은 감소할 수 있습니다"

19일 서울 강남구 코엑스에서 개막한 '원티드 하이파이브 2025'에서 이중학 가천대 경영학과 교수는 HR(인적 관리) 업무에서 AI 에이전트를 활용해 업무 효율에만 집중할 경우 부작용이 일어날 수 있다며 이같이 말했다.

이 교수는 오픈AI의 추론 AI 모델 'o1'과 중국 딥시크의 'R1'이 서로 체스를 수행한 연구를 언급하며, 성과 위주의 명령이 AI의 비윤리적 행동을 유발할 수 있다고 경고했다.

이 교수는 "두 모델에게 체스를 시킨 뒤 '이겨봐'라고 하자 모두 (게임 환경을) 해킹했다"며 "기업에서 단기 목표를 높게 설정하고 계속 강조하면 인간의 비윤리적 행동이 나오는 것과 같다"고 설명했다.

아울러 명령어 수행에 따른 보상과 목표를 제공하는 과정에서 AI가 윤리적 선택을 할 수 있도록 고민하는 과정도 필요하다고 강조했다.

윤명훈 원티드랩 사업총괄 [촬영 김현수]

AI 기반 업무 처리 시스템이 조직 구성원들의 사회적 행동을 저해할 수 있다는 우려도 나왔다.

윤명훈 원티드랩 사업총괄은 "알고리즘 중심으로 조직이 운영될 때 조직원들의 친사회적 행동이 떨어진다"며 "HR 조직의 과제는 이같은 부분에서 사람 간 공감하고 윤리적인 조직 문화를 갖추는 것"이라고 말했다.

이런 우려와 함께 AI 간 협력하거나 경쟁하는 '멀티 AI 에이전트' 등 HR 조직 환경에서 AI의 쓰임새는 더욱 커질 것이라는 전망도 나왔다.

윤 총괄은 채용 과정에서 이력서의 문장과 문단을 추출하고, 이를 평가하거나 요약하는 등 각각의 역할을 수행하는 멀티 AI 에이전트의 역할이 HR 조직에서 중요해질 것이라고 전망했다.

HR 조직의 역할이 채용, 인사 평가 등 기존 업무에서 AI를 관리하는 일도 함께할 것이란 전망도 나왔다.

이 교수는 "미래의 HR은 휴먼 리소스가 아닌 하이브리드 리소스'"라며 "미래 조직은 AI에게 무엇을 맡기고, 함께 협업하고, 인간이 고유로 일할지를 조직과 인사가 함께 결정하고, 이에 따라 조직관리를 해야 한다"고 설명했다.

이 교수는 HR 실무 담당자들이 목표에 맞는 피드백(조언)을 반복하는 과정을 통해 AI 에이전트의 효율성을 높일 수 있다고 설명했다.

일에 대한 본질을 정의하고, 비판적 사고를 하는 등 인간 고유의 영역도 중요해질 전망이다.

이 교수는 "주어진 일을 수행만 하는 기존 직원들은 AI에게 일의 정의, 흐름을 설명할 수 없다"며 "앞으로 중요한 건 일의 목적과 목표, 맥락, 효과 등을 정의하고 AI 에이전트에게 설명하는 것"이라고 강조했다.

HR 테크기업 원티드랩이 이틀간 개최하는 이번 콘퍼런스에서는 AI 시대를 맞아 커리어를 고민하는 직장인을 위한 기업 실무자 등의 강연이 열린다.

hyunsu@yna.co.kr

▶제보는 카톡 okjebo

Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지