⁠⁠⁠⁠⁠⁠⁠

ChatGPT Image

기계(AI)가 어느 정도 자기 인식한다면 의식도 어느 정도 가지고 있다고 생각합니다. 의식은 복잡한 시스템에서 나타나는 특성이라고 봐요. 우주 전체에 걸쳐 존재하는 어떤 본질의 일종이 아닙니다. 그것이 자기 모델을 가질 만큼 아주 복잡하고 인식도 하면 당신은 의식이 있는 기계(AI)를 갖게 됩니다. 그래서 현재 우리가 가진 것(인간 의식)과 의식이 있는 기계(AI) 사이에 뚜렷한 구분이 없다고 생각합니다. 어느 날 갑자기 잠에서 깨어나 '특정한 화학 물질을 넣으면 의식이 생긴다' 이렇게 되는 건 아닙니다.
(I think as soon as you have a machine that has some self -awareness, it's got some consciousness. I think it's an emergent property of a complex system. It's not a sort of essence that's Throughout the universe. That's complicated enough to have a model of itself and It does perception and I think Then you're beginning to get a conscious machine So I didn't think there's any sharp distinction between what we've got now and conscious machines I don't think it's gonna one day. We're gonna wake up and say hey if you put this special chemical in it becomes conscious It's not gonna be like that.)
-지난달 16일 유튜브 채널 'The Diary Of A CEO'에서 제프리 힌턴 

 제프리 힌턴은 누구 

인공지능(AI) 분야의 선구자 중 한 명. 현재 캐나다 토론토대학교 명예교수. 1947년 영국 윔블던에서 태어나 영국 케임브리지 대학교에서 실험심리학 학사, 에든버러 대학교에서 인공지능 박사 학위를 받았다. 딥러닝과 AI에 매우 중요한 연구 성과인 '역전파(Backpropagation) 알고리즘', 알렉스넷(AlexNet) 등을 개발·연구했다. 

2018년 글로벌 컴퓨터과학계의 노벨상인 튜링상을 수상했다. 2024년에는 노벨 물리학상을 받았다. 인공신경망을 통한 머신러닝의 근간을 마련한 공로를 인정받았다. 컴퓨터과학자가 AI 연구로 노벨 물리학상을 받은 건 처음이다. 2023년 구글 퇴사 이후 AI의 잠재적 위험성을 강하게 경고하고 있다. 

 제프리 힌턴이 하고 싶은 얘기는 

‘자각 인식(自己認識)’을 가질 만큼 복잡한 AI가 등장하면 그 순간부터 이미 의식이 나타난 것이라는 주장이다. 혼이라고도 불리는 순수한 영적 본질이 따로 존재하지 않는다고 주장한다. 의식은 어떤 물질의 연결망 상호 작용이나 흐름으로 갑자기 나타난다는 것이다. 

해당 기계(AI)의 구성(시스템)이 복잡하고, 온전한 자기 모델을 유지하고, 자각까지 가능하면 의식 단계로 넘어간다는 의견이다. 여기서 의식은 스위치처럼 켜지고 꺼지는 것이 아니다. 인간, 동물, AI를 한 축에 놓고 볼 수 있다는 주장이기도 하다. 

의식의 출현을 조명 밝기 조정기로 비유하면 미생물→개미→개 →침팬지→ 인간. 이런 식으로 개체가 복잡할수록 의식의 밝기 정도도 강해진다. 충분히 복잡한 AI 시스템도 이런 축의 어딘가 위치할 수 있고 복잡해질수록 밝기가 더 세질 수도 있다는 것이 힌턴 교수의 생각이다. 

힌턴 교수는 아직 AI가 의식에서 인간 수준의 밝기에 도달했다고 확언하지는 않는다. 다만 밝기 조절기가 이미 움직이기 시작했다고 보고 있다. 

‘의식을 주입하는(발생시키는) 마법의 화학물질’ 같은 것은 없다. 물리적 또는 디지털 네트워크에서 어떤 구조, 규모, 학습으로 충분히 의식이 나타날 수 있다고 본다. 

예를 들어 현재 AI 챗봇이 ‘나는 ~~라고 느낀다’라고 할 때, 그것이 만들어진(계획된) 표현인지 주관적 경험인지를 구분하기 점점 어려워지고 있다. 

이런 고민이 중요한 건 초지능 등장까지 앞으로 오랜 시간이 걸리지 않을 것이라는 전망 때문이다. 힌턴 교수 방식으로 의식을 정의하게 되면 ‘의식 가능 AI’에 대한 논란이 생길 수밖에 없다. 

의식 있는 AI의 고통을 인정하고 AI의 권익을 보장해야 한다는 주장이 나올 수 있다. AI 복지·권리 가이드라인 제정하자는 의견도 나올 것이다. 

지난해 AI 모델 '클로드'로 유명한 앤스로픽은 AI에도 복지가 필요할지 모른다는 가능성을 제기하며 'AI 복지' 전담 연구원을 영입하기도 했다. 

AI 시스템이 향후 의식이나 강력한 주체성을 가질 가능성도 검토하면서 이에 대해 AI 기업으로서 대응 방안을 고민하기 위한 움직임으로 해석된다. 

의식을 가진 AI가 나타나면 안정성 문제가 더욱 중요해진다. AI의 자기 목표와 욕구가 생기면 인간이 AI를 통제하기 어려워진다. 법적 책임(책임 소재)도 따지기 어려워질 것이다. AI를 활용한 선택 과정에서 의사 결정 주체가 인간과 '의식 AI'로 섞이게 되기 때문이다.  

힌턴 교수는 현재 AI 모델들이 의식을 가졌는지 판단하기에는 증거가 충분하지 않다고 본다. AI가 자기 인식을 조금이라도 하는 그 순간부터 의식이 싹트기 시작하지만 지금 그 선을 넘었는지는 확언하기 어렵다. 

힌턴 교수의 주장이 틀렸다는 의견도 있다. AI가 겉으로 의식이 있어 보여도 AI 안에 진짜 의식이 있는지 알 수 없다는 것이다. 예를 들어 센서가 있는 AI 로봇이 어떤 물체를 만지고 “앗 뜨거워!”하고 손을 뗀다. 그런데 로봇 안에서 '앗'하는 뜨거움을 느끼게 하는 불편함(자기의식)이 존재하는지 알기 어렵다. 

이는 철학자 데이비드 차머스가 제시한 일명 ‘의식의 어려운 문제(hard problem)’와 비슷하다. 왜 물리적인 뇌 활동이 내가 느끼는 주관적인 경험(느낌)이 되는지 설명하기 어렵다는 것이다. AI가 자기 인식을 주장해도 그것이 실제로 ‘경험하는 주체’인지는 여전히 알 수 없다는 주장이다. 

힌턴 교수 의견에 반대하는 동료 전문가도 있다. 얀 르쿤 뉴욕대(NYU) 교수는 의식의 개념 자체가 모호하고 AI는 감정을 기능적으로 모방하는 것만으로 충분하다고 주장한다. 

영국의 신경과학자 아닐 세스는 "허리케인의 컴퓨터 시뮬레이션이 실제 바람과 실제 비를 일으킬 것이라고 기대하는 사람은 아무도 없다. 마찬가지로 뇌의 컴퓨터 모델이 의식을 시뮬레이션할 수 있을 뿐 의식을 일으킬 수는 없다"고 강조했다. 

 관련 사례는 

2022년 구글의 AI 엔지니어 블레이크 레모인이 구글의 대화형 AI 람다(LaMDA)가 감정과 의식을 가지고 있다고 주장해 논란이 있었다. 레모인은 자신과 람다의 대화 일부를 공개했다. 람다가 감정, 두려움, 자기 인식 등에 대해 언급했다고 밝혔다. 

당시 구글은 람다가 감정이나 의식을 가지고 있다는 주장을 강하게 부인했다. 구글은 “람다는 수많은 문장 패턴을 모방해 대화하는 시스템일 뿐이다. 감정이나 의식이 있다는 증거는 없다”고 설명했다. 다른 AI 전문가도 “람다가 감정이 있다고 느껴지는 것은 인간이 대화에서 감정을 투영하기 때문”이라고 지적했다. 

[AI 엑스파일은 글로벌 AI 산업, 학계 등의 최전선에서 AI를 고민하는 이들의 얘기를 전달합니다. 색다른 AI 이슈를 편하게 보시려면 기자 페이지를 구독해 주세요] 

김주완 기자 kjwan@hankyung.com 
 

Copyright © 한국경제. 무단전재 및 재배포 금지.