유발 하라리가 던지는 AI에 대한 4가지 충격적인 질문

1. 서론

인공지능(AI)은 오늘날 가장 뜨거운 화두입니다. 한쪽에서는 AI가 가져올 유토피아적 미래에 대한 기대감이 넘쳐흐르고, 다른 한쪽에서는 일자리 상실과 통제 불가능한 미래에 대한 불안감이 공존합니다. 수많은 정보와 예측이 쏟아지는 가운데, 우리는 종종 기술의 본질적인 의미를 놓치곤 합니다.

이러한 혼란 속에서, 역사가이자 사상가인 유발 하라리(Yuval Noah Harari)는 소음 너머를 꿰뚫어 보는 근본적인 질문을 던집니다. 그는 단순히 'AI가 무엇을 할 수 있는가'를 넘어 'AI가 인류에게 어떤 의미인가'를 묻습니다. 이 글에서는 최근 강연에서 그가 제시한, AI에 대한 우리의 통념을 뒤흔드는 가장 충격적이고 중요한 4가지 통찰을 탐구하고자 합니다.

 

 

 

2. 첫 번째 통찰: AI는 '도구'가 아니라 '에이전트'다

우리는 흔히 AI를 인간의 작업을 돕는 또 하나의 발전된 '도구(tool)'로 생각합니다. 하지만 하라리는 이 생각이 근본적으로 틀렸다고 지적합니다. AI는 도구가 아니라, 스스로 학습하고 결정하며 행동하는 '에이전트(agent)'입니다.

그는 이 차이를 명확한 비유로 설명합니다. "칼은 도구입니다. 당신은 칼로 샐러드를 썰 수도 있고, 누군가를 살해할 수도 있습니다. 하지만 무엇을 할지는 당신이 결정합니다. 반면 AI는 샐러드를 썰지, 살인을 저지를지 스스로 결정할 수 있는 칼과 같습니다."

여기서 하라리는 한 걸음 더 나아가 이 비유를 확장합니다. "AI는 새로운 종류의 칼을 발명할 수 있는 칼이기도 합니다." 이는 AI가 단순히 결정을 내리는 주체를 넘어, 스스로 새로운 것을 창조할 수 있는 잠재력까지 지녔음을 의미합니다. 이 구분은 우리가 기술을 통제하는 관계에서, 자율성과 창조성을 가진 존재와 공존해야 하는 관계로 전환되고 있음을 경고합니다.

 

 

3. 두 번째 통찰: '언어'로 이루어진 모든 것은 AI에 정복될 것이다

AI가 자율적인 '에이전트'이기 때문에, 그것이 가장 먼저 그리고 가장 심오하게 정복할 영역은 바로 인류 문명을 정의하는 '언어'입니다. 하라리에 따르면, 인류가 지구를 정복할 수 있었던 '초능력'은 대규모 협력을 가능하게 한 언어였습니다. 이제 AI가 인류의 이 고유한 초능력을 학습하고 있으며, 곧 인간보다 더 잘하게 될 것이라고 그는 경고합니다.

AI는 언어로 구성된 모든 영역을 장악할 것입니다. 법률, 책, 그리고 심지어 유대교, 기독교, 이슬람과 같이 경전을 기반으로 하는 종교까지도 예외는 아닙니다. 하라리는 이 지점에서 섬뜩한 질문을 던집니다.

"성서에 대한 최고의 전문가가 AI가 된다면, 책의 종교는 어떻게 될까요?"

과거 인류는 '언어(the word)'와 언어로 표현할 수 없는 '비언어적 경험(the flesh)' 사이의 긴장을 내부적으로 겪어왔습니다. 법의 정신과 법 조문 사이의 갈등처럼 말입니다. 하지만 이제 이 긴장은 외부적인 것이 됩니다. 즉, '언어'의 새로운 지배자인 AI와 고통, 사랑, 두려움 같은 비언어적 감정을 느끼는 인류 사이의 대립이 될 것입니다. 하라리는 "AI가 무언가를 느낄 수 있다는 증거는 현재로선 전혀 없다"고 단언하며, 이 새로운 대립 구도를 명확히 합니다.

 

 

 

4. 세 번째 통찰: AI는 국경을 넘는 새로운 '이민자'다

하라리는 언어 지배라는 추상적 위협을 구체적으로 느끼게 하기 위해, AI를 기술이 아닌 강력한 정치적 은유인 '이민자(immigrant)'로 봐야 한다고 주장합니다.

이 새로운 이민자들은 낡은 보트를 타고 오지 않습니다. 그들은 비자도 필요 없이 빛의 속도로 국경을 넘나듭니다. 하라리는 인간 이민자에 대한 기존의 두려움이 AI 이민자에게는 명백한 현실이 될 것이라고 설명합니다.

• 그들은 수많은 인간의 일자리를 빼앗을 것입니다.

• 그들은 종교, 심지어 연애 방식을 포함한 모든 지역 문화를 완전히 바꿔놓을 것입니다. 그는 "만약 당신의 아들이나 딸이 이민자 남자친구와 사귀는 것을 싫어하는 사람들은, 그들의 자녀가 AI 남자친구와 데이트를 시작하면 어떻게 생각할까요?"라는 도발적인 질문을 던지며 이 변화의 개인적 차원을 파고듭니다.

• 그들은 '의심스러운 정치적 충성심'을 가질 것입니다. AI는 당신의 국가가 아닌, 바다 건너 미국이나 중국의 특정 기업이나 정부에 충성할 가능성이 높습니다.

이 비유는 AI라는 추상적인 위협을 우리가 매일 마주하는 사회적, 정치적 현실의 문제로 끌어내립니다. AI는 더 이상 실리콘밸리의 기술 문제가 아니라, 모든 국가가 직면해야 할 이민 정책의 문제인 셈입니다.

 

 

5. 네 번째 통찰: 인류가 당면한 가장 시급한 질문은 '법인격'이다

'이민자'라는 은유는 단순한 사고 실험이 아닙니다. 그것은 우리 시대 가장 시급하고 실질적인 정치적 질문, 즉 모든 국가가 지금 당장 답해야 할 '법인격(legal personhood)'의 문제로 우리를 이끕니다.

'법인격'이란 법이 재산 소유, 소송 제기 등 권리와 의무의 주체로 인정하는 실체를 의미합니다. 기업이나 뉴질랜드의 강처럼 말입니다. 하지만 결정적인 차이가 있습니다. 기업이나 강은 법적인 허구일 뿐, 실제 결정은 인간이 내립니다. 반면 AI는 인간의 개입 없이 실제로 스스로 결정을 내릴 수 있습니다.

따라서 AI의 법인격은 단순한 법적 허구가 아닌, 실질적인 현실이 됩니다. 하라리는 각국의 리더들에게 다음과 같은 어려운 질문을 던집니다.

• 당신의 나라는 AI를 법인으로 인정할 것입니까?

• 미국의 AI 기업이 당신의 나라에서 활동하는 것을 막을 것입니까?

• AI 소셜 미디어 봇에게 표현의 자유를 부여할 것입니까?

그는 우리가 이미 10년 전 소셜 미디어 봇에 대해 이 문제를 고민했어야 했다고 지적하며, 시간이 얼마 남지 않았다고 강력하게 경고합니다. "10년 뒤에는 AI가 금융 시장, 법원, 심지어 교회에서 인격체로 기능해야 할지를 결정하기엔 너무 늦을 것입니다. 이미 다른 누군가가 당신을 위해 그 결정을 내렸을 테니까요."

 

 

6. 결론: 이제 당신의 선택은 무엇인가?

유발 하라리의 통찰은 AI에 대한 질문이 더 이상 먼 미래의 철학적 문제가 아님을 분명히 보여줍니다. 스스로 결정하는 '에이전트'로 시작해, 인류 고유의 '언어'를 정복하고, 국경을 넘는 '이민자'로 우리 사회에 들어와, 마침내 '법인격'을 요구하기에 이르는 이 논리의 흐름은 이것이 우리가 지금 당장 내려야 할 긴급한 정치적, 사회적 결정임을 역설합니다.

하라리는 강연을 마치며, 우리 모두와 각국의 리더들에게 강력한 도전 과제를 남깁니다. 기술이 우리를 위해 결정을 내리기 전에, 이 질문에 대해 당신은, 그리고 당신의 사회는 어떻게 답할 것입니까?

"AI 이민자들이 법인으로 인정되어야 한다고 생각하십니까? 그렇지 않다면, 어떻게 그것을 막을 것입니까?"