페이지상단으로이동

[여시재 북리뷰] 유발 하라리 ‘21세기를 위한 21가지 제언’ - 안나 카레리나가 AI에 물었다면?

이관호 (SD)

2018.09.07

안나 카레니나가 스마트폰을 꺼내 들고 남편 카레닌 곁에 머물러야 할지, 돌진해 오는 브론스키 백작과 달아나야 할지 페이스북 알고리즘에 묻는 장면을 상상해보십시오. 디지털 시대를 맞아 인간은 의사결정의 자유를 AI에게 양도할 것이며 따라서 지금의 민주주의는 더 이상 지속할 수 없을 것이라는 게, 21세기의 사피엔스들에게 전하는 유발 하라리의 인사이트입니다. 오늘은 영어판과 동시에 출간된 신간 <21세기를 위한 21가지 제언>에서 ‘자유’와 ‘평등’ 두 챕터에 대한 이야기를 소개합니다. 빌 게이츠도 며칠 전 뉴욕타임스에 이 책 서평을 썼습니다.

하라리는 말합니다. 사람들은 대부분 스스로에 대해 잘 모르며 자신도 스물한 살 때야 비로소 동성애자라는 사실을 깨달았다고요. 하지만 2050년 즈음 되면 자신처럼 성 정체성에 대한 고민으로 수년간을 좌절감 속에 살 필요가 없다고 말합니다. 알고리즘은 모든 10대에게 동성애와 이성애 스펙트럼의 어느 지점에 있는지 알려줄 것입니다. 멋진 남성과 여성의 사진, 동영상을 보여주고 안구의 움직임과 혈압 및 뇌 활동 등을 추적한 다음, 5분 이내에 킨제인 척도상의 수치를 출력할 것입니다. 이처럼 사람들은 기꺼이 자신의 정보를 공유하고 자신이 당면한 여러 중요한 결정을 알고리즘이 내려주길 기다릴 것입니다. 무엇을 공부해야 할지, 어디서 일해야 할지, 심지어 누구와 결혼해야 할지까지.

물론 알고리즘은 데이터의 부족, 프로그램의 오류, 목표 설정의 혼란 등으로 반복적인 실수를 저지르기 때문에 사람들은 결코 알고리즘을 신뢰하지 않을 것이라는 반박이 있습니다. 이 대목에서 하라리는 민주주의를 옹호했던 윈스턴 처칠을 인용합니다. “민주주의는 세상에서 가장 나쁜 정치체제다. 다른 모든 체제를 제외하면.” 마찬가지로 알고리즘은 장애가 많지만 그보다 더 나은 대안은 없으리라는 것입니다.

하라리는 이 민주주의가 위기를 맞았다면서 그 원인을 인류의 의사결정 능력의 감퇴에서 찾습니다. 우리는 이미 구글 검색 알고리즘을 최고로 신뢰하고 있으며, 오늘날 ‘진실’이란 것은 검색의 최상위 결과와 다를 바 없습니다. 또한 우리는 구글 지도가 알려주는 방향을 무조건 따르는데, 의사결정 능력과 길 찾기 능력은 근육과 비슷해서 사용하지 않으면 약해집니다. 스마트폰의 건전지가 나가 구글 지도가 사라지면 도로 위에서 우왕좌왕하듯이, 사피엔스들은 알고리즘이 결정해주지 않으면 어디로 가야 할지 모르는 신세로 전락할 것입니다.

이러한 의사결정 능력의 상실은 무엇을 의미할까요? 알다시피 민주주의와 자본주의는 구성원들의 자율성을 토대로 만들어진 제도들입니다. 그런데 디지털 시대에 우리는 더 이상 근대가 낳았다고 하는 ‘자율적인 주체’가 아니므로, 지금의 민주주의와 자본주의는 더 이상 효력을 발휘할 수 없다는 게 하라리의 분석입니다.

저자는 역사학자답게 이러한 분석에 대한 시대적 맥락을 잡아줍니다. 불과 지난 수 세기 동안 권위는 신에서 인간으로 이동했고, 조만간 인간에서 알고리즘으로 이동한다는 것입니다. 시대적 권위를 이동시키는 힘이 무엇인지도 알려줍니다. 근대의 자유주의라는 가치는 인간의 권위를 정당화했습니다. 그런데 앞으로 도래하는 디지털 혁명은 빅데이터 알고리즘의 권위를 정당화하면서 동시에 개인이 자유롭다는 생각을 무너뜨린다는 것입니다. 지금 우리는 그 전모를 진정으로 이해하는 사람이 아무도 없는, 거대한 데이터 처리 시스템 속의 작은 칩이 되어가고 있다고 합니다.

그리고 이러한 시대에 민주주의는 근본적으로 새로운 형태로 재탄생해야 하며 그렇지 않을 경우 인간은 디지털 독재 안에 살게 될 것이라고 예언합니다. 프랑스 루이 14세의 독재와 독일 히틀러의 독재가 기술 문명의 진보에 따라 그 스타일이 달라졌듯이, 디지털 독재 또한 완전히 다른 형태의 모습입니다. 미래 사회 누군가가 인간의 마음을 해킹해서 조작하는 기술력을 얻게 되는 순간, 민주 정치는 감정의 인형극으로 돌변할 것이라고 경고합니다.

이 재앙적 미래를 막기 위해 우리는 무엇을 해야 할까요? 하라리는 ‘정신’을 이야기합니다. 그는 공상과학영화에서 나오듯 인공지능이 인간과 같은 의식을 가질 것이라고는 생각하지 않습니다. 뇌과학의 발달에도 불구하고 아직 우리가 정신에 관해 아는 것이 거의 없기 때문에 프로그램으로 의식을 가진 컴퓨터를 만들 수는 없다는 것입니다. 이런 상황에서 인터넷 연결속도와 빅데이터 알고리즘의 효율성을 높이는 데만 혈안이 될 것이 아니라 인간 정신을 탐구하는데 투자해야 한다고 말합니다.

하라리의 말대로 시대를 극복하는 힘은 늘 인간의 정신에 있었습니다. 그 ‘정신의 주체성’을 업그레이드 시킬 수 있다면 그리고 디지털을 활용해서 주체적 정신들 사이의 ‘연결’을 이루어낼 수 있다면, 미래의 엄청난 도전에 대처할 수도 있을 것입니다. 다음 하라리의 기대 섞인 의구심으로 마무리하겠습니다.

“세계적인 불평등이 증가하고 세계 전역에서 사회적 긴장이 고조되는 상황에서 행여 마크 저커버그가 20억 페친들을 결집해 어떤 일을 함께해낼 수는 없을까?”


< 저작권자 © 태재미래전략연구원, 무단전재 및 재배포 금지 >

콘텐츠 연재물:

연관 태그