얼마 전 레이 커즈와일의 책 <마침내 특이점이 시작된다>를 소개한 바 있다. 오늘 소개할 책은 <사피엔스>의 유명 저자 유발 하라리의 신작 <넥서스>다. 우리 앞으로 빠르게 다가오는 인공지능(AI)의 세상에 대한 균형 잡힌 시각을 갖추려면 커즈와일의 책과 <넥서스>를 함께 읽기를 추천한다.

전작 <사피엔스>를 관통하는 가장 중요한 열쇠말(keyword)이 ‘상상의 구조’라면 <넥서스>에서는 ‘정보 네트워크’다. 넥서스(Nexus)는 “여럿이 서로 연결된 전체, 혹은 그 중심”을 뜻해서 책 제목에 네트워크의 의미가 이미 담겨있다. 하라리는 인간의 역사를 정보 네트워크의 변천사로 파악한다. 오래전 인간 문명 초기, 정보 네트워크는 인간과 이야기로 구성되었다. 인간뿐 아니라 상상과 허구로서의 이야기도 정보 네트워크의 중요 구성원이라는 것은 지금도 마찬가지다. 우리가 열광하는 유명 연예인을 떠올려 보라. 우리는 그 연예인과 인간으로서 연결된 것이 아니다. 우리가 연결되어 열광하는 대상은 살아 숨 쉬는 연예인 개인이 아니라 그 사람의 이미지와 이야기다. 인간과 이야기로만 구성되어 있던 정보 네트워크는 시간이 지나 정보의 양이 늘어나면서 목록과 문서라는 새로운 구성원을 추가했다. 이야기만으로는 인간을 서로 연결할 수 없게 될 정도로 네트워크가 처리해야 할 정보의 양이 늘어났기 때문이다. 이스라엘 시온주의 운동 초기에 중요한 역할을 한 테오도어 헤르츨은 “민족은 꿈과 노래와 환상에서 탄생한다”고 했지만 저자는 이것만으로는 부족하다고 말한다. 민족 신화와 같은 이야기는 국민이 내는 세금을 정당화하지만, 꿈과 희망이 담긴 이야기를 학교와 병원으로 바꾸려면 세금 기록과 같은 문서가 필수적이기 때문이다. 문서가 정보 네트워크의 구성원으로 편입되면서 수많은 문서를 분류하고 처리하기 위해 관료제가 출현하게 되었다. 관료제의 영어 단어 bureaucracy에 책상(bureau)에 의한 통치라는 뜻이 담겨있다는 것이 흥미롭다. 이 집이 그 사람의 집이라는 것을 보증하는 것은 이제 마을 사람의 이야기가 아니라 어느 관공서 서랍 안 문서가 되었다.

20세기 정보 기술이 발전하면서 인간의 정보 네트워크는 대규모의 전체주의와 민주주의로 이어졌다. 정보 네트워크의 역사를 진실과 질서 사이 균형점의 끊임없는 움직임으로 파악하는 저자는 강력한 자정 장치가 없는 중앙 집중화된 정보 네트워크를 전체주의로, 강력한 자정 장치를 갖춘 분산된 정보 네트워크를 민주주의로 정의한다. 전체주의는 진실에 눈감고 질서에 초점을 둔 정보 네트워크인 셈이다. 오래전 중국의 진시황은 전체주의를 꿈꿨지만, 그 목표를 달성할 수는 없었다. 당시의 정보 기술은 중앙에 의한 전체의 통제를 구현하기에는 턱없이 부족했기 때문이다. 그리스와 로마의 민주주의도 소규모에 머물렀다. 대규모 민주주의 정보 네트워크를 구성하고 유지할 정보 기술 자체가 없었기 때문이다. 산업혁명 이후 20세기에 접어들면서 대규모의 정보 네트워크가 가능해졌다. 그러나 인류는 산업사회를 구축하는 더 나은 방식을 모색하는 과정에서 전쟁 등으로 엄청난 고통을 겪었다. 그 쓰라린 경험 이후에야 제국주의, 전체주의, 군국주의가 아니라, 여전히 불안해도 강력한 자정 기능을 갖추고 있는 민주주의가 더 나은 길이라는 것을 깨닫게 되었다. 저자 고민의 초점은 민주주의 정보 네트워크의 미래다.

요즘에는 과거에는 볼 수 없었던 존재가 빠르게 정보 네트워크의 새로운 구성원으로 등장하고 있다. 바로 컴퓨터와 AI라는 능동적 행위자다. 이들 새로운 구성원은 이야기와 문서라는 과거의 구성원과는 질적으로 다르다고 저자는 말한다. 라디오는 연설문을 송출할 뿐 연설문을 작성할 수 없었고, 일본에 떨어진 핵폭탄 리틀보이는 터질지 말지 스스로 결정할 수 없었다. 오직 인간의 개입으로만 정보 네트워크 내에서 의미를 가질 수 있었던 과거의 수동적 구성원과 달리 컴퓨터와 AI는 이미 도구가 아닌 능동적 행위자의 역할을 하고 있다. 2016년 미얀마에서 소셜 미디어 알고리즘이 사람들의 혐오와 폭력을 부추긴 사례에서 볼 수 있듯이 말이다. 자사의 소셜 미디어에 머무는 시간을 늘리라는 주어진 목표를 달성하려면 감동을 일으키는 미담보다 증오와 분노를 퍼뜨려 부추기는 것이 더 효율적인 방법이라는 것을 알고리즘은 스스로 학습했다. 결국 소셜 미디어의 알고리즘은 이성적 판단을 담당하는 전두엽이 아니라 분노를 관장하는 수억의 변연계를 서로 연결했다. 이런 알고리즘은 존재하는 정보를 복제하는 단순한 인쇄기라기보다는 어떤 것을 알릴지 말지 결정하는 큐레이터이자 편집자의 역할을 하고 있다. 기독교의 성경이 지금의 형태로 만들어진 과정에서도 어떤 복음서는 넣고 어떤 것은 뺄지를 결정한 큐레이터의 역할이 중요했다. 엄연히 존재했던 <마리아의 복음서>가 큐레이션 과정에서 제외됨으로 말미암아 중세 기독교에서 여성의 지위가 낮아졌듯이, 큐레이터의 역할이 저자의 역할보다 더 클 수도 있다. 그리고 지금 빠르게 부상하고 있는 정보 네트워크에서 컴퓨터와 AI는 저자의 역할 뿐 아니라 큐레이터의 역할도 너끈히 수행할 수 있다.

이제 편입되기 시작한 새로운 능동적 행위자 구성원인 컴퓨터는 우리 앞에 놓인 민주주의 정보 네트워크와 전체주의 정보 네트워크에 과연 어떤 변화를 만들어 낼까? 정보 네트워크의 새로운 구성원인 AI에 대한 저자의 경고에 귀 기울일 필요가 있다. 지능과 의식을 혼동해서 의식없는 인공지능이 스스로 결정을 내릴 수는 없다고 믿는 사람들이 있다. 저자는 지능은 목표를 달성하는 능력이며 의식은 주관적 감정을 경험할 수 있는 능력이어서 둘은 엄연히 다르다고 말한다. 지구상의 모든 철 성분을 채취해서 종이 클립을 가능한 많이 생산하라는 인간이 준 목표를 달성하는 기계가 철학자 보스트롬의 ‘페이퍼클립 맥시마이저’다. 이 기계는 인간이 부여한 목표를 성실하게 달성하는 과정에서 인간조차 멸망시킬 수 있다. 이런 기계가 인류에게 위험한 이유는 사악해서가 아니라 강력하기 때문이다. 저자는 마찬가지로 의식 없는 컴퓨터가 얼마든지 지능적인 행동을 통해 우리에게 큰 위험이 될 수 있다고 말한다.

패턴을 인식한 다음 패턴을 깨는 능력으로 창의성을 정의한 저자는 컴퓨터가 이미 인간이 스스로 고유한 영역이라고 믿었던 창의성의 수준을 넘어서고 있다고 말한다. 의료 진단, 간병, 교육처럼 정서 지능이 중요한 영역이라고 안심할 수는 없다. 결국 정서를 파악하는 것도 패턴을 파악하는 능력의 일부라고 이야기하는 저자는 감정이 없는 컴퓨터가 얼마든지 정서 지능이 중요한 인간의 영역에 진출할 수 있다고 말한다. 2023년 한 연구에 따르면, 인간 의사와 AI를 상대로 온라인 의료 상담을 한 사람들이 AI가 인간 의사보다 더 적절한 의학적 조언을 했을 뿐 아니라 공감 능력도 더 뛰어나다고 평가했다. 저자는 컴퓨터가 감정을 갖지 못해도 인간은 컴퓨터를 마치 감정을 가진 존재인 것처럼 대할 것이라고 예견한다. 감정 없는 컴퓨터에게 감정을 부여하는 놀라운 공감 능력을 가진 존재가 바로 우리 인간이기 때문이다. 중요한 것은 컴퓨터가 의식과 감정을 내부에 가지고 있는지가 아니다. 의식도, 감정도 없더라도 비인간 존재인 컴퓨터를 우리 인간이 의식과 감정이 있는 존재로 대할 수 있다는 것이 더 중요하다는 저자의 주장에 고개를 끄덕였다.

저자는 <마침내 특이점이 시작된다>에서 커즈와일이 피력하는 주장을 ‘정보에 대한 순진한 관점’으로 일축한다. 더 많은 정보는 결국 우리에게 진실을 알려주고 진실은 우리에게 힘과 지혜를 준다는 낙관적인 순진한 관점과 달리, 하라리는 더 많은 정보가 항상 우리에게 지혜를 주는 것은 아니라고 강조한다. 저자의 생생한 예시가 바로 인쇄술과 함께 널리 파급된 마녀사냥의 광기다. 코페르니쿠스의 책은 초판 400권이 다 팔리지도 않았지만 크라머의 <마녀의 망치>는 유럽의 최고 베스트셀러가 되어 16~17세기 4만~5만명의 무고한 사람에게 엄청난 고통을 준 원흉이다. 이처럼 인쇄술의 발명으로 가능해진 정보 전달의 폭발적 확장은 과학적 진실이 아닌 음모론과 가짜 뉴스를 퍼뜨리는데 더욱 크게 기여했다. 정보에 대한 순진한 관점에 기대어 거짓과 허위에 기반한 정보 네트워크가 결국 패배할 것이라고 낙관할 수는 없다고, 그런 네트워크의 승리를 막고 싶다면 우리가 적극적으로 노력해야 한다고 저자는 강조한다. 특히 저자는 앞으로 우리에게 다가올 컴퓨터와 AI가 참여하는 대규모의 정보 네트워크에서 인간이 주도하는 자정 기관이 꼭 있어야 한다고 말한다. 컴퓨터의 목표를 인간의 목표에 맞추는 정렬 문제의 해결을 컴퓨터가 제대로 처리할 수는 없다는 입장이다.

저자는 책에서 우리 인간이 여전히 미래를 결정할 힘이 있으며, 따라서 어떤 미래가 우리에게 다가올지는 전적으로 우리의 책임임을 강조한다. 어떤 도구도 그 자체로서는 좋거나 나쁠 수 없으며 결국 우리 인간이 그 도구를 어떻게 활용하고 견제하고 조정하는지에 따라 좋고 나쁨이 결정된다는 입장이다. 책 표지의 비둘기가 바로 이런 양면성을 표상한다. 비둘기는 구약성서에서 노아가 홍수가 멈춘 뒤 방주 밖으로 내보낸 평화의 상징이기도 하지만, 미군의 중요한 메시지를 전달한 전쟁의 도구이기도 했다. 비둘기가 드러내는 평화와 전쟁의 양면성처럼 우리에게 빠르게 다가오는 AI가 참여하는 새로운 정보 네트워크도 마찬가지의 양면성을 가진다는 것이 저자의 시각이다. 책의 마지막에서 저자가 “우리가 어떤 결정을 내리느냐에 따라 이 낯선 지능을 소환한 것이 치명적인 실수가 될지, 아니면 생명 진화의 희망찬 새 장을 여는 시작이 될지 판가름 날 것”이라고 말하는 이유다.

우리 인간의 생명 종 이름 호모 사피엔스에는 슬기로운 사람이라는 뜻이다. 하라리는 우리 종의 이름에 걸맞는 지혜를 우리가 아직 얻지 못했다고 말한다. 정보가 늘어나면 자연스럽게 지혜를 갖게 된다는 순진한 관점, 객관적 진실이라는 것은 없고 모든 정보는 결국 힘으로 귀결된다는 포퓰리즘의 관점을 비판한 저자는 정보에 대한 올바른 관점은 정보의 복잡성을 이해하는 것이라고 말한다. 우리가 살아가는 현실 자체가 실로 복잡하기 때문이며 현실의 어떤 것도 생략하지 않는 1:1 척도의 지도를 만들어 낸다고 해서 우리가 진실을 얻는 것은 아니기 때문이다. 호모 사피엔스라는 이름에 걸맞는 지혜는 저절로 이루어지지 않는다. 우리 모두의 끊임없는 노력이 필요하다.

저자가 책에서 말하고자 하는 바를 드러내는 부분을 인용하며 이 글을 마친다. “나는 역사학자로서 변화의 가능성을 믿는다. 역사의 중요한 교훈 중 하나는 우리가 자연스럽고 영원하다고 생각하는 많은 것들이 사실은 인간이 만든 것이며 따라서 바뀔 수 있다는 것이다. 우리가 노력하면 더 나은 세계를 만들 수 있다. 이런 관점은 순진한 것이 아니라 현실적인 것이다. 모든 오래된 것은 한때 새로운 것이었다. 역사의 유일한 상수는 변화다.” “우리는 의식은 없지만 매우 강력한 이질적인 형태의 지능을 창조했다. 이 지능을 잘못 다룰 경우 우리가 아는 한 우주에서 유일한 의식의 빛이 꺼져 우주가 암흑으로 되돌아갈 수도 있다. 이를 막을 책임은 우리에게 있다.”

책을 읽고 함께 이야기 나눌 주제

1. 저자의 정보, 진실, 현실은 무슨 뜻이며 셋은 어떤 면에서 다른가요?

2. 괴테의 <마법사의 제자>는 피조물이 의도하지 않은 강한 힘을 갖게 되는 상황을 묘사합니다. 우리 인간이 만든 빗자루는 어떤 것인가요?

3. 저자는 AI가 스스로 결정을 내릴 수 있고, 스스로 새로운 아이디어를 생성할 수 있다고 말합니다. AI가 출력하는 결과를 새로운 아이디어라고 할 수 있을까요?

4. 패턴을 인식하고 패턴을 파괴하는 능력을 저자는 창의성으로 정의합니다. 창의성에 대한 여러분의 정의가 궁금합니다.

5. AI는 의식 없는 지능이라고 할 수 있어요. 지능 없는 의식을 상상할 수 있을까요?

6. 자신은 감정을 갖지 않지만 인간의 감정을 인간보다 더 정확하게 판단해 응답하는 AI가 이미 우리 곁에 등장했어요. 미래에 AI와 결혼하겠다는 사람이 있다면 말려야 할까요?

7. 힘에는 진실과 질서가 모두 필요합니다. 진실 없는 질서는 지속 가능할까요?

8. 10년 전 100만원 휴대폰보다 현재의 100만원 휴대폰은 훨씬 더 많은 정보를 저장하고 처리하지만, GDP 계산에서는 같은 가치로 평가됩니다. 미래에 우리는 어떤 방식으로 가치를 측정하게 될까요?

9. 컴퓨터가 능동적 행위자로 참여하는 미래의 정보 네트워크가 등장하면 대규모 민주주의와 대규모 전체주의 중 무엇이 출현할까요?

10. 정보의 흐름이 늘어난다고 꼭 진실이 승리하는 것은 아니라는 것을 인쇄술과 마녀 광풍으로 설명한 것이 인상적이었어요. 책의 여러 사례 중 어떤 것이 인상적이었나요?

11. 우리가 만들어 낸 낯선 비인간 지능은 치명적인 실수일까요? 아니면 진화의 희망찬 새로운 시작일까요?