레이 커즈와일은 2005년 <특이점이 온다(Singularity is Near)>에서 2029년 무렵 기계가 인간 수준의 지능에 도달할 것이며 2045년에는 인간의 몸과 지성이 기계와 융합해 하나가 되는 특이점이 도래할 것이라 예상했다. 레이 커즈와일은 최근 <마침내 특이점이 시작된다(Singularity is Nearer)>를 출판했다. 책의 영어 제목은 2005년과 지금을 비교하면 그 사이 특이점이 더 가까워졌다는 저자의 진단을 담고 있다.

이공계 대학 1학년 수준의 미적분에 익숙한 사람이라면 미분 방정식 dx/dt = xⁿ을 풀어 보라. 만약 n>1이면 유한한 시간에 x가 무한대가 되는 것을 볼 수 있다. 바로, 수학의 특이점이다. 커즈와일은 정보 기술은 달성한 성과가 이후의 발전에 재귀적으로 도움을 주는 특성이 있어 ‘수확 가속의 법칙(law of accelerating returns)’을 따른다고 말한다. 위의 수식에서 발전의 속도(dx/dt)가 현재 달성한 수준(x)의 1승보다 더 빠르게 늘어나서, 크면 다음에는 더 빠르게 커지는 재귀적 특성이 있다면, 특이점의 도래는 수학적 필연이다.

AI가 자신을 뛰어넘는 AI 프로그램을 인간의 도움 없이 스스로 작성하게 되면 어떤 일이 벌어질까? 이렇게 만들어진 두 번째 AI 프로그램이 자신보다 뛰어난 세 번째 AI 프로그램을 작성하는 재귀적인 과정이 일단 시작되면 엄청나게 빠른 속도로 ‘지능 폭발’이 발생할 수 있다. 오픈 AI의 샘 알트만은 AI의 발전이 돌이킬 수 없는 단계에 접어들어 이미 특이점이 부드럽게 시작되었다고 최근 선언했고, 바로 며칠 전 메타의 저커버그도 입을 모아 초지능 AI의 탄생이 임박했음을 알렸다. AI가 인간처럼 일반 지능을 갖게 될 시점은 커즈와일이 예상한 2029년보다 더 빠를 수도 있다.

1956년 개최된 다트머스 회의에서 처음 인공지능(Artificial Intelligence, AI)의 개념을 제안한 이가 존 메카시다. 메카시는 미래의 AI는 인간처럼 언어를 사용하고 개념을 스스로 형성하며 인간만이 풀 수 있다고 믿어졌던 문제를 풀 수 있을 것이라 예상했다. 생각해 보라. 최근 몇 년 사이에 이미 우리 곁에서 실제로 벌어진 일이다. 메카시는 미래의 AI는 자신을 개선하는 방법을 스스로 찾아내는 특성을 가질 것이라는 예상도 했다. 아직은 아니지만 최근의 빠른 발전을 생각하면 이 특성을 갖게 될 AI의 출현도 그리 먼 미래는 아닐 것으로 보인다. 다트머스 회의에는 AI의 초기 발전에 크게 이바지한 마빈 민스키도 참석했다. 민스키는 AI의 구현 방법으로 기호적 접근법과 연결주의적 접근법을 제안한 바 있다. 1980년대 이후 한동안 인기를 끈 전문가 시스템은 기호적 접근법을 택한 규칙 기반 시스템이었지만 이후 발전이 정체되어 이제는 널리 이용되지 않는다. 최근의 눈부신 AI의 발전은 연결주의적 접근법이 거둔 놀라운 성과다. 똘똘하지 않은 많은 노드를 연결해 놀라운 결과를 이끌어 내는 접근법이다. 내 연구 분야인 복잡계 과학에서는 구성요소가 가지고 있지 않은 속성을 전체가 새롭게 보여주는 것을 창발 현상이라고 한다. 구성요소의 수가 늘어나고 연결의 구조가 점점 복잡해지면 창발은 어느 순간 일어날 수 있다. AI의 연결주의적 접근법의 성공을 창발의 관점에서 생각해 볼 수 있는 이유다.

커즈와일은 <마침내 특이점이 시작된다>에서 AI의 연결주의적 접근법과 인간 뇌의 작동 방식을 비교한다. 우리 인간의 뇌도 하나하나는 전기 부품같이 단순하게 작동하는 똘똘하지 않은 많은 신경세포로 구성되어 있지만, 신경세포 사이의 복잡한 연결을 통해 정보를 병렬적으로 그리고 계층적으로 처리해 놀라운 지적 능력을 보여준다. 저자는 특히 뇌 안 정보처리의 계층구조에 주목한다. 진화의 과정을 거치며 계층적 정보처리가 이뤄지는 층의 개수가 늘어나면서 인간의 추상적 사고가 가능해진 것을 여러 은닉층을 이용하는 최근의 심층 신경망과 비교한다. 인간 뇌와 심층 신경망의 비교를 통해 저자는 흥미로운 통찰을 제시한다. 앞으로 다가올 미래에 우리 뇌의 바깥쪽 피질 위, 우리 두개골 밖에 또 다른 정보처리의 디지털 층이 추가될 가능성을 말한다. 저자가 2030년대 무렵으로 예상하는 디지털 피질과 인간 대뇌 피질의 직접적 연결이 바로 이 얘기다. 이 과정이 더욱 진행되어 미래에 출현할 AI와 한 몸이 된 인간이 보여줄 창의성의 수준은 현재의 인간이 상상할 수 없을 정도일 것으로 저자는 예견한다. 이때 우리 인간은 생물학이 우리에게 부여한 한계를 크게 넘어서게 된다.

커즈와일은 우주 탄생 이후의 역사와 정보를 저장하고 처리하는 방식을 기준으로 모두 6개의 단계로 나눈다. 1단계는 물리학과 화학이 지배하는 빅뱅 이후 수십억 년 동안이다. 이때 정보는 물질에 직접 담겼다. 2단계는 생명의 DNA가 정보를 저장하는 단계다. 3단계에서 드디어 인간이 출현하고 정보는 뇌에 저장된다. 현재는 4단계다. 정보는 인간의 뇌뿐 아니라 외부에도 디지털 형태로 저장된다. 커즈와일은 2029년 무렵 인류가 5번째 단계에 접어들기 시작할 것이라 말한다. 앞에서 얘기한 우리의 뇌가 두개골 밖 디지털 피질과 직접 결합해 융합하는 단계다. 저자의 6번째 단계에서 우리는 몸이라는 물질을 벗어나 우주 곳곳에 펼쳐진 정보의 형태(저자의 ‘컴퓨트로늄’)로 존재하게 된다. 마치 SF가 그리는 먼 미래의 상상 같지만, 저자는 6단계의 진입 시점을 2045년 정도로 추정한다. 6단계의 우리는 파일이 된다.

5단계에 접어드는 시점에 AI는 놀라운 수준으로 발전해 튜링 테스트를 통과하게 된다고 저자는 말한다. 컴퓨터와 대화를 이어가는 인간이 상대를 컴퓨터가 아닌 인간으로 간주하게 되는 시점이다. 잠깐 생각해 보라. 6499를 두 숫자의 곱으로 표시하라는 문제에 대해 순식간에 67*97라고 답하는 AI는 우리 평범한 인간의 기준으로는 너무 똑똑해 보여 튜링 테스트를 통과할 수 없다. 결국 AI는 자신을 인간처럼 멍청하게 보일 수 있는 능력도 아울러 갖춰야 테스트를 통과할 수 있다. 따라서 AI가 인간 수준 이상의 일반 지능을 가져서 튜링 테스트를 통과하는 시점에, 이미 AI는 대부분 영역에서 인간 최고 능력자의 수준을 넘어설 것이 분명하다고 저자는 말한다.

정보 기술의 발달로 도래할 디지털 신피질을 가진 인간에 대한 저자의 상상은 인간의 수명에 대한 이야기로 확장된다. 이미 현대의 생물학자 중에는 노화를 치료가 가능한 질병으로 보는 사람이 많다. 2030년대 이후 크게 발달할 생명공학은 정보기술과 나노공학과 융합해서 인류는 결국 1년 안에 발전할 과학기술로 인간의 수명이 1년 이상 더 늘어나는 ‘수명 탈출 속도’에 도달할 가능성이 있다. 만약 내가 현재 우리나라 남성의 평균 기대수명인 83세가 되는 2050년 이전에 인간이 수명 탈출 속도에 도달한다면, 노화로 사망하지 않고 1년을 버티면 매년 1년씩 기대수명이 계속 늘어나니 난 노화로 인해서는 죽지 않게 된다. 인류가 수명 탈출 속도에 도달한다면 실질적인 의미에서 인간의 영생이 가능하게 된다. 이 과정을 견인할 기술로 저자는 세포 수준에서 질병을 초기에 탐지하고 문제를 해결하는 의료용 나노봇을 꼽는다. 수많은 나노봇이 몸 안에서 함께 살아가면서 미시적인 수준에서 문제가 발생하자마자 해결하는 미래를 저자는 상상한다.

책에는 재밌는 철학적 질문도 여럿 등장한다. 결정론과 인간의 자유의지가 양립 가능한지, AI와 내가 하나로 융합된 미래에 ‘나’와 ‘인간’은 어떤 의미일지 고민한다. 저자는 인간의 의식이 기질 독립적이라고 믿는다. 두개골 안 말랑말랑한 뇌 조직으로 구성되어 있든, 디지털 정보 처리 장치로 구현되든, 나는 나라는 주장이다. 현대의 많은 뇌과학자는 저자의 주장에 동의하지 않아서 체화된 의식, 몸이라는 물질에서 분리될 수 없는 의식을 말한다는 것을 유념하기를 당부한다.

지금까지의 책 소개에서 명확히 드러나듯 저자는 명백한 기술 낙관론자다. 과학기술의 가속적인 발전이 인류가 맞닥뜨릴 문제를 결국 해결할 것이라고 주장한다. 저자는 물론 우리가 밝은 미래를 맞기 위해 어떤 고민을 해야할 지, 그리고 어떤 위험을 미리 예상해 극복해야 하는 지도 소개한다. 우리 앞에 다가올 미래는 물질적 풍요로 물리적 생존을 위한 투쟁이 역사 속으로 사라질 것이라 말하면서, 이 과정에서 많은 일자리가 사라질 것이라고 저자는 말한다. 예를 들어, 자율주행차의 본격적인 등장으로 우리 모두가 훨씬 더 안전하게 이동하는 미래는 수많은 운송 관련 일자리의 소멸과 함께 일어난다. 저자는 발전 자체를 막는 것보다는 발전으로 인한 피해와 경제적 손실을 완화하는 노력이 필요하다고 강조하며, 보편적 기본 소득이 그 방안이 될 수 있다고 주장한다. 자동화의 과정에서 기업은 더 많은 이익을 더 적은 비용의 투자로 얻게 되니, 이 과정에서 발생하는 초과 이익을 세금의 형태로 환수해 보편적 기본 소득의 재원으로 사용할 수 있다.

저자는 미래에 우리에게 다가올 위험으로 핵무기, 슈퍼 박테리아, 자기복제 나노봇, 그리고 인공지능의 가치 정렬의 문제를 제안한다. 이중 인공지능의 위험에 대한 저자의 방안도 기술낙관주의적이다. 미래의 인공지능의 판단을 인간이 이해하기 어렵다면, 인공지능 사이의 토론으로 해결하자는 주장이다. 2017년 여러 사람이 모여 23개의 항목으로 구성된 아실로마 AI 원칙을 발표한 바 있다. 인간의 생명을 빼앗는 결정을 기계에 위임해서는 안 된다는 항목도 있다. 저자는 미래의 AI는 다름 아닌 우리 자신이 될 수도 있다고 말하면서, 인간의 의미 자체가 변하게 될 미래에 “인간의 생명을 기계가 빼앗는다”는 문장의 ‘인간’과 ‘기계’의 의미는 지금과 달라질 수 있다는 중요한 지적도 한다.

저자의 예상이 현실이 되어 정말로 특이점의 순간이 도래한다면, 이후의 세상은 과거 어느 때와도 비교할 수 없을 정도로 달라진다. 지금 이글을 읽고 있는 당신을 포함해 현재를 함께 살아가는 우리 세대는 우리가 알고 있는 익숙한 세계의 마지막 세대일 수 있다. 이 책에서 저자가 펼치는 주장에 고개를 갸웃하는 사람도 많다는 것을 염두에 두고 책을 읽기를 당부한다. 하지만 나도 요즘 엄청난 속도로 발전하는 AI와 양자 기술, 그리고 전 세계에서 벌어지고 있는 갈등과 전쟁에 고민이 많다. 바로 지금, 인류의 긴 역사에서 가장 독특하고 가장 빠른 격변의 시기가 진행되고 있는 것은 분명하다. 격변이 지난 후 우리가 맞게 될 세상의 모습은 지금 우리의 노력에 달렸다. 피터 드러커가 한 말, “미래를 예측하는 가장 좋은 방법은 미래를 창조하는 것이다”를 가만히 떠올려 본다.

*책을 읽고 함께 이야기 나눌 주제

1. 감수의 글에서 장대익은 이 책은 체념이자 희망이라고 말합니다. 무슨 뜻일까요?

2. 저자는 멀지 않은 미래에 우리 뇌의 피질이 외부의 디지털 피질에 연결될 것이라고 예상합니다. 이렇게 연결된 나도 여전히 나일까요?

3. 미래의 AI는 철학적 좀비일까요? 우리는 AI를 의식 있는 존재로 대해야 할까요?

4. AI가 인간을 뛰어넘는 창의성을 보여줄까요? AI의 창의성이란 무엇일까요?

5. 저자는 미래를 향해 직접 한 걸음씩 나아가는 것 말고는 미래를 미리 알 수는 없다고 얘기합니다. 예측 불가능하다고 해서 자유의지가 존재한다고 할 수 있나요?

6. 책에서 소개한 의식에 대한 이원론과 물리주의의 두 관점 중, 여러분은 어디에 더 가까운가요?

7. 저자는 의식이 기질 독립적이라고 말합니다. 정말 그럴까요?

8. 저자가 얘기하는 우리가 곧 AI인 미래에 인간과 AI의 정렬 불일치 문제는 어떤 의미를 갖게 될까요?

9. 정보기술, 나노기술, 생명공학의 발전으로 우리 인간은 영생할 수 있을까요? 아니, 영생해도 될까요?