모든 것은 예측 가능하다 [김범준의 세상물정]

2025-01-20     김범준 편집위원(성균관대 교수)
/사진=이미지투데이

감염된 사람을 95%의 확률로 양성 판정해 찾아낼 수 있어서 민감도가 95%인 코로나19 진단키트가 있다. 약한 감기 기운이 있어서 검사했더니 양성 반응인 두 줄이 보였다. 그렇다면 내가 코로나에 걸렸을 확률이 95%인 것일까? 그렇지 않다. 양성 반응이 나왔어도 내가 실제로 코로나에 감염된 확률은 이보다 상당히 작을 수 있다. 왜 그럴까?

다른 재밌는 문제도 있다. 한 수학자가 자기는 아이가 둘이라고 한다. 이 수학자에게 둘 중 적어도 한 아이는 아들이냐고 묻자, 수학자는 그렇다고 답했다. 이 수학자의 두 아이 모두가 아들일 확률은 얼마일까? 많은 이가 50%라고 답한다. 둘 중 다른 아이는 아들일 수도, 딸일 수도 있으니 말이다. 그런데 사실 답은 33%다. 다른 아이가 딸일 확률이 아들일 확률의 두 배다.

2011년 학계에 ‘재현성 위기’라 불리는 큰 문제가 알려졌다. 학술지에 출판된 많은 기존 심리학 논문의 결과가 다수 재현되지 않는다는 문제다. 표준적인 통계 분석 방법을 따랐고, 학계의 동료 심사(peer review) 과정을 정당하게 거쳐 정식 출판된 논문인데도, 많은 결과가 재현되지 않는 이유는 무엇일까?

몇 년 전 큰 관심을 끈 흰금/파검 드레스 논쟁을 기억하는지? <김범준의 세상물정>에서도 소개한 현상이다(https://www.newswell.co.kr/news/articleView.html?idxno=3427). 흰색 바탕에 금색 줄무늬가 있다고 답하는 흰금파, 파란색 바탕에 검은 줄무늬가 있다고 답하는 파검파가 있었다. 흰금파는 파검파를, 파검파는 흰금파를 도무지 이해할 수 없었다. 같은 사진을 제각각 다르게 인식하는 이 현상은 도대체 어떻게 생겨나는 것일까?

백신이 자폐증을 유발한다고 믿는 이들, 인류가 달에 착륙한 적 없어서 모든 달착륙 사진은 조작되었다고 믿는 이들, 그리고 지구가 둥글지 않고 평평하다고 믿는 이들이 있다. 어떤 객관적인 데이터를 보여주어도 이들은 마음을 바꾸지 않는다. 우리 대부분에게 자명한 사실을 받아들이지 않는 이들의 마음속에서는 도대체 어떤 일이 벌어지고 있는 것일까?

영국의 과학 저술가 톰 치버스의 신작 <모든 것은 예측 가능하다>에 위에서 소개한 모든 주제에 대한 명확한 답변이 실려있다. 저자가 소개하는 “(거의) 모든 것을 (어느 정도) 예측 가능”하게 해주는 합리적 추론 방식을 찾아낸 이가 18세기 영국의 비국교파 목사 토마스 베이즈다. 책에는 수식이 딱 하나 등장한다. 바로, 베이즈 정리 다. 증명도 쉽다. 한 반에서 왼손잡이(A)를 먼저 고르고 그 안에서 여학생(B)을 고르나, 여학생을 먼저 고르고 그 안에서 왼손잡이를 고르나, 왼손잡이 여학생을 골라내니 결과는 마찬가지여서 P(A)·P(B|A)=P(B)·P(A|B)이기 때문이다. 조건부 확률이 만족하는 간단하고 자명한 수식의 꼴이지만 베이즈 정리의 의미는 심오하다. 먼저 사전확률 P(A)를 설정하고 이후 얻어진 객관적 데이터로 P(B|A)에 비례하는 가능도를 반영해 사후확률 P(A|B)를 정하면 어떤 추론도 할 수 있다. 우리는 이 과정을 반복하며 세상에 대한 우리의 예측을 점점 정교하게 다듬는다. 베이즈 정리는 세상을 이해하고 미래를 예측하는 합리적인 방식을 알려준다. 그리고 실제 우리 인간은 알고 하든 모르고 하든 이미 베이즈의 방식으로 세상을 이해해 왔다. 저자의 말이다. “우리 인간은 베이즈 기계다. 나는 예측한다. 고로 나는 존재한다.”

처음 소개한 코로나 진단키트 얘기를 이어가 보자. 사용 설명서를 보니 이 진단키트의 민감도는 95%, 특이도는 99%라고 적혀있다고 하자. 민감도는 병에 걸린 사람을 올바로 양성으로 판정할 확률이고 특이도는 병에 걸리지 않은 사람을 올바로 음성으로 판정할 확률이다. 둘 모두, 진단키트를 만든 기업에서 사람들을 대상으로 한 실험으로 명확히 얻을 수 있는 수치다. 100%에서 민감도 95%를 뺀 5%는 병에 걸렸는데도 음성으로 판정할 확률이어서 ‘거짓 음성률’이고, 100%에서 특이도 99%를 뺀 1%는 병에 걸리지 않았는데도 양성으로 판정할 확률이어서 ‘거짓 양성률’에 해당한다.

민감도는 감염자인 경우 양성판정을 받을 확률이다. 이 값이 곧 양성 판정받은 사람이 감염자일 확률을 뜻하는 것이 아니라는 것이 중요하다. 양성판정을 받았다는 사건을 B, 병에 걸렸다는 사건을 A라고 하면, 민감도는 P(B|A)이다. 한편 진단키트에서 두 줄을 본 내가 정말 궁금한 것은 양성 판정받은 내가 실제로 병에 걸렸을 확률인 P(A|B)이다. 당연히 P(B|A)는 P(A|B)와 다르다. 저자는 ‘어떤 인간이 교황일 확률’은 ‘교황이 인간일 확률’과 다르다는 것으로 재밌게 둘의 명확한 차이를 지적한다. 아무나 한 사람을 골랐을 때 그 사람이 교황일 확률은 약 80억분의 1에 불과하지만, 교황이 사람일 확률은 1에 아주 아주 가깝다. 정확히 1이 아닐 수도 있다. 교황이 인간의 모습을 할 외계인일 수도 있으니까.

양성 판정받은 내가 실제 코로나 감염자일 확률은 사용 설명서에 기재된 민감도와 특이도만으로는 결코 알 수 없다는 것이 중요하다. 두 줄을 본 내가 실제 감염자일 확률을 계산하려면 검사 당시 우리나라에 얼마나 많은 코로나 감염자가 있는지를 나타내는 베이즈 통계학의 사전확률인 유병률 정보가 필요하다. 현재 유병률이 1%라고 가정하고 편의상 1만명의 인구를 이용해 설명해 보자. 1만명의 인구 중 감염자는 전체의 1%(유병률)인 100명이다. 나머지 9900명은 감염자가 아니다. 100명 감염자에게 진단검사를 하면 양성판정을 받는 사람은 100명의 95%(민감도)인 95명이고, 음성판정(거짓 음성)을 받는 사람은 5명이다. 한편 9900명의 미감염자 중에도 양성판정(거짓 양성)을 받는 사람이 있다. 미감염자 9900명의 99%(특이도)는 올바로 음성판정을 받지만, 나머지 99명(9900명*거짓 양성률 1%)은 거짓 양성판정을 받게 된다. 결국 병에 걸려서 양성 판정받은 95명에, 병에 안 걸렸는데도 양성판정을 받은 99명을 더한 194명이 양성판정을 받고, 이 중 95명이 실제 감염자다. 두 줄을 본 내가 실제 감염자인 95명 중 한 명일 확률은 따라서 95/194라서 49%에 불과하다. 양성판정을 받았다고 해도 여전히 나는 약 50%의 확률로 미감염자일 수 있다는 얘기다. 처음 이 문제의 답으로 병에 걸렸을 확률이 95%라고 짐작했다고 해서 그리 속상해하지 마시라. 통계학에 익숙한 전문가 중에도 95%로 오해하는 이들이 많다. 베이즈 정리를 바탕으로 합리적으로 추론하는 것은 이처럼 쉽지 않지만, 우리가 살아가는 현실을 이해하고 어느 정도 정교한 미래의 예측을 형성하려면 꼭 필요한 일이다.

글의 앞부분에서 소개한 수학자의 두 아이 문제의 답도 생각해 보자. 아들과 딸이 50%의 확률로 태어난다면 우리는 아들-아들, 아들-딸, 딸-아들, 딸-딸이 같은 확률을 갖는다는 것을 이미 알고 있다. 수학자가 자신의 두 아이 중 적어도 하나는 아들이라고 답했다는 것이 중요하다. 결국 넷 중 딸-딸의 상황은 제외되어서, 아들-아들, 아들-딸, 딸-아들의 세 상황만 가능하다. 셋 중 두 경우는 다른 아이가 딸이고, 셋 중 처음의 한 경우만 아들-아들이다. 따라서 이 수학자의 두 아이 모두가 아들일 확률은 3분의 1에 불과하다. 둘 중 적어도 한 아이가 아들이라는 정보를 이용한 합리적 추론의 결과지만 직관적으로 쉽게 이해하기는 어려운 재밌는 결과다.

수학자의 두 아이와 비슷한, 더 유명한 ‘몬티 홀 문제’가 있다. 닫힌 문이 세 개가 있고, 셋 중 한 문 뒤에는 자동차 경품이, 나머지 두 문 뒤에는 염소가 있다. 참가자는 먼저 세 문 중 하나를 임의로 고른다. 사회자는 참가자가 고른 문이 아닌 나머지 두 문 중 하나를 열어서 그 뒤에 염소가 있다는 것을 보여준다. 참가자가 자동차가 있는 문을 고르든, 염소가 있는 문을 고르든, 사회자는 항상 나머지 두 문 중 염소가 있는 문을 열어서 보여줄 수 있다. 다음이 재밌다. 사회자는 곧이어 참가자에게 처음의 선택을 바꾸겠냐고 묻는다. 참가자는 이때 선택을 바꾸는 것이 나을까, 아니면 그냥 처음의 선택을 유지하는 것이 더 나을까?

이 상황에서 후회를 두려워해 처음의 선택을 바꾸지 않는 사람이 많다. 하지만, 선택을 바꾸면 처음 선택을 유지하는 것보다 자동차 경품을 탈 확률이 두 배가 된다. 왜 그럴까? 처음 선택을 유지하는 경우를 먼저 생각해 보자. 당연히 자동차 경품을 받을 확률은 3분의 1이다. 자동차는 셋 중 한 문 뒤에 있으니 말이다. 한편 처음 선택한 문이 아닌 다른 두 문 뒤에 자동차가 있을 확률은 3분의 2이다. 자동차가 아닌 염소가 있는 문을 사회자가 열어 보여주었으므로, 두 문 중 염소가 있는 한 문을 사회자가 친절하게 골라서 제외해 준 셈이다. 따라서 선택을 바꾸면 자동차를 경품으로 탈 확률은 3분의 2다. 처음 선택한 문을 다른 문으로 바꾸면 자동차를 탈 확률이 두 배가 된다. 직관적으로 이해하기는 어렵지만 명확한 결론이다.

수학자의 두 아이 문제나 몬티 홀 문제나, 가능한 경우를 하나씩 차분하게 생각하는 것이 올바르게 추론하는 방식이다. 확률론의 재밌는 역사에서 중요한 역할을 한 상금 배분 문제도 마찬가지다. A와 B가 먼저 3점을 내면 상금을 받는 경기를 진행하고 있다. 만약 A가 2점, B가 1점이어서 2-1일 때, 어쩔 수 없는 상황으로 경기가 중단되었다면 전체 상금을 A와 B가 몇 대 몇으로 나눠야 하는지 묻는 문제다. 승자가 가려지기 위해서는 길어도 두 판의 경기가 남아 있고, 각 판의 승자를 순서대로 적으면 AA, AB, BA, BB가 가능하다. 이중 B가 최종 승자가 되는 것은 BB밖에 없으므로 B에게 상금의 4분의 1, A에게 상금의 4분의 3을 배정하는 것이 합리적이라는 결론을 얻는다. 파스칼과 페르마가 확률론의 발전에 기여한 내용이다.

2011년 학계의 ‘재현성 위기’의 문제도 저자가 멋지게 소개하는 베이즈 통계학으로 생각해 볼 수 있다. 표준적인 통계 분석에서는 유의성의 기준으로 α=0.05를 자주 이용한다. 예를 들어, 현재 시험하고 있는 약이 아무런 효과가 없다는 가설(이를 영가설이라고 한다)하에서 실험 데이터가 우연히 발생할 확률 p를 구하고 만약 p<α라면, 약이 효과가 없다는 가설하에서는 우연히 발생하기 어려운 결과가 얻어진 것이므로 영가설을 기각하게 된다. 결국, 약이 효과가 있을 것이라는 잠정적인 결론을 담은 논문이 출판된다. 이처럼 학계의 표준적인 통계 분석은 가설이 맞다는 가정하에 측정된 데이터가 실험으로 얻어질 확률(표집확률)을 다루지만, 과학자가 진정 궁금한 것은 데이터가 주어질 때 가설이 맞을 확률(역확률 혹은 추론확률)이다. 위에서 소개한, 교황이 사람일 확률과 어떤 사람이 교황일 확률이 다르다는 얘기가 떠오른다면 독자가 제대로 이해한 셈이다. α=0.05의 기준을 만족한다고 해도, 아무 효과가 없는 약에서 효과가 있는 것처럼 보이는 데이터가 20번 실험하면 1번은 얻어질 수 있다. 바로 이 문제가 학계의 재현성 위기의 근원이다. 실험을 계속하다가 α=0.05의 기준을 만족할 때 실험을 중단하면 얼마든지 유의성 기준을 만족해 놀라운 결과가 담긴 논문을 출판할 수 있다. 표집확률에 주목하는 표준적인 통계학의 방법도 α=0.005처럼 더 엄격한 기준을 이용하면 재현성의 문제를 일부 해결할 수 있다. 하지만 베이즈 통계학에 기반해서 역확률을 구하는 것이 더 나은 개선 방향이라는 것이 저자의 주장이다.

위에서 소개한 것처럼 베이즈 통계학은 다양한 현상을 멋지게 설명한다. 실질적인 유용성도 있지만, 베이즈는 더 깊은 철학적 질문으로 우리를 이끈다. 확률의 객관성을 말하는 주류의 빈도주의 통계학의 대척점에 있는 베이즈 통계학은 확률의 주관성에 주목한다. 확률은 객관적일 수 없고, 우리가 세상에 대해 가지고 있는 주관적인 믿음의 척도라고 주장한다. 주관적이라고 해서 합리적이지 않다는 얘기가 아니라는 것도 중요하다. 베이즈 통계학의 추론은 우리가 진실에 대해 내릴 수 있는 최선의 추정이다. 바로 이 관점이 현대의 뇌과학에서도 큰 주목을 받고 있다. 우리의 뇌는 세상에 대한 예측을 세우고 그 예측을 감각 정보와 통합한다. 이처럼 뇌는 사전확률을 설정하고 이에 감각 정보를 이용해 얻어진 가능도를 반영해 사전확률을 갱신해 사후확률을 구하는 과정을 이어간다. 베이즈의 추론이 가능하려면 먼저 사전 확률이 주어져야 한다는 것이 중요하다.

흰금/파검 드레스, 그리고 완강한 지구 평평론자도 마찬가지로 베이즈의 관점에서 이해할 수 있다. 밝은 곳에서 찍은 것인지, 어두운 곳에서 찍은 것인지, 상황에 대한 우리 머릿속에 장착된 사전확률이 달라서 흰금파와 파검파의 차이가 생긴다. 지구가 평평하다는 사전확률을 너무나도 강고하게 가지고 있는 사람은 어떤 데이터로도 사후확률을 바꾸지 않는다. 둥근 지구 사진이 조작되었다는 결론이 이 사람에게는 오히려 더 합리적이다. 이 책에서 우리가 얻을 수 있는 가장 중요한 결론이 바로 이것이라고 나는 믿는다. 믿고 있던 사전확률이 세상에서 얻은 정밀한 정보와 모순될 때 우리는 사후확률을 적절히 바꿔야 한다. 사람들은 나이가 들면서 경험이 쌓이면 사전확률이 점점 더 강고해진다. 새로운 정보를 접해도 사전확률과 다른 사후확률을 만들어 내지 못한다. 혹시 눈치챘는지? 바로 라떼 꼰대 얘기다. 자신만의 편협한 사고에서 벗어나기 위해서 더 넓은 범위를 아우르는 유연한 사전확률을 가지려 노력하자. 일부 극단적 주장을 반복하는 유튜브 채널이 아닌 더 신뢰할 수 있는 정보에 접해 끊임없이 새롭게 사후확률을 형성하자. 우리는 베이즈 기계여야 한다. 그래야 세상을 더 합리적으로 이해하고 미래를 더 정확하게 예측할 수 있다.

책을 읽고 함께 이야기 나눌 주제:

1. 저자는 심지어 내일 해가 뜰 확률도 정확히 1인 것이 아니라고 말합니다. 지구의 자전에 관련된 물리학이 말해주는 확실성과 저자의 주장은 상충하는 것일까요?

2. 동전을 던져서 앞면이 나올 확률이 2분의 1이라는 것은 동전의 객관적인 속성일까요, 아니면 우리가 동전에 대해서 가진 주관적 믿음일까요?

3. 책에 소개된 베이즈의 테이블 문제를 설명하고, 5개의 공 중 2개가 선의 왼쪽에 있을 때 선의 위치에 대한 최선의 추정이 5분의 2가 아니라 7분의 3인 이유를 설명해 보세요.

4. 데이비드 흄은 <기적에 관하여>에서 죽은 사람이 다시 살아날 가능성이 극도로 낮다고 말합니다. 최초의 베이즈주의자라고 할 수 있는 프라이스는 어떻게 기적의 가능성이 있다고 추론했나요?

5. 통계학과 유전학에 큰 기여를 한 피셔의 가능도는 베이즈 통계학과 어떤 관련이 있을까요?

6. 진정한 베이즈주의자라면 달이 치즈로 이루어져 있을 가능성을 조금이라도 남겨둬야 한다는 말의 의미는 무엇일까요?

7. 보통 우리는 증거의 부재가 부재의 증거가 아니라고 말합니다, 무슨 의미일까요? 베이즈주의자에게는 증거의 부재가 사실상 부재의 증거로 작용한다는 것은 무슨 뜻일까요?

8. 베이즈의 추론 방식을 토마스 쿤의 반증가능성과 모든 믿음은 불확실하다고 말하는 포스트모더니즘과 비교해 보세요.