Null Model

마음은 과학적 탐구의 대상인가? 이 질문에 대한 대답은 블로그에 올리는 짤막한 글 하나로 다 설명할 수 없는 방대한 지식들을 요구한다. 괴델의 정리에 대해 댓글로 설명해달라는 대답만큼이나 이 질문에 답변하라는 요구는 좀 터무니 없는데가 있다. 하지만 목록으로 정리한 것만으로도 40개에 가까운 글을 주고 받은 이 논쟁을 지켜본 관전자들을 위해서, 그리고 이 논쟁과 무관하게라도 이 문제는 한 번 쯤 거론할 가치가 있다는 점에서 이 문제에 대한 대답을 몇 편의 글로 나눠 설명하고자 한다. 우선 첫 번째 글이다.


프로이트는 눈에 보이고 손에 잡히는 것만을 실재적인 것으로 고려하는 태도를 비판하면서 정신분석적 작업을 역사가의 작업과 비교한다. 알렉산드로스 대왕을 만나본 사람은 더이상 살아있지 않고 그에 대한 기록이나 유물들에도 차이가 있다. 그러나 이런 기록이나 유물들 사이에 존재하는 공통점은 알렉산드로스 대왕이 실재했다는 전제를 통해 잘 설명될 수 있다. 물론 이러한 관점은 당대의 과학관에 썩 잘 부합하는 것은 아니었다. 실제로 프로이트와 정신분석학은 심리학의 일부 영역을 제외한 모든 영역에서 곧 축출되었다.

흔히 사람들은 마음을 과학적으로 탐구할 수 없다고 생각한다. 여기에는 두 가지 이유가 있다. 하나는 마음은 어떤 규칙에도 종속되지 않는 완전히 자율적인 것이라는 생각이다. 이런 생각 위에서는 마음은 과학이 아니라 어떤 학문적 방법론도 적용될 수 없다. 또 하나는 보고 만질 수 있는 것만이 '객관적'인 검증을 할 수 있으며 따라서 과학의 범주에 들어간다는 것이다. 특히 이 두번째 이유는 한때 과학자들이 프로이트를 축출했던 논거였고, 이제는 라캉을 과학으로부터 방어하기 위한 논거로 사용되고 있다.


한윤형님이 라캉을 옹호하는 방법은 프로이트가 정신분석학을 옹호하기 위해 사용했던 방법과 똑같다. 차이점이라면 프로이트는 이것이 과학적이라고 생각했고, 한윤형님은 과학적이지 않다고 생각하는 것 뿐이다. 프로이트가 살았던 시대라면 과학자들은 한윤형님에게 동의했겠지만, 오늘날이라면 프로이트에게 동의할 것이다.

"경험주의의 두 독단"에서 콰인은 논리학의 스콜렘-뢰벤하임 정리부터 "과소결정 테제"를 제창한다. 동일한 경험을 설명하는 무한히 많은 이론을 구성할 수 있기 때문에 경험은 단독적으로 이론을 결정하지 못한다. 따라서 보고 만질 수 있는 대상에 대해서도 우리는 '객관적' 증명을 할 방법이 없다. 피상적인 생각만 하는 사람들에게는 이것이 과학의 객관성에 대한 심각한 공격으로 비칠지도 모르겠지만 콰인 자신의 의도도 그렇지 않거니와 실제로도 그렇게 될 수 없다.

현대 과학은 더이상 카르납이나 포퍼가 말하는 방식의 검증/반증에 의해 이뤄지지 않는다. 20세기 초반 확률혁명을 경험하면서 통계적 스타일이 지배하게 되었기 때문이다. 확률적 진술은 검증이나 반증이 불가능하다. 예를 들어 "동전의 앞뒷면이 나올 확률은 같다."라는 진술에 대해 동전을 100번 던져 앞면만 나왔다고 해도 '반증'할 수는 없다. 아주 낮은 확률로라도 그럴 가능성은 앞의 진술에 포함되어 있기 때문이다. 그래서 카르납이나 포퍼의 주장은 특정한 해석을 거쳐서만 과학적 방법론에 대한 설명으로 받아들일 수 있다.

보이는 것이든 보이지 않는 것이든 뭐든지 객관적 검증이 불가능하다면 과학은 어떻게 성립할 수 있는가? 과학은 주어진 자료를 설명할 수 있는 이론을 찾는데서 끝나는 것이 아니고(과소결정 테제를 생각해보라) 이런 수많은 이론들 중에 가장 좋은 이론을 고르는 것이다. 이것은 자료(D)에 대한 이론(M)의 조건부 확률 P(M|D)에 바탕을 둔다. 다시 말해 현재 가진 자료들에 대해 가장 확률이 높은 이론을 고르는 것이다. P(M|D)를 직접 구할 방법이 없기 때문에 '이것만 알면 통계학의 반은 먹고 들어간다'는 베이즈 정리를 이용해서 아래처럼 새로운 식을 구성하게 된다.

P(M|D) = P(D|M)P(M)/P(D)

여기서 P(M|D)를 사후확률(posterior probability), P(M)을 사전확률(prior probability)이라 하고 이론에 대한 자료의 조건부확률 P(D|M)을 우도(likelihood)라고 한다. 확률은 객관적 확률, 주관적 확률, 공리적 확률 세 가지로 정의할 수 있는데 이중 주관적 확률 해석에 따르면 확률은 우리의 믿음을 나타낸다. 이렇게 볼 때 베이즈 정리는 우리가 자료 이전에 가지고 있던 믿음(사전확률)을 경험을 바탕으로 수정하여 새로운 믿음을 얻는 합리적 과정을 나타낸다고 볼 수 있다. 베이즈 정리를 경험에 따른 믿음의 체계적 수정 과정으로서 과학의 모형으로 받아들이는데는 과학철학자들이나 통계학자들이나 별 이견이 없다.

사전확률은 이전의 관찰에서 얻은 사후확률이다. 그런데 이 과정을 거슬러 올라가다 보면 언젠가 단 한 번은 아무런 자료 없이 믿음을 결정되어야 한다. 다시 말해 믿음을 합리적으로 개선해나갈 수는 있지만 그것이 비합리적인 믿음에 기초해있을 수 있다. 직관적으로는 대단히 심각한 결함처럼 보이지만 꼭 그렇지만은 않다. 아래 그림을 보자. 왼쪽열은 우도, 가운데열은 사전/사후확률분포, 오른쪽 열은 자료공간을 나타낸다. 왼쪽과 가운데에서 붉은 색에 가까울 수록 높은 확률을 가리키고 파란색에 가까울 수록 낮을 확률을 가리킨다. 자료공간에서 붉은 선은 믿음의 확률분포에서 임의로 추출한 이론들을 가리키고, 파란원은 관찰한 자료를 나타낸다.
처음에는 온갖 이론들이 다 가능하지만 관측된 자료가 증가하면서 믿음은 점차 특정한 범위의 이론들로 수렴해가는 것을 볼 수 있다. 그림이 작아서 잘 안보이지만 하얀 십자 표시는 자료를 산출하고 있는 이론을 나타내는데 베이즈 정리는 얼마나 긴 기간이 될지는 몰라도 어쨌든 장기적으로 우리가 올바른 이론에 도달할 수 있다는 것을 보장한다.

여기까지의 논의에서 통계적 사고는 이론 M이 어떤 방식으로 이뤄져있는지에 대해서는 무관심하다. 다시 말해 이론 M안에 라캉의 "무의식은 언어처럼 구조화되어 있다"와 같은 진술이 포함되더라도 아무 상관이 없다. 현대 과학을 지배하는 통계적 스타일은 이론적 대상의 관찰 가능성을 더이상 염두에 두지 않는다. 결국, 프로이트가 옳았다.

한윤형님은 라캉의 이론으로부터 우리가 가진 몇 가지 자료를 설명할 수 있다는 것만으로 라캉의 이론을 충분히 믿을 수 있다고주장한다. 이렇게 말하는 순간 한윤형님은 라캉의 이론을 과학의 영역 안으로 밀어넣고 있는 것이다. 라캉의 이론을 과학의 영역에서 빼내는 방법은 라캉의 이론이 현실에 대한 설명이 아니라고 하거나 아니면 데카르트의 송과선이나 아리스토텔레스의 물리학처럼 역사적 주장이라고 받아들이는 것이다.

한윤형님에 따르면 라캉이 "무의식은 의식에 포착된 순간 더 이상 무의식일 수가 없다"라는 주장했다는데, 그러면 라캉 자신이 무의식에 대해 내놓은 수많은 주장들은 다 무엇인가하는 의문이 든다. 의식에 포착된 것은 아닐테니 그럼 무의식적으로한 주장이란 말인가? 한윤형님이 라캉의 이론을 바탕으로 자신이나 타인의 마음을 분석할 때 그 분석의 대상인 무의식은 또 뭔가? 한윤형님도 정신분석을 무의식적으로 하는가? 한윤형님이 쿤, 콰인, 김재권에 대해 보여준 기이한 인용의 또 한 가지 사례가 아닐까하는 의문이 든다.

어쨌든 라캉의 이론이 현실을 설명할 수 있다면 그것으로 라캉의 이론을 믿어야할 충분한 이유가 될까? 콰인의 과소결정 테제에 따르면 어차피 마음을 설명하는 무수히 많은 이론이 있을 수 있다. 한윤형님의 주장을 듣자마자 우리가 대면하게되는 문제는 마음을 설명하는그 많은 이론들 중에 왜 하필 우리가 라캉의 이론을 믿어야 하느냐는 것이다.

(계속)

본문의 그림은 Christopher M. Bishop (2006). Pattern Recognition and Machine Learning. Springer.의 Figure 3-7에서 인용.