Null Model

우리는 역사상 어느 때보다도 많은 텍스트를 가진 시대를 살고 있다. 이 글을 포함해 인터넷에는 오늘도 수많은 글들이 올라오고 있다. 인터넷 초창기에는 웹사이트가 몇 개 없어서 사람이 하나씩 읽어보고 웹사이트들을 분류했다. 야후가 이렇게 시작한 회사다. 하지만 현재는 이런 식으로 사람이 읽고 웹사이트를 읽고 분류하는 것은 불가능하다. 따라서 컴퓨터를 이용해 텍스트를 분류하고 검색할 필요가 있다.

컴퓨터를 이용해 텍스트를 다루는 것은 컴퓨터 공학에서는 자연어 처리(natural language processing), 언어학에서는 전산언어학(computational linguistics)라고 한다. 심리학에서는 특별한 용어가 없고 다만 이렇게 사람이 하는 걸 컴퓨터로 흉내내는 것을 통틀어 계산 모형(computational model)이라고 부른다.

전산언어학, 자연어처리, 언어에 대한 계산 모형. 뭐라고 부르든 이들 모두는 언어로 된 자료, 특히 텍스트를 사람과 가급적 비슷하게 잘 처리하는 것이 목적이다. 언어학과 심리학에서 이런 기법들은 단순한 도구가 아니라 검증해볼 수 있는 수단이기도 하다. 이론을 계산 모형으로 만들었을 때, 텍스트를 그럴듯하게 잘 처리하면 그 이론이 실제로 사람의 머리 속에서 일어나는 일을 잘 기술한다고 볼 수 있기 때문이다.

하지만 전산언어학을 언어학 이론의 검증 수단으로 보는데 반대하는 사람들도 있다. 계산 모형이 잘 안 돌아가는 게 이론이 구리기 때문인지, 그 이론을 구현할만큼 기술이 받쳐주지 않기 때문인지 잘 구별할 수 없기 때문이다. 그런데 이 말을 뒤집어보면 기술이 발전하면 그때는 괜찮다는 뜻도 되므로, 어쨌든 그런 기술을 연구할 값어치는 있는 셈이다.

전산언어학에서 사용하는 모형에는 두 종류가 있다. 하나는 규칙 중심의 모형이다. 이것은 우리가 예전에 학교에서 영어를 배울 때와 비슷하다. 컴퓨터에 문법과 단어를 몽땅 때려넣는 것이다. 그런데 이 모형은 생각처럼 잘 돌아가지 않는다. 일반적인 텍스트는 학교 문법에 딱딱 맞지도 않고, 오탈자나 신조어도 많기 때문이다. 그럼 사람들이 실제로 말을 하는 문법과 새로 생기는 말, 오탈자로 생길 수 있는 말을 계속 추가해줘야 하는데 이러자면 배보다 배꼽이 커서 실용적이지 못하다.

또 다른 모형은 통계적 모형이다. 이 단어가 무슨 단어인지, 이게 지금 무슨 문법인지 신경쓰지 않고 그냥 통계로만 싹 발라버리는 방법이다. 일단 만들어서 데이터만 잔뜩 때려넣어주면 컴퓨터가 알아서 '학습'하기 때문에 편리하다. 대신 미묘한 맥락을 잘 파악하지 못하는 단점이 있다. 그래서 두 가지 모형을 섞어서 사용하기도 한다.

통계적 모형이 규칙 중심 모형보다 대체로 더 잘 작동하기 때문에, 혹자는 우리의 머리 속에 문법 따위는 존재하지 않고 우리의 뇌가 실제로는 언어를 처리하는 일종의 통계장치와 비슷하다고 주장하기도 한다. 통계적 모형이 나날이 발전하고 있기 때문에 이 주장은 점점 더 설득력을 얻어가고 있다.

한 가지 예를 들어보자. 구글은 검색 결과의 순서를 결정할 때 '페이지 랭크(page rank)'라는 알고리듬을 사용한다. 이 알고리듬은 인터넷의 문서들이 서로 링크로 연결되어 있고, 좋은 문서는 많은 링크를 받는다는 점을 이용한 것이다. 그런데 마음 속에서 개념들도 마치 인터넷의 문서처럼 연결되어 있고, 하나의 개념이 활성화되면 이런 연결 구조를 따라 활성화 확산이 일어난다. 어떤 말을 들으면 이 말과 연결된 개념들이 잇달아 활성화가 되고 다른 개념들과 잘 연결된 개념이 가장 활성화가 되어 머리 속에 떠오른다. 이 과정을 수학적으로 기술해보면 페이지 랭크 알고리듬과 매우 비슷하게 나온다. 실제로 실험을 해보면 페이지 랭크 알고리듬은 사람들이 자유 연상을 했을 때 어떤 단어를 떠올릴 확률을 다른 계산 모형보다 더 잘 예측한다(Griffiths et al., 2007). 따라서 이론적으로는 모든 인터넷 페이지를 외우고 있는 사람에게 어떤 질문을 던졌을 때 그 사람이 가장 먼저 떠올릴 웹페이지는, 구글에서 그 질문을 검색했을 때 결과에서 제일 먼저 나올 페이지와 같다. 덜덜덜.

물론 앞에서 말한 이유 때문에 실제 텍스트를 잘 처리하는 계산 모형이 우리의 마음을 잘 설명하는 이론이라고 장담할 수는 없다. 어쨌든 재미있기도 하고, 포스팅 소재도 마침 다 떨어졌으므로 텍스트를 다루는 통계적 모형에 대해 하나씩 살펴보자. 언제나 그렇지만 자세한 수학적 설명은 지양하고 과감한 왜곡과 단순화에 기반한 흥미 위주의 연재가 될 것이다.

(계속)

참고 문헌

Griffiths, T. L., Steyvers, M., & Firl, A. (2007). Google and the mind: Predicting fluency with PageRank. Psychological Science, 18, 1069-1076.

그림으로 보는 통계: (1) 쥐와 사람의 관계
그림으로 보는 통계: (2) 쥐는 살찌고 사람은 굶는다
그림으로 보는 통계: (3) 바람난 남편, 외계인 아내

방명록에 '동으로'님께서 질문을 하나 해주셨다. 요약하자면 대학원 진학과 이후 진로에 관한 것인데 마침 대학원 입시 시즌이기도 하니 다른 분들께도 도움이 될까해서 독립적인 포스팅으로 답변 드린다.

우선 대학원 진학. 인지과학은 단일 학문이 아니라 자연과학이나 사회과학처럼 여러 분과학문을 묶어서 가리키는 말이다. 인지과학에 속하는 분과학문에는 심리학, 뇌과학, 인공지능, 언어학 및 인접 분야들이 있다. 따라서 대학원에서 인지과학을 전공하려면 인지과학협동과정이나 뇌인지과학과처럼 '인지과학'이라는 이름이 붙은 대학원 과정으로 들어가는 방법과 심리학과, 생물학과, 컴퓨터공학과, 언어학과 등 기존 학과의 대학원에 들어가는 방법이 있다. 어차피 들어가면 똑같은 실험실에서 연구하기 때문에 어디로 들어가든 공부하는 내용에는 큰 차이가 없다. 행정적인 문제나 장학금 지원 등에 차이가 있을 수 있기 때문에 잘 찾아보고 결정하면 된다.

대학원 과정이 있는 학교는 별로 없는데 부산대, 서울대, 성균관대, 연세대에 인지과학 협동과정이 있고, 올해 고려대, 서울대, 이화여대에 뇌인지과학/공학과가 생겼다. 고려대와 서울대의 뇌인지과학/공학과는 WCU 사업으로 신설된 것이다. 서울대에는 뇌과학협동과정, 인지과학협동과정, 뇌인지과학과 이렇게 비슷한 이름의 세 가지 대학원 과정이 있는데 내용이야 다 비슷하지만 행정적으로 다 다른 과정이므로 주의할 필요가 있다. 대학원 과정들은 기존 학과보다 역사가 짧고, 체제가 잘 안 잡혀 있는 경우가 많기 때문에 '인지과학'이라는 이름만 보고 지원하지 말고 여러 모로 잘 비교해봐야 한다.

이런 학과들은 실험실 체제로 되어 있고, 학생도 실제로는 실험실 단위로 뽑기 때문에 지도 교수를 잘 고르는 게 중요하다. 관심있는 연구 주제를 다루는 교수를 찾아서 직접 만나도 보고, 대학원생들이나 조교 등을 통해 그 교수의 성격 등도 알아볼 필요가 있다. 참고로 대학원생에게는 연구 주제보다는 교수의 성격이 훨씬 더 중요하다는 걸 강조해둔다. 그 이유는.. 겪어보면 안다. ㅋㅋ

인지과학은 대단히 넓은 분야기 때문에 진로문제는 학교나 전공에 따라 천차만별라서 자세히 이야기를 하기 어렵다. 대체로 세부전공이 심리학이나 뇌과학 쪽이라면 주로 학계로 간다. 인공지능이나 HCI 쪽이라면 기업 쪽으로 갈 수도 있겠다. 심리학이나 뇌과학 쪽을 전공하고 기업 쪽에 자리잡는 사람도 없지는 않지만 많지도 않다. 가끔은 우주비행사(?)가 되는 사람도 있다. 이 부분은 직접 자세히 알아보는 수 밖에 없다.

일단 관심이 있다면 석사과정을 다니면서 탐색을 해보는 것도 나쁘지 않다고 생각한다. 자기 학교 자기 전공의 선배들은 어떤 쪽으로 진출하는지, 자기가 연구에 적성이 맞는지 등등은 밖에서 보는 것만으로는 알기 어렵다. 특히 많은 학생들이 의외로 연구라는 게 삽질의 연속이라는데 좌절한다.

개인적으로는 인지과학을 공부한 사람이 전공을 살리는 방법은 직무가 꼭 전공과 직접적으로 관련되지 않아도 많이 있다고 생각한다. 인지과학은 사람에 관한 것이고, 무슨 일을 하든 결국 사람에 관련되기 때문이다. 하다못해 다 때려치우고 공무원 시험을 준비하더라도 학습과 기억에 대한 인지심리학을 활용할 수 있고, 사기를 치려면 지각심리학이나 사회심리학을.. (쿨럭) 그래서 인지과학에 관심이 있다고 해도 꼭 전공하지 않고 취미로 공부하는 것도 괜찮다고 생각한다.

다 써놓고 보니 별 얘기는 없는데 혹시 인지과학 쪽으로 대학원에 진학하시려는 분들 중에 궁금한 점을 댓글로 달아주시면 내가 아는 범위에서는 몇 가지 더 얘기드리도록 하겠다. 일단은 여기까지.

그림으로 보는 통계: (1) 쥐와 사람의 관계
그림으로 보는 통계: (2) 쥐는 살찌고 사람은 굶는다

대망의 마지막 회. 일단 베이즈 볼 계산법의 주문을 다시 외어보자. "하얀 원으로 연결되면 관련이 있고, 까만 원으로 연결되면 관련이 없다. 머리-대-머리면 반대." 이번에는 반대의 경우인 '머리-대-머리'를 살펴보겠다.

초가집이 있다. 쥐가 이 집 기둥뿌리를 갉아먹을 수도 있고, 기둥이 썩을 수도 있다. 이 둘은 서로 관련이 없다. 쥐는 기둥뿌리가 썩건말건 갉아먹을 수 있고, 기둥도 쥐가 갉아먹든 말든 썩을 수 있다. 그리고 쥐가 갉아먹어서건 기둥이 썩어서건 아니면 둘 다 때문이건 그렇게 되면 집이 무너질 수 있다.

집이 무너질 수 있다고 해도 여전히 쥐가 기둥을 갉아먹는 것과 기둥이 썩는 것 사이에는 서로 관련이 없다. 이제까지와는 반대로 관찰되지 않은 변수가 머리-대-머리로 연결하는 경우에는 서로 관련이 없는 것이다.

그런데 추석을 맞아 버려두고 온 고향 옛집에 가봤다고 하자. 가보니 집이 무너졌든 아니면 멀쩡하든 집의 상태가 일단 관찰되면 쥐가 기둥 갉아먹는 것과 기둥이 썩는 것은 이제 관련이 있게 된다.
집이 무너졌다고 해보자. 무너진 집을 조사해보니 쥐가 갉아먹은 흔적이 발견된다면 집이 무너진 이유는 이것으로 설명되기 때문에 기둥이 썩었을 가능성은 낮아진다. 기둥이 썩은 게 발견되어도 마찬가지다. 말이 되는 것 같기도 하고 안되는 것 같기도 하다. 그럼 구체적인 수를 가지고 생각을 해보자.

어느 폐촌에 초가집 1000채가 있다. 이중에 20%인 200채는 쥐가 기둥뿌리를 갉아먹는다. 역시 20%인 200채는 기둥이 썩었다. 4%인 40채는 기둥이 쥐가 갉아먹은데다가 썩기까지 했다. 그림으로 보면 아래와 같다.

쥐가 기둥을 갉아먹은 집 200채를 조사해보면 그 중에서 기둥도 썩은 집은 40채(20%)다. 쥐가 기둥을 갉아먹지 않은 집 800채를 조사해보면 그 중에 기둥이 썩은 집은 160채(20%)다. 그러니까 쥐가 갉아먹든 말든 기둥이 썩은 집은 늘 20%인 것이다. 쥐가 기둥을 갉아먹든 말든 기둥이 썩는 것과 관련없다는 건 이 말이다.

그럼 이제 집이 무너지는 경우를 생각해보자. 쥐가 기둥을 갉아먹은 집이 무너질 확률은 50%다. 기둥이 썩은 집도 50%다. 그러니까 각각 160채 중에 80채가 무너진다. 기둥이 썩은데다 쥐가 갉아먹기까지 했으면 무너질 확률은 80%다. 이런 집은 40채가 있으니 32채가 무너진다. 마지막으로 멀쩡한 집도 640채 중엔 10%인 64채가 무너진다. 이제 무너진 집만 그려보면 아래와 같다.


이제 무너진 집 256채만 놓고 보자. 이 중에 기둥이 썩은 집은 112채(=32+80)다. 따라서 어떤 집이 무너졌을 때 기둥이 썩어있을 확률은 112/256 = 약 44%다. 그러데 무너진 집을 조사해보니 쥐가 갉아먹은 흔적을 발견했다고 해보자. 아까는 기둥이 썩을 확률이 20%면 쥐가 갉아먹든 말든 20%였다. 그런데 집이 무너진 경우엔 다르다. 쥐가 갉아먹은 집은 112채 중에 기둥도 썩은 집은 32채이므로 확률은 32/112 = 약 29%가 된다. 그리고 쥐가 갉아먹지 않은 집 144채(=80+64) 중에 기둥이 썩은 집은 80채이므로 확률은 80/144 = 약 56%가 된다. 즉, 집이 무너진 것이 관찰된 경우에는 쥐가 갉아먹었느냐 마느냐에 따라 기둥이 썩어있을 가능성이 달라지는 것이다.

이제까지 살펴본 베이즈 공 계산법을 이용해서 좀 더 복잡한 경우를 다뤄보자. 배우자가 수상한 행동을 하는 것이 관찰되었다. 배우자가 바람이 났을 수도 있고, 사실은 외계인이었을 수도 있다. 배우자가 외계인이라면 한밤 중에 집에 UFO가 찾아올 지도 모른다. 이걸 그래프 모형으로 그리면 아래와 같다.

그럼 베이즈 공 계산법 "하얀 원으로 연결되면 관련이 있고, 까만 원으로 연결되면 관련이 없다. 머리-대-머리면 반대."에 따라 배우자가 바람난 것과 UFO가 집에 찾아오는 건 관련이 있게 된다. 따라서 배우자가 바람을 피우는 게 확실하다면, 우리는 한밤 중에 UFO가 찾아올 것을 걱정하지 않고 편안히 잠들 수 있다.

사회적 지지(social support)는 실제로 고통을 감소시켜준다는 것은 여러 가지 실험으로도 잘 확인되어 있다. 오늘 새로 나온 논문중에 이 현상에 관련된 논문이 하나 있다.

Master, S. L. et al. (2009). A Picture’s worth: Partner photographs reduce experimentally induced pain. Psychological Science, ?(?), ?-?.

실험은 이렇다. 6개월 이상 된 애인이 있는 여성들을 실험참여자로 모집했다. 실험자는 이 여성들의 팔 일부에 열을 가하면서 고통의 정도를 물었다. 실험의 조건은 여섯 가지였다.

1) 애인이 손을 잡아주는 조건
2) 모르는 남자가 손을 잡아주는 조건
3) 고무공을 잡고 있는 조건
4) 애인의 사진을 보는 조건
5) 모르는 남자의 사진을 보는 조건
6) 의자 사진을 보는 조건

1, 2, 3의 조건에서 얼굴은 볼 수 없도록 두 사람 또는 고무공과 여성 사에 커튼을 쳤다. 동시에 실험참여자들은 불시에 삐 소리가 들리리면 버튼을 가능한 빨리 누르라는 지시도 받았다. 이것은 버튼을 누르는 속도를 측정해서 실험 조건에 따라 주의가 산만해진 것은 아닌지 알아보기 위해서다.

실험 결과는 아래와 같다.

위의 그래프는 각 조건에서 느낀 고통의 정도를 상대적으로 비교한 것이다. 왼쪽부터 실험 조건 1, 2, 3, 4, 5, 6에 해당한다. 무언가를 잡고 있는 조건에서는 애인, 고무공, 모르는 남자 순이고, 사진을 보는 조건에서도 마찬가지다. 다만 의자와 모르는 남자 사이에 별 차이는 없다. 그리고 애인의 손을 잡는 것보다 사진을 보는 편이 더 고통이 적었다. 연구자들은 사진을 보면서 애인으로부터 지지를 받고 있다고 상상할 수 있기 때문에 이런 결과가 나온 게 아닌가하고 추측한다.

약간 신기하지만 아주 재밌진 않다. 결과가 반대로 나왔으면 대박이었을텐데 ㅎㅎ.

그림으로 보는 통계: (1) 쥐와 사람의 관계

여러분의 열화와 같은(?) 성원에 힘입어 계속되는 연재(먼산). 오늘의 주제는 꼬리-대-꼬리(tail-to-tail) 연결이다. 어느 순간 사람들의 입에 오르내린 "쥐는 살찌고 사람은 굶는다"라는 표어를 생각해보자. 이 표어에서 사람이 굶는 건 쥐가 살찌기 때문이 아니다. 이 두 가지는 "쥐가 쌀을 축낸다"라는 동일한 원인에서 초래된 결과다.

다시 한 번 베이즈 공 계산법의 주문을 외워보자. "하얀 원으로 연결되면 관련이 있고, 까만 원으로 연결되면 관련이 없다. 머리-대-머리면 반대." 쥐가 쌀을 축낸다는 사실이 관찰되기 전에는 "쥐가 살찐다"와 "사람이 굶는다"는 통계적으로 관련이 있다.

쉽게 말해 여러 분이 어느 집에 갔는데 포동포동 살찐 쥐를 보았다고 해보자. 그러면 이 집 사람들은 굶주리고 있을거라고 추론해보는 것도 무리가 아니다. 물론 이 집이 부자집이라 쥐가 쌀독에 대운하를 파도 쌀이 넉넉하다면야 쥐가 살쪄도 사람은 굶지 않을 것이다. 언제나 그렇지만 논리학과 달리 통계학에서는 이럴 수도 있고 저럴 수도 있다. 하지만 그런 불확실성을 잘 '길들이는' 것이 통계학에서는 관건이 된다.

그럼 이제 쥐가 쌀독에 들어앉아 소중한 쌀을 쳐묵쳐묵하고 있는 장면을 목격했다고 하자.

그럼 이제 "쥐가 살찐다"와 "사람이 굶는다" 사이에는 관련이 없게 된다. 이것은 앞의 글에서 다룬 "머리-대-꼬리"와 같은 이유다. 간단히 말해 "쥐가 쌀을 축낸다"는게 목격된 이상 쥐가 살찌건 말건 사람이 굶는다는 사실에는 변함이 없게 되기 때문이다.

이것만으로는 좀 싱거우니까 이런 아이디어가 실제 통계분석법에서 어떻게 나타나는지 잠깐 살펴보자. 시험 점수를 바라보는 관점에는 두 가지 편향이 있다. 하나는 시험 점수가 그 자체로 실력을 반영한다고 보는 관점이고, 또 하나는 시험 점수는 시험 점수일 뿐 실력이 아니라는 관점이다.

그런데 한 사람이 여러 번 시험을 보면 시험마다 점수는 다를지언정 대체로 관련이 있다는 걸 알 수 있다. 저번 시험에 80점 맞은 사사람은 이번 시험에서 75점이나 85점을 맞기도 하지만 그렇다고 30점을 맞는 경우는 드물다. 반대로 저번 시험에 50점을 맞은 사람이 갑자기 90점을 맞는 경우도 드물다. 오늘 소개한 꼬리-대-꼬리의 연결로 이를 모형화해보자.

우리는 어떤 경우에도 실력 그 자체를 관찰할 수는 없다. 우리가 관찰할 수 있는 것은 시험 점수들 뿐이다. 위의 모형에서 시험 점수들은 관찰되지 않은 변수인 '실력'에 의해 꼬리-대-꼬리로 연결되어 있으므로 서로 관련이 있게 된다. 이제 우리는 실제 자료를 가지고 그렇게 관련이 있는지 검증할 수 있다.

이런 논리에 바탕을 둔 통계 분석법을 "요인 분석(factor analysis)"이라고 한다. 요인 분석은 우리가 관찰할 수 있는 현상들 사이에 관찰할 수 없는 공통 원인이 있다고 가정한 다음, 그런 가정에 바탕해서 위와 같은 모형을 세우고 이를 검증하는 것이다.

요인 분석은 원래 스피어만이라는 심리학자가 일반 지능(general intelligence)의 존재를 검증하기 위해 만든 것이다. 스피어만은 여러 종류의 다른 시험 점수들 사이에 상관 관계가 나타나는 것을 보고, 서로 다른 종류의 지적 작업에 공통적으로 관여하는 일반 지능이 있다고 생각했다.

사람을 컴퓨터에 비교해서 설명하자면 그래픽 카드나 랜 카드 같은 것의 성능이 특수한 재능이고 CPU 성능이 일반 지능이 되는 것이다. 사실 CPU 성능도 정확하게 측정할 방법이 없기 때문에, 일반 지능도 확실하게 측정할 방법은 없지만 요인분석 등의 통계적 방법으로 대략 추정은 할 수 있다.

일반지능이론에 반대하는 다중지능이론이나 모듈론 같은 것도 있지만 스피어만의 이론은  오랫동안 많은 심리학자들이 지지해왔고 여전히 교육이나 인사 등 실무 영역에서는 널리 활용되는 개념이다. 스피어만 이후에 발전된 모형을 단순화시키면 아래와 같다.

물론 수학이나 과학시험도 언어능력의 영향을 받기는 하겠지만 그냥 간단히 그렸다. 미국의 수능인 SAT는 이런 지능 이론에 바탕을 둔다. 지능에는 크게 유동 지능(fluid intelligence)와 결정 지능(crystalized intelligence)이 있고, 유동 지능의 대표적인 것이 일반 지능이다. 결정 지능은 간단히 말해 경험적으로 축적된 지식을 말한다. 그래서 SAT 1은 유동 지능을 측정하는 검사로 언어영역과 수리영역, 에세이로 이뤄져있고, SAT 2는 결정 지능을 측정하는 검사로 과목별 지식을 측정한다. 한국의 수능도 SAT 1과 비슷한 구조를 가지고 있다. 수능에서 사회와 과학 시험을 좀 생뚱맞게도 "수리탐구2"라고 부르는 것은 이런 이유 때문이다.

다음은 대망의 "머리-대-머리" (계속)