[서평] 마음의 탄생 - 레이 커즈와일<5>

5장 이후에 건너뛰고 가장 인상깊게 봤던 9장 정리

9.마음을 지닌 기계의 탄생: 의식,자유의지,정체성의 재발견

인공지능의 급속한 발전은 머지않아 '의식'을 가진 기계의 출현을 예고하고 있다. 그 순간 인류는 깊은 철학적 고뇌의 늪에 빠지고 말 것이다. 강한 인공지능을 의식을 가진 존재로 인정한다면 그들은 인간의 고유한 특성이라 여겨지는 '자유의지'도 갖게 되는 것일까? 나의 의식을 복제한 기계가 탄생한다면 나라는 존재에 대한 인식, 즉 정체성은 또 어떻게 정의해야 할까?

지능적인 기계가 제작되었을 때, 인간과 마찬가지로 기계가 마음과 몸, 의식, 자유의지와 같은 것에 대해 어떤 태도나 신념을 가지고 있다고 하더라도 놀라지 말라

마빈 민스키, [마음의 사회]

철학적 좀비와 만남

많은 사람들이 의식을 어떤 '행동'으로 간주한다. 이를테면 자아성찰능력, 즉 자신의 생각을 이해하고 설명할 수 있는 능력과 같은 것이라고 생각한다. 나는 이것을 '생각에 대해 생각할 수 있는 능력'이라고 풀이한다.

하지만 이런 접근방식은, 현실에 적용하려는 순간 곧바로 문제에 직면하고 만다. 아기는 의식이 있는 존재일까? 개는 어떨까?

과학으로 분명하게 증명할 수 있는 것과, 여전히 철학의 문제일 수 밖에 없는 것을 구분하는 것이다. 어떤 측면에서 철학이란 과학이 아직 완벽하게 밝혀낼 수 없는 문제들이 잠시 머무는 대피소 같은 곳이다.

차머스는 의식의 어려운 문제와 쉬운 문제를 구별짓기 위해, '좀비'라는 대상을 가정하는 생각실험을 소개한다. 그가 소개하는 좀비는 사럼처럼 행동하지만 주관적인 경험을 갖지 못한다. 한마디로, 의식이 없는 존재다.

자 이제, 어느 칵테일 파티에 참석했는데 '정상적인' 인간과 좀비가 뒤섞여있다. 당신은 그들을 구별할 수 있겠는가?

직접 다가가 이야기를 해보면 어떤 사건이나 생각에 대해 그들이 보이는 정서적 반응을 통해 사람과 좀비를 구별해낼 수 있지 않을까? 좀비는 아마도 어떤 유형의 정서적 반응이 결핍되어 있을 것이라고 사람들은 흔히 대답한다.

하지만 이러한 대답은 이 생각실험의 전제를 제대로 이해하지 못한 것이다. 감정을 느끼지 않는 사람이나 인간이 아닌 것이 분명한 아바타나 로봇은 좀비가 아니기 때문이다. 차머스의 전제에 따르면 정서적인 반응을 비롯하여 대화를 하는 좀비의 능력은 인간과 전혀 다르지 않다. 좀비는 다만 주관적 경험이 없을 뿐이다.

결국, 좀비를 식별해낼 수 있는 방법은 없다. 이 문제에 설정된 전제에 따르면 좀비의 본성은 행동으로 드러나지 않기 때문이다. 그렇다면 '주관적인 경험' 이란 의미가 없는 구분 아닐까?

양자연산이 고전적 연산보다 탁월한 성능을 발휘하는 특정한 문제들이 있다. 예컨대, 양자연산은 큰 수를 인수분해 하는 데 매우 뛰어난 성능을 발휘한다.

믿음의 도약

내가 예측하기로는, 머지않은 미래의 기계들은 의식을 가지고 있는 것처럼 보일 뿐만 아니라 자신들도 퀄리아를 가지고 있다고 주장하며 생물학적 인간들을 설득시키는데 성공할 것이다. 그들은 미묘하면서도 친근한 정서적 신호도 표현할 수 있게 될 것이며, 우리를 웃기기도 울리기도 할 것이다. 그들에게 의식이 없는 존재라고 말하면 그들은 화를 낼 것이다.

이 지점에서 나는 개인적으로 믿음의 도약을 하고 싶다. 기계가 인간 수준의 지능을 갖게 되는 순간, 인간과 동등한 존재로 인정받아야 한다는 믿음이다.

여기서 강조점은 '인간과 전혀 다를 바 없어 보인다'는 것이다.

그러한 비생물학적 존재를 언제 만나게 될지, 심지어 그런 존재를 만날 수 있을지 없을지, 사람마다 의견이 갈린다. 나는 일관되게, 그런 존재를 2029년 처음 만날 수 있을 것이고, 2030년대가 되면 일상적으로 만날 것이라고 예측해왔다. 언제 만나게 되느냐 하는 문제는 제쳐두더라도, 어쨌든 우리는 그들을 의식이 있는 존재로 인정하게 될 것이다.

영국의 작가이자 철학자인 수잔 블랙모어는 '의식의 장엄한 환상' 에 대해 얘기한다. 그녀는 '밈'의 실재를 의식이라고 말한다. 밈이란 개체의 생각을 다른 개체로 전달할 때, 전달되는 생각의 최소단위를 말한다. 다시 말해, 의식은 개별적인 생각으로 명백하게 존재하며, 그 생각을 말이나 글로 인코딩한 표현은 물론, 그 생각을 다루는 신피질의 거대한 구조 속에 존재한다.

영적인 기계의 탄생

뇌가 있기 전에 우주에는 색깔도 소리도 없었고, 맛도 향기도 없었다. 감각도 없었고, 느낌이나 감정도 없었다.

로저 스페리

의식과 현실의 본성에 대한 서양과 동양의 관점이다. 서양의 관점은 정보의 패턴을 만들어낸 물리적 세상에서 출발한다. 수십억 년에 걸쳐, 물리적 세상 속 존재들이 진화한 결과, 완전히 의식을 가진 존재가 된 것이다. 동양의 관점은 의식에서 출발한다. 의식이 근본적인 현실이다. 물리적 세상은 의식을 가진 존재의 생각을 통해서만 존재할 수 있다. 즉, 물리적 세상은 의식을 가진 존재의 생각이 만들어 낸 것이다.

의식 문제에 대한 동서양의 차이는 아원자물리학 분야에서 대립하는 학파로 나탄나다. 양자물리학에서 입자는 '확률장'이라는 것으로 존재한다. 측정장치를 이용해 그 입자를 측정하는 순간 '파동함수의 붕괴'라는 현상이 초래되는데, 쉽게 말해 입자가 위치할 확률이 100%로 바뀐다는 뜻이다. 일반적으로 볼 때, 그러한 측정은 의식이 잇는 관찰자에 의해 촉발된 행동이다.

따라서 입자의 위치는(속도와 같은 다른 특성도 마찬가지로) 관찰될 때에만 정해진다. 기본적으로 누군가 보려고 하지 않는다면, 입자는 자신이 어디에 위치할 것인지 결정할 필요가 없다. 나는 이것을 양자역학의 불교학파라고 부른다. 이 학파에서는 의식이 있는 사람이 관찰하지 않는한 입자는 기본적으로 존재하지 않는다고 생각한다.

-낭비. 게임에서 플레이어가 없는 곳의 몬스터와 npc는 움직이지 않음

이러한 의인화된 용어를 사용하지 않는 또 다른 양자역학의 해석도 있다. 이 분석에서 입자는 확률장이 아니라, 위치에 따라 다른 값을 가지는 함수로 존재한다. 따라서 여기서 장은 곧 입자 자체를 의미한다.

이 관점에서 보면, 이른바 파동함수는 전혀 붕괴되는 것이 아니다. 파동함수는 실제로 사라지는 것이 아니라, 측정장치가 장속에 입자를 구성하는 것이다. 측정대상이 되는 입자의 장과 측정장치의 입자의 장이 상호작용한 결과 특정한 위치에 존재하는 입자를 읽어내는 것이다. 하지만 그 장은 여전히 존재한다. 이것이 바로 양자역학에 대한 서양식 해석이다. 물론 지금 전세계 물리학자들 사이에서 인기있는 관점은 동양식 해석이다.

이러한 동서양 관점을 아우르는 철학자가 있었다. 오스트리아 출신 영국 사상가 루드비히 비트겐슈타인이다.

[논리철학논고]

이 책과 이 책을 둘러싼 운동은 튜링은 물론, 컴퓨터이론과 언어학의 발생에 깊은 영향을 미쳤다.

[논리철학논고]는 모든 지식은 본래적으로 계층적이라는 통찰을 제시한다.

1.세계는 일어나느 모든 것이다.

11.1 세계는 사물이 아닌, 사실의 총합이다.

1.11 세계는 사실에 의해 결정되며, 모든 사실이 됨에 의해 결정된다.

1.12 사실의 총합이 일어나는 것을 결정할 뿐만 아니라, 일어나지 않는 것도 모두 결정한다.

[논리철학논고]에서 또 다른 중요한 진술은 이런 것이다.(튜링도 여기에 공감했을 것이다)

4.0031 모든 철학은 언어적 비평에 불과하다.

논리실증주의 운동의 주장은 이렇게 정리할 수 있다.

'물리적 현실과 그런한 현실에 대한 우리의 인식이 별개로 존재하지만, 그 현실에 대해 우리가 알 수 있는 것은 모두 감각을 통해 인지할 수 있는 것이며, 이러한 감각적 인상을 통해 논리적으로 추론할 수 있는 것이다.'

비트겐슈타인은 기본적으로 과학의 방법과 목적을 설명하려고 시도한다. 이 책의 마지막 진술은 다음과 같다.

7.말할 수 없는 것에 관해서는 침묵해야 한다.

비트겐슈타인은 의식에 대한 논의를 순환적이고 같은 말을 반복하는 것이며 따라서 시간낭비라고 생각했다. 하지만 후기에 비트겐슈타인은 그러한 접근방식을 완전히 버리고, 초기에 자신이 침묵해야 한다고 주장했던 문제들에 대해 이야기하면서 자신의 모든 철학적 관심을 쏟아 부었다. 이렇게 수정된 생각을 담은 글을 모아 그가 죽은지 2년이 지난 1953년 [철학탐구]라는 책으로 출간되었다.

그렇다면 후기 비트겐슈타인이 생각하고 이야기할 가치가 있다고 본 것을 무엇일까? 그것은 아름다움과 사랑과 같은 문제였는데, 이런 것들이 인간의 마음속에 '생각'으로 불완전하게 존재한다고 보았다. 하지만 그는 이러한 개념들이 완벽하게 이상적인 영역에 존재한다고 적었다.

데카르트는 서양의 이성적 시각의 설계자로 간주된다.

하지만 데카르트는 '마음-몸 문제'라고 하는 것에 대해 고민했다. 말하자면, '의식적인 마음이 뇌라는 물리적인 물체에서 어떻게 솟아나는가?' 하는 문제였다. 이러한 관점에서 볼 때, 그는 이성적인 회의주의를 극한까지 밀어붙이려고 했던 것으로 보인다. 따라서 그가 제시한 명제의 진정한 의미는 이러할 것이다.

'나는 생각한다. 다시 말해 주관적인 경험이 발생한다. 고로 우리가 분명히 알 수 있는 것은, 어떤 것 - '나'라고 불리는 것- 이 존재한다는 것이다.'

한편으로, 물리적 세계를 부정하는 것은 어리석은 행동이다. 심지어 스웨덴 철학자 닉 보스트롬이 말하는 것처럼 우리가 시뮬레이션 속에서 살고 있다고 하더라도, 물리적인 세계는 우리에게 개념적으로 실재하는 대상이다. 물리적 세계의 존재와 그 안에서 발생한 진화를 받아들인다면, 의식을 가진 존재들이 거기서 진화했다는 사실을 알 수 있다.

사람들은 대개 기계가 의식을 가질 수 있다는 이야기가 나올 때마다 위협을 느낀다. 이러한 논의가 의식이 있는 인간의 영적인 가치를 떨어뜨린다고 간주하기 때문이다 하지만 이러한 반응은 '기계'라는 개념에 대한 오해에서 비롯되는 것이다. 사람들은 현재의 '기계'를 바탕으로 이 문제를 이해한다.

하지만 기계들은 머지않아 우리가 의식 있는 존재라고 간주하는 생물학적 인간과 구별할 수 없는 수준으로 발전할 것이며, 이로써 우리가 의식에 부여하는 영적인 가치도 공유하게 될 것이다.

미래의 기계는 지금의 기계와는 완전히 다른 형태가 될 것이기 때문에 어쩌면 새로운 용어를 찾아야 할지도 모른다.

자유의지

의식의 핵심기능은 앞을 내다보는 '예측'이라고 하는 능력이다. 예측이라 계획하는 능력이자 사회적 맥락에서 앞으로 일이 어떻게 전개될지, 무슨 일이 발생할지 시나리오를 짜는 능력, 또는 아직 발생하지 않은 사회적 상호작용을 계획하는 능력이다.... 이렇나 능력을 발휘할 수 있는 기횔르 높여주는 체계는 당연히 인간의 최고의 관심사라고 할 수 있다... 나는 그러한 체계가 바로 '자유의지'라고 생각한다. 무엇이든 가장 유용하거나 적절해 보이는 것을 선택하고 그에 따라 행동할 수 있는 명백한 능력이자, 그러한 선택이 나 자신의 것이라고 고집할 수 있는 근거다.

리차드 알렉산더