"인공지능의 시대, 인간을 다시 묻다" 들어가는 말 (전문)

안녕하세요. 뉴비 @armdown 철학자입니다.

오늘은 제가 지은 책 "인공지능의 시대, 인간을 다시 묻다"(동아시아, 2017)의 '들어가는 말' 전문을 소개할까 합니다. 지난 번 올려서 많이 호응해 주신  '기억과 불멸 사이 — 인공지능의 기억, 인간의 기억'의 바탕이 되는 글이기도 합니다. 예스24의 책 소개 란에 '미리보기' 형태로 제공되는 내용이기도 하지만, 텍스트 형태로 변환해서 공개합니다. 

단순한 책 홍보가 아니(긴 뭐가 아니)니, 내용을 읽어 보시면 인공지능에 대해 뭔가 그림이 그려질 겁니다. 오늘은 처음으로 그림을 탑재해 봅니다.

  김재인 지음, “인공지능의 시대, 인간을 다시 묻다”(동아시아, 2017)의 ‘들어가는 말’

2016년 봄, 컴퓨터와 인간의 바둑 대결에서 알파고AlphaGo가 이겼죠. 사실상 완승이었어요. 1997년 체스에서 컴퓨터가 이겼고, 이제 바둑을 이겼고, 그럼 10년 후엔? 섬뜩한 일이 벌어질 수도 있겠죠. 그리고 1년이 흘러 2017년 5월, 알파고는 다시 ‘바둑의 미래 정상 회합The Future of Go Summit’이라는 이름으로 당대 바둑 랭킹 1위인 중국의 커제를 비롯한 중국 정상 기사들과 대결을 벌여 완승을 거두고, 바둑계를 은퇴했습니다. 총 전적 73승 1패. 이세돌 9단은 알파고를 상대로 1승을 거둔 유일한 인간 기사로 남게 되었습니다.

철학과에서 ‘컴퓨터와 마음’이라는 주제를 강의할 때의 장점은, 철학이 원리를 다루는 학문이라는 데 있어요. 철학의 장점은 어떤 사실이 성립하기 위한 바탕, 토대에 대해 질문을 던진다는 점입니다. 물론 철학만 그런 질문을 던지는 건 아니지만, 과학자들이 잘 다루지 않는 걸 철학이 많이 다루는 것도 사실이에요. 기술의 발전 속도는 놀랄 정도로 빨라 미리 예측해서 분석하기 어려울 정도입니다. 하루가 다르게 새로운 사례가 등장하고 있어서 다 따라잡기도 바빠요. 

다행히도 철학은 원리의 문제를 주로 다루기 때문에 그런 속도에 얽매일 필요가 없습니다. 실제 사례를 몰라도 된다는 뜻이 아니고, 거시적인 조망을 할 수 있다는 말입니다. 예를 들어볼게요. 인공 지능artificial intelligence이란 기계로 지능을 구현하는 걸 말합니다. 인공지능 연구는 당연히 인간지능human intelligence 연구와 밀접하게 관련됩니다. 그런데 우리는 정작 인간지능이 무엇인지 아직 잘 몰라요. 잘 모르는 것을 구현할 수가 있을까요? 공학자들은 이런 질문에는 관심이 별로 없어요. 인간지능이 인공지능과 본성상 같다는 걸 전제로 깔고 작업하니까요. 그래서 연구가 성공할지 말지 알 수 없습니다. 그렇지만 우리는 철학적으로 이런 물음들을 던질 수 있고, 이런 작업은 결코 무의미하지 않습니다. 

알파고를 볼까요. 바둑은 경우의 수가 정말 많아요. 우주에 존재하는 원자의 수보다도 많다고 하지요. 그렇긴 해도 바둑은 어쨌건 수학 계산입니다. 그런 점에서 바둑은 비인간적인 활동이에요. 인간은 본래 계산을 잘 못해요. 그게 정상입니다. 계산 대결에서 컴퓨터가 인간에게 이겼다고 충격적일 것도 없어요. 인간보다 컴퓨터가 계산을 더 잘하는 건 당연하니까요. 컴퓨터는 ‘계산기’라는 뜻이고, 계산 기능은 발전에 발전을 거듭해왔잖아요. 컴퓨터가 인간보다 잘하는 모든 분야는 컴퓨터가 ‘원리상’ 더 잘하는 분야일 수밖에 없어요. 이 점에 주목해야 합니다. 

알파고 후에 대략 세 가지 정도의 중요한 사건이 있었어요. 첫째는 IBM의 인공지능 왓슨Watson이 의료 정보를 학습한 후 임상에서 진단과 처방을 내린 일입니다. 둘째는 구글 번역이 신경망 학습을 통해 상당히 높은 정확도로 언어 간 번역을 해낸 일입니다. 셋째는 포커 게임에서 인공지능이 인간 챔피언에게 이긴 일입니다. 바둑을 은퇴한 알파고는 전략 시뮬레이션 게임인 스타크래프트를 학습해서 인간에게 도전할 예정이라고 합니다. 이 사례들은 모두 기계학습machine learning의 획기적 발전과 관련됩니다. 자세한 건 강의를 진행하면서 살펴보겠지만, 우리가 물어야 할 건 이 사례들에 활용된 기계학습이 계산의 영역에 속하는지 여부입니다. 계산의 영역에 속하는 사안이라면 인공지능이 인간을 능가하리라는 건 너무도 분명합니다. 그런데 계산과 상관없는 사안이라면 어떨까요? 자연과 사회의 모든 현상은 다 계산 가능한 걸까요? 이 우주는 인간이 아직 다 계산해내지 못했고 앞으로도 인간 혼자서는 계산할 수 없겠지만, 본래는 계산 가능한, 따라서 인공지능이 풀 수 있는 그런 성질을 지니고 있는 걸까요? 이런 물음에 답해야 할 겁니다. 지레짐작해서 답하는 게 아니라 따질 때까지 따지면서 답해야 합니다. 

수학은 인간이 자연스럽게 잘할 수 있는 일이 아니라는 점에서 비인간적인 활동입니다. 자연과학도 이 점에서는 마찬가지이고요. 자연과학은 인간의 오감으로 다룰 수 없는 세계까지도 탐구합니다. 초음파, 자외선, 전자기파 등은 인간이 보거나 느낄 수 없잖아요. 그런 것들을 감지하고 적절히 기술하고 이용하는 활동이 과학입니다. 인간이 다른 동물보다 과학을 잘하는 건 맞아요. 100년 전의 인간과 비교해도 오늘날 인간은 할 수 있는 일이 더 많아졌어요. 인간이 현재 할 수 있는 많은 일들은 자연적이지natural 않은, 즉 인공적인artificial 일들이에요. 

100년 전 사람이 보면 지금 세상은 해리포터의 세계로 보일 겁니다. ‘쿠쿠’가 사람보다 밥을 더 잘 짓지요? ‘트롬’은 빨래를 더 잘 하고요. 밥솥이나 세탁기도 인공지능의 분류 측면에서 보면 알파고와 같은 등급인 걸 아시나요? 인공지능은 세 가지 등급으로 구분됩니다. 인간보다 1,000배 이상 높은 지능인 초인공지능artificial super or ultra intelligence, 그보다 조금 낮은 등급인 인간 수준 범용인공지능artificial strong or general intelligence, 한 가지 일을 아주 잘하는 약인공지능artificial narrow intelligence이 있는데, 알파고는 약인공지능에 속해요. 그런데 쿠쿠나 트롬도 같은 등급이에요. 참고로 현재는 인공지능 연구의 제3기에 해당하는데, 약인공지능에 대한 연구는 제2기인 ‘인공지능의 암흑기’에 많이 발전했습니다. 

인공지능이 인간보다 얼마나 많은 것을 잘하게 될까요? 이 물음에 답하기 전에 인간지능에 대한 중요한 오해 하나를 짚고 가야 할 것 같아요. 보통 인간지능의 핵심으로 꼽는 건 ‘추상적 활동’의 능력입니다. 수학과 과학 같은 활동이요. 이런 일은 자연에서 어떤 동물보다도 인간이 탁월하게 해요. 그런 점에서 ‘인공적인 것’의 능력이 라고 표현해도 좋아요. 본래 artificial이라는 말도 ‘공예품이나 예술 작품 같은 걸 만드는 능력’이라는 뜻에서 왔거든요. 인간에게 아주 중요한 특성이기 때문에 여기에 주목해왔던 건 당연합니다. 

아주 흥미로운 건, 인공적인 것의 능력이 인간한테 자연스럽다는 점입니다. 자연에서 인간은 유별나게 인공적인 것의 능력을 갖고 있어요. 그리고 이 능력을 특화한 것이 컴퓨터이지요. 요컨대 인공 지능은 인간지능의 ‘한 부분’을 극단적으로 발전시키려는 시도 속에서 탄생했다고 말할 수 있습니다. 그런 점에서 알파고는 인간지능의 성취인 거죠. 

수학과 과학에서 드러나는 인간의 추상적 활동은 객관적objective으로 평가할 수 있다는 특징을 갖습니다. ‘객관적’이라는 건 제3자에게 동의를 얻을 수 있다는 뜻입니다. 누구라도 함부로 반박할 수 없어요. 수학과 과학에서 얻은 앎이 자연의 모습 그대로인지 아니면 인간에게 그러하다고 알려진 모습에 불과한지에 관해서는 논쟁이 있습니다만, 지금 강조하고 싶은 건 그런 앎이 자연 안에서 모순 없이 아주 잘 작동한다는 점입니다. 인간이 어떤 앎을 얻고 그 앎에 입각해서 어떤 활동을 했을 때 충돌이나 모순이 생겨나지 않는다면 그 앎은 아주 잘 작동한다고 평가할 수 있겠지요. 이런 측면에서 그 앎은 객관적입니다. 어느 누군가가 제멋대로 생각한 것에 불과한 건 아니라는 거죠. 망상일 수도 있지만, 자연의 운행과 맞아떨어지는 상당히 그럴듯한 망상인 셈입니다. 요약해보죠. 인간지능의 한 부분인 추상적 활동의 능력은 객관화될 수 있고 인공지능의 형태로 특화되어 발전했으며, 앞으로도 더 발전할 것이 분명합니다. 

* * *

이제 인간지능의 다른 부분으로 눈을 돌려보겠습니다. 바로 마음입니다. 마음이 지능의 일부인지 아닌지는 논란이 있을 수 있는데, 이 문제는 강의를 진행하면서 살필게요. 지금은 마음의 가장 중요한 특성에 집중하는 게 좋겠어요. 마음은 객관화되지 않습니다. 바로 옆에 있는 사람이 로봇인지 인간인지 알 수 있는 방법이 있을까요? 마음을 갖고 있어야 인간일 텐데, 마음이 있는지 없는지는 객관적으로 검증이 안 됩니다. 마음이 있는지 없는지는 자기만 알 수 있어요. 이런 특성을 ‘주관적subjective’이라고 합니다. 1인칭으로만 접근이 가능한 거죠. 누군가가 ‘나는 마음을 갖고 있다’라고 말한다고 해 서 그가 진짜 마음을 갖고 있다고 입증되지는 않습니다. 마음이란 영원히 들여다볼 수 없는 블랙박스인 거죠. 그래서 마음이 있다는 건 망상일 뿐이고, 사실 마음이라는 건 없다는 주장도 나옵니다. 이 주장은 마음의 존재를 객관적으로 입증할 수 없다는 논거에 기대고 있어요. 

하지만 객관적으로 입증할 수 없다는 것과 아예 존재하지 않는다는 건 별개의 문제입니다. 없다는 건 본래 증명이 어려워요. 현실적으로 증명이 불가능하죠. 그래서 행동주의behaviorism를 택하는 이들도 있어요. 마음이 있는지 없는지는 모르겠고, 겉으로 드러난 행동만, 즉 자극과 반응의 관계만 봐야 한다는 거죠. 그렇다면 행동주의의 방법으로는 로봇과 인간을 구분할 수 없겠지요? 행동주의는 그런 구분을 애초부터 무시하겠다는 접근이니까요. 우리가 주목해야 하는 건, ‘적어도 나 자신은 마음을 가지고 있다’라는 확신이 누구에게나 있다는 점입니다. 자기 안쪽을 들여다보면 마음이 있어요. 하지만 바로 옆 사람이 마음이 있는지는 확실치 않아요. 따라서 마음의 탐구는 내성內省, introspection에 의존할 수밖에 없습니다. 내면을 면밀히 살피는 거죠. 물론 그 탐구는 제멋대로일 수 있기 때문에 분명히 한계가 있습니다. 하지만 그렇게 들여다본 걸 열심히 적어놓는다면 참고할 수는 있겠지요. 오랜 세월 동안 철학자들이 그 일을 해왔고, 그중에는 아주 탁월한 것들도 있습니다. 그 자료들을 검토할 필요가 있어요. 

마음은 뇌에 있기 때문에 뇌를 탐구하면 된다는 주장도 있습니다. 그런데 뇌는 몸의 일부입니다. 몸의 다른 기관들이 세포들로 이루어져 있는 것과 마찬가지로 뇌는 신경세포들로 이루어져 있어요. 뇌가 몸이라는 걸 잊어서는 안 됩니다. 뇌를 연구하는 일과 마음을 연구하는 일은 관련은 있지만 동일한 작업이 아닙니다. 뇌 과학을 통해서는 마음이 어디에 있는지 알 수 없어요. 마음이 무엇인지는 더더욱 알 수 없습니다. 뇌는 객관적 존재인 반면 마음은 주관적인 존재이기 때문입니다. 이건 뇌 연구의 현실적 어려움보다 더 근본적인 차원과 관련됩니다. 이런 걸 철학에서는 원리상de juri, in principle의 문제라고 부르죠. 마음은 분명 뇌에 상당히 의존하고 있지만, 마음과 뇌는 원리상 동일하지 않습니다. 그렇다면 그 관계는 무엇일까요? 이 물음에 대한 답변은 결국 마음이 무엇인지를 분명히 하는 데 의존할 수밖에 없습니다. 그런데 마음은 객관적으로 접근할 수 없는 영역입니다. 심지어 마음이 있는 장소locus를 말하는 것조차 어렵습니다. 마음의 탐구가 철학적 작업일 수밖에 없는 이유도 여기에 있습니다. 

마음이 무엇인지 모른다는 게 현재까지의 연구가 이른 한계입니다. 그런데도 인간은 인간지능을 기계적으로 구현하겠답시고 인공지능을 연구하고 있습니다. 물론 인공지능이 인간지능과 똑같은 본성을 지닐 필요는 없습니다. 인간중심주의에 갇힐 필요는 없어요. 인공지능이 탁월한 계산기여도 상관없으니까요. 어쩌면 인간지능을 모델로 하지 않는 편이 인공지능 발전에 더 도움이 될지도 모릅니다(이 문제는 나중에 다룰 텐데 중요한 의미를 내포하고 있으니 일단 기억하고 갑시다). 하지만 인공지능이 인간지능을 뛰어넘었다는 말도 삼가야 합니다. 계속 말했듯이 인간지능이 무엇인지, 인간의 마음이 무엇인지 아직 모르기 때문입니다. 영원히 모를 수도 있습니다. 인간지능을 탁월한 계산기라고 묘사하는 건 ‘비유적으로만’ 타당합니다. 이제는 그 비유도 버려야 할 때입니다. 솔직하게 인간지능이 무엇인지 모른다고 고백해야 합니다. 다만 마음의 본성을 완벽하게 알아낼 수 있다면, 더 엄밀히 말해 객관화할 수 있다면, 알고리즘(프로그램)으로 구현할 수 있을 것이라고 덧붙일 수만 있을 겁니다. 

지능은 생물학적인 능력이에요. 유인원이나 돌고래나 꿀벌도 지능이 있어요. 인간이 제멋대로 기준을 정해 측정해서 어떤 동물의 지능이 높다 낮다 말하지만 지능은 종마다 특유해서 서로 비교하는 게 무의미합니다. 진화의 역사를 통해 종별로 생존을 위해 갖추게 된 능력이기에 인간의 기준으로 논해서는 안 돼요. 돌고래의 기준에서 돌고래는 자신의 생존에 필요한 충분한 지능이 있어요. 돌고래는 자신의 환경에서 생존할 능력이 있는 데 반해, 인간은 돌고래의 환경에서 살아남지 못하고요.

지능은 생명 진화의 마지막에, 우주 진화의 마지막에 나타난 특별한 현상입니다. 따라서 지능을 얘기하려면 진화론적 접근을 해야만 합니다. 나아가 자연과의 관계, 다른 인간과의 관계를 고려하면서 인간지능의 특성을 살펴야 합니다. 넓은 의미의 생태학적 접근이 필요한 거죠. 더욱이 개체가 지닌 지능individual intelligence 말고 집단이 지니는 지능collective intelligence도 있어요. 집단지능은 꿀벌이나 개미에게서도 확인되지만, 인간의 민주주의 같은 제도에서도 나타납니다. 아니, 사회라는 것 자체가 일종의 집단지능을 갖고 있다고 봐도 좋겠네요. 그렇다면 인공지능은 개체지능과 집단지능 둘 중 어느 것과 가까울까요? 이런 것도 물어봐야 할 겁니다. 

여러분은 앞으로 뛰어난 인공지능과 살아갈 시간이 길 거예요. 그 속에서 잘 살 수 있는 방법이 무엇일까요? 새로운 시대에 인간만이 할 수 있는 일, 또는 인간이 더 잘할 수 있는 일을 고민해봐야 합니다. 바로 여러분의 문제이니까요. 인공지능 시대에 무엇을 어떻게 공부할까? 이 물음을 이 강의의 부제로 삼고 싶어요. 각자의 전공과 상관없이 인간이 잘할 수 있는 일을 탐구해보자는 거죠. 공부는 시험 잘 보는 것과는 달라요. 배운다는 것도 따져보면 그 의미가 분명하지 않습니다. 배움이나 학습의 의미도 다시 살펴봐야 할 거예요. 새로운 시대가 요구하는 그런 것을 함께 고민하는 시간이 되었으면 좋겠습니다. 

* * *

철학 활동은 그 무엇도 예단하지 않는 걸 기본으로 합니다. 모든 것에 대한 전면적 비판이 가능하다는 말입니다. 인공지능을 살피는 데 있어 나는 튜링이 던진 질문을 살피려 합니다(1장). “기계가 생각할 수 있을까?” 이 질문에는 많은 생각거리가 있습니다. 그러나 한꺼번에 다루는 건 불가능합니다. 얼마간 순서를 밟지 않으면 곤란 하겠지요. 

그래서 먼저 살피고 싶은 건 오늘날 전문가들에게서 진행되고 있는 실제의 ‘인공지능 프로젝트’입니다(2장). 일반 사람들에게는 어렵게 느껴질 수도 있겠지만, 최대한 쉽게 설명하려 합니다. 사실 실제의 인공지능 연구에 대해 모른 채 인공지능을 논하는 건 부질없는 짓입니다. 나는 현장에서 연구하는 인공지능이 무엇인지를 현장의 언어로 살피려 했습니다. 인공지능을 추상적이고 막연하게, 아니면 의인법을 통해 지레짐작으로 고찰해서는 안 된다고 생각했기 때문입니다. 그래서 생각의 중심, 문제의 말뚝을 분명히 하는 일이 우선이라고 보았습니다. 

다음으로 살필 것은 인공지능이 구현하려는 목표인 인간지능의 정체입니다(3장). 이를 위해 마음, 몸, 생명 등에 대해 생물학, 뇌 과학, 심리학, 철학, 공학 등의 분야에서 연구된 성과들을 확인하고 가야겠습니다. 특히 여기에서는 동물 에이전트의 구조를 밝히는 데 많은 부분을 할애했습니다. 인공지능 에이전트와 비교함으로써 중요한 차이를 발견할 수 있다고 보았기 때문입니다. 

뜻밖이라고 여겨질 수도 있겠지만, 나로서는 가장 중요하다고 보는 것이 ‘인과’라는 주제입니다(4장). 인간지능을 다루려면 몸과 마음의 관계를 고찰할 수밖에 없는데, 그 과정에서 가장 중요하게 제기되는 문제가 몸과 마음 사이의 상호작용입니다. 상식적으로야 그게 문제가 되나 싶기도 하겠지만, 따져보기 시작하면 만만찮은 문제입니다. 그리고 그 핵심에 인과가 있습니다. 이와 관련해서 ‘시간’ 이라는 주제도 새롭게 고찰했습니다. 뜻밖의 반전이 있을 테니 함께 잘 생각해봅시다. 

그다음에는 철학 문헌 두 편을 함께 읽으려 합니다(5장, 6장). 주인공은 플라톤과 데카르트입니다. 두 철학자는 몸과 마음에 대한 서양의 전통적인 견해를 잘 정리해주고 있습니다. 하지만 단순한 정리 이상이라는 점도 확인할 필요가 있습니다. 교과서에 요점 정리된 내용을 받아들이기보다 고전 문헌을 직접 읽는 것이 왜 필요한지를 함께 느껴보려 합니다. 동시에 애니메이션 영화 “공각기동대Ghost in the Shell”(1995)를 소재로 흥미로운 주제들을 검토하는 자리를 가져보려 합니다. 

마지막 7장은 두 가지를 다룹니다. 하나는 ‘초인공지능이 가능할까’라는 물음에 대한 검토입니다. 나는 현재로서는 불가능하다고 결론을 내렸습니다. 인공지능이 스스로 프로그램을 개정하는 일은 불가능하기 때문입니다. 또 하나는 미래에 대한 대처입니다. 인공지능이 우리 삶의 조건을 바꿀 것은 명백합니다. 그렇다면 우리는, 특히 젊은이들은 어떻게 대처해야 할까요? 당장 무엇을 어떻게 공부해야 할까요? 시험 점수를 높이기 위한 공부가 아닌, 미래 삶을 위한 공부는 어떤 것일까요? 이 문제는 인공지능이 잘하는 것과 할 수 없는 것을 구분하면서 따져야겠지요. 우리는 인공지능이 할 수 없는 쪽을 할 수 있도록 노력하는 길 외에 방법이 없지 않을까요? 나는 그 길을 ‘창작 활동’에서 찾아보려 합니다. 

  차례

1. 기계가 생각할 수 있을까?

1.1 튜링의 흉내 게임

1.2 중국어 방

1.3 구글 번역

2. 인공지능 프로젝트

2.1 지능적 에이전트 만들기

2.2 에이전트의 구조

2.3 과제 환경이냐 문제 환경이냐

2.4 알고리즘과 기계학습

2.5 네트워크 컴퓨터

2.6 인공생명과 예쁜꼬마선충 로봇

3. 마음과 생각

3.1 생각과 마음

3.2 마음과 몸을 가리키는 말들

3.3 몸

3.4 동물과 식물의 마음

3.5 우주 역사에 자유의지는 없다

3.6 뇌를 통해 마음에 접근할 수 있을까 

3.7 기계의 확장

4. 인과와 시간

4.1 몸과 마음의 이원론

4.2 인과란 무엇일까(1) : 자연과학에서의 당구공 모델

4.3 흄의 귀납 비판

4.4 수학, 과학, 철학

4.5 인과란 무엇일까(2) : 니체의 계보학 모델

4.6 시간과 운명 211

5. 철학 문헌 읽기(1) : 플라톤

5.1 플라톤은 누구인가

5.2 기하학과 이데아

5.3 플라톤의 “파이돈” 읽기

5.4 이데아 개념의 변천 : 변하지 않은 것과 변한 것

6. 철학 문헌 읽기(2) : 데카르트

6.1 과학혁명과 데카르트

6.2 “성찰”과 형이상학 

6.3 “성찰” 읽기

6.4 “공각기동대”를 통해 본 몸과 마음의 이해 

7. 무엇을 어떻게 학습할까?

7.1 스토캐스틱 과정 

7.2 몸이 있어야만 한다 

7.3 예술가로서 살기