AI와 ‘가짜뉴스’ 시대의 '앎, 지식, 지능'과 '공감'

산업화 시대와 비교 불가한 새로운 혁명의 시작

시장조사기관인 IDC가 발표한 따르면 1990년대말 100엑사바이트 수준이었던 정보량은 지난 2011년 1.8제타바이트를 넘어섰으며, 2020년에는 1.8제타바이트의 50배 이상 늘어날 것으로 예상된다.

엑사바이트(EB)는 10의 18승, 제타바이트(ZB)는 10의 21승을 의미하는데, 생소한 데이터 단위만으로 정보량을 가늠하기 쉽지 않겠지만 100엑사바이트는 인류가 선사시대부터 1990년까지 남긴 모든 정보량과 맞먹는 수준이라고 한다. 지난 2009년까지 18개월마다 정보량은 2배 증가했지만 앞으로 펼쳐질 초연결(Hyper-connected) 사회에서 실생활에 존재하는 대부분의 사물이 정보를 쏟아내기 시작하면 인류가 축적한 정보량이 2배 증가하는데 걸리는 시간은 2~3개월 내로 짧아질 수 있다.

정보량 증가 속도만 봐도 산업화시대와 비교 불가한 혁명적 수준이다. 굳이 ‘4차 산업혁명’이라는 수식어를 붙이지 않아도 이미 새로운 혁명을 맞이하고 있는 셈이다. 그러나 아직까지도 혁명의 의미가 와 닿지 않는다면 우리의 ‘지식’과 ‘앎’은 물론 ‘삶의 방식’까지 송두리째 재정의해야 할지도 모른다.

우리가 맞이하고 있는 혁명을 ‘4차 산업혁명’이라 명명할 수 있는 것인지, 아니면 ‘디지털 변혁’으로 불러야할지 권위 있는 학계에서 조차 의견이 분분하다. 경제학자 로버트 J 고든이 ‘미국의 성장은 끝났는가’를 통해 “1970년 이후 생산성의 증가는 이전의 100년에 전혀 미치지 못했다.”고 이야기하자 ‘4차 산업혁명 무용론’까지 흘러나오고 있다. 그러나 고든은 같은 책 마지막장 ‘3부 빨랐던 성장 속도가 느려진 원인’에서 1, 2차 산업혁명 시기에 일어난 전쟁(전쟁으로 인한 파괴와 재건)이나, 인구급증도 19세기 후반 미국 경제성장에 지대한 영향을 미쳤다고 서술하고 있다. 1, 2차 산업혁명과 3차 산업혁명의 성장률을 단순 비교하여 3차 산업혁명이 몰고 온 혁명의 서막을 과소평가 하거나 4차 산업혁명의 실체 유무 논쟁을 벌이는 건 성급해 보인다.

고든조차 “나는 여러 갈래의 가속화가 세계를 그저 조금 달라지게 하는 데 그치지 않고 완전히 뒤바꿔놓고 있다고 주장한다. 그것은 특히 정치와 지정학, 윤리, 일터, 공동체에 근본적인 변화를 불러오고 있다.”며 거대한 변화의 흐름을 예견하고 있기 때문이다.

특히 고든은 “국가, 기업, 개인은 '평생학습' 체제를 기꺼이 받아들인다. 대학에서 4년 동안 공부하며 앞으로 30년간 일하는 데 필요한 지식을 쌓는다는 생각은 이제 낡은 것이 되었다. 나는 대학을 졸업했을 때 일자리를 ‘찾아야’ 했다. 그러나 지금은 나의 딸들에게 일자리를 ‘발명해야’ 한다고 말한다.”며 삶의 방식을 바꿔야 한다고 주문하고 있다.

지난 11월 매킨지가(McKinsey&Company)는 전 세계 노동인구의 20%인 8억명이 로봇과 자동화 기술로 일자를 잃게 된다는 우울한 전망을 발표한 바 있다. 인간 고유 영역인 창조적인 일자리가 새로 생겨나고, 인공지능과 로봇이 인간을 대체하는 수준까지 발전하려면 상당한 시일이 필요하다는 낙관론도 무게가 있어 보인다.

인공지능, 인간을 배제한 노동의 주체로 부상

여기서 강조하고 싶은 건 4차 산업혁명의 실체 유무나 일자리에 대한 논쟁이 아니라 함께 거론되고 있는 기술의 속성이다. 1차 산업혁명의 증기기관과 기계화 기술, 2차 산업혁명의 전기 에너지 기술, 3차 산업 혁명의 ICT 기술은 생산성 증가시키는 도구적, 보조적 기술이었다. 그러나 4차 산업혁명을 촉발시키고 있는 인공지능, 로봇, 자율주행차, 사이버물리시스템 등의 기술은 단순한 도구나 보조수단을 넘어 인간을 배제한 노동의 주체로 부상하고 있다. 이는 인류사회가 한 번도 경험해보지 못했던 변화의 서막이 될 수 있다.

옥스퍼드대 인류미래연구소(Future of Humanity Institute) 닉 보스트롬(Nick Bostrom) 교수는 “인공지능이 매우 빠른 속도로 똑똑해져, 이번 세기 안에 인공지능이 인간만큼 똑똑해 질 수 있다.”고 인공지능에 대한 연구결과를 발표한 바 있다.

지난 12월 중국에서 개최된 ‘세계인터넷대회’에 참석한 애플 CEO 팀 쿡이 기조연설을 통해 “기계가 인간처럼 생각하는 것을 걱정하지 않는다. 내가 걱정하는 것은 인간이 기계처럼 생각하는 것이다."며 우려를 나타냈다.

그렇다면 왜 1, 2차 산업혁명에서 축적한 기술과 경험, 3차 산업혁명을 통해 지적 유산을 축적해온 인간은 왜 인공지능이나 로봇에 일자리를 내어주거나, ‘기계처럼 생각하는 인간’으로 전락하는 위기에 처해 있을까. 이 같은 질문의 답을 찾기 위해 ‘人工’이라는 공학적, 기술적 화두에 가려져 보이지 않았던 ‘知能’이라는 인문학적 화두를 먼저 던져야 한다.

서두에 이야기한 디지털 정보량 급증은 인간의 ‘知能’에 어떤 영향을 미치고 있을까. 인식론 철학의 대가인 코네티컷대학교 마이클 린치 교수는 ‘인간인터넷(internet of us)'이라는 저서를 통해 “정보 ‘홍수’ 속에서 허우적거리고, 정보 ‘과부하’ 상태에 빠졌다고 흔히 이야기했다. 여전히 그렇게 느끼는 사람들도 있지만, 대부분의 사람들은 정보에 압도당한다는 것을 점차 느끼지 못하게 되었다. 디지털 데이터는 더 이상 우리를 익사시키는 정보 홍수가 아니다 우리는 수중 생활에 적응하고 있고, 디지털 인간이 됨으로써 정보를 모두 빨아들이고 있다.”고 설명한다.

정보량 증가의 역설과 지식의 의미

린치 교수는 “우리가 정보권에서 살고 있고 그것이 일상적인 것이 되어 간다고 해서 우리가 그것을 제대로 이해한다는 뜻은 아니며, 또 그것이 우리와 루트비히 비트겐슈타인(ludwig wittgenstein)이 삶의 형식(form of life)이라고 부른 것을 어떻게 변화시키는지 제대로 이해한다는 뜻도 아니다.”며 정보나 지식의 총량이 이해를 촉진시키는 것이 아니라고 주장했다.

특히 린치 교수는 “내 가설에 따르면, 정보기술은 한편으로 지식 습득 능력을 확대하지만, 사실은 더 복잡한 다른 방식의 지식 습득 능력을 방해한다”며 “정보기술은 그 놀라운 온갖 용도에도 불구하고, 단순하면서도 중요한 사실을 보지 못하게 한다. 그것은 바로 지식의 양이 많아진다고 해서 반드시 이해가 확장되고 깊어지는 것은 아니라는 사실이다.”고 지적하고 있다.

정보량과 지식의 상관관계를 보다 쉽게 풀어보자. 박형주 국가수리과학연구소장은 동아일보 기고를 통해 "역설적으로, 그래서 21세기는 지식의 시대가 아니다. 얼마나 많이 아는가는 오히려 덜 중요해졌다. 지식의 총량에 비하면 개인 간 지식의 차이는 미미할 뿐이니까. 분수로 비유하자면 분자는 예전과 비슷한데 분모가 턱없이 커진 것이다."고 설명한다.

우리가 더 똑똑해지기 위해 생산해 낸 디지털 정보의 홍수 속에 살고 있지만 정작 제대로 지식을 습득하기가 쉽지 않다는 것이다. 정보량 급증이 ‘교육이나 경험, 또는 연구를 통해 얻은 체계화된 인식의 총체’인 지식의 습득을 방해하게 되면서 우리의 지능인 ‘어떤 사물이나 현상을 받아들이고 생각하는 능력’이 발전하지 못하고 있다.

이제 인간이 정보를 수집하고 편집하고, 판단하여, 의사결정하는 일조차 정보량 급증으로 불가능해지고 있으며, 빅데이터 분석 등의 기술 도구 활용 없이 ‘아는 척’ 하기가 쉽지 않아졌다.

확증 편향, 소망 편향 그리고 가짜뉴스

뿐만 아니라 기술 도움 없이 정보를 수집하고 판단하다가는 자신이 믿고 싶은 정보만을 필터링하여 이해하려는 ‘확증 편향(confirmation bias)’이나, 듣고 싶은 말이나 희망사항만을 받아들이는 ‘소망 편향(desirability bias)’에 빠질 수 있다. 확증 편향이나 소망 편향만이 반영된 정보, 지식들이 SNS을 타고 확산되기 시작하면 악의가 없었더라도 사회적으로 큰 혼란을 야기할 뿐 아니라 당사자는 ‘가짜뉴스’ 전파자라는 오명이 덧씌워질 수 있다.

지난 10일 한국 고교생이 자신의 보유한 비트코인 거래가를 높이기 위해 올린 트윗 하나로 비트코인 관련 주가가 휘청거렸다. 21일에는 한국형 가상화폐를 개발하는 엘시디움이 유료 보도자료를 배포하면서 법제처 로고를 도용하고, “100% 정부지원을 받아 한국형 가상 통합화폐 엘시디움 제작한다”고 가짜뉴스를 퍼트려 법제처를 비롯해 관련기관과 업계가 발칵 뒤집히는 소동이 벌어졌다.

페이스북, 구글 등 주요 인터넷 기업들이 가짜뉴스 퇴출을 선언했지만 가짜뉴스는 갈수록 교묘해지고 있다. 특히 해당 뉴스의 진위파악이 쉽지 않은 정보나 뉴스의 경우 알고리즘만으로 필터링하기가 쉽지 않은 상황이다.

가트너(Gartner)는 ‘2018년 이후 주목해야 할 10대 주요 전망’이라는 발표자료를 통해 “2022년이 되면 성숙 경제에 속한 대부분의 사람들이 실제 정보보다 더 많은 허위 정보 소비할 것”이라고 전망했다.

가트너는 허위이거나 정확성이 떨어지는 디지털 콘텐츠가 뉴스의 범위를 크게 뛰어넘는다는 것을 깨닫는 것이 중요하다고 설명한다. 기업의 경우, 소셜 미디어가 지배하는 담론에서 이러한 콘텐츠 가속화는 실질적인 문제를 야기한다. 기업은 브랜드 가치에 해가 되는 콘텐츠에 연관돼 있지 않음을 확실시하기 위해, 브랜드에 대한 직접적 언급 내용뿐 아니라 그 맥락까지 철저히 모니터링해야 한다는 것이다.

특히 가트너는 2020년 인공지능의 ‘위조 현실(counterfeit reality)’ 또는 가짜 콘텐츠 제작 능력은 인공지능이 이를 간파하는 능력을 능가하여 디지털에 대한 불신을 조장하고 있다고 지적한다.

‘위조 현실’은 존재한 적 없거나 사실과 다른 것들을 설득력 있게 현실적으로 표현한 디지털 창조물이다. 지난 30년간 콘텐츠 배포에 대한 통제가 미미한 수준에 머문 반면, 매우 다수의 사람들이 인터넷을 사용할 수 있게 됐다. 이에 따라 절묘하게 또는 명백하게 변조된 콘텐츠를 제작하고 유포하는 기능이 크게 증가했다. 다음 단계에서 이는 기계가 창조한 콘텐츠의 배포로 이어질 수 있다는 것이다.

'앎, 지식, 지능'과 '공감'

이제 사람과 기기가 쏟아내는 방대한 양의 정보를 인간의 뇌에만 의존하지 않고 인공지능을 활용해야 한다. 정보의 홍수 속에서 인공지능이 쏟아내는 ‘가짜 뉴스’와 ‘위조 현실’ 등의 허위 정보를 걸러내는 일은 비효율적일 뿐 아니라 그렇게 생산된 정보나 지식의 가치를 보장받기 어려워질 것이다.

특히, 기술 혁신은 인간의 도구이자 객체인 인공지능이나 로봇기술에 머물지 않고 인간의 뇌를 인터넷에 연결하는 뉴로미디어(Neuro media)로 진화하거나, 인간을 객체로 전락시키는 사이보그(Cyborg)로 진화하고 있다. 뉴로미디어와 사이보그화된 인간의 앎과 지식을 우리의 일상적 지식 습득 방법인 구글노잉(Google-knowing)에만 의존한다면 팀 쿡의 우려대로 “기계처럼 생각하는 인간”으로 전락할 수 있다.

산업화 이전의 인간의 앎의 방식인 질문과 토론이라는 학습방법을 되살려 인공지능이 생산해 낸 지식과 차별화된 신뢰와 공감의 지식을 축적해 나가야 한다. 이는 소크라테스 시절부터 인간이 학습하는 방법이었다.

군나르 시르베크, 닐스 길리에는 서양철학사를 통해 “철학의 제1 과제인 질문을 배척하고 존재하지 않은 정답들을 모아 밑줄을 쫙 쳐놓은 책이 있어서 그저 그 책을 들춰보면 발견할 수 있는 그런 ‘최종적’ 답”을 찾아 나서는 어리석은 학습법을 버릴 것을 주문한다.

앎과 지식은 “안다는 것과 안다고 믿는 것 간의 차이는 어떤 것이 참되고 옳다라는 주장을 뒷받침할 충분한 이유(reasons)를 가지고 있는 것과 그런 이유를 가지고 있지 않은 것 간의 구분”이며, “우리가 알 수 있는가라는 물음은 우리가 그 규범의 보편성을 주장할 충분한 이유를 가지고 있는가 아닌가라는 물음”으로 이어진다.

결국 앎과 지식은 “다른 견해를 가진 사람들에 의한 자유롭고 개방적인 시험을 이겨낼 수 있는 주장만이 타당하다고 말해질 수 있을 것”이며 “합리적(reasonable) 주장일 수 있는지에 대한 견해 중 하나에 관한 실마리를 제공해준다. 그리고 이 견해는 철학적 (윤리적) 질문들을 포괄할 수 있는 견해”인 공감으로 귀결된다.

‘知能’에 대한 인문학적 화두는 현실로 나타난다. 한국직업능력개발원 황규희 선임연구위원팀이 ‘지능정보기술 확산과 숙련수요의 변화' 연구를 통해 “사회적 감수성(social perceptiveness), 설득하기(persuasion), 협상하기(negotiation), 협력하기(coordination) 등과 같이 적극적이고 전략적인 사고를 요하는 사회적 소통”의 숙련 수요가 증가하고 있다는 것도 밝혀졌다.

4차 산업혁명이 불러올 가장 큰 혁명은 인공지능, 로봇 등의 기술이 아니라 앎과 지식, 지능의 근본적 변화다. 린치 교수의 말을 빌려 “놀라운 것은 이것이 일어난다는 사실이 아니라, 이것이 얼마나 빨리 일어나는가, 즉 우리가 얼마나 빨리 새로운 삶의 방식에 정착해 그것을 받아들이는가 하는 것”일 수 있다. 기술혁신에 대한 “성찰 없는 수용”은 분명 “기계처럼 생각하는 인간”을 낳을 수 있다.

• 참고 -

군나르 시르베크, 닐스 길리에 저, 윤형식 역, 『서양철학사』 (이학사, 2016.05.30)
마이클 린치 저/최훈 감수/이충호 역 『인간 인터넷』 (사회평론, 2016.06.15)
로버트 J. 고든 저/이경남 역 『미국의 성장은 끝났는가』 (생각의힘, 2017.07.03.)
황규희, 이상호, 장혜원 『지능정보기술 확산과 숙련수요의 변화』 (한국직업능력개발원, 2017.07.03.)

ED 닉 보스트롬(Nick Bostrom) "컴퓨터가 인류보다 똑똑해진다면 무슨 일이 벌어질까?” https://www.ted.com/talks/nick_bostrom_what_happens_when_our_computers_get_smarter_than_we_are?language=ko&utm_source=tedcomshare&utm_medium=referral&utm_campaign=tedspread-b

연합뉴스 “애플 쿡 인간 같은 기계보다 기계처럼 생각하는 인간이 걱정” 2017.12.03. http://www.yonhapnews.co.kr/bulletin/2017/12/03/0200000000AKR20171203053100009.HTML

뉴스페이퍼 “어차피 이미 마음 굳히셨잖아요” 2017.05.29
http://www.econovill.com/news/articleView.html?idxno=328877

동아일보 [동아광장/박형주]지식의 시대는 저무는데
ttp://news.donga.com/List/ColumnDA/3/040106/20151024/74355818/1