2020-11-24
인공지능이 의식을 가지게 된다면 그것은 스스로에게 질문을 던지는 능력을 가지는 것에서 출발하지 않을까?
기계가 자신에게 질문을 하고 질문의 답을 자동으로 찾고, 만약 인간에게 허락받지 않고 자신이 찾은 해결책을 실행한다면
인간은 기계에게 지배받게 될 것이다.
질문은 어디서 나오게 될까?(가장 첫 질문은? 출발이 되는 질문, 근원적인 질문, 영원히 해소되지 않는 질문?)
어떻게 질문을 선택하게 만드는 것이 좋을까?
어떤 질문들을 선택하게 만들어야 할까?
혹시 추후에 기계가 질문을 선택하는 방식을 인간의 허락없이 자기 마음대로 바꾸게 된다면?
컴퓨터가 인간처럼 행동하는 한, 그것이 의식적인지 여부는 중요할까?
Tesla 차량을 가져와 망치로 때려는 것은 내 권리이다. 이웃은 내가 미쳤다고 생각할 수도 있지만 내 재산이다. 그것은 기계일 뿐이고 내가 원하는 것을 할 수 있다. 하지만 개를 때리면 경찰이 와서 체포한다. 차이점은 무엇일까? 개는 고통받을 수 있고, 개는 의식적인 존재이다. 일부 권리가 있다. 테슬라는 의식적인 존재가 아니다. 그러나 어떤 시점에서 기계가 의식을 갖게 되면 윤리적, 법적, 정치적 결과가 발생할 것이다. 따라서 기계가 의식적인지 여부는 매우 중요하다.
[인공지능과 의식] 인공지능이 의식을 가질 수 있을까? 인공지능은 의식을 갖게 된다. JM KIM 기자 - 블록체인 AI 뉴스
기계가 자신이 고통받고 있다고 착각한다면?
전투로봇에게 방어체계를 주는 것은 중요할 것이다 하지만 그 방어체계의 도가 지나치다면 결국 인간을 공격하게 되지 않을까?
신이 인간을 만들고 스스로 질문할 수 있는 능력을 주었다면 신은 인간이 어떤 질문들을 던지질 원했을까?
인간은 어떤 질문들을 선택해야만 하는가?