미래의 인공지능이 사람에게 손해를 입히게 될 가능성이 있습니다.

그럴 경우 인공지능이 책임을 져야 할까요? 아니면 인공지능의 소유자나 조작자, 또는 개발자나 판매자가 책임을 져야 할까요?

이 문제를 생각하려고 합니다.

인공지능은 독립적인 권리 의무의 주체가 될 수 있나?

인공지능이 독자적인 사고력을 갖고 있다고 하더라도 현행 법상에서는 인공지능에게는 독립적인 인격권을 부여하고 있지 않습니다. 민법에서는 사람은 태어나면서부터 권리의 주체가 된다고 하고 있을 뿐이고 인공지능에 대해서 아무런 언급도 하고 있지 않아요.
그럼 인공지능은 권리의 주체가 아니라 객체가 되는 셈인데, 사람이 소유할 수 있지요.

인공지능이 사람의 지시에 따라 작동된 경우

우리 민법상에서는 손해배상의 책임을 묻기 위해서는 고의 또는 과실을 요구합니다.
고의라는 것은 사람이 의도적으로 어떤 행위를 했다는 것이고, 과실은 의도하지 않았지만 실수로 잘못을 저지를 때 쓰는 말이지요.
인공지능이 사람의 지시에 따라 잘못된 행동이나 판단을 하게 되어 다른 사람에게 피해를 입혔다면 당연히인공지능을 작동시킨 사람에게 고의나 과실이 있다고 할 수 있습니다.
이 경우에는 인공지능을 작동시킨 사람에게 피해를 배상하라고 하면 됩니다.

인공지능이 사람의 지시에 따르지 않고 독자적으로 작동된 경우

요즘 특히 문제가 되는 것이 "자율주행 자동차"의 경우입니다. 만약 자동차에 탄 사람이 길을 가다가 보행자를 치이게 되는 급박한 사태가 발생했을 경우 과연 인공지능은 자동차에 탄 사람을 보호해야 할까요 아니면 보행자를 보호해야 할까요? 이 때 인공지능을 만드는 회사는 자동차에 탄 사람을 보호하는 것을 우선으로 생각할 가능성이 큽니다.
누구도 자신을 보호하지 않는 자율주행자동차를 사려고 하지 않을 것이기 때문입니다. 당연히 자동차에 탄 사람을 보호하는 자동차가 더 잘 팔릴 것입니다.
교통사고가 나서 사람이 다치거나 죽게 될 경우 사람은 아무런 고의나 과실이 없었고 인공지능이 잘못을 저지른 것이지요.
민법에는 이런 규정이 있습니다.

제758조(공작물등의 점유자, 소유자의 책임) ①공작물의 설치 또는 보존의 하자로 인하여 타인에게 손해를 가한 때에는 공작물점유자가 손해를 배상할 책임이 있다. 그러나 점유자가 손해의 방지에 필요한 주의를 해태하지 아니한 때에는 그 소유자가 손해를 배상할 책임이 있다.
②전항의 규정은 수목의 재식 또는 보존에 하자있는 경우에 준용한다.
③전2항의 경우에 점유자 또는 소유자는 그 손해의 원인에 대한 책임있는 자에 대하여 구상권을 행사할 수 있다.

과연 인공지능 자동차를 "공작물"로 볼 수 있는지가 문제가 될 수 있겠으나, 공작물은 인간이 인공적으로 만든 물건으로 본다면 충분히 인공지능 자동차도 공작물로 볼 수 있습니다. 따라서 피해자는 민법 제758조에 따라 자동차 운행자에게 손해배상을 청구할 수 있을 것입니다.

만약 인공지능에 제작상의 결함이 있는 경우는 어떨까요?

이 경우에는 인공지능을 제작한 회사에 책임을 물을 수 있을 것입니다.
제조물책임법에는 이런 규정이 있습니다.

제3조(제조물 책임) ① 제조업자는 제조물의 결함으로 생명·신체 또는 재산에 손해(그 제조물에 대하여만 발생한 손해는 제외한다)를 입은 자에게 그 손해를 배상하여야 한다.
② 제조물의 제조업자를 알 수 없는 경우에 그 제조물을 영리 목적으로 판매·대여 등의 방법으로 공급한 자는 제조물의 제조업자 또는 제조물을 자신에게 공급한 자를 알거나 알 수 있었음에도 불구하고 상당한 기간 내에 그 제조업자나 공급한 자를 피해자 또는 그 법정대리인에게 고지(告知)하지 아니한 경우에는 제1항에 따른 손해를 배상하여야 한다.

인공지능도 제조물에 해당함에는 틀림없으므로 제조업자는 그로 말미암은 손해를 배상해야 합니다.