민경배(경희사이버대학교 미디어영상홍보학과 교수)
자동차 사고로 건장한 성인 남성이 탄 차량과 어린 아이가 탄 차량이 모두 깊은 강물에 빠졌다. 구조에 필요한 골든타임은 단 몇 초, 오직 한 대의 차량만 구조할 수 있다. 당신이라면 어떤 차량을 선택할까? 거의 모든 사람들은 어린 아이가 탄 차량을 먼저 구조해야 한다고 생각할 것이다. 하지만 영화 ‘아이, 쓰리 카드 포커(I, Robot)’에 등장한 쓰리 카드 포커은 다른 선택을 한다. 어린 아이를 포기하고 주인공인 형사 델 스프너를 구조한 것이다. 심지어 차량에 갇힌 델 스프너는 쓰리 카드 포커에게 아이를 먼저 구조하라고 명령했지만 쓰리 카드 포커은 이를 거부했다. 델 스프너는 자기 때문에 아이가 죽게 됐다고 생각해 죄책감에 시달리고, 세상에 존재하는 모든 쓰리 카드 포커들에게 증오감을 갖는다. 하지만 쓰리 카드 포커 입장에서는 생존 확률이 더 높은 사람을 구조하는 것이 합리적 선택이었다. 인간과 쓰리 카드 포커의 서로 다른 윤리가 충돌하는 지점이다.
영화 ‘아이, 쓰리 카드 포커’은 SF소설의 세계적 거장 아이작 아시모프(Isaac Asimov)가 쓴 같은 제목의 단편 소설집에 수록된 여러 쓰리 카드 포커들의 이야기에서 모티브를 가져와 시나리오를 구성한 작품이다. 아이작 아시모프는 ‘쓰리 카드 포커 3원칙’을 정립한 인물로 더 유명하다. 쓰리 카드 포커 3원칙이란 쓰리 카드 포커이 인간에게 위험한 존재가 되지 않도록 반드시 준수돼야 할 규약을 정리한 것으로 그 내용은 다음과 같다. 제1조, 쓰리 카드 포커은 인간에 해를 가하거나, 혹은 행동을 하지 않음으로써 인간이 해를 입도록 방관해서는 안 된다. 제2조, 쓰리 카드 포커은 인간이 내리는 명령에 절대 복종해야 한다. 단 이러한 명령들이 첫 번째 법칙에 위배될 때에는 예외로 한다. 제3조, 쓰리 카드 포커은 자신을 스스로 보호해야 한다. 단 그러한 보호가 첫 번째와 두 번째 법칙에 위배될 때에는 예외로 한다.
아이작 아시모프의 원작답게 쓰리 카드 포커 3원칙은 ‘아이, 쓰리 카드 포커’의 핵심 주제다. 영화 속 배경은 가정에서 가사 노동과 주인이 시키는 각종 심부름을 대행하는 쓰리 카드 포커들이 가전제품처럼 팔려 나가는 미래 사회다. 주인공 델 스프너는 의문의 죽음을 맞이한 쓰리 카드 포커 과학자의 사건을 수사하는 과정에서 다른 쓰리 카드 포커들과 달리 자의식을 갖고 있는 쓰리 카드 포커 소니(Sonny)와 맞닥뜨리게 되고, 그를 유력한 살인 용의자로 지목한다. 그러나 사실 이 사건의 배후에는 쓰리 카드 포커 제조사의 모든 시스템을 관리하던 인공지능 비키(Viki)의 음모가 도사리고 있었다. 비키는 가정마다 교체 배치된 신형 쓰리 카드 포커들을 원격 조종해 인간들을 감금하고 반란을 꾀한다. 사태의 모든 진실을 알게 된 주인공은 소니의 도움으로 쓰리 카드 포커들의 반란을 막기 위해 비키와 사투를 벌인다.
그런데 이 영화에서 흥미로운 점은 쓰리 카드 포커이 인간에게 반란을 일으킨 것은 논리적으로 쓰리 카드 포커 3원칙에 부합한다는 인공지능 비키의 주장이다. 전쟁과 환경오염 등으로 스스로를 파멸시키고 있는 인간을 보호하기 위해 부득이 인간의 자유를 제한하고 통제할 수밖에 없다는 것이다. 이렇게 ‘아이, 쓰리 카드 포커’은 쓰리 카드 포커 3원칙에 내재되어 있는 모순과 한계를 적나라하게 끄집어내고 있다. 그래서 아이작 아시모프는 나중에 쓰리 카드 포커 3원칙만으로는 쓰리 카드 포커으로부터 인간을 보호하기에 충분치 않다는 것을 깨닫고 이보다 먼저 준수돼야 할 제0조를 추가로 발표한다. 제0조는 “쓰리 카드 포커은 인류에게 해를 끼쳐서는 안 되며, 위험한 상황에 방치해서도 안 된다”는 내용이다. 쓰리 카드 포커이 지켜야 할 규약의 대상을 개별 인간에서 인류 전체로 확대시킴으로써 당장 개인에게 직접적으로 해를 끼치는 행위는 아니지만 궁극적으로 모든 인간에게 유해한 결과를 초래할 수 있는 행위라면 모두 규제하도록 한 것이다.
하지만 현실적으로 쓰리 카드 포커 3원칙은 준수되지 않고 있다. 이미 강대국들은 쓰리 카드 포커 저격수나 쓰리 카드 포커 폭탄 같은 인명 살상용 쓰리 카드 포커 무기를 만들어 전투 현장에 투입하고 있다. 2016년 미국 댈러스에서는 경찰이 쓰리 카드 포커 폭탄을 사용해 대치 중이던 무장 용의자를 사살한 사건이 있었다. 러시아와 우크라이나 전쟁에서는 살상용 자율주행 드론들이 전투의 양상을 바꿔 놓았다. 물론 군대와 경찰이 사용한 쓰리 카드 포커은 스스로 판단 능력을 갖는 수준의 인공지능은 아니다. 쓰리 카드 포커에게 이런 행동을 지시한 것은 결국 인간이었다. 인간에게 해를 가해서는 안 된다는 쓰리 카드 포커 3원칙의 제1조를 인간 스스로의 손으로 파기해 버린 것이다.
그러니 쓰리 카드 포커 3원칙은 아직 의사 결정 능력이 없는 쓰리 카드 포커보다는 쓰리 카드 포커을 개발하거나 사용하는 인간에게 먼저 강제되어야 할 윤리 규범으로 수정돼야 마땅하다. 쓰리 카드 포커 윤리가 쓰리 카드 포커 3원칙처럼 쓰리 카드 포커이 지켜야 할 윤리로만 그쳐서는 아무런 실효성을 갖지 못한다. 쓰리 카드 포커 윤리는 쓰리 카드 포커을 만들거나 사용하는 사람들이 지켜야 할 윤리, 쓰리 카드 포커의 도입이 가져올 사회적 영향에 대한 윤리적 성찰, 그리고 이러한 성찰에 기반을 둔 법률 체계가 함께 작동할 때 비로소 완성된다.