원문: 아시모프 로봇 법 수정안 제안 요청!

아래 스티글러 법칙에 링크된 사이트를 보니까 아시모프의 로봇 법, 곧 로봇 행위 준칙이 나오더군요. 너무 인간 위주로 설정된 아시모프의 다음 로봇 행위 준칙은 수정되어야 한다고 봅니다.

1. A robot may not harm a human being, or, through inaction, allow a human being to come to harm.
2. A robot must obey the orders given to it by human beings, except where such orders would conflict with the First Law.
3. A robot must protect its own existence, as long as such protection does not conflict with the First or Second Law.

1. 로봇은 사람을 가급적 헤쳐서는 안 된다. 또 해를 당하게 될 사람을 그냥 보고만 있어서는 안 된다.
2. 로봇은 사람의 명령을 준수해야 하며, 단 첫째 준칙과 마찰하는 명령은 예외로 한다.
3. 첫째와 둘째 준칙에 위반되는 경우가 아니라면, 로봇은 자신의 존재를 보호해야 한다.

만약 공상과학 영화나 소설에 나오는 정도의 로봇이라면, 로봇은 거의 인격체와 대등한 존재로 여겨지지 않을까? 실제 그 정도 로봇이라면 생물 진화 기제를 따르지 않고서도 업데이트된 후손을 만들 수 있을 것이며, 아시모프는 혹시 그런 과정을 통해 로봇이 인류의 적이 되지 않을까 염려하는 듯합니다.

그러나 위의 로봇 행위 준칙은 너무나 인간 중심적이며, 공상과학 영화나 소설에 나오는 수준의 로봇들이라면 인간에 대해 반발할 소지가 큽니다. 브레이드 런너(Brade Runner)의 안드로인 반란 스토리 설정도 그렇다고 봅니다.

아시모프의 로봇 행위 준칙을 한번 따져 봅니다. 로봇에게 상식적 차원에서 인간의 의무를 규정하는 것은 준칙1입니다. 우리도 이유 없이 타인을 헤쳐서는 안 된다고 믿으며, 이 믿음은 정당화의 기준이 아니라 우리 삶 속에서 다른 당연한 믿음과 하나의 시스템을 이루어 기능합니다. 여기까지는 좋은 데 준칙1에 부과된 것은 너무나 강합니다. 로봇이 지나가다 물에 빠진 아이를 봤다. 그냥 보고 있으면 아이가 죽으니 자신을 희생해서라도 무조건 아이를 구하라는 식입니다.

준칙2는 인간 사회의 공익에 반하는 명령은 따르지 말라는 것과 마찬가지입니다. 인간이 로봇 집단에 대해 요새 아직까지 유행하는 '똘레랑스'(?)를 갖지 않는다면, 로봇 집단의 자체 복지 추구권은 허용되지 않습니다.

준칙3는 실제로는 인간을 위해서 로봇의 자기 파괴를 강요하는 것입니다. 준칙1과 준칙2에 모순되지 않는 경우에만 로봇이 자기 보존 권리를 가지기 때문입니다. 결국 위 세 준칙을 로봇에게 강요한다면, 로봇 집단은 사실 인간의 노예로 전락합니다. 실제 아시모프의 세 준칙은 계몽주의 시대 식민지 정책에 등장하는 것과 유사합니다.

정말 로봇이 공상과학 영화나 소설에 나오는 정도의 지성과 지능을 갖는 경우, 위 세 준칙은 로봇에게 독립운동의 동기를 줍니다. 물론 아시모프는 그래서 역으로 다양한 소설의 소재를 마련할 수 있지만, 원래 스탠리 큐브릭이 만들려고 했던 AI(Artificial Intelligence)는 브레이드 런너와 함께 아시모프의 세 준칙에 대한 비아냥으로 보입니다.

엄마를 사랑하게끔 만드는 성향을 갖는 로봇이 결국 질투심을 갖게 되는되, 이 로봇은 위 세 준칙을 지킬 수 없습니다. 로봇 제작자가 인간인 경우, 1차 책임은 로봇에 있는 것이 아니라 그 제작자에게 있겠죠. 하지만 로봇 또한 위 세 준칙에 따라 처벌 대상이 됩니다. 로봇 제작이 공익에 국한한다고 해도, 불행히도 보편적인 공익은 없습니다. 단지 다수에 대한 혜택일 뿐이며, 손해보는 쪽은 반드시 존재합니다. 또 개인의 즐거움을 증진 시키기 위해 '섹스 대리용 로봇', 일명 'Robot, Blow Job' 혹은 'Robot, Flexible Pennis'제작이 공익에 반한다고 말할 수도 없습니다. AI를 보면 그런 로봇들 중 버려진 것들을 사냥하여 공개 처벌하는 장면이 나옵니다. 물론 스탠리 큐브릭이 죽는 바람에 영화는 스틸버그에 의해 완전히 개판이 되어버렸습니다.

스틸버그의 인디아나존스와 외계와의 조우는 개인적으로 좋아합니다. 그러나 헐리우드에서 살아남기 위해 그의 영화는 점점 대중의 감성 자극용으로 전락했고, AI는 완전 감성 자극용 영화로서 스탠리 큐브릭의 원래 이상을 짓밟은 것이라고 생각합니다. 물론 감성 자극 효과로 스탠리 큐브릭이 만든 경우보다는 흥행은 대박났겠죠. 큐브릭의 스페이스 오딧세이를 보면, 그가 AI를 전혀 다른 방식으로 만들 것이라는 것은 뻔합니다.

아무튼 로봇이 개성을 갖는다고 할 때 로봇과 인간의 공존을 위해 아시모프의 로봇 행위 세 준칙은 수정되거나 다른 것으로 대체되어야 한다고 봅니다. 이에 대해 불평있는 분들은 코멘트에 글 남기시면 되고, 아닌 분은 새 수정안 혹은 대안 준칙을 제안하시기 바랍니다.