인공지능 동반 시대의
지침서

책 「아이, 로봇」

2017년 유럽의회는 인공지능 로봇에 법적 지위를 부여한다는 결의안을 채택했다. 인간에게 복종해야 하는 로봇의 한계를 법적으로 명확하게 규정하는 조치였다. 이 결의안에서 주요하게 참조한 것이 ‘로봇 공학의 3원칙’이다. SF작가 아이작 아시모프(1920~1992)가 창안한 로봇 공학의 3원칙은 인공지능의 윤리 강령이라고 할 수 있는 데, 그의 로봇 소설 단편집인 「아이, 로봇」에 그 내용이 잘 설명되어 있다.

● 글. 박상준 서울SF아카이브 대표

로봇 공학의 3원칙
1. 로봇은 인간을 위험에 처하게 해선 안 된다.
2. 로봇은 인간의 명령에 반드시 따라야 한다. 단, 1항을 거스르는 경우는 예외이다.
3. 로봇은 자신을 스스로 보호해야 한다. 단, 1항과 2항을 거스르는 경우는 예외이다.

나날이 발전하는 로봇과 인공지능에 대응하는 방법
사실 조금만 생각해보면 이 원칙들을 지키는 일은 꽤 어렵다는 것을 알 수 있다. 예를 들어 단추를 누르라고 명령하는 경우, 만약 그 단추가 미사일을 발사하는 것이라도 로봇이 그 사실을 모른다면 별 저항 없이 시키는 대로 할 것이다.
여러 복잡한 상황들을 현명하게 능동적으로 판단할 수 있는 로봇은 지금처럼 주어진 명령을 기계적으로 수행하는 약한 인공지능이 아니라 주체적 사고를 하는 강한 인공지능이 등장해야 가능한 일이다. 그리고 강한 인공지능은 아주 가까운 미래에 개발될 가능성이 희박한, 매우 고난도의 과학기술이다. 그럼에도 불구하고 로봇 공학의 3원칙은 이미 산업용 로봇이나 가전제품 등에 그 기본 이념이 반영되어왔다. 사용하기에 안전 하고 조작이 쉬우며 튼튼해야 한다는 점 등이 바로 3원칙에 부합하는 내용이다. 그리고 인공지능 로봇 기술이 점점 발달하면서 3원칙은 이제 더 폭넓은 응용의 단계로 접어들고 있다. 바둑의 알파고처럼 특정 분야에서는 이미 인간을 능가하는 인공지능이 등장했고, 자율주행이나 무인점포 등 접점은 계속 확대되고 있다. 이제 인공지능 로봇을 사회의 법과 행정체계 안에서 공식적으로 관리해야 하는 필연성에 맞닥뜨린 것이다. 유럽의회의 결의안은 바로 그 신호탄인 셈이다.

「아이, 로봇」, 영화로 각색되며 더욱 다채롭게 다뤄져
아시모프가 로봇 공학의 3원칙을 자신의 작품에 처음 등장 시킨 것은 약 80년 전, 1942년의 일이다. 당시 그는 SF잡지에 로봇 공학의 3원칙과 관련된 단편소설들을 꾸준히 발표했으며, 이 이야기들을 통해 3원칙의 현실적 적용 과정에서 일어날 수 있는 여러 복잡미묘한 상황들을 묘사했다. 「아이, 로봇」은 바로이 이야기들을 모은 작품집이다.
이 책에 등장하는 로봇들은 꽤나 다양한 캐릭터를 갖고 있다. 인간을 위해 거짓말하기도 하고, 3원칙을 지키려다 자체적인 모순에 빠져 이상 행동을 반복하기도 한다. 그중에서 3원칙을 가장 잘 보여주는 이야기 중 하나가 수성의 광산에서 일하는 로봇 ‘스피디’의 에피소드다. 어느 날 스피디는 광산으로 출발 했다가 도중에 다시 돌아오는 과정을 계속 반복한다. 알고 보니 뜨거운 태양 빛에 몸체가 부식될 위기에 처하자 3항인 ‘스스로를 보호하라’를 지키기 위해 다시 되돌아오고는, 안전한 상태에 놓이자 인간에게 받은 명령을 수행하기 위해(2항) 다시 길을 떠나는 과정을 되돌이표처럼 반복하게 된 것이다. 이런 상황을 해결하기 위해 인간 관리자는 가장 우선순위인 1법칙을 이끌어 내는 위험한 선택을 하게 된다.
또한 다른 이야기에서는 인간 개인이 아닌 인류 전체를 위해서 더 고차원적인 원칙이 추가로 필요하다는 내용도 나온다.
그리고 이 ‘인류 원칙’이 영화 〈아이, 로봇〉의 주제와 연결된다. 윌 스미스 주연의 영화 〈아이, 로봇〉은 아시모프의 로봇 공학 3원칙에서 모티브를 얻어 만들어진 것은 맞지만 책에 수록된 작품들과는 상관없이 일부 캐릭터만 차용해서 새롭게 쓰인 스토리다. 로봇이 제각기 개별적으로 판단하고 행동하는 것이 아니라 거대한 중앙컴퓨터의 통제를 받는다는 설정 아래 로봇의 살인사건을 수사하는 내용이 전개된다. 주인공 형사가 목숨을 걸고 로봇 범인을 찾아가는 과정에서 생각지도 못했던 일들이
계속 드러난다. 기본적으로 액션 스릴러 영화인 〈아이, 로봇〉과 달리, 로봇 공학의 3원칙을 기반으로 인간과 로봇의 공존을 잔잔하게 잘 묘사한 영화가 〈바이센테니얼 맨〉이다. 아시모프의 원작 소설을 각색한 영화로, 주인공 로봇이 200년에 걸쳐 인간 가족과 공생하며 인간이 되고자 노력하는 과정을 감동적으로 그렸다.
21세기는 과학적 상상력보다 윤리적 상상력이 더 필요한 시대다. 특히 인공지능 로봇처럼 SF에서 현실로 그 영역이 점점 넘어오는 지금은 그에 걸맞은 실질적 대응들이 절실하다. 그중에서 인공지능 로봇이 인간의 자리를 대체하는 것이 아니라 함께 공존하며 더 나은 상황을 만드는 ‘적응형 자동화’ 이념이 각광을 받고 있는데, 「아이, 로봇」은 그런 미래를 위한 지침서으로서 손색이 없는 품격을 지닌 SF의 고전이다.

인공지능 동반 시대의
지침서

책 「아이, 로봇」

2017년 유럽의회는 인공지능 로봇에 법적 지위를 부여한다는 결의안을 채택했다. 인간에게 복종해야 하는 로봇의 한계를 법적으로 명확하게 규정하는 조치였다. 이 결의안에서 주요하게 참조한 것이 ‘로봇 공학의 3원칙’이다. SF작가 아이작 아시모프(1920~1992)가 창안한 로봇 공학의 3원칙은 인공지능의 윤리 강령이라고 할 수 있는 데, 그의 로봇 소설 단편집인 「아이, 로봇」에 그 내용이 잘 설명되어 있다.

● 글. 박상준 서울SF아카이브 대표

로봇 공학의 3원칙
1. 로봇은 인간을 위험에 처하게 해선 안 된다.
2. 로봇은 인간의 명령에 반드시 따라야 한다. 단, 1항을 거스르는 경우는 예외이다.
3. 로봇은 자신을 스스로 보호해야 한다. 단, 1항과 2항을 거스르는 경우는 예외이다.

나날이 발전하는 로봇과 인공지능에 대응하는 방법
사실 조금만 생각해보면 이 원칙들을 지키는 일은 꽤 어렵다는 것을 알 수 있다. 예를 들어 단추를 누르라고 명령하는 경우, 만약 그 단추가 미사일을 발사하는 것이라도 로봇이 그 사실을 모른다면 별 저항 없이 시키는 대로 할 것이다.
여러 복잡한 상황들을 현명하게 능동적으로 판단할 수 있는 로봇은 지금처럼 주어진 명령을 기계적으로 수행하는 약한 인공지능이 아니라 주체적 사고를 하는 강한 인공지능이 등장해야 가능한 일이다. 그리고 강한 인공지능은 아주 가까운 미래에 개발될 가능성이 희박한, 매우 고난도의 과학기술이다. 그럼에도 불구하고 로봇 공학의 3원칙은 이미 산업용 로봇이나 가전제품 등에 그 기본 이념이 반영되어왔다. 사용하기에 안전 하고 조작이 쉬우며 튼튼해야 한다는 점 등이 바로 3원칙에 부합하는 내용이다. 그리고 인공지능 로봇 기술이 점점 발달하면서 3원칙은 이제 더 폭넓은 응용의 단계로 접어들고 있다. 바둑의 알파고처럼 특정 분야에서는 이미 인간을 능가하는 인공지능이 등장했고, 자율주행이나 무인점포 등 접점은 계속 확대되고 있다. 이제 인공지능 로봇을 사회의 법과 행정체계 안에서 공식적으로 관리해야 하는 필연성에 맞닥뜨린 것이다. 유럽의회의 결의안은 바로 그 신호탄인 셈이다.

「아이, 로봇」, 영화로 각색되며 더욱 다채롭게 다뤄져
아시모프가 로봇 공학의 3원칙을 자신의 작품에 처음 등장 시킨 것은 약 80년 전, 1942년의 일이다. 당시 그는 SF잡지에 로봇 공학의 3원칙과 관련된 단편소설들을 꾸준히 발표했으며, 이 이야기들을 통해 3원칙의 현실적 적용 과정에서 일어날 수 있는 여러 복잡미묘한 상황들을 묘사했다. 「아이, 로봇」은 바로이 이야기들을 모은 작품집이다.
이 책에 등장하는 로봇들은 꽤나 다양한 캐릭터를 갖고 있다. 인간을 위해 거짓말하기도 하고, 3원칙을 지키려다 자체적인 모순에 빠져 이상 행동을 반복하기도 한다. 그중에서 3원칙을 가장 잘 보여주는 이야기 중 하나가 수성의 광산에서 일하는 로봇 ‘스피디’의 에피소드다. 어느 날 스피디는 광산으로 출발 했다가 도중에 다시 돌아오는 과정을 계속 반복한다. 알고 보니 뜨거운 태양 빛에 몸체가 부식될 위기에 처하자 3항인 ‘스스로를 보호하라’를 지키기 위해 다시 되돌아오고는, 안전한 상태에 놓이자 인간에게 받은 명령을 수행하기 위해(2항) 다시 길을 떠나는 과정을 되돌이표처럼 반복하게 된 것이다. 이런 상황을 해결하기 위해 인간 관리자는 가장 우선순위인 1법칙을 이끌어 내는 위험한 선택을 하게 된다.
또한 다른 이야기에서는 인간 개인이 아닌 인류 전체를 위해서 더 고차원적인 원칙이 추가로 필요하다는 내용도 나온다.
그리고 이 ‘인류 원칙’이 영화 〈아이, 로봇〉의 주제와 연결된다. 윌 스미스 주연의 영화 〈아이, 로봇〉은 아시모프의 로봇 공학 3원칙에서 모티브를 얻어 만들어진 것은 맞지만 책에 수록된 작품들과는 상관없이 일부 캐릭터만 차용해서 새롭게 쓰인 스토리다. 로봇이 제각기 개별적으로 판단하고 행동하는 것이 아니라 거대한 중앙컴퓨터의 통제를 받는다는 설정 아래 로봇의 살인사건을 수사하는 내용이 전개된다. 주인공 형사가 목숨을 걸고 로봇 범인을 찾아가는 과정에서 생각지도 못했던 일들이
계속 드러난다. 기본적으로 액션 스릴러 영화인 〈아이, 로봇〉과 달리, 로봇 공학의 3원칙을 기반으로 인간과 로봇의 공존을 잔잔하게 잘 묘사한 영화가 〈바이센테니얼 맨〉이다. 아시모프의 원작 소설을 각색한 영화로, 주인공 로봇이 200년에 걸쳐 인간 가족과 공생하며 인간이 되고자 노력하는 과정을 감동적으로 그렸다.
21세기는 과학적 상상력보다 윤리적 상상력이 더 필요한 시대다. 특히 인공지능 로봇처럼 SF에서 현실로 그 영역이 점점 넘어오는 지금은 그에 걸맞은 실질적 대응들이 절실하다. 그중에서 인공지능 로봇이 인간의 자리를 대체하는 것이 아니라 함께 공존하며 더 나은 상황을 만드는 ‘적응형 자동화’ 이념이 각광을 받고 있는데, 「아이, 로봇」은 그런 미래를 위한 지침서으로서 손색이 없는 품격을 지닌 SF의 고전이다.