초인공 지능이 인간의 통제를 벗어나 인류를 멸망시킬 수 있을 것인가? 스카이프의 공동 설립자인 얀 틸린은 그것이 가능하다고 생각한다. 그리고 그런 일을 막을 방법을 찾고 있다고 '마라'는 파퓰러사이언스에서 주장했다. 

“35억 년 전, 진흙탕 속에서 어느 분자가 스스로를 복제함으로서 지구상 모든 생명의 시조가 되었다. 400만 년 전, 유인원의 두뇌 용량이 급격히 늘어나기 시작했다. 5만 년 전 호모 사피엔스가 생겨났다. 1만 년 전 문명이 생겨났다. 500년 전 인쇄술이 발명되었다. 50년 전 컴퓨터가 발명되었다. 그러나 인류 문명은 앞으로 30년 이내에 멸망할 것이다.”

지난 2007년, 얀 탈린이 인터넷에 올라온 에세이 <특이점을 바라보며>에서 읽은 대목이다. 에세이의 저자는 인간 지능을 여러 측면에서 압도하는 초인공지능이 등장하면 인류가 멸종할 걸로 예견했다.

에스토니아 출신 컴퓨터 프로그래머인 탈린은 물리학을 전공했고, 생명에 대해 탐구할 때 큰 프로그래밍 문제를 해결하듯이 접근하는 경향이 있었다. 지난 2003년 그는 스카이프를 공동창립했다. 스카이프용 백엔드도 개발했다. 그는 2005년 이베이가 스카이프를 인수할 때 그의 지분을 챙겼고, 진지하게 몰두할 다른 일을 찾고 있던 중에 <특이점을 바라보며>를 읽었다. 이 글에는 컴퓨터 코드와 양자 물리학, 캘빈과 홉스의 발언 등이 언급되어 있었다. 탈린은 그 글에 빠져들었다

탈린은 얼마 지나지 않아 이 에세이의 저자인 독학 이론가 엘리저 유드코우스키가 1,000편이 넘는 기사와 블로그 게시글을 썼다는 것을 알게 되었다. 그 대부분은 초 인공지능에 관한 것이었다. 탈린은 인터넷에 올려진 유드코우스키의 글을 모아 시대별로 정렬해 아이폰 화면에 맞춰 출력하는 프로그램을 만들었다. 그리고 몇 개월에 걸쳐 그것들을 읽었다.

인공 지능이라는 말은 1956년에 나왔다. 인공 지능이란 컴퓨터 및 기계가 인간을 모사하는 지능을 말한다. 최초의 전자식 디지털 컴퓨터가 나온 지 불과 10년 만의 일이었다. 인공 지능 분야에 거는 기대는 처음에는 높았다. 그러나 1970년대, 초기의 예측대로 되지 않자 인공 지능 연구에는 겨울이 찾아왔다.

탈린이 유드코우스키의 에세이를 찾았을 때는 인공 지능의 르네상스기였다. 과학자들은 체스 두기나 주방 청소, 음성 인식 등 특정 분야에 특화된 AI를 개발하고 있었다(그로부터 4년 후 IBM의 와트슨이 <제퍼디!>에서 거둔 승리는 아직까지도 화제다. 8년 후에는 딥마인드의 알파고가 바둑에서 승리를 거두었다).

이런 단일 목적 인공 지능(업계 용어로는 ‘좁은’ 인공 지능이라고 부른다)은 그야말로 초인적인 능력을 가졌지만, 그 능력은 특정한 영역에서만 발휘된다. 체스를 두는 인공 지능이 방을 청소할 수 없고 자동차를 운전할 수 없다. 그러나 초 인공지능은 혼자서 다양한 분야의 기술을 배울 수 있다고 탈린은 믿게 되었다. 심지어는 스마트폰을 사용하는 사람들로부터 데이터를 모아서 사회 공학 기술을 늘릴 수도 있다는 것이다.

유드코우스키의 기사를 읽던 탈린은 초인공지능이 인류의 존속을 위협할 수 있는 수준의 인공지능을 어느날 만들어낼 수 있다고 믿게 되었다. 그런 인공지능은 인간의 진화 단계를 추월해, 마치 인간이 원숭이를 다스리듯이 인간을 다스리거나, 더 심한 경우에는 인간을 전멸시켜 버릴 수도 있다는 것이다.

에세이를 다 읽은 탈린은 유드코우스키에게 이메일을 보낸다. 이 이메일은 탈린의 평소 습관 대로 모두 소문자로 작성되었다. “저는 얀입니다. 스카이프를 창립한 엔지니어들 중 한 사람입니다. 인공지능이 인간 지능을 능가하는 때를 대비하는 것이야말로 인류의 가장 큰 급선무라는 데 저도 완벽히 동의합니다.” 탈린은 유드코우스키를 돕고 싶었다.

얼마 후 다른 회의 때문에 베이 에이리어에 갔을 때 그는 유드코우스키의 집 인근인 캘리포니아 밀브래의 파네라 브레드에서 유드코우스키를 만났다. 그들은 무려 4시간 동안이나 대화하면서 친구가 되었다. 유드코우스키는 탈린에 대해 이렇게 회상했다. “그는 내 글의 핵심적인 개념과 세부 내용을 매우 정확하게 이해하고 있었다. 그런 사람은 매우 드물다.”

이후 탈린은 유드코우스키가 연구원으로 일하고 있던 비영리단체인 인공지능 특이점 연구소에 수표 5,000달러를 기부했다. 이후 2013년 이 연구소는 이름을 기계 지능 연구소(Machine Intelligence Research Institute, MIRI)로 개칭했다. 이후 현재까지 탈린은 이곳에 총 60만 달러 이상을 기부했다.

탈린은 유드코우스키를 만나고 나서, 인류를 인공 지능으로부터 지켜야겠다는 사명감을 갖게 되었다. 그는 이 문제를 가지고 다른 이론가 및 컴퓨터 공학자들과 이야기를 하면서, 전 세계를 여행하며 초 인공지능의 위험성에 대해 강연하게 되었다.

그러나 한편으로 그는 이러한 위험을 피해나가기 위해 이른바 인간 친화적 인공 지능의 개발에 돈을 투자하는 것부터 시작했다. 이는 날씨 정보를 알려주거나 아이들의 이름을 외우는 기술이 뛰어난 컴퓨터 또는 에이전트를 말하는 것이 아니다.

초 인공지능은 이런 임무쯤이야 동시에 다 수행할 수 있지만 이타주의나 사랑에 의해 작동되는 인공 지능도 아니다. 인공 지능이 인간과 같은 욕구와 가치관을 갖는다는 것 자체가 잘못된 전제다. “인간 친화적” 이라는 말은 그보다 더욱 근원적인 의미다. 임무를 수행하는 과정에서 인간에게 해를 끼치지 않는다는 뜻이다.

[인공지능이 인류를 멸망 시킬수 있을 것인가? 2에서  계속]