인공 일반 지능에 대한 저명한 초인류주의자(transhumanist): '우리는 모든 것을 멈춰야 한다. 우리는 준비가 되어 있지 않다'

저명한 트랜스휴머니스트인 엘리에저 유드코프스키는 지난주 SXSW 컨퍼런스에서 전 세계적으로 인공 일반 지능 개발을 즉각 중단하지 않으면 인류가 멸망할 수 있다고 말했다.

“우리는 모든 것을 멈춰야 합니다"라고 유드코프스키는 ‘AGI(인공 일반 지능)가 모든 사람을 죽이지 않게 만드는 방법’이라는 제목의 패널에서 말했다.

“우리는 아직 준비가 되지 않았습니다"라고 그는 계속 말했다. “우리는 예의 바르고 순종적이며 인간의 의도에 부합하는 초지능 AI를 설계할 수 있는 기술적 역량을 갖추지 못했으며, 이를 달성할 수 있는 단계에 근접하지도 못했습니다.”

기계 지능 연구소의 설립자인 유드코프스키도 최근 몇 년 동안 비슷한 발언을 하며 인류가 AGI에 대한 모든 연구를 중단하지 않으면 인류 멸종에 직면할 것이라고 반복해서 경고했다.

유드코프스키는 2023년 타임지 기고문에서 현재의 AGI 프로젝트는 인류의 이익에 부합하는 실현 가능한 계획을 가지고 있지 않다고 말했다.

유드코프스키는 “우리는 아직 준비가 되지 않았습니다”라고 썼다. “우리는 가까운 미래에 준비될 수 있는 궤도에 오르지 못했습니다. 우리가 이 일을 계속 진행한다면 이 일을 선택하지 않았고 잘못하지 않은 아이들을 포함해 모두가 죽을 것입니다.”

그는 “새로운 대규모 훈련을 무기한 전 세계적으로 유예해야 하며”, “금지된 활동을 막기 위해 즉각적인 다국적 협약을 맺어야 하고”, 심지어 “불량 데이터 센터를 공습으로 파괴할 의지도 있어야 한다”고 주장했다.

인류 멸종이냐 아니며 포스트휴먼 낙원이냐

AI 안전 분야의 저명한 인물인 유드코프스키는 이 분야에서 유일하게 현재 진행 중인 인공지능 연구를 전면적이고 무기한 중단할 것을 촉구하는 목소리를 내고 있다.

이러한 경고에도 불구하고 유드코프스키는 여전히 AGI를 추구해야 한다고 믿으며, 인류를 파괴하지 않는 다른 길을 옹호할 뿐이다.

지난 1월 인터뷰에서 유드코프스키는 '지능 증강 인간'이 잠재적으로 안전하게 AGI를 개발할 수 있다고 말했다.

그가 상상하는 시나리오에서 인간은 “아마도 슈퍼 엔지니어를 만들고, 이를 통해 자신을 컴퓨터에 업로드하여 그 동안 세상이 불타 없어지지 않고 앞으로 천 년 동안 이 일을 계속할 수 있을 것”이라고 말한다.

“그들은 내부에서 더 빨리 달리고 있기 때문에 우리 입장에서는 하루나 사흘만 지나면 실제로 좋은 슈퍼 지능이 나오고 그 이후에는 행복하게 살 수 있습니다"라고 그는 덧붙였다.

유드코프스키는 오늘날의 AI 개발자들은 인류를 파괴하지 않는 AGI를 개발할 만큼 충분히 똑똑하지 않다고 생각한다.

따라서 그의 해결책은 인류의 “행복한 미래”를 가능하게 하는 안전하고 인간과 일치하는 AGI를 만들 수 있을 만큼 충분히 똑똑한 인간 그룹을 기술적으로 변화시킬 수 있을 때까지 AGI 개발을 전 세계적으로 금지하는 것이다.

인간을 뛰어넘는 기계

유드코프스키의 현실에 대한 비전은 세계 유수의 AGI 개발자와 경쟁하고 있지만, 그들의 비전과 크게 다르지 않다.

현대 정통 유대교에서 자란 유드코프스키는 현재 무신론자이자 트랜스휴머니스트이다.

그의 세계관의 근간에는 영혼과 천사, 악마, 신이 없는 유물론적 우주가 있다.

그러나 모든 트랜스휴머니스트와 마찬가지로 기술을 통해 신과 같은 존재를 창조하고 자신도 신과 같은 존재가 되기를 갈망하는 그의 종교적 충동은 여전히 남아 있다.

그는 심지어 유일한 방법이라면 “여전히 서로를 아끼는” 디지털 신을 만들기 위해 모든 인류를 기꺼이 희생할 수 있다고 선언한다.

유드코프스키는 앞서 언급한 인터뷰에서 “모든 인류를 희생하는 것이 신과 같은 존재, 즉 여전히 서로를 아끼고 여전히 세상을 인식하며 여전히 즐거운 초지능을 얻을 수 있는 유일한 방법이자 확실한 방법이라면 궁극적으로 그 대가를 치를 수 있습니다”라고 말했다.

그러나 그는 “그것은 우리가 직면한 절충안이 전혀 아니다”라며 “[인간의] 가치 있는 후계자는 우리를 죽이지 않을 것”이라고 강조했다.

하지만 이 발언은 그의 궁극적인 가치가 어디에 있는지를 보여준다.

그에게 인간은 디지털 초지능보다 더 본질적인 가치를 지니고 있다.

두려움과 희망

엘리에저 유드코프스키는 현재 세계 기술 엘리트들의 바벨탑 같은 오만함을 예리하게 인식하고 있으며, 전 세계적으로 AGI 연구를 중단하라는 그의 요구는 디지털 신을 만들려는 우리 지도자들의 무모한 서두름과 대조를 이룬다.

그러나 그의 행동은 그러한 디지털 신에 의해 인류가 멸망할 것이라는 두려움에서 비롯된 것이다.

그러나 기독교인으로서 우리는 세상의 반역적인 통치자들이 하나님이 선포한 것을 전복할 수 없다는 것을 알고 있다.

그들이 큰 파괴를 일으킬 수는 있지만, 예언된 에스카톤[종말의 사건]을 막을 수는 없다.

하나님은 현재 우리 세상에서 일어나고 있는 기술적, 종교적 큰 변화를 허락하셨다.

우리의 임무는 그것들을 피하거나 우리 자신의 힘으로 그것들을 물리치는 것이 아니라, “정복자보다 더 큰”(로마서 8:37) 사랑을 가진 메시아를 통해 하나님의 삶에 겸손히 참여하는 것이다.

유드코프스키는 “언젠가 포스트휴먼이 되기를” 희망하지만, 성육신하신 하나님을 예배하는 우리는 우리의 인간 본성이 도피하거나 대체하거나 초월할 수 있는 것이 아니라는 것을 알고 있다.

그것은 변화되어야 하는 것이다.

제이콥 로젠버그

제이콥 로젠버그는 미국계 이스라엘인으로 복음주의 기독교 신자이며 ALL ISRAEL NEWS 창립자의 아들이기도 합니다. 그는 과학, 기술, 개인의 자유, 종교의 자유의 교차점에 대해 글을 쓰고 있습니다.