위즈니악 등 AI 선구자들, 초지능AI 개발 중단 요구..."인간의 경제적 역할 박탈"

[미디어펜=김종현 기자] 애플의 공동 창업자인 스티브 위즈니악과 버진그룹 창립자 리처드 브랜슨 등 IT 선구자들이 인간의 지능을 초월하는 '초지능(슈퍼인텔리전스: superintelligence)'의 개발 중단을 촉구하고 나섰다고 CNBC가 22일(현지시간) 보도했다.

위즈니익과 브랜슨 등 기술계 리더를 포함한 850명은 이날 발표한 성명서에서 슈퍼인텔리전스 개발의 일시 중단을 요구했다.

현대 AI의 ‘대부’로 불리는 요슈아 벵지오와 제프 힌튼 같은 컴퓨터 과학자들이 서명자 명단의 최상단에 이름을 올렸으며, UC 버클리의 스튜어트 러셀 같은 주요 AI 연구자들도 참여했다.

성명서는 "슈퍼인텔리전스가 인간의 경제적 역할 상실과 권한 박탈, 자유와 시민권, 존엄성 및 통제력의 상실, 국가 안보 위협, 심지어 인류 멸종 가능성” 우려까지 낳고 있다고 경고했다.

이어 기술에 대한 강력한 대중적 지지와 안전하게 구축 및 통제할 수 있다는 과학적 합의가 있을 때까지 개발을 금지할 것을 요구했다.

이날 성명에는 AI 및 기술계 인사 외에도, 학계, 언론계, 종교계, 그리고 초당적 성향의 미국 전직 정치인 및 관료들까지 폭넓게 참여했다.

서명자에는 마이크 멀런 전 합참의장과 수전 라이스 전 국가안보보좌관이 포함되었으며, 도널드 트럼프 대통령에게 영향력이 있는 스티브 배넌과 글렌 벡도 명단에 올랐다. 영국 왕실의 해리 왕자와 그의 아내 메건 마클, 아일랜드 전 대통령 메리 로빈슨도 서명자에 포함되었다.

기술 분야에서는 AI를 인류에 유익한 강력한 도구로 보고 자유로운 개발을 지지하는 사람들과, AI가 위험하므로 더 많은 규제가 필요하다고 믿는 사람들 사이의 갈등이 커지고 있다.

일론 머스크와 올트먼 같은 세계적인 AI 기업의 리더들조차 과거에 슈퍼인텔리전스의 위험성을 경고한 바 있다. 올트먼은 오픈AI CEO가 되기 전인 2015년 블로그에서 “초인적 기계 지능(SMI)의 개발은 인류 존속에 대한 가장 큰 위협일 수 있다”고 썼다. 머스크는 올해 초 팟캐스트에서 고급 AI가 인간 지능을 초월할 경우 “인류 멸망 가능성이 20%”라고 언급했다.

성명서는 이날 '미래연구소(Future of Life Institute)'의 최근 설문조사를 인용하며, 미국 성인 중 단 5%만이 “빠르고 규제되지 않은” 슈퍼인텔리전스 개발을 지지한다고 밝혔다. 2,000명의 미국 성인을 대상으로 한 이 설문조사에서는 대다수가 “초지능AI”는 안전하거나 통제 가능하다는 것이 입증되기 전까지는 개발되어서는 안 된다고 생각하며, 고급 AI에 대한 강력한 규제를 원한다고 응답했다.