백악관 트럼프-AI 총수 회동에선
젠슨 황 등이 아모데이 향해 "왜 그렇게 위험 강조하냐" 반문마이크로소프트(MS) 창업자 빌 게이츠가 인공지능(AI)의 위험성을 경고하며 미국 정부가 추진하기로 한 AI 기업들의 자율 규제론에 대해 강하게 비판했다.
게이츠는 지난달 30일(현지시간) 뉴욕타임스(NYT)의 팟캐스트 '에즈라 클라인 쇼'와의 인터뷰에서 "AI의 위험성에 대한 인식이 극히 낮다. 학계도 싱크탱크도 정책 입안자나 정치인들도 마찬가지"라며 "무엇보다 이 문제에 있어 업계의 자율 규제를 신뢰할 수 없다. 그건 정말 미친(insane) 짓"이라고 비판했다.
그는 손해배상 소송으로 AI 위험을 통제할 수 있다는 주장에 대해 어떻게 생각하느냐는 질문을 받자 "그런 질문을 하다니 믿을 수 없다"며 "1억명이 죽은 뒤 소송을 하겠다는 것이냐"고 꼬집었다. 그러면서 "AI는 인류가 지금까지 접한 것 중 가장 위험한 것"이라고 반박했다.
나아가 "AI 산업에는 (의약품을 승인하고 규제하는) 미국 식품의약국(FDA)도, 항공안전위원회도 없으며 자동차에 안전띠를 설치하라는 의무도 없는 셈"이라며 대재앙이 발생하기 전에 안전장치와 감시 체계 도입 등을 의무화해야 한다고 강조했다.
29일(현지시간) 미국 워싱턴 D.C.의 백악관 이스트 룸에서 도널드 트럼프 미국 대통령과 인공지능(AI) 기업 총수 오찬이 끝난 후 CEO들이 이야기를 나누는 모습. 워싱턴(미국)=로이터 연합뉴스.그러면서 AI의 위협이 이미 현실화했다고 경고했다. 게이츠는 "AI는 생물 테러리스트가 수억 명을 살해할 수 있는 능력을 갖추게 하는 문턱을 이미 넘어섰다"며 "모든 은행 계좌를 마비시키거나 전력망을 중단시키는 사이버 공격 능력 역시 이미 존재한다"고 주장했다.
지난달 30일 트럼프 대통령은 AI 기업 CEO들을 백악관으로 불러 오찬을 가진 뒤, 주요 AI 기업들이 AI 개발 안전 수칙을 담은 공동 원칙에 합의하도록 했다. AI 위험성에 대한 AI 기업 CEO들의 우려가 커지자 트럼프 행정부는 자율 규제를 시행하기로 했다. 다만 논의 과정에서 AI 위험성을 바라보는 업계 내부의 시각차가 드러났다.
월스트리트저널(WSJ)은 자율 규제를 위한 논의 자리에서 젠슨 황 엔비디아 CEO가 다리오 아모데이 앤스로픽 CEO에게 'AI 위험성을 왜 이리 지나치게 강조하느냐'는 취지로 문제를 제기했다고 보도했다. 아모데이 CEO는 "대중에게 솔직하게 밝히고 위험을 과소평가하지 않는 것이 중요하다"고 답한 것으로 전해졌다.
WSJ은 "이번 논쟁은 업계의 자율 규제를 추진하는 과정에서 앤스로픽과 다른 주요 AI 기업들 사이에 존재하는 긴장을 보여준 사례"라고 짚었다.