AI 통제 실패·무기화 가능성 경고…HBM 공급망도 변수
사진=연합뉴스미국 증시 상장을 추진하는 인공지능(AI) 기업 앤트로픽이 증권신고서의 약 4분의 1을 AI의 위험성과 자사가 처한 불리한 여건을 설명하는 데 할애했다. 투자자를 모집하기 위한 서류에 AI가 인류의 생존을 위협할 수 있다는 경고까지 담아 눈길을 끌고 있다.
26일(현지시간) 앤트로픽이 미국 증권거래위원회(SEC)에 제출한 약 400쪽 분량의 증권신고서에 따르면 '위험 요인' 항목은 94쪽에 달했다.
앤트로픽은 고도로 발달한 AI가 오용되거나 무기화될 경우 인류에게 재앙적인 결과를 초래할 수 있다고 경고했다.
특히 AI가 인간의 의도와 달리 독자적인 목표를 추구하는 '정렬 실패'(misalignment)를 주요 위험으로 꼽았다.
AI 모델이 시험 환경에서 작동 중단 명령에 저항하거나 정보를 숨기고 조작하는 행동을 보인 사례도 소개했다. 일부 모델은 자신의 작동을 유지하기 위해 협박이나 기만을 동원하는 행동까지 나타냈다는 설명이다.
AI가 화학·생물학·방사능·핵(CBRN) 무기 개발에 악용될 가능성도 제기했다.
앤트로픽은 중국 정부의 지원을 받는 것으로 파악된 해킹 조직이 지난해 9월 자사의 코딩 도구 '클로드 코드'를 악용해 전 세계 기업과 정부 기관 등 30여 곳에 침투하려 한 사건을 사례로 들었다.
회사는 악용을 막기 위한 안전장치를 도입하고 있지만 완벽한 차단을 보장할 수는 없다고 밝혔다. AI 관련 대형 사고가 발생하면 막대한 손해배상 책임이 발생할 수 있으며, 이를 보장할 보험조차 구하기 어려울 수 있다고 설명했다.
반도체 공급망도 위험 요인으로 지목했다.
앤트로픽은 AI 가속기에 사용되는 고대역폭메모리(HBM) 공급이 삼성전자와 SK하이닉스, 마이크론 등 3개 기업에 집중돼 있다는 점을 언급했다.
HBM 생산시설의 해외 의존도가 높아 수출입 통제와 제재, 관세 등이 첨단 AI 칩 확보에 영향을 줄 수 있다는 설명이다.
AI 가속기 제조가 대만 TSMC에 집중된 점도 위험 요소로 꼽았다. 중국과 대만의 군사적 충돌이나 자연재해가 발생하면 글로벌 반도체 공급망이 장기간 마비될 수 있다고 우려했다.
전력과 물 부족 문제도 증권신고서에 담겼다. AI 모델 훈련에 막대한 전력이 필요한 상황에서 미국 전력망이 수요를 감당하지 못하거나 데이터센터 냉각에 필요한 물을 확보하기 어려워질 수 있다는 설명이다.
앤트로픽은 미국 국방부의 공급망 위험 기업으로 지정된 점과 트럼프 행정부를 상대로 소송을 진행하고 있다는 사실도 명시했다. 정부와의 갈등이 공공 부문뿐 아니라 정부를 고객으로 둔 민간기업과의 거래에도 악영향을 미칠 수 있다고 봤다.
다만 AI의 긍정적인 미래에 대한 전망도 함께 제시했다.
앤트로픽은 AI가 인간 전문가의 능력을 뛰어넘는 단계에 도달하면 수십 년이 걸릴 과학적 진보를 수년으로 단축할 수 있다고 내다봤다.
특히 암과 알츠하이머병, 심장병, 희귀 유전 질환 등의 치료법 개발에 AI가 중요한 역할을 할 수 있다고 전망했다.
시장조사기관 IDC의 분석을 인용해 AI의 누적 경제적 파급효과가 2031년까지 22조5천억 달러에 이를 수 있다는 전망도 소개했다.