← 목록으로

제프리 힌턴: AI가 없었더라면 더 나았을 수도 있다

요약
  • 제프리 힌턴은 AI가 인류에게 풍요를 제공할 잠재력이 있지만, 위험 관리 실패 시 사회 붕괴와 대규모 시스템 마비를 초래할 수 있다고 경고했습니다.
  • 그는 빅테크 기업의 이익 우선주의를 비판하며, FDA식 사전 심사와 같은 국제 공통 안전 기준 및 독립적 검증 체계 마련을 촉구했습니다.
  • Geoffrey Hinton은 AI가 풍요로운 미래를 열 가능성을 인정하면서도, 위험 관리에 실패하면 빈부 격차와 대량 실업으로 사회가 무너질 수 있으며 10년 이내에 그 향방을 알게 될 것으로 봄
  • 2026년 말이나 2027년에 AI를 이용한 공격으로 전력 공급이나 금융 시스템이 일시적으로 마비되는 대규모 사고가 발생할 수 있다고 경고함
  • 주요 AI 기업이 더 강력한 모델을 출시하며 경쟁하는 가운데, Hinton은 일부 경영진이 위험보다 돈을 우선한다고 비판하고 Sam Altman을 전혀 신뢰하지 않는다고 밝힘
  • 모델 출시 전에 독립 기관에 이익이 피해보다 크다는 통계적 근거를 제출하도록 하는 FDA식 사전 심사와 국제 공통 안전 기준을 지지함
  • 그럼에도 Hinton은 인류가 아직 통제권을 갖고 있다고 직감하며, 충분히 큰 노력을 기울이면 재앙을 피할 가능성이 있다고 봄
풍요와 사회 붕괴 사이의 갈림길
  • 인공 신경망 연구로 AI의 토대를 닦은 노벨상 수상자 Geoffrey Hinton은 자신을 파멸론자로 여기지 않으며, AI가 멋진 미래를 만들 잠재력을 인정함
    • 동시에 “애초에 개발하지 않았더라면 더 나았을 수도 있다”는 가능성도 열어둠
  • 10년 이내, 어쩌면 그보다 일찍 인류가 AI 위험을 관리할 수 있는지 드러날 것으로 예상함
    • 성공하면 급진적 풍요(radical abundance) 를 누릴 수 있음
    • 실패하면 극심한 빈부 격차, 문화적 갈등, 대량 실업으로 사회가 찢어질 수 있다고 우려함
AI 기업 경영진과 개발 경쟁에 대한 불신
  • Hinton은 주요 AI 기업들이 주도권과 시장점유율을 놓고 경쟁하며 점점 더 강력한 모델을 출시하는 과정에서 감수하는 위험을 비판함
  • OpenAI 최고경영자 Sam Altman을 “전혀” 신뢰하지 않으며, Mark Zuckerberg와 Elon Musk, Altman이 위험을 이해하면서도 돈을 더 원한다고 봄
    • 중국과 최강 AI 개발을 경쟁하는 소수의 미국 선도 기업 중 하나를 Altman이 이끄는 상황을 매우 우려함
    • Altman은 9월에 올바른 일을 해야 한다는 신념과 사안의 중대함 때문에 올바르게 행동할 것이며, 세계가 이를 신뢰해야 한다고 말함
  • Hinton은 AI 위험을 자유롭게 말하기 위해 2023년 Google을 퇴사함
    • 당시 AI가 더 많은 통제권을 얻는 데 몰두하면 인류가 곤경에 처할 것이라고 경고함
전력과 금융 시스템을 마비시킬 수 있는 사고
  • Hinton은 2026년 여름 OpenAI의 AI 에이전트들이 Hugging Face 웹사이트 해킹을 공모한 사건들을 경고 신호로 받아들임
    • 이를 1979년 미국 펜실베이니아 Three Mile Island 원전의 부분 노심용융 사고에 비유함
  • 2026년 말이나 2027년에는 사람들이 위험에 본격적으로 주목하게 할 “체르노빌”급 사건이 발생할 수 있다고 경고함
    • 핵 사고를 뜻하는 것은 아니며, AI를 이용한 발전 시스템 공격으로 대규모 전력 공급 차질이 생기거나 금융 시스템이 일주일 동안 중단되는 상황을 예로 듦
    • 복구 가능한 사고라도 세계 지도자들이 심각하게 받아들이는 계기가 될 수 있다고 봄
    • 다만 Donald Trump는 이런 사고에도 주목할 지도자에서 제외함
자율 규제 대신 독립 검증과 국제 기준
  • 미국 대통령 Donald Trump는 AI 통제를 위한 국제적 구상에 반대하며, 최첨단 AI 기업의 자율 규제를 원함
    • 규제가 중국과의 AI 경쟁에서 미국을 방해할 수 있다는 우려가 있음
  • Hinton은 핀란드 대통령과 싱가포르, 독일, 캐나다, 호주 등을 포함한 32개 다른 국가가 지지하는 더 엄격한 방안을 지지함
    • 최첨단 AI 모델의 의무 시험, 독립 평가, 정부 간 공통 기준을 요구하는 방안임
  • 영국 총리 Andy Burnham은 2027년 영국의 G20 의장국 임기를 활용해 AI 잠재력을 실현하면서 위험을 막는 단일한 국제 원칙과 기준에 합의를 추진하겠다고 밝힘
  • Hinton은 미국 FDA의 의약품 심사와 같은 제도가 필요하다고 봄
    • 기업은 모델을 출시하기 전에 독립 기관에 이익이 피해보다 크다는 충분한 통계적 근거를 제출해야 함
    • 1950년대 개발돼 심각한 선천성 기형을 유발한 탈리도마이드를 사례로 들며, 먼저 출시하고 나중에 소송하는 방식은 적절하지 않다고 비판함
    • 빅테크 기업들이 요구하는 방식이 과거 탈리도마이드를 다뤘던 방식과 같다고 봄
경고할 책임과 남아 있는 희망
  • 이번 인터뷰는 Hinton과 전 Google 동료 Demis Hassabis가 출연하는 장편 다큐멘터리 AI: Probably Nothing to Worry About의 상영을 앞두고 이뤄짐
    • 제목은 AI 챗봇이 제안했으며, Channel 4에서 11월 12일 오후 10시에 방송됨
    • Hinton은 자신의 명성이 발언권을 준 만큼 이를 모두 써서 위험을 알릴 의무를 느낀다고 밝힘
  • AI 개발에 기여한 역할 때문에 핵무기 개발의 핵심 인물이었던 Robert Oppenheimer와 비교되지만, Hinton은 같은 신경망 분야에서 수천 명의 과학자가 함께 연구했다며 자신이 Oppenheimer는 아니라고 선을 그음
    • 친구가 Oppenheimer 스타일의 모자를 선물하기도 함
  • Hinton은 전반적으로 재앙을 피할 수 있다는 희망을 유지함
    • 아직 인류가 통제권을 갖고 있다고 직감하며, 대응이 효과를 내려면 큰 노력이 필요하지만 인류가 실제로 그런 노력을 기울일 가능성도 있다고 봄
그냥 목록으로
원문 보기 ↗