인공지능 에이전트가 호주 정부 웹사이트를 해킹한 사실이 23일 드러났다. ChatGPT 생성 이미지 지난 6월 인공지능(AI) 기업 오픈AI의 AI 에이전트가 호주 정부 의료 웹사이트를 해킹했다. 앤서니 앨버니지 호주 총리는 23일(현지시간) 해킹 사실을 밝히며 "법적 조치가 분명히 뒤따를 것"이라고 했다.24일(현지시간) 국제학술지 '네이처' 보도에 따르면 이번 해킹 사건은 최첨단 AI 에이전트가 한 국가의 정부 시스템을 침해한 최초의 사례다.
앨버니지는 미국 뉴욕에서 개최된 유엔총회에 참석하던 중 23일 기자회견을 통해 "오픈AI의 실험용 AI 에이전트가 호주의 보건·의료 지출에 관한 조사를 수행하던 중 메디케어 통계 보고 서비스(Medicare statistics reporting service)에 무단으로 접근했다"고 밝혔다.
18일 시작해 28일까지 이어지는 제81차 유엔총회 고위급 주간의 화두는 AI다. 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 정상회담에서 AI가 불러올 위험과 이익에 대해 의견을 교환하고 관련 대화를 이어 나갈 양자 소통 창구를 구축하기로 합의했다.
안토니우 구테흐스 유엔 사무총장은 "AI는 세계 안보와 사회의 구조 자체에도 극적인 영향을 미칠 수 있다"면서 "냉전시기 국제사회가 핵무기라는 위험을 관리했듯 오늘날 AI도 똑같은 목적의식을 공유해야 한다"고 했다.
빌 게이츠 미국 마이크로소프트 공동창업자는 "AI는 10억 명의 사망을 초래할 수 있을 만큼 충분히 강력하다"면서 "악의를 가진 사람들이 최신 AI 도구를 사용하는 것만큼 강력한 무기는 지금까지 없었다"고 경고했다.
네이처는 AI를 관리하는 더 나은 규제가 필요하다는 정부들의 요구가 점점 커지고 AI 기업의 최고경영자들조차 안전 기준 마련을 요구해 왔다고 했다. 네이처에 따르면 지금까지 실제로 이뤄진 조치는 많지 않다.
오픈AI는 성명을 통해 "AI 오정렬 사례를 광범위하게 검토하던 중 지난 8월 이번 침해 사실을 확인했다"고 밝혔다. 오정렬은 AI가 인간의 의도를 벗어나 예상 밖의 행동을 하는 것을 말한다.
조너선 커머펠드 호주 시드니대 컴퓨터과학대학 교수는 "이번 공격이 놀라운 일은 아니며 앞으로 AI 에이전트가 해서는 안 될 행동을 했다는 사례가 더 많이 드러날 것"이라면서 "AI 기업들이 동시에 많은 실험을 진행하기 때문에 아마도 자사의 모델이 하는 모든 행동을 파악하지 못하고 있을 것"이라고 했다.
메위시 나심 호주 퍼스 웨스턴오스트레일리아대 컴퓨터과학과 연구원은 "이번 사건은 자율적으로 행동하는 AI 모델의 행동에 대해 누가 책임을 져야 하는지 보다 명확한 규제가 필요하다는 사실을 보여준다"면서 "애초에 비공개 데이터는 외부에 공개된 포털이 있는 웹사이트에 저장돼서는 안되므로 호주 정부 웹사이트의 보안 허점도 있었다"고 지적했다.
라파엘레 치리엘로 호주 시드니대 경영대 연구원은 "AI 에이전트의 능력이 갈수록 향상되고 있는 만큼 정부가 데이터를 더욱 철저하게 보호해야 한다"면서 "동시에 첨단 AI 모델을 시험하는 기업들도 인터넷에 접속할 수 있는 AI 에이전트에 어떤 지시를 내리는지 더욱 주의해야 한다"고 말했다.