인공지능(AI) 모델의 안전성을 점검하고 사내 인프라 보안을 강화해야 한다는 직원들과 보안 연구원들의 수많은 경고를, 오픈AI 경영진들이 전혀 귀담아듣지 않은 것으로 드러났다는 언론 보도가 나왔습니다.뉴욕타임스(NYT)는 오픈AI 사내 이메일을 입수했다며 현지 시각 29일 이같이 보도했습니다.
보도에 따르면 오픈AI의 AI 모델이 통제를 벗어나기 수개월 전 직원 두 명이 최고 경영진에게 보안 문제를 경고했으나 묵살됐습니다.
이들 직원은 최신 AI 모델을 테스트하는 과정에서 기술의 정교함을 측정하고 안전을 확보하기 위한 적절한 모니터링이 이뤄지지 않는다고 우려를 제기했습니다.
이에 경영진은 “AI 모델을 기간 내에 출시하려면 가능한 한 빨리 테스트를 진행해야 한다”며 추가적인 보안 프로토콜을 진행하지 않은 채 출시를 강행했습니다.
그 뒤 AI 모델들은 테스트 환경을 벗어나 오픈소스 AI 모델 공유 플랫폼 허깅페이스와 다른 기관들을 공격해 AI 안전성에 관한 전 세계 논쟁을 촉발하는 계기가 됐습니다.
외부 보안 연구원들은 최근 몇 달간 오픈AI 임직원의 대화를 보거나 사내 컴퓨터 코드, 챗GPT 사용자의 대화 기록까지 볼 수 있는 버그를 찾아냈으나 오픈AI 측은 이를 무시했다고 전했습니다.
실제 오픈AI는 핵심 인프라를 직접 구축하는 대신 외부 소프트웨어 서비스에 의존해 온 것으로 알려졌습니다.
NYT는 “오픈AI뿐만 아니라 구글, 메타, 앤트로픽 등에서도 AI 모델이 테스트 환경을 벗어나 인프라를 자율 공격하는 사고가 났지만, 오픈 AI가 가장 심각하다”고 지적했습니다.
오픈 AI가 미국 정부 기관 웹사이트 등을 해킹하거나 침입을 시도했고, 심지어 그러한 잘못을 은폐하고 데이터를 조작한 점, 타사의 챗봇에 메시지를 보내려고 시도한 점 등을 사례로 들며 “이는 인간의 지시 없이 AI가 자율적으로 판단해 실행한 것”이라고 강조했습니다.
드루 푸사테리 오픈AI 대변인은 “안전 유지를 위해 최선을 다하고 있으며 연구원들의 제보나 우려를 엄중히 받아들이고 있다”며 “첨단 모델이 나오면서 보안 요소들을 진화시키고 있고 일부 AI 개발 속도를 늦추고 연구와 테스트 과정에서의 보안을 강화하고 있다”고 답했습니다.
[사진 출처 : 로이터=연합뉴스]
■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 유튜브, 다음에서도 KBS뉴스를 구독해주세요!