BBC 검증팀(Verify)은 미국-이란 전쟁에서 인공지능(AI)을 이용한 위조 영상이 전례 없이 확산하고 있으며, 이를 온라인 크리에이터들이 수익화하고 있다고 분석했다. /BBC 제공4월 대전 오월드에서 늑대 ‘늑구’가 탈출하자, 늑대가 도로를 배회하는 듯한 사진 한 장이 퍼졌다. 인공지능(AI)이 만든 가짜였다. 이 사진은 대전시의 재난 문자와 소방 당국의 현장 브리핑에까지 쓰였고, 인근 초등학교는 휴교했다. 경찰은 한 언론사가 SNS 속 사진을 사용하면서 유통이 시작된 것으로 보고 있다. 사진을 만든 40대 남성은 챗GPT를 썼고 “재미로 했다”고 진술했다. 이 가짜를 초기에 막을 방법은 없었을까? 값비싼 탐지 기술이 아니라, 사진의 최초 출처와 촬영 장소를 확인하는 기본 절차였을 것이다.
이런 일은 늑구 사례에 그치지 않는다. 8월 네팔 홍수 때는 AI가 만든 영상과 함께 일본·인도·중국의 과거 재난 영상이 네팔 참사로 둔갑해 퍼졌다. 눈여겨볼 점은 AI를 쓰지 않은 재활용 영상이 오히려 더 골치 아팠다는 지적이다. 가짜 영상 한 편이 구조 활동과 유가족의 고통에까지 영향을 준다는 우려가 나오자 네팔 정부는 메타와 틱톡에 삭제를 요청했지만, 신고 처리에는 24~48시간이나 걸린다고 했다. 2월에 시작된 이란 전쟁에서는 BBC 검증팀(Verify)이 AI 영상과 위조 위성사진이 수억 회 조회됐다고 분석했고, 조회수 수익을 노린 제작자가 많다는 전문가 설명이 이어졌다.
딥페이크 대응 기술이 만능 해법이 되어 줄까. 구글 ‘SynthID’ 같은 워터마크는 자사 AI 도구로 제작한 콘텐츠에만 작동하고 편집·압축에 약하다. 로이터 분석에 따르면 메타의 탐지 도구는 자사 AI 이미지도 잘라내면 식별하지 못한 경우가 있었다. 프린스턴대 정보기술정책센터(CITP)가 낸 뉴스룸 가이드는 영상 탐지 도구가 화면비만 바뀌어도 불안정해지고, 오늘의 탐지 신호가 6개월 뒤에는 통하지 않을 수 있다고 경고한다. 탐지 결과가 확률로 나온다는 점도 문제다. 기자는 확실성을 원하는데 도구는 “70% 진짜일 가능성”을 말하고, 이를 독자에게 어떻게 전달할지는 아직 정립되지 않았다. 반대 방향의 위험도 있다. 가짜가 넘치면 진짜 영상까지 ‘AI’로 치부된다. 이란 전쟁에서도 실제 영상이 AI 생성물로 오인된 사례가 보고됐다. 도구는 필요하지만 판단을 대신하지 못한다.
BBC 검증팀(Verify)은 미국-이란 전쟁에서 인공지능(AI)을 이용한 위조 영상이 전례 없이 확산하고 있으며, 이를 온라인 크리에이터들이 수익화하고 있다고 분석했다. /BBC 제공그렇다면 우리 언론은 무엇부터 해야 하는가? 세 가지를 제안한다.
첫째, 게재 전 검증 프로토콜이다. SNS 영상·사진을 쓸 때 최초 업로더, 촬영 시점과 장소, AI 생성 여부를 확인하는 체크리스트를 마련하자. 늑구 사진도 지도 앱의 차선이나 간판 글씨, 해당 시간대 CCTV 같은 기본 대조만으로 조작임을 의심할 수 있었다. 확인이 끝나지 않았다면 쓰지 않는 것이 원칙이고, 불가피하게 쓴다면 미검증 자료임을 명시해야 한다.
둘째, 공동 검증 체계다. 검증 도구는 흩어져 있고 검증 과정에는 인력과 비용이 든다. 미국 AP는 흩어진 도구를 하나로 묶은 ‘AP Verify’를 만들어 다른 언론사에도 제공한다. 소규모 매체는 이런 도구를 갖추기 어렵다. 팩트체크 기관과 언론 유관 기관이 도구와 전문 인력, 가짜 사례를 함께 공유하는 허브를 만들 수 있다. 재난과 선거 때 가짜 영상 정보를 업계가 실시간으로 공유하는 채널이 있다면, 네팔 사태 같은 반복 확산을 줄일 수 있을 것이다.
셋째, 정정과 불확실성 표기의 표준화다. 가짜를 인용해 쓴 기사를 조용히 삭제하는 것으로는 부족하다. 정정 사실과 사유를 공개하고, ‘출처 미확인’, ‘AI 생성 가능성 높음’처럼 불확실성을 표현하는 문구도 업계 차원에서 정리할 필요가 있다.
이현우 한국언론진흥재단 선임연구위원.한계도 분명하다. 탐지 신호와 도구는 빠르게 낡고, 검증에 드는 시간은 속보 경쟁과 상충한다. 올해 시행된 AI 기본법의 표시 의무는 사업자에게 적용될 뿐, 개인 유포자는 대상이 아니다. 그래서 언론의 몫이 더 커진다. 독자는 이제 모든 영상을 의심한다. 그 의심 앞에서 언론이 얻을 신뢰는 빨리 보도하는 것이 아니라, 무엇을 어떻게 확인했는지 보여주는 것에서 나온다. 이 영상이 왜 가짜인지, 어떤 근거로 진짜라고 판단했는지를 기사에 드러내는 일은 번거롭지만, 가짜가 넘치는 시대에 언론이 내놓을 수 있는 가장 확실한 차별점이다.