사람 글도 AI로 오인하는 '오탐' 여전…한국어는 언어 특성 맞춘 별도 연구
"AI가 만들면 모두 슬롭?"…생성 여부 넘어 출처·사실성·품질 검증이 관건
대표적인 인공지능(AI) 탐지 스타트업 '판그램' 홈페이지. 판그램은 지난달 멘로벤처스 등이 참여한 투자 라운드에서 900만달러를 유치했다. (사진=판그램 홈페이지 캡처) *재판매 및 DB 금지[서울=뉴시스]윤현성 기자 = 생성형 인공지능(AI)으로 대량 생산한 저품질 콘텐츠인 'AI 슬롭'이 인터넷 곳곳을 뒤덮으면서 이를 가려내는 'AI 감별기'도 덩달아 주목받고 있다. 텍스트나 이미지가 사람의 창작물인지 AI 생성물인지 판별해 플랫폼·학교·출판사 등이 대응에 나설 수 있게 하는 기술이다.
하지만 감별기가 AI 슬롭의 만능 해법이 되기는 어렵다는 지적도 나온다. 사람이 직접 쓴 글을 AI가 생성했다고 잘못 판정하는 '오탐(false positive)' 가능성이 남아 있는 데다, AI로 만들었다는 사실 자체가 곧 저품질 콘텐츠라는 뜻도 아니기 때문이다.
22일 업계에 따르면 미국 AI 탐지 스타트업 판그램은 지난달 멘로벤처스 등이 참여한 투자 라운드에서 900만달러를 유치했다.
판그램은 투자 유치와 함께 AI가 일부 개입한 혼합형 글까지 판별하는 '판그램4'와 AI 생성 이미지를 탐지하는 모델을 공개했다. 판그램 기술은 서브스택을 비롯해 학교·대학, 출판사, 채용업체 등에도 공급되고 있다.
AI 슬롭 늘자 감별 시장도 성장…그래도 '오탐'은 남는다