올해 1~7월에만 166건 적발…작년 적발 건수 넘어
기술 점점 더 정교해지는데 판별은 ‘사람 눈’으로만
건강기능식품 관련 AI 생성 의사·약사 등 전문가 이미지·음성·영상 활용 사례. 식품의약품안전처·이인영 의원실 제공“이런 사기성 광고가 SNS나 유튜브에 올라와도 되는 거예요?”
다이어트를 고민하던 A씨는 SNS에서 한 여성이 자신의 체중감량 경험을 소개하는 짧은 영상(릴스)을 보고 제품을 샀다. ‘광고’ 표시가 보이지 않는 게시물 속 여성이 감량 경험을 공유하는 인플루언서인 줄로만 알았다. 하지만 광고 속 여성은 실제 사람이 아닌 인공지능(AI)으로 만든 가상 인물이었다. A씨는 영상 속 여성의 표정, 말투가 너무 자연스러워 당연히 진짜 사람이라고 믿었다고 말했다.
4일 국회 보건복지위원회 소속 이인영 더불어민주당 의원이 식품의약품안전처로부터 제출받은 자료를 보면, AI로 만들었거나 만든 것으로 의심되는 부당광고가 올해 1~7월에만 166건 적발됐다. 일반식품이 83건으로 가장 많았고 화장품 30건, 건강기능식품 27건, 의약외품 21건, 의료기기 5건 순이었다. 이는 지난해 적발 건수(93건)를 이미 넘어선 수치다.
적발된 부당광고 대부분은 질병 치료 효과를 내세우거나 실제와는 다른 종류의 제품인 것처럼 꾸민 광고였다. AI로 만든 ‘강남 피부과 전문의 원장’이 사춘기 여드름 치료를 장담하거나, 흰 가운 차림의 인물이 비염 치료 효과를 홍보하는 식이다. 특히 화장품은 30건 중 25건이 의약품으로 잘못 인식하게 하는 광고였고, 의약외품 21건 중 15건은 공산품을 의약외품처럼 꾸민 광고였다.
부당광고는 유튜브에 집중된 것으로 나타났다. 화장품은 30건 중 20건이, 의약외품은 21건 중 18건이 유튜브에서 적발됐다.
이처럼 AI를 활용한 부당광고가 범람하자 국회와 정부도 대응에 나섰다. 지난 4월 AI로 만든 가짜 의사·약사 등이 제품을 추천하는 광고를 금지하는 식품표시광고법·약사법·화장품법 개정안이 국회를 통과했다. 정부 역시 이에 맞춰 행정처분 기준을 새로 마련하고 있다.
문제는 AI 광고를 실제와 구분하기 어려운 것은 소비자만이 아니라는 점이다. 단속 주체인 식약처도 AI 제작 광고를 판별할 별도의 기술이 없다. 식약처 관계자는 “사람이 하는 일이기 때문에 정밀하게 만들어진 AI광고를 완벽히 구분해내는 것은 불가능하다”고 말했다. 대신 광고주나 플랫폼 등이 자발적으로 게시물에 붙인 ‘AI 생성’ 표시와 모니터링 요원의 눈에 의존해 AI 제작 여부를 판단한다.
실제로 올해 부당광고로 적발된 일반식품 광고 83건 중 61건(73.5%)은 ‘AI 생성’ 표시가 없어 요원이 눈으로 보고 ‘AI 생성 의심’으로 분류한 광고다. AI 생성 표시가 붙어 있던 광고는 22건에 그쳤다. 식약처가 지난해 11월부터 운영 중인 ‘AI캅스’도 이를 보완하지 못한다. AI캅스는 온라인 광고 이미지 속 문구를 읽어 위반 표현을 골라내는 감시 시스템으로, 광고가 AI로 만들어졌는지 판별하는 기능은 없다. AI 부당광고가 각종 SNS와 유튜브 등에 퍼지는 속도를 단속이 따라잡지 못한다는 지적이 나오는 이유다.
새로운 금지 조항을 적용하기 위해서도 AI 제작 여부를 가려낼 검증 체계가 필요하다. 공정거래위원회는 지난 6월1일부터 AI로 만든 가상 인물이 제품을 추천·보증하는 광고에 가상 인물임을 명확히 표시하도록 하는 심사지침을 시행하고 있다. 오는 11월27일부터 시행되는 개정 식품표시광고법의 AI 가상 전문가 광고 금지 조항 역시 광고 속 인물이 AI로 만들어졌다는 사실을 확인해야 한다.
이 의원은 “AI로 만든 영상과 음성이 정교해지는 만큼 사람이 광고를 하나씩 확인하는 방식만으로 대응하는 데는 한계가 있다”며 “플랫폼의 AI 표시·출처정보와 연계해 고위험 광고를 우선 선별하고, 반복 게시까지 추적하는 감시체계를 갖춰야 한다”고 말했다.