- 위키백과 자원봉사 프로젝트 WikiProject AI Cleanup은 지침을 위반하는 AI 생성 콘텐츠를 찾아 정리함. 반복되는 상투어뿐 아니라 문장 구조와 비정상적으로 빠른 문서 작성 행동까지 함께 살핌
- 주요 문제는 실제 출처를 인용하면서도 그 내용과 다른 주장을 쓰는 것임. RAG로 출처 자체를 지어내는 사례는 줄었지만, 출처가 본문을 뒷받침하지 못하는 인용은 여전히 흔함
- Pangram이 AI 생성으로 판별한 새 문서와 초안의 비율은 2025년 말 약 20%에서 2026년 초 15~16%로 낮아짐. 정책 효과인지 탐지기가 발전한 모델을 따라가지 못한 결과인지는 불분명함
- AI 출처 검증기와 붙여넣기 탐지 도구도 정리에 활용하거나 개발 중임. 검증기 역시 틀릴 수 있어, 명백한 문제를 대규모로 걸러내는 첫 단계로 사용함
- 인간이 작성한 백과사전이라는 정체성을 지키면서도 AI와의 공존을 모색함. AI 검색 이용자에게 문서의 상태와 문제 표시를 전달하고, 편집 참여로 연결하는 방안도 개발 중임
- WikiProject AI Cleanup 은 2023년 시작됐으며, Wikipedia 지침을 위반하는 AI 생성 자료를 찾아 제거함
- 창립 멤버 Ellia Lebleu와 다른 편집자들은 2023년 12월 무렵 Discord에서 비슷한 이상 징후를 가진 문서들을 발견하고, 더 많은 사람이 대응할 수 있도록 공식 프로젝트를 만들었음
- “stands as a testament”, “rich cultural heritage” 같은 표현이 반복됐음
- 결론이나 “왜 중요한가?”라는 절은 2023년과 2024년 초 ChatGPT 출력에는 흔했지만 Wikipedia 문서에는 이례적이어서 쉽게 식별할 수 있었음
-
2025년부터 탐지 단서가 더 미묘하고 구조적으로 바뀜
- 세 가지 요소를 나열하는 수사법인 ‘3의 법칙’, 부정 병렬 구문 등은 하나만으로 확정할 수 없지만 여러 단서가 쌓이면 의미가 있음
- 문서 밖의 행동도 살피며, 수천 단어짜리 문서 다섯 개를 5분 만에 작성했다면 AI 사용을 의심할 근거가 됨
- 가짜 인용과 오해를 유발하는 인용이 주요 우려로 떠오름
- 검색 증강 생성(RAG)으로 AI가 출처를 찾을 수 있게 되면서 인용 자체를 완전히 지어내는 사례는 과거보다 훨씬 드물어짐
- 반면 실제 출처를 찾고도 내용을 완전히 잘못 이해하는 경우가 더 흔하며, 본문의 주장을 뒷받침하지 못하는 AI 인용이 매우 빈번함
- 영어 Wikipedia는 최근 LLM을 이용한 문서 생성 금지 지침 을 도입함
- Lebleu는 AI 탐지 기업 Pangram 과 협력해 AI 생성 콘텐츠 비율을 추정하고 있음
- ChatGPT 이전의 Wikipedia 콘텐츠로 시험했을 때 오탐이 없었으며, Lebleu는 이를 근거로 탐지 결과를 매우 보수적인 하한 추정치로 봄
- 새 문서와 초안 중 AI 생성으로 표시된 비율은 2025년 말 약 20%, 2026년 초 15~16% 였음
- 감소가 최근 정책의 효과인지, 모델 성능 향상을 탐지기가 아직 따라잡지 못한 결과인지는 알 수 없음
-
금지 규칙의 효과를 판단하기에는 아직 이름
- 모델의 작성 요청 거부와 겉으로 드러난 AI 콘텐츠 비율의 소폭 감소는 금지 규칙의 효과일 수 있지만, 모델 개선이나 초보 편집자의 규칙 학습에 따른 변화와 구분하기 어려움
- AI 생성 콘텐츠의 대다수는 초보 편집자가 제출하므로, 환영 메시지와 편집 도움말, 안내에 규칙을 눈에 띄게 표시하고 있음
- 한 Wikipedia 편집자는 문서의 출처를 순회하며 주장을 뒷받침하는지 확인하는 AI 출처 검증기를 만들었음
- AI 모델이므로 항상 정확하다는 보장은 없지만, 대규모로 명백한 문제를 걸러내는 첫 단계로 활용할 수 있음
- Wikimedia Foundation은 일부 AI 챗봇에서 직접 붙여넣은 텍스트를 표시할 수 있는 Paste Check 를 개발 중임
- Claude가 Wikipedia 정책에 어긋난다는 이유로 문서 작성 요청을 거부하는 사례도 관찰됨
- 주요 AI 기업이 모두 이런 거부를 구현하면, 상용 모델을 이용하면서 기술에 익숙하지 않은 사람들의 AI 문서 생성을 줄이는 데 도움이 될 수 있음
- 다만 가중치 공개 모델은 제한을 피하도록 수정할 수 있으므로 문제를 완전히 해결하지는 못함
- AI 작성 금지는 처음에는 실무적 필요에서 출발함. AI 콘텐츠가 쏟아지는 상황에서 적절한 도구가 부족했고, 유입을 멈출 필요가 있었음
- 이후에는 인간 작성 콘텐츠가 Wikipedia 정체성의 일부가 되면서 철학적 질문으로 확대됨
- 많은 사람이 Wikipedia를 ‘인터넷의 마지막 좋은 공간’이라고 부르며, 원칙적으로 저품질 AI 콘텐츠가 없는 공간이라는 점에 의미를 둠
- Wikipedia의 대외 소통도 인간이 작성한 백과사전이라는 점에 집중하고 있음
- 순수하게 사람이 작성한 말뭉치는 AI 학습에도 가치가 있으며, Lebleu는 적어도 가까운 미래까지 이를 유지할 Wikipedia를 다른 곳에서 대체하기 어려운 자원으로 봄
- AI가 신뢰할 만한 문서를 작성할 수 있게 되더라도, 더 포괄적인 백과사전을 위해 독자와 기여자가 부분적인 AI 생성을 원하는지는 열린 질문임
- 인간 작성 말뭉치라는 정체성을 보존하면서 별도의 AI 보조 선택지를 제공하는 방안도 가능함
- ‘Google Zero’는 Google 검색에서 웹사이트로 들어오는 트래픽이 사라질 수 있는 미래를 뜻하며, Wikipedia에는 편집 참여를 어떻게 알릴 것인가라는 과제가 있음
- Google AI Overviews가 Wikipedia를 자주 인용하더라도, 사용자가 AI 답변만 보면 Wikipedia가 직접 편집하고 기여할 수 있는 살아 있는 프로젝트라는 사실을 모를 수 있음
- Wikimedia Foundation은 AI 이용자에게 인용 문서의 맥락을 전달하는 출처 표시 체계를 개발 중임
- 마지막 편집 시점, 문서의 충실도, 편집자가 표시한 문제, 나아가 참여를 권하는 안내까지 제공할 수 있음
- 앞으로는 AI가 인용한 Wikipedia의 오류를 발견한 사용자가 다른 출처를 첨부해 AI를 통해 편집을 요청하는 방식도 가능할 수 있음
- Lebleu는 Wikipedia가 사라지기보다 AI 모델과 공생하며 다른 형태로 바뀔 가능성을 봄
- AI는 정리해야 할 대상에서 정리를 돕는 도구로 바뀌고 있으며, 앞으로는 일상적인 환경의 일부가 될 수 있음