← 목록으로

마틴 파울러: LLM 문체가 만드는 글의 불쾌한 골짜기

요약
  • 마틴 파울러는 LLM 특유의 문체가 독자에게 거부감을 주는 '불쾌한 골짜기'를 형성한다고 지적하며, 글쓰기를 사고의 도구로 활용하는 인간의 직접적인 글쓰기 가치를 강조합니다.
  • 그는 장애나 번역 등 특수한 경우를 제외하고는 사람과 소통하는 글에서 인간적인 목소리가 드러나야 한다고 주장합니다.
  • LLM 특유의 문체는 실제 AI 사용 여부와 별개로 읽고 싶은 마음을 약화시키고 거부감을 일으킬 수 있음. AI 판별 도구가 사람이 쓴 글이라고 판단해도 이미 생긴 반응을 해소하지는 못함
  • LLM에 초안을 맡기는 방식은 피하기를 권함. 사람이 편집해도 특유의 문체를 지우기 어려우며, 개요에 도움을 받더라도 본문은 직접 쓰는 편이 좋음
  • LLM 문체를 알아보는 자신의 판단도 확실하지 않음을 인정해야 함. 낯선 표현에 대한 반감은 AI 때문이 아니라 세대나 언어문화의 차이일 수 있음
  • 글쓰기는 사고의 도구이며, 문장과 씨름하는 과정에서 혼란을 풀고 생각을 정리하게 됨. 글쓰기를 LLM에 맡기면 사고와 이해까지 함께 맡기게 될 수 있음
  • 장애로 글쓰기가 어려운 경우에는 LLM 활용의 필요성을 인정하며, 번역은 판단이 더 복잡한 영역으로 봄. 정형적인 서신이나 절차용 보고서에는 활용할 수 있지만, 사람과 소통하는 글에는 인간적인 목소리가 드러나야 함
LLM 문체에 대한 거부감과 판별의 한계
  • Martin Fowler는 글을 읽으며 LLM 출력이라는 느낌이 강해지면 계속 읽고 싶은 마음이 줄고, 때로는 혐오감까지 느낌
    • 그 느낌의 이유를 늘 정확히 짚을 수는 없으며, 흔한 단서로 보는 것은 긴 대시 자체보다는 ‘load-bearing tapestries’ 같은 표현임
  • AI 글 판별 도구는 정확성도 의심스럽지만, 독자가 느끼는 불쾌한 골짜기를 해결하지도 못함
    • 판별 도구를 찾을 정도로 거부감이 생겼다면, 도구가 LLM을 쓰지 않은 글이라고 확신해도 이미 늦음
  • 문체 판별에 대한 자기 확신도 경계해야 함. 언어는 변하며, 젊은 세대의 언어에 불평하는 것은 나이가 들면서 흔히 나타나는 반응임
    • ‘새로운 영업 motion을 도입한다’, ‘sharp한 뉴스 요약’ 같은 표현은 실제 사람도 사용하므로, 이에 대한 반감은 인간과 AI의 차이보다 세대 차이에 가까움
    • 영국 출신인 Fowler에게는 미국식 표현에 대한 낯섦도 있음
직접 쓰기의 가치와 AI 활용 원칙
  • LLM 초안 작성을 피하고, 문장을 바꾸라는 제안도 신중하게 받아들일 것을 권함
    • 사람이 고쳐도 LLM 문체를 없애기 매우 어려우나 불가능하지는 않음. LLM이 초안을 전부 썼지만 최종본에서는 흔적을 느끼지 못한 사례가 있었으며, 대형 정기간행물의 전문 편집자가 다듬은 글이었음
    • LLM으로 개요와 구조를 잡는 것은 괜찮을 수도 있지만, 도움은 개요에 한정하고 본문은 직접 채우는 편이 좋음
  • 이 사이트는 글쓰기에 AI를 사용한 방식의 공개를 요구하며, 보통 감사의 말에 기재함. 투명성을 확보하고 독자가 유용한 활용법을 배울 수 있게 하기 위해서임
    • Fowler는 평소 문장 생성이나 구조 설계에는 AI를 쓰지 않고, 검색 도구로만 활용하며 정보는 원출처에서 확인함
    • 이번 글을 쓰는 데에는 AI나 LLM을 전혀 사용하지 않았음
  • 머릿속으로 말한 뒤 글로 옮기기는 LLM 시대에 더욱 중요함
    • Fowler는 머릿속으로 문장을 말하고 적은 뒤 다시 편집하는 습관이 있음
    • 글로 꾸준히 소통하려면 많은 연습이 필요하며, LLM에 맡기는 것은 글쓰기 실력의 발전을 저해함
  • 언젠가 LLM의 글을 구별할 수 없게 될 수도 있지만, Fowler에게는 그 가능성이 오히려 더 걱정스러움
    • 글쓰기는 사고의 도구이며, 직접 문장과 씨름하면서 혼란을 풀고 생각을 일관되게 정리할 수 있음
    • 글쓰기를 위임하면 사고와 이해도 함께 위임하게 되며, 직접 쓰는 즐거움도 잃게 됨
장애, 번역, 절차적 문서에서는 예외가 있음
  • LLM 문체를 피하라는 원칙은 절대적이지 않음. 사이트 기고자인 Jim Highsmith에게는 파킨슨병으로 인한 어려움을 극복하기 위한 LLM 활용이 글쓰기에 필수적임
    • Fowler는 친구의 지혜를 계속 접할 수 있다면 LLM 문체를 기꺼이 감수할 의향이 있음
  • 번역은 판단이 더 까다로운 영역임. 영어가 제2언어나 제4언어인 동료들 중에는 마라티어를 잘 모르는 사람들과 소통할 때 LLM 번역을 중요하게 활용하는 이들이 있음
    • 다만 Fowler 개인은 매끄럽지만 영혼 없는 LLM 문장보다 어색해도 진짜 사람의 문장을 선호함
  • 공무원에게 보내는 정형 서신이나 아무도 읽지 않을 듯한 보고서는 영어 원어민이라도 LLM에 맡길 만한 경우임
    • Michael Nygard는 이런 문서가 사람 사이의 생각 전달보다는 절차와의 소통에 가깝고, 봉투를 여는 사람도 그 체계의 구성 요소로 행동한다고 봄
    • 미래에는 문서 대부분을 LLM만 읽게 될 수도 있으며, LLM은 인간과 같은 불쾌한 골짜기를 걱정하지 않을 것임
  • 사람과 소통하려는 글이라면 문장 속에서 인간다움이 드러나야 함
그냥 목록으로
원문 보기 ↗