← 목록으로

9비트 AES 키 사건 - PDF 암호화를 무력화한 취약한 난수 생성

요약
  • 여러 PDF 구현체에서 AES-256 파일 키를 생성할 때 예측 가능한 난수를 사용하여 비밀번호 없이 문서를 복호화할 수 있는 취약점이 발견되었습니다.
  • MuPDF, Foxit, OpenPDF, iText 등 주요 소프트웨어가 해당하며, 이미 배포된 취약한 파일은 소프트웨어 업데이트만으로 소급 보호할 수 없습니다.
  • 여러 PDF 구현체가 AES-256 파일 키를 예측 가능한 난수로 생성해, 해당 구현체로 암호화한 문서를 비밀번호 없이 복호화할 수 있는 문제가 발견됨
  • MuPDF 1.28.5 이전 버전은 실제 키에 영향을 주는 난수 상태가 9비트뿐이었음. 가능한 512개 스트림을 모두 검사하는 데 비최적화 Python 구현으로 약 11밀리초가 걸림
  • Foxit PDF Reader 2026.1.3.36551은 사실상 초 단위 타임스탬프로 키가 결정됨. Ryzen 9 7950X의 32스레드 환경에서 1970년부터 현재까지의 후보를 약 4.85초 만에 탐색함
  • OpenPDF 3.0.5와 iText 9.7.1도 시간과 JVM 여유 메모리로 초기화한 난수 스트림을 사용함. 평문으로 저장된 솔트와 추정값을 대조해 같은 스트림에서 생성된 파일 키를 복구할 수 있음
  • 취약점은 공급업체에 공개됐으며 MuPDF에서는 수정됨. 다만 이미 배포된 취약한 PDF 사본은 소프트웨어 업데이트만으로 소급해 보호할 수 없음
PDF 암호화와 파일 키의 역할
  • PDF 암호화는 문서의 문자열과 데이터 스트림을 보호하며, 명시적으로 제외하지 않는 한 메타데이터도 암호화함
  • 비밀번호 보호 방식은 RC4에서 AES로 전환되고 비밀번호 해싱의 무차별 대입 저항성이 강화됐으며, 현재 리비전 6은 AES-256을 사용함
  • AES-256 방식에서는 비밀번호로 문서를 직접 암호화하지 않고, 무작위 32바이트 파일 키로 콘텐츠를 암호화함
    • 비밀번호와 솔트를 해싱해 별도의 키를 유도하고, 이 키로 파일 키를 암호화함
    • 리비전 6은 해싱을 의도적으로 느리게 수행하지만, 이전 AES-256 방식인 리비전 5는 그렇지 않음
  • 열람용 사용자 비밀번호와 권한 변경용 소유자 비밀번호는 같은 파일 키를 잠금 해제함
    • 권한 제한은 리더의 구현에 달려 있으며, 열람용 비밀번호만 있어도 제한 없는 사본을 만들 수 있음
  • 조사한 구현체들은 파일 키를 위한 난수를 안전하지 않게 생성해 비밀번호 없는 복호화를 허용함
MuPDF: 48비트 생성기에서 9비트만 키에 반영됨
  • MuPDF 1.28.5 이전 버전은 drand48 계열 구현을 사용하며, 현재 Unix 시간을 초 단위로 읽어 난수 생성기를 한 번 초기화함
  • 생성기는 48비트 선형 합동 생성기(LCG) 이며, 상태를 s[n+1] = (0x5deece66d * s[n] + 0xb) mod 2^48로 갱신함
    • fz_srand48()은 상태를 16비트 워드 3개로 구성함
    • 하위 16비트는 상수 0x330e, 비트 16~47은 32비트 타임스탬프로 채움
  • fz_memrnd()는 생성기를 한 단계씩 진행하며 출력의 하위 바이트를 취하지만, 앞선 시프트까지 고려하면 실제 출력은 상태 비트 17~24에서 나옴
    • fz_nrand48()의 오른쪽 17비트 시프트가 비트 0~16을 버림
    • unsigned char 변환이 비트 24보다 높은 부분을 버림
  • 곱셈과 덧셈의 자리올림은 상위 비트로만 전파되므로, 비트 24보다 높은 상태는 이후 출력에도 영향을 주지 않음
    • 출력에 영향을 주는 25비트 중 하위 16비트는 고정값이므로 타임스탬프의 9비트만 남음
    • 타임스탬프가 512초 차이 나면 정확히 같은 바이트 스트림을 생성함
  • 새 문서를 쓸 때 같은 생성기에서 먼저 문서 /ID용 32바이트를 뽑고, 바로 이어서 파일 키를 생성함
    • 따라서 시드 0~511 각각에서 64바이트를 생성하고 뒤쪽 32바이트를 키 후보로 사용할 수 있음
    • /ID는 트레일러에 평문으로 저장되므로 후보를 추가로 검증하는 데 활용할 수 있음
  • 비최적화 Python 구현의 순수 전수 탐색으로 512개 스트림을 약 11밀리초에 검사함
    • 테스트 문서에서는 time(NULL) mod 512 = 80인 키를 찾아 사용자 비밀번호와 소유자 비밀번호 모두 없이 복호화함
Foxit: 타임스탬프를 해싱한 파일 키
  • Foxit PDF Reader 2026.1.3.36551은 현재 타임스탬프, 초기화되지 않은 32바이트, 상수 문자열을 SHA-256으로 해싱해 파일 키를 생성함
    • 키 유도식은 SHA-256(uint32_le(time(NULL)) || <32 uninitialized bytes> || "there")임
    • 실제 조사에서는 초기화되지 않은 영역이 0으로 채워져 추가 난수성을 제공하지 않음
  • /Perms 권한 블록에는 알려진 평문이 있어 후보 하나를 해시 1회와 AES 블록 복호화 1회로 검증할 수 있음
    • 비밀번호 해싱이나 문서 전체 복호화는 필요 없음
    • 복호화 결과에서 권한 값, 0xff 4바이트, 메타데이터 값, 문자열 adb가 일치하는지 검사함
  • Rust 구현은 Rayon으로 병렬화해 현재 시각부터 과거 방향으로 타임스탬프를 탐색함
    • Ryzen 9 7950X의 32스레드 환경에서 초당 3억 7,000만~3억 7,600만 개를 검사함
    • 10년 전 타임스탬프까지 315,573,571개 후보를 검사하는 데 0.84초가 걸림
    • Unix 시간의 기준점까지 1,792,610,110개 후보를 검사하는 데 4.85초가 걸려, 1970년부터 현재까지의 범위를 모두 탐색함
    • 비교적 최근 생성된 문서는 실제로 밀리초 단위에서 키를 찾을 수 있음
Foxit 방식과 PDFium의 초기 코드
  • 동일한 키 유도 패턴이 여러 PDF 편집 제품에서 발견됐으며, 2014년 5월 PDFium의 최초 공개 커밋에도 이미 존재함
  • 해당 파일 헤더는 원본 코드의 출처로 Foxit을 명시함
    • 코드가 Foxit에서 유래한 것으로 보이며, 다른 편집기들은 PDFium을 통해 가져왔을 가능성이 있음
  • 당시 코드는 리비전 5 이상에서 시간, m_EncryptKey의 초기화되지 않은 32바이트, "there"를 해싱하고 결과를 다시 m_EncryptKey에 기록함
    • 중간 32바이트가 0으로 채워진다는 가정하에, 현재 Foxit에서 확인한 키 유도 방식과 정확히 같음
OpenPDF와 iText: 시간과 JVM 메모리에 의존하는 난수
  • OpenPDF 3.0.5와 iText 9.7.1은 암호화에 쓸 난수를 IVGenerator 클래스에서 얻음
    • 이 클래스는 밀리초 단위 System.currentTimeMillis()와 JVM의 Runtime.getRuntime().freeMemory()를 "시간+메모리" 형태로 결합해 ARC4 스트림을 초기화함
  • 같은 스트림으로 파일 키와 솔트 32바이트를 생성하며, 솔트는 /U와 /O에 평문으로 저장됨
    • 시간과 여유 메모리 추정값을 솔트와 대조한 뒤, 스트림의 인접 바이트에서 파일 키를 복구할 수 있음
  • MuPDF와 Foxit 사례보다 변동성이 훨씬 크지만, 안전하지 않은 난수원과 기대보다 작은 상태 공간 때문에 256비트 보안을 기대할 수 없음
수정 여부와 이미 배포된 문서의 한계
  • 조사한 구현체 모두 암호학적으로 안전하지 않은 난수원으로 파일 키를 생성함
  • 사용자 비밀번호에서 파일 키를 유도하던 이전 방식보다 보안을 강화하려던 변경이, 실제 구현에서는 더 약한 키로 이어짐
  • 취약점은 공급업체에 공개됐고 MuPDF에서는 수정됨
    • 이미 공개된 사본은 소급해 보호할 수 없으므로 취약점의 영향이 남을 수 있음
  • MuPDF와 Foxit용 복호화 도구 가 공개됨
그냥 목록으로
원문 보기 ↗