← 목록으로
지난 소식
9비트 AES 키 사건 - PDF 암호화를 무력화한 취약한 난수 생성
요약
- 여러 PDF 구현체에서 AES-256 파일 키를 생성할 때 예측 가능한 난수를 사용하여 비밀번호 없이 문서를 복호화할 수 있는 취약점이 발견되었습니다.
- MuPDF, Foxit, OpenPDF, iText 등 주요 소프트웨어가 해당하며, 이미 배포된 취약한 파일은 소프트웨어 업데이트만으로 소급 보호할 수 없습니다.
- 여러 PDF 구현체가 AES-256 파일 키를 예측 가능한 난수로 생성해, 해당 구현체로 암호화한 문서를 비밀번호 없이 복호화할 수 있는 문제가 발견됨
- MuPDF 1.28.5 이전 버전은 실제 키에 영향을 주는 난수 상태가 9비트뿐이었음. 가능한 512개 스트림을 모두 검사하는 데 비최적화 Python 구현으로 약 11밀리초가 걸림
- Foxit PDF Reader 2026.1.3.36551은 사실상 초 단위 타임스탬프로 키가 결정됨. Ryzen 9 7950X의 32스레드 환경에서 1970년부터 현재까지의 후보를 약 4.85초 만에 탐색함
- OpenPDF 3.0.5와 iText 9.7.1도 시간과 JVM 여유 메모리로 초기화한 난수 스트림을 사용함. 평문으로 저장된 솔트와 추정값을 대조해 같은 스트림에서 생성된 파일 키를 복구할 수 있음
- 취약점은 공급업체에 공개됐으며 MuPDF에서는 수정됨. 다만 이미 배포된 취약한 PDF 사본은 소프트웨어 업데이트만으로 소급해 보호할 수 없음
PDF 암호화와 파일 키의 역할
- PDF 암호화는 문서의 문자열과 데이터 스트림을 보호하며, 명시적으로 제외하지 않는 한 메타데이터도 암호화함
- 비밀번호 보호 방식은 RC4에서 AES로 전환되고 비밀번호 해싱의 무차별 대입 저항성이 강화됐으며, 현재 리비전 6은 AES-256을 사용함
- AES-256 방식에서는 비밀번호로 문서를 직접 암호화하지 않고, 무작위 32바이트 파일 키로 콘텐츠를 암호화함
- 비밀번호와 솔트를 해싱해 별도의 키를 유도하고, 이 키로 파일 키를 암호화함
- 리비전 6은 해싱을 의도적으로 느리게 수행하지만, 이전 AES-256 방식인 리비전 5는 그렇지 않음
- 열람용 사용자 비밀번호와 권한 변경용 소유자 비밀번호는 같은 파일 키를 잠금 해제함
- 권한 제한은 리더의 구현에 달려 있으며, 열람용 비밀번호만 있어도 제한 없는 사본을 만들 수 있음
- 조사한 구현체들은 파일 키를 위한 난수를 안전하지 않게 생성해 비밀번호 없는 복호화를 허용함
MuPDF: 48비트 생성기에서 9비트만 키에 반영됨
- MuPDF 1.28.5 이전 버전은 drand48 계열 구현을 사용하며, 현재 Unix 시간을 초 단위로 읽어 난수 생성기를 한 번 초기화함
- 생성기는 48비트 선형 합동 생성기(LCG) 이며, 상태를 s[n+1] = (0x5deece66d * s[n] + 0xb) mod 2^48로 갱신함
- fz_srand48()은 상태를 16비트 워드 3개로 구성함
- 하위 16비트는 상수 0x330e, 비트 16~47은 32비트 타임스탬프로 채움
- fz_memrnd()는 생성기를 한 단계씩 진행하며 출력의 하위 바이트를 취하지만, 앞선 시프트까지 고려하면 실제 출력은 상태 비트 17~24에서 나옴
- fz_nrand48()의 오른쪽 17비트 시프트가 비트 0~16을 버림
- unsigned char 변환이 비트 24보다 높은 부분을 버림
- 곱셈과 덧셈의 자리올림은 상위 비트로만 전파되므로, 비트 24보다 높은 상태는 이후 출력에도 영향을 주지 않음
- 출력에 영향을 주는 25비트 중 하위 16비트는 고정값이므로 타임스탬프의 9비트만 남음
- 타임스탬프가 512초 차이 나면 정확히 같은 바이트 스트림을 생성함
- 새 문서를 쓸 때 같은 생성기에서 먼저 문서 /ID용 32바이트를 뽑고, 바로 이어서 파일 키를 생성함
- 따라서 시드 0~511 각각에서 64바이트를 생성하고 뒤쪽 32바이트를 키 후보로 사용할 수 있음
- /ID는 트레일러에 평문으로 저장되므로 후보를 추가로 검증하는 데 활용할 수 있음
- 비최적화 Python 구현의 순수 전수 탐색으로 512개 스트림을 약 11밀리초에 검사함
- 테스트 문서에서는 time(NULL) mod 512 = 80인 키를 찾아 사용자 비밀번호와 소유자 비밀번호 모두 없이 복호화함
Foxit: 타임스탬프를 해싱한 파일 키
- Foxit PDF Reader 2026.1.3.36551은 현재 타임스탬프, 초기화되지 않은 32바이트, 상수 문자열을 SHA-256으로 해싱해 파일 키를 생성함
- 키 유도식은 SHA-256(uint32_le(time(NULL)) || <32 uninitialized bytes> || "there")임
- 실제 조사에서는 초기화되지 않은 영역이 0으로 채워져 추가 난수성을 제공하지 않음
- /Perms 권한 블록에는 알려진 평문이 있어 후보 하나를 해시 1회와 AES 블록 복호화 1회로 검증할 수 있음
- 비밀번호 해싱이나 문서 전체 복호화는 필요 없음
- 복호화 결과에서 권한 값, 0xff 4바이트, 메타데이터 값, 문자열 adb가 일치하는지 검사함
- Rust 구현은 Rayon으로 병렬화해 현재 시각부터 과거 방향으로 타임스탬프를 탐색함
- Ryzen 9 7950X의 32스레드 환경에서 초당 3억 7,000만~3억 7,600만 개를 검사함
- 10년 전 타임스탬프까지 315,573,571개 후보를 검사하는 데 0.84초가 걸림
- Unix 시간의 기준점까지 1,792,610,110개 후보를 검사하는 데 4.85초가 걸려, 1970년부터 현재까지의 범위를 모두 탐색함
- 비교적 최근 생성된 문서는 실제로 밀리초 단위에서 키를 찾을 수 있음
Foxit 방식과 PDFium의 초기 코드
- 동일한 키 유도 패턴이 여러 PDF 편집 제품에서 발견됐으며, 2014년 5월 PDFium의 최초 공개 커밋에도 이미 존재함
- 해당 파일 헤더는 원본 코드의 출처로 Foxit을 명시함
- 코드가 Foxit에서 유래한 것으로 보이며, 다른 편집기들은 PDFium을 통해 가져왔을 가능성이 있음
- 당시 코드는 리비전 5 이상에서 시간, m_EncryptKey의 초기화되지 않은 32바이트, "there"를 해싱하고 결과를 다시 m_EncryptKey에 기록함
- 중간 32바이트가 0으로 채워진다는 가정하에, 현재 Foxit에서 확인한 키 유도 방식과 정확히 같음
OpenPDF와 iText: 시간과 JVM 메모리에 의존하는 난수
- OpenPDF 3.0.5와 iText 9.7.1은 암호화에 쓸 난수를 IVGenerator 클래스에서 얻음
- 이 클래스는 밀리초 단위 System.currentTimeMillis()와 JVM의 Runtime.getRuntime().freeMemory()를 "시간+메모리" 형태로 결합해 ARC4 스트림을 초기화함
- 같은 스트림으로 파일 키와 솔트 32바이트를 생성하며, 솔트는 /U와 /O에 평문으로 저장됨
- 시간과 여유 메모리 추정값을 솔트와 대조한 뒤, 스트림의 인접 바이트에서 파일 키를 복구할 수 있음
- MuPDF와 Foxit 사례보다 변동성이 훨씬 크지만, 안전하지 않은 난수원과 기대보다 작은 상태 공간 때문에 256비트 보안을 기대할 수 없음
수정 여부와 이미 배포된 문서의 한계
- 조사한 구현체 모두 암호학적으로 안전하지 않은 난수원으로 파일 키를 생성함
- 사용자 비밀번호에서 파일 키를 유도하던 이전 방식보다 보안을 강화하려던 변경이, 실제 구현에서는 더 약한 키로 이어짐
- 취약점은 공급업체에 공개됐고 MuPDF에서는 수정됨
- 이미 공개된 사본은 소급해 보호할 수 없으므로 취약점의 영향이 남을 수 있음
- MuPDF와 Foxit용 복호화 도구 가 공개됨
키워드
PDF 암호화AES-256난수 생성 취약점