- 보안 연구업체 Calif가 OpenJDK의 Base64 디코더에서 힙 메모리 손상 및 원격 코드 실행(RCE) 으로 이어질 수 있는 취약점을 공개함. CVSS 4.0 기준 9.2점(Critical)
- 원인은 HotSpot의 AVX-512 기반 Base64 intrinsic 최적화 코드에 있음. 잘못된 패딩("=")이 포함된 입력을 처리할 때 출력 길이가 음수로 계산되어, 할당된 배열의 경계를 넘어 최대 62바이트를 덮어쓸 수 있음
- Java 코드에서는 잘못된 Base64 입력을 "IllegalArgumentException"으로 거부하지만, 예외가 발생하기 전에 이미 네이티브 코드에서 메모리 손상이 일어남
- 연구팀은 Heap Feng Shui 기법으로 객체 배치를 조작하고 배열 길이를 변조해, 제한적인 메모리 덮어쓰기를 힙 메모리 유출과 임의 메모리 쓰기, 최종적으로 RCE까지 확장함
- Keycloak, Jira, Confluence, Jenkins, Artifactory, PingFederate에서 인증 전 RCE를 시연했으며, Kafka, Solr, Elasticsearch 등에서는 인증 후 RCE를 시연함. 악성 TLS 서버에 접속하는 Java 클라이언트도 공격 대상이 될 수 있음
- OpenJDK 17.0.6 이상의 영향받는 빌드에서 발생하며, x86-64 CPU의 AVX-512 VBMI 지원이 필요함. Intel Xeon Ice Lake 이후 일부 제품군과 AMD Zen 4 이상이 해당하며 ARM64는 영향받지 않음
- 연구팀은 AI를 활용해 취약점을 약 1시간 만에 발견하고, 추가 2시간 만에 초기 익스플로잇을 개발했다고 밝힘. 사용된 AI 토큰 비용은 200달러 미만
- 2026년 11월 17일 보안 패치가 공개되었으며, 업데이트가 어려운 환경에서는 JVM 옵션 "-XX:-UseBASE64Intrinsics"로 취약한 최적화 경로를 비활성화할 수 있음
취약점은 Java 애플리케이션 코드가 아닌 JVM 내부의 어셈블리 최적화에서 발생함. 메모리 안전성을 제공하는 언어에서도 런타임의 네이티브 코드가 공격 표면이 될 수 있음을 보여주는 사례임.
연구팀은 이 사례를 바탕으로 AI를 활용해 불필요한 코드와 최적화를 찾아 제거하고 공격 표면을 줄이는 'vibe-uncoding' 개념도 제안함.