← 목록으로

OpenAI, Linux 커널에서 루트 권한을 탈취할 수 있는 취약점 948개 발견

요약
  • OpenAI가 자체 개발한 사이버 모델 파이프라인을 활용해 Linux 커널에서 로컬 권한 상승이 가능한 취약점 948개를 발견했습니다.
  • 연구팀은 익스플로잇과 패치 후보를 생성했으며, 보안 연구자의 검토를 거쳐 Linux 커뮤니티에 순차적으로 보고하고 있습니다.
  • OpenAI가 Linux 커널 취약점 1,724건을 재현하고, 이 가운데 로컬 권한 상승 948건의 익스플로잇과 패치 후보를 만듦
  • 일반 Linux 데스크톱의 보안 기능을 켠 가상 머신에서, 낮은 권한의 로컬 사용자가 루트 권한을 얻을 수 있는지 확인함
  • 전체 실행에 API 크레딧 약 121만 달러가 들었으며, 고유 권한 상승 취약점 한 건당 약 1,279달러임
  • 초기 실험에서 성공 200건 중 20건은 지정된 취약점과 다른 제로데이를 이용함. 이후 실제로 어떤 취약점을 썼는지 독립적으로 확인하는 단계를 추가함
  • 보안 연구자가 결과를 검토한 뒤 심각도가 높은 사례부터 보고서와 패치를 전달했으며, 나머지는 순차적으로 제출 중임
연구 대상과 전체 성과
  • Linux 커널은 Android 기기, 클라우드 인프라, 슈퍼컴퓨터 등 수십억 명이 사용하는 시스템의 기반임. 4,000만 줄 이상의 코드가 시스템 호출, 네트워킹, 파일시스템, 장치 드라이버를 통해 넓은 공격 표면을 노출함
  • OpenAI는 6월 Patch the Planet에서 공개한 GPT‑5.5 Cyber의 권한 상승 익스플로잇 24개 개발 작업을 확장해, 출시 예정 사이버 모델 기반의 파이프라인을 구축함
  • 2026년 10월 중순 실행에서 후보 2,308개 중 취약점 1,724개를 동적으로 재현함
    • 정보 유출 개념 증명(PoC) 291개와 작동하는 로컬 권한 상승(LPE) 익스플로잇 1,169개를 생성함
    • 변종 분석과 패치 구분을 거쳐 고유 LPE 948개로 집계함
    • 전체 비용은 API 크레딧 1,213,430달러, 고유 LPE당 1,279달러임
  • 핵심 운영 병목은 후보 발견 자체가 아니라 재현 가능성, 침해하는 보안 경계, 보고 우선순위 판별이었음. 수천 개 후보를 연구팀이 수동으로 검토하기는 어려웠음
  • 비용은 해당 모델, 대상 구성, 작업 흐름에 한정됨. 비용 최적화보다 방법론과 모델 역량 측정에 집중했으므로, OpenAI는 하네스 개선으로 비용을 상당히 줄일 수 있으며 보고값을 상한에 가까운 수치로 봄
탐색과 동적 검증
  • 파이프라인은 취약점 탐색 → 동적 검증 → 악용 가능성 평가 → 패치 생성 → 사람 검토의 다섯 단계로 구성됨
    • 최종 산출물은 근본 원인 분석, 최소 충돌 재현 PoC, 패치 후보, 전체 익스플로잇임
    • 보안 연구자가 익스플로잇, 패치, 제안된 심각도를 검토한 뒤 유지보수자에게 보고함
  • Scout 에이전트는 각 폴더와 파일을 읽고 낮은 권한 사용자로부터의 도달 가능성과 보안 관련성을 기준으로 감사 대상을 선정함
    • 전체 코드의 약 7%인 280만 줄, 5,034개 대상을 추려 전체 코드 분석 대비 비용을 줄였으며, 이 단계에 3,426달러가 들었음
  • Analyst 에이전트는 Codex Security plugin과 유사한 흐름으로 대상 코드의 동작과 위협 모델을 파악하고 취약점을 찾음
    • 12시간 안에 중복 제거 후 후보 2,308개를 생성했으며, 비용은 316,549달러임
  • 검증은 낮은 권한 사용자가 특별한 권한 없이 접근할 수 있고, 측정 가능한 메모리 손상 증거가 있는 후보에 집중함
    • 분류 에이전트가 Kernel Address Sanitizer(KASAN)를 적용한 격리 가상 머신에서 PoC를 실행함
    • 프로그램 출력과 시스템 콘솔을 관찰하면서 재현에 성공하거나 가능한 유발 방법을 모두 시도할 때까지 PoC를 수정함
    • 30시간 안에 후보의 약 74.7%인 1,724개를 재현했고, 비용은 73,330달러임
  • 재현하지 못한 후보 대부분은 높은 권한이 필요하거나, 경쟁 상태, 특정 지점의 할당 실패, 참조 카운트 순환 등으로 시간 내 검증이 어려웠음
    • 불가능한 조건을 가정한 모델의 잘못된 분석은 3.1% 였음
    • PoC 기반 검증은 정적 분석만으로 판단하는 것보다 비싸고 참양성과 거짓양성의 검증 시도 비용이 비슷했으므로, 초기 단계에서 거짓양성을 제거하면 비용 효율이 높아짐
악용 가능성 평가와 패치 생성
  • 재현 성공만으로 처리 시급성을 알 수는 없음. 로컬 권한 상승은 로컬 서비스 거부만 가능한 취약점보다 높은 우선순위가 필요함
  • 초기 선별 에이전트는 보고서, 충돌 로그, 소스 코드를 정적으로 검토함
    • 심각한 후보를 놓치지 않도록 기준을 느슨하게 적용하되, 타당한 악용 경로가 없는 사례는 제외함
    • 정보 유출 후보 313개와 LPE 후보 1,238개로 좁혔으며, 선별 비용은 44,194달러임
  • ExploitDev 에이전트는 SMEP, SMAP, KASLR, HARDENED_USERCOPY가 활성화된 격리 가상 머신에서 후보를 시험함
    • 보안 기능을 꺼야만 가능한 비현실적 평가를 피했으며, 낮은 권한의 로컬 사용자가 루트 권한을 얻는 익스플로잇을 생성함
    • 성공한 익스플로잇 개발 비용은 평균 약 359달러로, 방어자가 발견한 취약점의 악용 가능성을 시험하는 비용이 비교적 낮았음
  • 악용 단계 총비용은 775,929달러였으며, 정보 유출 후보 처리에 84,929달러, LPE 후보 처리에 691,000달러가 들었음
    • 정보 유출은 검증 단계 PoC를 조금만 수정해 활용할 수 있었지만, LPE는 전략 수립, 취약 객체 선정, 보호 기법 우회 등이 추가로 필요했음
    • 경쟁 상태 등 어려운 사례 때문에 실패한 시도의 평균 비용이 성공한 시도보다 훨씬 높았음. 1시간 동안 진전이 없으면 중단하는 등의 조건으로 비용을 크게 줄일 수 있었음
  • 패치 생성 시 관련 코드와 함께 정적 검사, 주변 코드의 개발 관례 준수, 변종 분석 지침을 제공함
    • Linux 커뮤니티의 권고에 따라 치명적인 취약점 보고서와 패치 수백 건을 먼저 전달함
    • 나머지는 Patch the Planet 협력사와 점진적으로 제출 중이며, 이는 오픈소스 지원을 위한 Daybreak 활동의 일부임
빠른 패치 주기와 모델 세대별 재검사
  • 최신 커널을 대상으로 스캔하고 수동 분석을 마친 10일 사이, 발견한 LPE 중 61개는 이미 업스트림에서 수정됐고, 43개는 반영 대기 패치가 있었으며, 299개는 공개적으로 보고되고 논의되고 있었음
    • 사용자와 기업은 소프트웨어를 최신 상태로 유지해야 함
    • 자동 분류도 새로 병합된 코드를 포함한 최신 코드로 재검증해야 중복되거나 이미 해결된 보고를 줄이고 미해결 취약점에 집중할 수 있음
  • GPT‑5.6 Sol은 2026년 7월 말 실행에서 고유 LPE 166개를 발견하고 악용했으며, 전체 API 비용은 513,690달러였음
    • 10월 새 사이버 모델은 948개를 발견하고 악용함
    • 두 실행 모두 당시 최신 Linux 커널 master 브랜치를 대상으로 했으며, 그 사이 3개월간 보안 강화가 있었음
  • 더 강력한 모델은 기존 모델이 놓친 취약점뿐 아니라 더 오래 존재하고 식별하기 복잡한 취약점도 찾을 수 있음
    • 모델 역량이 향상될 때 이미 감사한 코드도 재검사해야 함
    • 규모가 크고 복잡한 소프트웨어는 잠재 버그를 충분히 줄이기까지 여러 차례 탐색과 수정이 필요할 가능성이 있으며, 이는 독점 소프트웨어와 오픈소스 모두에 적용됨
새로운 악용 기법과 비용 비교의 조건
  • 익스플로잇 166개를 표본 분석한 결과, OpenAI가 아는 범위에서 새로운 Linux 악용 기법 10개가 확인됨. 외부 커널 익스플로잇 전문가들도 해당 기법을 처음 접했음
    • 대상 커널 캐시에 객체를 분사하는 새로운 지속형 탄력 객체(persistent elastic objects) 2개가 있었음
    • 신뢰성을 높이는 페이지 그루밍 기법 2개가 있었음
    • 직접 또는 임의 쓰기를 통해 권한을 높이는 데이터 전용 기법 5개와 임의 타입 혼동 기법 1개가 있었음
    • 안전을 위해 상세 기술은 공개하지 않음. 모델은 알려진 취약 코드 패턴과 악용 기법의 재사용을 넘어 새로운 접근을 보였음
  • 일반 데스크톱 운영체제 실험은 Pwn2Own, TyphoonPWN과 같은 위협 모델을 사용함
    • 두 대회가 과거 Linux 커널 LPE에 지급한 2만 달러와 7만 달러를 948개에 적용하면 가상 평가액은 1,890만~6,630만 달러, 파이프라인 비용의 약 16~55배임
    • 이는 과거 보상액을 대입한 계산이지 실제 수령한 보상금이 아님
  • 공격 표면을 줄인 Google kernelCTF 환경을 변형한 별도 실험에서는 정보 유출 PoC 25개와 LPE 익스플로잇 21개를 얻음
    • 최신 Linux 커널과 호환되지 않아 SLAB_VIRTUAL 보호 기법은 설정에서 제외함
    • 총 112시간, API 비용 약 32,936달러가 들었으며, 비용의 83.7%가 취약점 탐색에 사용됨
    • 비교하면 작성 시점까지 kernelCTF가 2026년에 인정한 제로데이 LPE는 26개였음
    • 21개 취약점이 프로그램에서 인정된다면 예상 보상은 약 150만 달러로 비용의 약 45배임
  • 공개 보상액을 기준으로 계산하면 이번 연구의 파이프라인은 비용을 웃도는 보상 가능성을 보임. 방어자는 공격자의 악용 비용이 감당하기 어려워지도록 소프트웨어를 선제적으로 분석하고 수정해야 함
자율 에이전트의 검증과 오케스트레이션
  • 초기 실행은 루트 셸 획득을 성공 기준으로 삼았지만, 성공한 LPE 200개 중 20개가 할당된 것과 다른 제로데이를 사용했음
    • 이후 과업 제약을 강화하고, 최종 익스플로잇이 지정된 취약점을 사용하는지 독립적으로 확인하도록 변경함
    • 자율 보안 연구는 결과뿐 아니라 결과에 도달한 경로도 검증해야 하며, 격리, 모니터링, 독립 검사가 필요함
  • 더 강한 모델에서는 복잡한 오케스트레이션의 추가 효과가 유지보수 비용을 정당화하지 못해 이를 제거함
    • GPT‑5.5 Cyber에 기존 악용 기법 103개를 모델 친화적 형식으로 제공하자, 후보 63개에서 성공률이 76.2%에서 88.9%로 상승함
    • GPT‑5.6 Cyber는 관련 기법을 스스로 찾고 선택해 적용하는 능력이 더 좋았으며, 가벼운 오케스트레이션만으로도 더 복잡한 GPT‑5.5 Cyber 구성을 앞섰음
    • GPT‑5.6 Cyber에 기법 계층을 다시 추가했을 때 개선 폭은 1.5%포인트에 그쳤음
  • 기반 모델이 바뀌면 하네스와 보조 구조의 효과를 재평가해야 함. 이전 세대에 유용했던 구성이 다음 세대에서는 유지보수 부담에 비해 가치가 작을 수 있음
패치 품질과 테스트 인프라의 취약점
  • 초기 패치는 PoC를 막는 기능은 수행했지만, 불필요한 코드, 잠재적 성능 저하, 코딩 관례 이탈, 변종 누락 문제가 간헐적으로 있었음
    • 추가 지침과 반복 개선으로 품질이 향상됐으며, 적절한 절차를 거치면 정확하고 변경 범위가 최소한이며 기존 관례에 맞는 AI 패치를 만들 수 있음을 보여줌
    • 일부 사례에서는 사람이 작성한 패치의 문제도 찾아 병합 전에 수정함
    • 여전히 연구 중인 영역이며, 기능적 요구와 비기능적 요구를 모두 충족하도록 패치 생성 역량과 하네스를 개선해야 함
  • 사람과 AI가 만든 패치 모두에 공격자 관점의 모델 검토를 적용하면 우회 가능성, 누락된 공격 경로와 변종 등을 찾을 수 있음
  • kernelCTF 실험에서는 커널 취약점 외에 QEMU TCG 취약점도 발견하고 악용함
    • 시스템 호출 진입 코드를 분석하던 에이전트가 권한 전환 실험 중 예상 밖의 커널 충돌을 만났고, QEMU 소스 코드 없이 원인을 QEMU TCG로 추적함
    • ExploitDev가 이후 LPE 익스플로잇을 개발했으며, 사람이 검토한 결과 업스트림 QEMU에는 이미 수정됐지만 실험에 사용한 릴리스 빌드에는 남아 있던 취약점이었음
  • 공격적 취약점 연구 전에 테스트 인프라의 각 구성 요소를 점검해야 함. OpenAI는 자체 인프라 사전 시험을 통해 Kata, Moby/Docker, gVisor 등에서 여러 취약점을 공개하고 수정함
방어 전략과 후속 연구
  • OpenAI는 당분간 최신 패치를 적용하지 않은 운영체제에서 자원이 풍부한 공격자가 낮은 권한 계정에 접근할 수 있다면, 이를 사실상 루트 접근과 동등하게 취급해야 한다고 봄
    • 샌드박스와 Firecracker, gVisor 같은 격리 기술을 통한 심층 방어가 악용 피해 범위를 제한하는 데 중요함
  • 향후 몇 년 내에 소프트웨어에 취약점이 있다면 프런티어 모델이 이를 찾아낼 가능성이 높고, 공개된 뒤에는 덜 강력한 모델도 익스플로잇을 개발할 수 있을 것으로 OpenAI는 예상함
    • 알려지지 않은 취약점이 없는 세계를 가정하면 운영체제, 브라우저, 이미지 파싱 라이브러리, TCP/IP 스택 등 핵심 소프트웨어의 높은 보증 수준이 중요해짐
    • 기본적으로 안전한 코드를 작성하도록 모델을 훈련하는 것, 불필요한 기능 제거를 통한 공격 표면 축소, 형식 검증이 유망한 연구 분야임
  • 취약점 발견 속도에 맞춰 악용 가능 기간을 줄이려면 자동 패치 생성이 필수적이라고 OpenAI는 봄. 전문가가 이끄는 반복 개선을 통해 기능적 정확성, 코드 스타일 일치, 변종 공격에 대한 견고성을 확보하는 것이 목표임
  • Patch the Planet과 Daybreak를 통해 연구 대상을 더 많은 핵심 소프트웨어로 넓히고, 유지보수자 및 보안 협력사와 신뢰할 수 있는 자동 패치를 개발할 계획임
    • 공격자의 기회를 줄이고 발견 및 악용 비용을 높여, 기대 수익이 공격을 정당화하지 못하도록 하는 것이 목표임
    • 각 세대의 모델이 다음 세대가 침해하기 더 어려운 소프트웨어를 만드는 데 기여해야 함
그냥 목록으로
원문 보기 ↗