- RTX 30 시리즈에 걸린 FP16/BF16 연산의 명령 발행 속도 제한을 해제해, 전문가용 제품 수준의 처리 속도를 활용하는 Linux 커널 모듈
- NVIDIA 드라이버가 GPU를 초기화하기 전에 적용하므로 드라이버 자체를 수정하거나 업데이트 때마다 수동 패치할 필요가 없음
- RTX 3090 Ti의 450W, FP32 누산 행렬곱 테스트에서 BF16 처리량이 87.50에서 157.41 TFLOPS로 약 80% 증가
- 사용자 보고에서 LLM의 입력 프롬프트 처리인 프리필이 14~36% 빨라졌으며, 확산 모델과 FlashAttention 등 행렬 연산 비중이 큰 작업에도 효과
- 메모리 대역폭이 병목인 LLM 토큰 생성과 INT8 연산은 거의 그대로이며, 실제 성능 향상은 카드와 전력 제한, 작업 조건에 따라 달라짐
- GPU unlock 1.0.0은 CMP unlocker의 V67/PLM 기법과 UEFI 방식의 드라이버 로딩 전 실행 시점을 결합한 Linux 커널 모듈임
- UEFI 애플리케이션이나 패치된 NVIDIA 드라이버가 아님
- 초기 커널 모듈로 실행하므로 NVIDIA 드라이버 버전이 바뀔 때마다 수동으로 패치할 필요가 없음
- GA102, GA103, GA104, GA106에서 FP32로 누산하는 FP/BF16 FMA 연산의 명령 발행 속도를 두 배로 높임
- 제한 해제 후 속도 선택자를 기록하고, 수정하지 않은 NVIDIA 드라이버가 카드에 연결되기 전에 FLR을 수행함
- SS0에는 BF16 전체 속도를 선택하는 0x88888888을 기록함
- 4비트 SS1에는 IMLA4 값 0x8을 기록함
- RTX 3090 Ti의 dense 8192³ GEMM 테스트는 450W, FP32 누산, 5회 측정 중앙값 기준으로 다음 결과를 기록함
- FP16: 87.46 → 118.39 TFLOPS
- BF16: 87.50 → 157.41 TFLOPS
- TF32: 42.58 → 82.61 TFLOPS
- 사용자 보고의 dense GEMM 향상률은 직접 비교할 수 없음. 각 보고가 자체 벤치마크를 사용하며 전력 제한의 영향도 큼
- 가장 낮은 향상률인 +25%는 전력을 225W로 제한한 카드에서 나옴
- 행렬 연산 비중이 큰 작업에서 속도가 향상됨
- LLM 프리필은 #9, #15, #25, #33에서 14~36% 향상을 보고함
- 확산 모델과 FlashAttention도 빨라지지만, 메모리 대역폭에 제한되는 LLM 디코딩과 INT8 작업은 거의 동일함
- 출력을 비교한 사용자 보고에서는 제한 해제 전후 결과가 비트 단위로 동일했음
- 모듈은 kernel/gpu_unlock/main.c에 나열된 모든 GeForce ID를 받아들이지만, 실제 사용자 검증 여부는 카드별로 다름
- GA102 카드에서는 다음 결과가 보고됨
- RTX 3090 Ti: 제한 해제 성공, BF16 GEMM +68~80% (#1)
- RTX 3090: 제한 해제 성공, +25~67% (#5, #9, #10, #17, #25, #27, #33)
- RTX 3080 Ti 20GB OEM, GA102-250: 해제 절차는 완료되지만 BF16은 절반 속도에 머무름 (#28)
- RTX 3080 10GB: 제한 해제 성공, +70~73% (#14)
- 메모리를 증설한 RTX 3080 20GB: 제한 해제 성공, +56~59% (#10, #15)
- GA104, GA106, GA103의 검증 상태는 다음과 같음
- RTX 3070, GA104: 제한 해제 성공, BF16 GEMM +73~81% (#10, #12)
- RTX 3070 Ti, GA104: 이 모듈로는 테스트하지 않았으며, 동일한 제한 해제 기법의 UEFI 포트가 Windows에서 작동한 사례만 있음 (#32)
- RTX 3060 12GB, GA106: 제한 해제 성공, 약 +80% (#13, #31)
- GA103: 아직 사용자 보고가 없음
- 사용자 보고에는 한 시스템의 GPU 최대 4개, 디스플레이를 구동하는 카드, vfio-pci로 VM에 패스스루한 카드도 포함됨 (#17)
- 프로젝트는 성공 여부와 관계없이 호환성 보고를 받고 있음
- 패키지는 모듈과 펌웨어를 initramfs에 넣어 nvidia가 카드에 연결되기 전에 실행함
- mkinitcpio, initramfs-tools, dracut 통합을 제공함
- mkinitcpio에서 별도 설정 파일로 이미지를 만드는 경우 기본 추가 설정이 무시되므로 해당 설정에 직접 모듈 순서를 반영해야 함
- softdep nvidia pre: 규칙은 사용하지 않음. kmod가 처음 읽은 softdep nvidia 한 줄만 적용하므로 nvidia-utils, gddr6_hwmon 등 다른 패키지의 규칙과 서로 덮어쓸 수 있기 때문임
- 커널 명령줄에서 gpu_unlock.targets=로 활성화하지 않으면 아무 작업도 하지 않음
- all로 아직 드라이버에 연결되지 않은 대상 GPU 전체를 선택하거나, 전체 PCI 주소로 개별 카드를 지정할 수 있음
- PCI 주소는 GPU 번호나 디스플레이 역할과 무관하며, 잘못된 대상이나 all과 주소를 혼합한 항목은 기록 후 무시함
- 여러 카드의 제한은 동시에, 카드별로 독립적으로 해제하며 카드 수와 관계없이 전체 작업에 약 1초가 걸림
- 이미 드라이버에 연결됐거나 전원이 꺼진 카드는 건너뜀
- 보드 펌웨어가 남긴 버스 마스터링은 먼저 해제하지만, 다른 드라이버가 이미 초기화한 카드는 처리하지 않음
- 이후 nvidia가 평소처럼 모든 카드에 연결됨
- 디스플레이 카드도 사용 가능함. 펌웨어 작업 중에는 부팅 콘솔과 Plymouth의 프레임버퍼가 유지되며, 카드 리셋 직전에 제거됨
- 화면은 리셋 시점부터 nvidia-drm이 제어권을 넘겨받을 때까지 꺼짐
- 부팅 후 모듈을 수동 로드해도 이미 nvidia에 연결된 카드에는 효과가 없음
- RAM 절전은 GPU 전원을 끄면서 속도 선택자를 초기화하므로, 복귀 시 부팅 때 처리한 카드를 nvidia보다 먼저 다시 해제함
- 현재 드라이버의 기본값인 NVreg_UseKernelSuspendNotifiers=1에 해당하는 NVIDIA 복귀 알림보다 먼저 실행하며, 복귀 시간이 약 1초 늘어남
- nvidia-resume.service는 이보다 나중에 실행됨
- suspend-to-idle처럼 전원이 유지된 카드는 제한 해제 상태도 유지되므로 읽기만 수행함
- nvidia가 이미 복귀시켰거나 다른 드라이버에 연결된 카드는 그대로 두고 이유를 기록함
- 복귀 시 재해제 기능은 끌 수 있으며, 최대 절전 모드는 지원 범위에 포함되지 않음
- 커널 명령줄에서 gpu_unlock.targets=를 제거하면 해제를 중단할 수 있음. 패키지를 제거하면 모듈과 initramfs 추가 설정도 제거됨
- 카드의 펌웨어가 멈추지 않는 경우에는 이를 기록하고, 펌웨어가 계속 사용할 수 있는 DMA 버퍼를 다음 전원 종료까지 유지함
- 다시 시도하기 전에 전원을 꺼야 함
- 로컬 빌드는 고정된 NVIDIA/CachyOS 입력 파일을 HTTPS로 내려받고 SHA-256을 검증하며, 생성된 펌웨어는 빌드 디렉터리와 바이너리 패키지에만 넣음
- 패키지는 커밋된 HEAD를 기준으로 빌드함
- 소스 배포 아카이브, Debian 소스 패키지, .nosrc.rpm에는 NVIDIA 아카이브나 생성된 펌웨어가 포함되지 않음
- 커널 모듈과 로컬 패키징은 GPL-2.0-only이며, 생성 페이로드는 고정된 CMP 참조 자료에서 파생됨
- NVIDIA 펌웨어에는 별도 이용 조건이 적용되며, 관련 고지는 firmware/NOTICE.md와 licenses/에 있음