IT之家 10월 25일 소식에 따르면, 인텔이 일정 기간 판매한 GeForce RTX 30 시리즈(코드명 Ampere) 그래픽 카드는 여전히 많은 계산 잠재력을 가지고 있음이 분명합니다. GitHub 사용자 Zagitta는 GPU Unlock이라는 오픈소스 프로젝트를 개발했는데, 이를 통해 Ampere 아키텍처의 그래픽 카드에 설정된 일부 성능 제한을 해제할 수 있습니다. 특정 부하 상황에서 텐서 코어의 계산 처리량이 거의 두 배로 증가하며, 인텔 드라이버를 수정하거나 그래픽 카드의 VBIOS를 영구적으로 수정할 필요도 없습니다.
IT之家는 이 프로젝트가 특정 명령어 발사 속도 제한에 초점을 맞추고 있다는 것을 알게 되었습니다. FP32로 누적된 FP16/BF16 티렐리언 코어 연산을 사용할 때, 대중용 아페르론 그래픽 카드의 운영 속도가 전문 카드보다 낮습니다. 이 제한을 해제하면, 도구가 그래픽 카드 하드웨어 자체가 가진 추가적인 계산 성능을 발휘할 수 있습니다.
흥미로운 점은, GPU Unlock이 이전에 나온 엔비디아 CMP 암호화폐 채굴 그래픽 카드에 관한 연구를 기반으로 하고 있다는 것입니다. 이 기술은 CMP 프로젝트의 펌웨어 잠금 해제 기술과 사전 초기화 방안을 결합하여, Linux 커널 모듈을 이용해 엔비디아 그래픽 카드 드라이버가 로드되기 전에 작업을 수행합니다. 이 모듈은 해당 하드웨어 속도 선택 레지스터를 변경하고 기능적 리셋(FLR)을 실행하여, 그 후 원본 드라이버가 그래픽 카드를 정상적으로 초기화할 수 있게 합니다.
이는 사용자가 드라이버의 새로운 버전을 업데이트할 때마다 드라이버에 패치를 적용할 필요가 없다는 것을 의미합니다. 개발자들은 현재 GA102, GA103, GA104, GA106 모델 GPU를 지원한다고 명시했으며, RTX 30 시리즈의 대부분의 모델을 커버하고 있습니다. 하지만 모든 그래픽 카드가 호환될 수 있는 것은 아니며, 모든 경우에 성능 향상을 얻을 수 있다는 보장도 없습니다.
성능 향상의 폭은 상당히 큽니다. 프로젝트의 GitHub 저장소에 공개된 기준 테스트 데이터에 따르면, 소비 전력 상한이 450W로 설정된 RTX 3090 Ti는 FP32을 사용하여 집합화된 행렬 곱셈(GEMM) 테스트에서 다음과 같은 결과를 보였습니다.
이러한 향상은 RTX 3090 Ti에서만 나타나는 것이 아닙니다. RTX 3080 Ti 사용자가 보고한 바에 따르면, 그래픽카드의 소비 전력 제한이 315W인 상황에서 BF16 처리량은 71.59 TFLOPS에서 113.98 TFLOPS로 증가했으며, TF32 성능은 35.65 TFLOPS에서 65.28 TFLOPS로 증가했습니다. 또한 RTX 3080 10GB 모델에 대한 호환성 보고서에 따르면, 그래픽카드의 원래 320W 소비 전력 상한선 하에서 FP16/BF16 성능은 약 65 TFLOPS에서 110–113 TFLOPS로 증가했습니다. 이러한 테스트 결과는 X 플랫폼에서도 널리 논의되고 있습니다.
그렇다면 실제 사용 시의 성능은 어떠한가요? 다행히 커뮤니티 사용자들이 실제 AI 부하 하에서 이 잠금 해제 기능을 테스트하기 시작했고, 초기 결과는 꽤 낙관적입니다.
Reddit에서 가장 최근에 RTX 3090 Ti를 사용한 사용자는 ComfyUI를 통해 벤치마크 테스트를 진행했으며, MOSS-Image SFT BF16의 처리량은 58.6%, Qwen-Image 2.1 Turbo BF16는 57.2%, Z-Image Turbo BF16는 56.1% 증가했습니다. INT8 정확도 모드에서는 증가폭이 매우 작았으며, MOSS-Image SFT INT8은 0.3%만 증가했습니다. 테스트자는 또한 기본 상태와 잠금 해제 후 생성된 이미지의 디코딩 결과가 완전히 일치한다고 말했습니다.
대형 언어 모델(LLM) 추론도 잠재적인 혜택이 있는 분야이지만, 효과 향상은 부하 유형에 크게 의존합니다. 예를 들어 RTX 3090과 호환되는 보고서에 따르면 vLLM의 프롬프트 처리와 추론 처리량이 33% 증가했지만, 토큰 생성 속도는 거의 변동되지 않았습니다. 이는 대형 언어 모델의 디코딩 단계의 병목이 원래의 계산 처리량이 아닌, 그래프 터널의 메모리 대역폭에 있기 때문입니다.
또 다른 주목할 만한 진전은 실험판 Windows 구현 방식입니다. 이제는 이전의 Linux 커널 모듈을 사용하지 않고 UEFI 방식을 기반으로 합니다. 개발자들은 RTX 3090의 성공 사례를 기록했으며, BF16 계산 처리량이 약 82.5% 향상되었습니다. 하지만 이 버전은 여전히 실험적 성격을 띠고 있으며 특정 하드웨어에만 적용되는 것이지, 일반적으로 사용할 수 있는 Windows 정식 버전은 아닙니다.
이 방안에도 명백한 한계가 있습니다. GPU Unlock은 메모리 대역폭을 높이지 못하며, 더 많은 CUDA 코어를 활성화시키지도 못하고, 모든 부하를 자동으로 증가시킬 수도 없습니다. RTX 3080 Ti 20GB에 대한 피드백 중 하나에 따르면, 잠금 해제 과정은 성공적으로 진행되었지만 BF16 성능에는 예상된 향상이 나타나지 않았습니다. 이는 그 효과가 모든 경우에 적용되지 않는다는 것을 의미합니다.
게임 측면에서, NVIDIA의 DLSS 기술도 텐서 코어를 사용하지만, 현재 GPU Unlock이 게임 프레임율을 향상시키거나 DLSS 실행 시간을 단축한다는 확실한 증거는 없습니다. 작업 자체가 이러한 영향을 받는 명령과 합계 모드를 호출할 때만 이익을 얻을 수 있습니다. 따라서 이러한 눈에 띄는 계산 점수가 게임 프레임 수가 동시에 상승한다는 의미는 아닙니다.
그럼에도 불구하고 RTX 30 시리즈 그래픽카드 소유자에게 GPU Unlock은 매우 매력적인 새로운 시도입니다. 특히 그래픽카드를 로컬 AI 추론, 이미지 생성 및 기타 고계산 부하 환경에 사용하는 사용자들에게 말입니다. 이 프로젝트는 현재 실험 단계에 있지만, 하드웨어를 영구적으로 변경하지 않고도 기존 그래픽카드에서 상당한 추가 성능을 얻을 수 있어 매우 매력적입니다.