Voilà comment des hackers libèrent l'IA bridée des RTX 20, 30 et 40
Dossier Intelligence artificielle : toute l'actualité de l'IA : tous nos articles
Des modders ont trouvé un moyen de retirer la limite de moitié que Nvidia impose aux performances d'IA de ses GeForce RTX 20, 30 et 40. La méthode repose sur un exploit de firmware, selon VideoCardz et Tom's Hardware.
Sur le papier, le gain est spectaculaire pour les calculs tensoriels. Dans la pratique, il est nettement plus modeste, et il dépend du type de charge et de la carte.
Une limite imposée par Nvidia sur les GeForce
Sur les trois générations concernées, Nvidia bride le calcul matriciel avec accumulation FP32 à la moitié du débit obtenu en accumulation FP16. Cette restriction figure dans les spécifications publiées par le constructeur. Elle ne s'applique pas aux cartes professionnelles Turing et Ampere.
Le déblocage rend aux propriétaires le débit matriciel natif de leur carte. Il peut accélérer le traitement des prompts et la génération d'images. Il ne change presque rien à la vitesse de génération des chatbots, car celle-ci dépend surtout de la bande passante mémoire.
Trois projets, trois générations de cartes
Trois projets distincts proposent chacun leur module Linux non officiel. Le premier, gpu-unlock, cible Ampere et liste les familles GA102, GA103, GA104 et GA106. Une variante, gpu-unlock-ada, vise la RTX 4090 et, à titre expérimental, les 4090 D, 4070 Ti Super et 4060 Ti 16 Go.
Le projet turing-unlock, adapté du premier, fonctionne avec la RTX 2080 Ti. Des versions expérimentales pour Windows suivent une approche différente. La couverture reste partielle : GA103 et la plupart des cartes Ada et Turing demeurent à confirmer.
Des gains très variables selon les charges
Le doublement concerne le débit crête. Sur la RTX 4090 du développeur de la variante Ada, il passe de 165,6 à 331,6 TFLOPS en FP16, et de 165,5 à 330,6 TFLOPS en BF16. Un test indépendant en multiplication matricielle (cuBLAS) n'a pourtant relevé que 12 à 34 % de mieux, et jusqu'à 20 % selon le format.
Une RTX 3090 Ti a gagné 35 % en FP16, 80 % en BF16 et 94 % en TF32, avec un pilote modifié. Pour Ampere, le préremplissage des LLM progresse de 14 à 36 %, tandis que le décodage et l'INT8 restent à peu près identiques. La limite de puissance pèse lourd : le gain de 25 % le plus faible venait de cartes plafonnées à 225 W.
Sur Turing, une RTX 2080 Ti modifiée à 22 Go a gagné de 36 à 64 % en FP16 selon la taille des matrices. Le BF16 n'est pas concerné, faute de support matériel. Le projet KohakUnlock précise qu'il ne revendique pas un doublement de la vitesse des applications ou des jeux.
Une faille dans le firmware sécurisé
Selon la documentation de gpu-unlock, les limites sont inscrites dans deux registres que le pilote hôte ne peut pas modifier. Le firmware signé SEC2 Booter de Nvidia contient toutefois un dépassement de tampon, exploitable pour exécuter du code en mode « heavy secure ». La faille a été repérée après la publication par Nvidia d'un Booter de débogage chiffré avec une clé de test publique connue.
Une écriture de 4 octets ouvre le masque de privilèges, ce qui permet à l'hôte de régler le débit complet. Le module réinitialise ensuite la carte avant que le pilote Nvidia ne la prenne en charge. Le bug a été décrit par Jon Pry dans une publication sur Zenodo en juin. Zagitta, mainteneur de gpu-unlock, indique que Hopper et Blackwell sont hors de portée de cette approche.
Des risques à ne pas négliger
Les projets mettent en garde les utilisateurs. Le README de turing-unlock indique que la modification « peut endommager votre matériel ». KohakUnlock évoque des risques de blocage du GPU ou de l'hôte, d'échec au démarrage, de corruption de données et de dommages matériels.
Aucun des projets ne publie de feuille de route, mais gpu-unlock collecte des rapports de compatibilité auprès des propriétaires. Les chiffres les plus flatteurs restent des mesures de crête ou des tests isolés. Pour la plupart des usages, le bénéfice dépendra de la carte, de sa limite de puissance et de la charge exécutée.
Source : Tom's Hardware