Een groep modders heeft een methode gevonden om de softwarematige beperkingen op de AI-prestaties van Nvidia-videokaarten op te heffen. Deze aanpassing is specifiek gericht op de RTX 20-, 30- en 40-series, waardoor gebruikers potentieel meer rekenkracht kunnen ontsluiten voor AI-gerelateerde taken dan Nvidia standaard toestaat.
Volgens een bericht van tweakers.net gaat het hierbij om het wegnemen van limieten die door de fabrikant in de software of drivers zijn ingebouwd. Nvidia hanteert vaak strikte scheidingen tussen consumentenhardware (GeForce) en professionele hardware (zoals de A100- of H100-chips). Door bepaalde restricties op te heffen, kunnen consumentenkaarten in sommige scenario's efficiënter worden ingezet voor lokale AI-modellen, zoals Large Language Models (LLM's) of beeldgeneratoren.
Voor de gemiddelde gamer heeft deze mod weinig directe impact, maar voor de 'power user' en AI-enthousiast is dit een belangrijke ontwikkeling. De trend om AI lokaal te draaien in plaats van via de cloud neemt toe, mede vanwege privacyoverwegingen en de wens om onafhankelijk te zijn van abonnementen. Wanneer hardwarematige capaciteit wordt tegengehouden door softwarematige blokkades, beperkt dit de snelheid waarmee lokale AI-modellen kunnen worden getraind of uitgevoerd.
Het is gebruikelijk dat hardwarefabrikanten dergelijke limieten implementeren om de markt voor hun duurdere enterprise-producten te beschermen. Als een consumentenkaart van enkele honderden euro's nagenoeg dezelfde AI-prestaties zou leveren als een professionele kaart van enkele duizenden euro's, zou de commerciële prikkel voor datacenters om high-end hardware te kopen afnemen. De modders die deze limieten nu 'slopen', dagen deze commerciële segmentatie effectief uit.
Hoewel de officiële kanalen van Nvidia, zoals de nvidia.com pagina en de nvidia.com, zich richten op de verkoop van nieuwe hardware zoals de 50-serie GPU's, blijft de community van modders zoeken naar manieren om bestaande hardware te optimaliseren. Het ontsluiten van deze prestaties betekent dat oudere RTX-kaarten langer relevant blijven in een tijdperk waarin AI-applicaties exponentieel groeien.
Het risico van dergelijke mods ligt voornamelijk in de stabiliteit van het systeem en het mogelijke effect op de levensduur van de hardware als de kaarten buiten hun oorspronkelijke specificaties worden gedreven. Desondanks laat deze ontwikkeling zien dat de vraag naar lokale AI-rekenkracht zo groot is, dat gebruikers bereid zijn om diep in de driver-structuur van hun videokaart te graven om elke beschikbare teraflop te benutten.