Энтузиастар Nvidia бейнекарталарының ЖИ шектеуін алды

Тәуелсіз әзірлеушілер Nvidia GeForce RTX 20, 30 және 40 ойын бейнекарталарындағы ЖИ үшін қажет матрицалық есептеулерге қойылған жасанды шектеуді алып тастаудың жолын тапты. Бұл туралы 26 қазанда Tom’s Hardware жазды. Ашық gpu-unlock жобасы мен оның тармақтары RTX 4090-дағы тензорлық ядролардың ең жоғары жылдамдығын екі есе арттырады. Алайда модификация құрылғыға қауіпті, ал Nvidia бұл туралы ештеңе айтқан жоқ.

Шектеу нәтижені FP32 форматында жинайтын есептеулерге қатысты. Мұндай дәлдік нейрожелілерді оқытқанда керек. Nvidia жариялаған сипаттамаларға қарағанда, осы буындардың ойын карталары бұл операцияларды FP16 форматында жинаумен салыстырғанда екі есе баяу орындайды. Turing мен Ampere кәсіби карталарында ондай шектеу жоқ.

Бұзу қалай жұмыс істейді

Жылдамдық лимиттері екі регистрде сақталады, ал компьютердегі драйвер оларға жаза алмайды. Бірақ SEC2 қорғалған қосалқы процессорында жұмыс істейтін қолтаңбалы Booter бағдарламалық жасақтамасынан стектегі буфердің толып кетуі табылды. Зерттеушілер оны Nvidia белгілі сынақ кілтімен шифрланған Booter-дің жөндеу нұсқасын жариялағаннан кейін байқаған.

Қатені алғаш Джон Прай маусымдағы жұмысында сипаттады, ал оны CMP 170HX майнинг картасынан тапқан. 4 байттық бір жазба регистрлерге жол ашып, толық жылдамдықты қосады. Содан кейін модуль Nvidia драйвері қосылмай тұрып картаны қайта жүктейді. Zagitta лақап атты gpu-unlock авторы бағдарлама тек «2 битті ауыстырады» дейді, ал эксплойттарды өзі ойлап таппағанын айтады.

Құлыпты ашу не береді

RTX 4090-да FP16 бойынша ең жоғары өнімділік 165,6-дан 331,6 терафлопсқа, BF16 бойынша 165,5-тен 330,6-ға өсті. Нақты матрицалық тесттерде өсім қарапайымдау. Linux-тегі бір RTX 4090 иесінде ол FP16 бойынша 12–34% болды. RTX 3090 Ti, 3080, 3070 және 3060 пайдаланушылары кейбір тесттерде BF16 бойынша 56–94% өсім байқағанын айтады.

Әдіс RTX 4090-да, RTX 30 сериясының бірқатар картасында және 22 ГБ жады қосылған RTX 2080 Ti-да жұмыс істейді. RTX 50 сериясын қолдамайды. Тілдік модельдерде сұрауды өңдеу 14–36%-ға жылдамдайды. Алайда чат-боттардың токен шығару жылдамдығы дерлік өзгермейді, себебі ол жадтың өткізу қабілетіне тіреледі. KohakUnlock әзірлеушілері бұл ойындар мен қосымшаларды екі есе жылдамдатпайтынын бөлек ескертеді.

Авторлар тәуекелді жасырмайды. Модификация картаны не компьютерді қатырып тастауы, жүктелуге кедергі келтіруі, деректерді не құрылғының өзін бүлдіруі мүмкін. Шектеу ойын карталарын Nvidia бөлек сататын кәсіби карталардан ажыратып тұр. Компания туралы толығырақ — біздің Nvidia досьемізде.

Дереккөздер: Tom’s Hardware — RTX 20, 30 және 40 бейнекарталарынан ЖИ шектеуінің алынуы туралы