Автор статьи разобрался, почему его кластер на видеокартах CMP90HX показывал неожиданно низкую производительность при работе с LLM. Оказалось, что в этих картах изначально искусственно ограничена вычислительная мощность именно на типах операций, критически важных для нейросетей.

В материале подробно объясняется, какие именно вычисления важны для инференса и обучения больших моделей, и как китайская модификация (six-seven) снимает это программное ограничение. После применения модификации автор провёл практические тесты.

По результатам замеров производительность сервера выросла почти в два раза, что подтверждает эффективность такого решения для задач с LLM. Статья будет полезна всем, кто использует CMP90HX для вычислений и хочет выжать из них максимум.