Nvidia знову лідирує в тестах MLPerf: Генеративний ІІ на висоті

Графічні процесори Nvidia знову показали найкращі результати в одному з найбільш престижних тестів для вимірювання продуктивності ІІ-чипів – MLPerf. Цього разу основну увагу було приділено генеративним застосункам ІІ, таким як великі мовні моделі (LLM), зокрема Llama від Meta. У тестах системи, зібрані компаніями SuperMicro, Hewlett Packard Enterprise та Lenovo, продемонстрували майже повне домінування, здобувши перші місця у більшості категорій.

Нові тестові сценарії для генеративного ІІ

MLPerf оновив свої тести, додавши кілька нових сценаріїв, зокрема для роботи з великими мовними моделями. Один з нових тестів оцінює швидкість генерації токенів на основі Llama 3.1, а інший — швидкість обробки запитів чат-ботами на базі Llama 2. Також з'явився тест для графових нейронних мереж, які активно використовуються в генеративному ІІ, наприклад, для прогнозування структури білків.

Хоча конкуренція була незначною, AMD також показала хороші результати у двох тестах Llama 2. У загальному ж, Nvidia знову продемонструвала найбільшу потужність у тестах, особливо в закритому дивізіоні, де вимоги до налаштувань були найжорсткішими.