Закон Хуанга стає реальністю
08:03, 05.10.2023
Протягом багатьох років розвиток процесорів відбувався відповідно до логіки передбачення Гордона Е. Мура, згідно з яким кожні кілька років продуктивність центральних процесорів подвоюється, а їхня вартість знижується вдвічі. Однак те, що ми спостерігаємо зараз, дедалі більше і більше нагадує "закон Хуанга", висунутий у 2018 році Дженсеном Хуангом. Згідно з цим більш свіжим законом, графічні процесори розвиватимуться набагато швидше, ніж центральні процесори. Водночас індустрія центральних процесорів досягне своєї межі, а чіпи будуть тільки дорожчати, що призведе до необхідності перегляду напівпровідникової індустрії та підходів до обчислень.
Тенденцію до закону Хуанга нещодавно продемонструвала компанія NVIDIA у виступі свого головного наукового співробітника Білла Деллі.
Останні розробки команди Деллі дали змогу домогтися 1000-кратного збільшення продуктивності ШІ за останні 10 років.
Такого рівня прогресу багато в чому було досягнуто завдяки пошуку нових підходів до оптимізації способів виконання обчислень комп'ютерами, полегшення представлення чисел, які комп'ютери використовують для обчислень.
Зокрема, архітектура NVIDIA Hopper із движком Transformer Engine досягає своїх високопродуктивних показників завдяки динамічному поєднанню 8- і 16-розрядних обчислень із плаваючою комою і цілочисельних обчислень.
Інший фактор - ретельно розроблені інструкції, які "пояснюють" графічному процесору, як досягти більшої продуктивності за вищої енергоефективності.
Структурна розрідженість, представлена в NVIDIA Ampere, підвищує продуктивність ШІ за рахунок зниження ваги моделей ШІ без втрати їхньої точності.
Деллі з оптимізмом дивиться на подальший розвиток графічних процесорів за законом Хуанга, вважаючи, що його потенціал не буде вичерпано найближчими роками.