DeepSeek і Huawei випускають інструменти програмування з відкритим вихідним кодом Ascend AI, щоб зменшити залежність від екосистеми Nvidia CUDA — інструменти включають обчислювальні та комунікаційні бібліотеки, а також підтримку TileLang від Ascend.
Китайська фірма зі штучного інтелекту DeepSeek випустила інструменти програмування з відкритим вихідним кодом, розроблені в партнерстві з Huawei для чіпів компанії Ascend AI, щоб зменшити залежність від екосистеми програмного та апаратного забезпечення Nvidia. Згідно зі звітом Reuters від 30 вересня, випуск включає бібліотеки з відкритим кодом для обчислень штучного інтелекту та зв’язку між мікросхемами, а також підтримку Ascend для мови програмування високого рівня TileLang.
У DeepSeek кажуть, що інструменти, які Huawei забезпечила комплексну підтримку під час розробки, щоб спростити програмування та дозволити розробникам повністю використовувати апаратне забезпечення. Дві компанії також працювали разом над оптимізацією обчислень і зв’язку в системі супервузлів, побудованій навколо 128 чіпів Ascend 950. У роботі розглядаються дві вимоги для виконання великих робочих навантажень штучного інтелекту на кількох прискорювачах: ефективне виконання обчислень на кожному чіпі та передача даних між ними достатньо швидка, щоб забезпечити роботу процесорів між ними.
Випущені бібліотеки включають DeepGEMM-Ascend, яка обробляє множення матриць та інші обчислення, що використовуються в моделях DeepSeek. Він підтримує операції BF16, FP8 і FP4 і використовує ті самі інтерфейси програмування, що й існуюча бібліотека DeepGEMM DeepSeek, що дозволяє розробникам підтримувати знайомі API під час переходу на Ascend. Тим часом DeepEP-Ascend керує зв’язком для навчання та висновків, включаючи маршрутизацію даних до різних експертів у змішаних експертних моделях та об’єднання їхніх результатів. Обидві бібліотеки були розроблені та протестовані на апаратному забезпеченні Ascend 950.
Нові відео відОбладнання Тома
TileLang надає високорівневий рівень програмування для написання оптимізованих ядер. DeepSeek описав це як «простішу модель програмування», ніж Nvidia CUDA, щоб підвищити ефективність розробки та спростити код. Мова вже підтримує Nvidia та інше обладнання, а для процесора Huawei Ascend доступні більш ранні адаптери. Оновлення від 30 вересня додає власну підтримку Ascend 950, включаючи генерацію коду, автоматичне планування та синхронізацію.
Інструменти будуть побудовані на існуючій програмній платформі Huawei CANN, яка забезпечує базову інфраструктуру для виконання робочих навантажень ШІ Ascend. Платформа Nvidia CUDA вже давно надає розробникам зріле середовище програмування та бібліотеки, оптимізовані для їхніх графічних процесорів, що робить екосистему програмного забезпечення ключовою частиною переваги компанії в обчисленнях ШІ. Хоча випуск DeepSeek надає розробникам додаткові інструменти для оптимізації робочого навантаження на обладнання Huawei, підтримка TileLang для кількох платформ гарантує, що мова залишається корисною для графічних процесорів Nvidia.
Оголошення з’явилося через два тижні після того, як Huawei представила свій процесор AI наступного покоління та системи супервузлів. Huawei заявила, що очікується, що її системи штучного інтелекту будуть широко використовуватися для навчання моделей у 2027 році. Компанії вже співпрацювали над моделлю DeepSeek V4, випущеною в попередній версії в квітні, з підтримкою чіпів Huawei Ascend. Huawei заявила, що її супервузли Ascend 950 повністю підтримують моделі V4, а її чіпи були використані для частини дослідження легшої моделі V4-Flash.
Подальші дії Пристрій Тома в Новинах Googleабо Додайте нас як бажаний ресурсщоб отримувати останні новини, аналізи та огляди на наших каналах.
Отримуйте найкращі новини та докладні огляди Tom’s Hardware просто у свою поштову скриньку.