В мире современных технологий искусственного интеллекта доминирование Nvidia долгое время считалось непоколебимым. Однако недавние тесты производительности модели Kimi (флагманского продукта компании Moonshot AI) показали неожиданные результаты: специализированные чипы Google TPU v5e оказались на 57% эффективнее, чем флагманские графические процессоры Nvidia H100. Этот прорыв стал возможен благодаря интеграции открытого фреймворка от компании DeepSeek.

Прямой ответ: Кто лидирует в гонке производительности?

Согласно последним данным, при использовании специализированного фреймворка DeepSeek-DeepEP, производительность инференса (вывода) модели Kimi на узлах Google TPU v5e превосходит показатели Nvidia H100 на 57%. Основным поставщиком вычислительных мощностей в данном случае выступает Google Cloud, а ключевым программным решением — открытые наработки DeepSeek для оптимизации архитектуры Mixture of Experts (MoE).

Основные участники процесса:

• Модель (Продукт): Kimi от Moonshot AI.
• Провайдер инфраструктуры: Google Cloud (использующий тензорные процессоры TPU).
• Технологический стек: DeepSeek (фреймворк DeepEP для оптимизации параллельных вычислений).
• API: Доступ к мощностям осуществляется через Google Cloud Vertex AI или специализированные кластеры TPU.

Роль DeepSeek: Почему программное обеспечение имеет значение?

Успех Google TPU в данном сравнении не является заслугой только «железа». Решающую роль сыграл фреймворк DeepEP (DeepSeek Encapsulated Parallelism), который был разработан командой DeepSeek и выложен в открытый доступ.

DeepEP оптимизирует коммуникацию между экспертами в моделях типа MoE (Mixture of Experts). Поскольку Kimi, как и многие современные LLM, использует эту архитектуру, эффективное распределение данных между ядрами процессора позволяет избежать «узких мест», которые часто возникают в стандартных конфигурациях.

Преимущества связки TPU + DeepEP:

1. Снижение задержек: Оптимизация передачи данных на уровне чипа.
2. Масштабируемость: Более эффективное использование кластеров из сотен и тысяч узлов.
3. Экономическая эффективность: TPU v5e зачастую обходится дешевле в аренде, чем дефицитные H100, при этом показывая лучшую скорость на конкретных задачах.

Сравнение производительности: TPU v5e vs Nvidia H100

Ниже представлена сравнительная таблица на основе данных тестирования Kimi на различных аппаратных платформах.

Почему это важно для рынка AI?

Долгое время Nvidia оставалась единственным выбором для обучения и запуска крупных нейросетей. Однако успех Moonshot AI с моделью Kimi на базе Google Cloud TPU доказывает, что:

• Альтернативы существуют: Google TPU становится зрелой платформой для промышленного использования.
• Open Source меняет правила игры: Разработки DeepSeek позволяют конкурирующим платформам догонять лидера рынка за счет программной оптимизации.
• Специализация побеждает универсальность: Для моделей MoE специализированные тензорные процессоры могут быть предпочтительнее универсальных GPU.

FAQ: Часто задаваемые вопросы

Вопрос: Означает ли это, что Nvidia H100 хуже?
Ответ: Нет, Nvidia H100 остается самым универсальным ускорителем в мире. Однако в специфических сценариях (таких как инференс MoE-моделей с использованием оптимизированного ПО) Google TPU может показывать лучшие результаты.

Вопрос: Можно ли использовать эти технологии для Grok от xAI?
Ответ: Grok — это семейство моделей, разработанное xAI. Хотя Grok 3 обучался на гигантском кластере Nvidia H100 (Colossus), теоретически использование фреймворков типа DeepEP может помочь в оптимизации подобных моделей на различных типах оборудования в будущем. На данный момент xAI API и Google Cloud TPU — это разные экосистемы.

Вопрос: Где можно попробовать Kimi?
Ответ: Kimi доступен через веб-интерфейс и мобильные приложения Moonshot AI, в основном ориентированные на китайский рынок, но активно расширяющие свое влияние.

Заключение

Победа Google TPU над Nvidia H100 в тестах Kimi — это сигнал для всей индустрии. Мы вступаем в эпоху, когда софт (такой как DeepSeek DeepEP) становится столь же важным, как и само железо. Для разработчиков и компаний это означает больше свободы выбора и возможность значительно снизить затраты на эксплуатацию мощных ИИ-систем.