TPU v7 Ironwood: Прорыв в ИИ или вызов для NVIDIA?

TPU v7 — Ironwood: Новый Граунд в Области ИИ

Недавно Google представила своё новое поколение TPU, известного как Ironwood, которое позиционируется на одной линии с конкурентоспособным чипом Blackwell от NVIDIA. Давайте подробнее разберемся, что скрывается за этим новым устройством и как оно может повлиять на индустрию.

Впечатляющие Технические Характеристики

Новейший TPU v7 демонстрирует внушительные характеристики, предлагая 4.6 Dense петафлопса на чип. Это немного больше, чем у предшественника B200, что уже само по себе говорит о прогрессе. Важно отметить, что TPU v7 комплектуется 192 гигабайтами видеопамяти, хотя с пропускной способностью он немного отстает — 7.4TB/s против 8TB/s у B200. Тем не менее, в плане энергоэффективности TPU v7 показывает фантастические результаты, превышая такие показатели v6e в два раза и несколько улучшая ситуацию по сравнению с Blackwell.

Новый Подход к Масштабируемости

Одним из наиболее захватывающих аспектов TPU v7 является возможность объединения чипов в продукты, содержащие более 9000 устройств. Большинство из нас, вероятно, знакомы с традиционными сетевыми протоколами, такими как Infiniband и Ethernet, но Google предпочла использовать собственную сетевую конфигурацию. Это больше похоже на решение от NVIDIA в NVL72, но стоит отметить, что Google ставит ставку на масштабируемость на уровне тысяч чипов. В то время как NVIDIA обещает связать лишь 576 чипов через NVLink к 2027 году, TPU v7 предлагает намного больше.

Однако не всё так радужно. Скорость соединения на уровне 1.2TB/s на чип может показаться ограниченной по сравнению с 1.8TB/s от NVLink 5 в Blackwell. Это может стать критическим фактором для определенных типов вычислений и задач.

Возможные Проблемы с Производством

Ключевой вопрос заключается в том, сможет ли Google обеспечить достаточные запасы HBM для масштабных внедрений. Даже если производственные возможности позволят им это сделать, остаётся открытым вопрос: смогут ли они конкурировать с NVIDIA? Проблема заключается в том, что Google не продаёт свои TPU другим компаниям, а лишь предоставляет их в аренду через облачные сервисы. В то же время, компания активно нивелирует потребности в GPU, вложив 10 миллиардов долларов в покупку Blackwell, в первую очередь для использования в своих облачных сервисах.

Личное Мнение

Хотя Ironwood выглядит многообещающе с точки зрения технических характеристик, я остаюсь скептиком в отношении его способности стать полноценным конкурентом для NVIDIA. Учитывая, что Google фокусируется на облачных решение и не планирует продавать TPU сторонним разработчикам, вероятность того, что этот чип сможет захватить львиную долю рынка, кажется маловероятной. Интересно, как конкуренция между двумя гигантами будет развиваться — может ли Google изменить подход, посмотрев на опыт NVIDIA и адаптироваться к изменяющимся требованиям рынка?

Хотелось бы увидеть больше инновационных шагов от Google в этом направлении и, возможно, неожиданные решения, которые помогут им выйти на более высокий уровень. Однако пока что, по всей видимости, NVIDIA остаётся на вершине игры, и Ironwood будет интересен в первую очередь тем, кто уже активно использует облачные технологии Google.