Google представила TPU 8i Max и TPU 8tx для ИИ-агентов и защищённых вычислений
Google расширила линейку ускорителей TPU восьмого поколения до четырёх систем. Две новые модели предназначены для разных сценариев использования: TPU 8i Max ориентирована на обработку больших контекстов и сложные ИИ-агенты, а TPU 8tx — на вычисления с чувствительными данными.
TPU 8i Max для больших контекстов
TPU 8i Max построена на базе двух объединённых систем TPU 8i. За счёт такой конфигурации новинка получила вдвое больше вычислительной мощности, SRAM и пропускной способности памяти HBM по сравнению с базовой системой.
Увеличенные ресурсы должны пригодиться при работе с большими контекстами, а также в проектах, где одновременно задействовано несколько ИИ-агентов. Такая конфигурация рассчитана на обработку крупных проектов и более сложных сценариев взаимодействия моделей с данными.
TPU 8tx для конфиденциальных вычислений
TPU 8tx предназначена для задач, в которых требуется защищать данные и параметры моделей во время обработки. Система сочетает ускоритель TPU 8t с процессорами AMD EPYC пятого поколения и аппаратными механизмами защиты.
Google ориентирует TPU 8tx на государственные организации и компании с повышенными требованиями к безопасности. По заявлению компании, новая система также обеспечивает снижение задержки до двух раз по сравнению с TPU 8t.
