Google оголосила про випуск нових моделей свого штучного інтелекту, Gemini, супроводжуючи цю подію виходом останньої версії свого флагманського тензорного процесора (TPU) для навчання та виведення штучного інтелекту (ШІ). Цей крок визнається Google як спроба конкурувати з графічними процесорами, особливо з лідерами ринку, такими як GPU від Nvidia.
TPU v5p, найпотужніший прискорювач ШІ від Google, був задіяний для роботи “AI Hypercomputer”. Ця суперкомп’ютерна архітектура спеціально створена для запуску програм штучного інтелекту, відокремлюючись від традиційних суперкомп’ютерів, які використовуються переважно для наукових розрахунків.
Оновлений TPU включає в себе 8,960 чіпів на кожен вузол, що порівняно з 4,096 чіпами в версії v4, робить його в чотири рази більш масштабованим в плані обчислювальної потужності на вузол. Нові вузли також забезпечують вражаючу пропускну здатність у 4,800Gbps та мають 95GB високошвидкісної пам’яті (HBM), що порівнюється з 32GB HBM RAM у TPU v4.
Цей крок Google можна порівняти із графічним процесором H100 від Nvidia. Важливо відзначити, що Google не пропонує свої TPUs для придбання стороннім компаніям, вони використовуються виключно всередині компанії для власних продуктів та сервісів. Протягом тривалого часу TPUs від Google використовувалися для підтримки таких сервісів, як Gmail, YouTube та Android, а остання версія також займалася навчанням Gemini.
TPU v5p в 2.8 рази швидше навчає більших мовних моделей, ніж TPU v4, і пропонує в 2.1 рази більше цінності за гроші. За деякими даними, TPU v5p навіть вищий за швидкістю в порівнянні з GPU H100 від Nvidia, який вже в чотири рази швидший, ніж GPU A100 від Nvidia.
Хоча деякі дані порівняння вже доступні, для остаточних висновків потрібні більш детальні тести. Однак важливо відзначити, що Google із TPU v5p робить значний крок вперед у розвитку технологій штучного інтелекту, що може значно змінити ландшафт цієї сфери у майбутньому.
Джерело: https://internetua.com/novii-procesor-vid-google-zminit-maibutnye-shtucsnogo-intelektu