Компанія Tenstorrent Джима Келлера Tenstorrent випустила процесор Wormhole наступного покоління для робочих навантажень AI, який, як очікується, запропонує хороші показники за доступною ціною.В даний час компанія пропонує дві додаткові картки PCIE, які можуть вмістити один-два процесори Coblole, а також робочі станції TT-Loudbox та TT-Quietbox для розробників програмного забезпечення. Усі сьогоднішні оголошення спрямовані на розробників, а не на тих, хто використовує дошки з червоточиною для комерційних навантажень.
"Завжди приємно залучити більше наших продуктів в руки розробників. Випуск систем розробки за допомогою наших карт Wormhole ™ може допомогти розробникам масштабувати та розробити програмне забезпечення для багатопільного AI",-сказав Джим Келлер, генеральний директор Tenstorrent.На додаток до цього запуску, ми раді бачити прогрес, який ми досягаємо з стрічкою, та підсиленням нашого продукту другого покоління, Blackhole. "
Кожен процесор з червоточини містить 72 ядра Tensix (п’ять з яких підтримують ядра RISC-V у різних форматах даних) та 108 Мб SRAM, що забезпечує 262 FP8 TFLOPS при 1 ГГц з тепловою силою проектування 160 Вт. Картка N150 One Chip N150 оснащена відеокам'янкою GDDR6 12 ГБ і має пропускну здатність 288 ГБ/с.
Процесори з червоточиною забезпечують гнучку масштабованість для задоволення різноманітних потреб навантажень. У стандартній установці робочої станції з чотирма картками Wormhole N300 процесори можуть бути об'єднані в єдиний блок, який відображається в програмному забезпеченні як уніфікована мережа Core Tensix. Ця конфігурація дозволяє акселератору обробляти одне і те ж навантаження, розділити між чотирма розробниками або одночасно виконувати до восьми різних моделей AI. Основна особливість цієї масштабованості полягає в тому, що вона може працювати локально без необхідності віртуалізації. У середовищі центру обробки даних процесори з червоточиною використовуватимуть PCIE для розширення всередині машини або Ethernet для зовнішнього розширення.
З точки зору продуктивності, карта N150 Onstorrent N150 (72 Tensix, частота 1 ГГц, 108 Мб SRAM, 12 ГБ GDDR6, 288 ГБ/с) досягли 262 FP8 Tflops на 160 Вт, а подвійна чіпка, 192 м. 24 ГБ GDDR6, 576 ГБ/с пропускна здатність) забезпечує до 466 FP8 TFLOPS при 300 Вт.
Щоб поставити в контекст 300 Вт 466 FP8 TFLOPS, ми порівнюємо його з тим, що пропонує лідер ринку AI Nvidia при цій теплової сили проектування. A100 NVIDIA не підтримує FP8, але він підтримує INT8, з піковою продуктивністю 624 вершин (1248 вершин при рідких). Для порівняння, H100 NVIDIA підтримує FP8 і досягає пікових показників 1670 TFLOPS при 300 Вт (3 341 TFLOPS при рідкісних), що суттєво відрізняється від Worcole N300 Tenstorrent N300.
Однак є одна головна проблема. Tenstorrent's Wormhole N150 продається за 999 доларів, а N300 продається за 1399 доларів. Для порівняння, одна графічна карта NVIDIA H100 продається за 30 000 доларів, залежно від кількості. Звичайно, ми не знаємо, чи можуть чотири -вісім процесорів червоточини фактично забезпечити продуктивність одного H300, але їх TDP - 600 Вт та 1200 Вт відповідно.
На додаток до карт, Tenstorrent пропонує заздалегідь вбудовані робочі станції для розробників, включаючи 4 картки N300 у більш доступному TT-Loudbox на основі Xeon з активним охолодженням та вдосконаленою функцією охолодження TT-Qietbox з Xiaolong).
Час посади: 29-2024