Чипи для ШІ: як Groq збирається кидати виклик Nvidia?
Мікрочипова компанія Groq нещодавно залучила $640 млн інвестицій і вже готова позмагатися зі значно більшими та досвідченішими конкурентами, запропонувавши ШІ-чипи власної розробки та виробництва
Як працюють топові благодійні фонди? Як меценати обирають, які соціальні проєкти підтримувати? Чим благодійність корисна для вашого бізнесу? Дізнайтеся відповіді 23 серпня на форумі «Майстри добра». Спікери – лідери «Повернись живим», Superhumans, Zagoriy Foundation, «Азову», МХП, ОККО. Долучайтеся!
Під час демонстрації в Осло для членів норвезького парламенту та керівників технокомпаній Джонатан Росс зіткнувся з непередбачуваною проблемою. Росс, 42-річний гендиректор мікрочипового стартапу Groq, саме показував надію компанії на пожвавлення інтересу до неї: ШІ-бот, який майже миттєво відповідає на запитання. Та з якихось причин швидкість бота трохи відставала від очікуваної. Росса це дещо вибило з колії, адже ця демонстрація була пітчингом європейського дата-центру з чипами від Groq в основі.
Проблема була у потоці нових користувачів. За день до презентації Росса завірусився твіт розробника компанії, в якому той нахвалював «блискавичного ШІ-бота». Цей пост заохотив величезну кількість нових користувачів перевірити це диво, що перевантажило сервери Groq. Це, звісно, проблема, але приємна.
Коли Росс заснував компанію вісім років тому, то планував розробляти ШІ-чипи спеціально для «inference», або «висновування». Цим терміном в індустрії позначають здатність ШІ наслідувати мислення людини, застосовуючи вивчені знання у нових ситуаціях. На практиці це дозволяє вашому смартфону визначати породу вашого пса за фото, яке він бачить вперше, або генератору зображень уявити Папу Франциска у куртці від Balenciaga. Ця здатність суттєво відрізняється від навчання величезних моделей, з якого й починається ШІ.
До виходу ChatGPT від OpenAI у світ наприкінці 2022 року, який спричинив ШІ-бум, попит на супершвидке «висновування» був обмежений, тому у Groq справи йшли кепсько.
«Groq багато разів був на порозі смерті, – розповідає Росс у лабораторії компанії в Каліфорнії, пригадавши час у 2019-му, коли у Groq грошей залишалося лише на місяць роботи. – Ми, мабуть, створили Groq трохи зарано.»
Але тепер, коли попит на обчислювальні потужності для ШІ-моделей настільки високий, що сприяє браку електроенергії по всьому світу, у Groq зʼявиться шанс засяяти. Компанія може або наробити галасу в індустрії, або стати привабливою покупкою для досвідчених виробників чипів.
Інвестиції та конкуренти
У понеділок, 5 серпня, компанія розповіла ексклюзивно Forbes, що залучила $640 млн у раунді фінансування Серії D за оцінки $2,8 млрд. Ще у 2021 році Groq оцінювали у $1,1 млрд. Цей раунд очолила BlackRock Private Equity Partners, а долучилися до неї Cisco Investments і Samsung Catalyst Fund.
Попит на потужні компʼютери став настільки величезним, що ринкова капіталізація Nvidia у 2023-му сягнула $3 трлн, а виторг – $60,9 млрд. Порівняно з нею показники Groq того ж року видаються невпевненими: продажі – $3,4 млн, а чистий збиток – $88,3 млн, згідно з фінансовими звітами, які переглянув Forbes.
Але через зростання інтересу до чипів компанії вона прогнозує дещо оптимістичні $100 млн продажів цьогоріч. Про це розповіло джерело Forbes, яке сумнівається, що Groq вдасться досягти цієї цифри. Сама компанія відмовилася коментувати всі ці показники та прогнози.
Очікується, що ринок ШІ-чипів сягне $1,1 трлн до 2027 року, а Росс вважає, що зможе відхопити шматок 80-відсоткової частки Nvidia на ринку, зосередившись на функції «висновування». Цьогоріч саме цей ринок сягне близько $39 млрд, а в наступні чотири роки – $60,7 млрд, згідно з даними дослідницької фірми IDC.
Компанії типу Groq розраховують на успіх, бо мікрочипи Nvidia не створювалися під ШІ. Коли гендиректор компанії Дженсен Хуанг вперше представив свої графічні процесори у 1999-му, вони розроблялися для відеоігор із графікою високої якості. Тільки за велінням долі вони виявилися відповідними для тренування ШІ. Groq і стартапи чипів нового покоління, серед яких Cerebras (оцінка $4 млрд) і SambaNova ($5,1 млрд), бачать у цьому свою нагоду.
Не лише стартапи хочуть скинути з вершини Nvidia. Amazon і Microsoft також розробляють власні ШІ-чипи. Мікросхеми Groq, які називаються мовними процесорами, настільки швидкі, що компанія вважає, що у неї є шанс на успіх. Потенційним інвесторам Groq розповідає, що її процесори вчетверо швидші, впʼятеро дешевші та втричі енергоефективніші, ніж графічні процесори Nvidia, якщо використовувати їх для висновування. Nvidia відмовилася це коментувати.
«Вони пропонують найшвидше висновування, ніж будь-хто на ринку, – каже Еміш Шах, співзасновник General Global Capital, яка неодноразово інвестувала у Groq.»
Здатність ШІ до висновування дає змогу генератору зображень уявити Папу Франциска у куртці від Balenciaga.
Groq почала продавати свої мікросхеми два роки тому, і з того часу залучила кілька важливих клієнтів. Argonne National Labs, федеральна дослідницька організація, чиє коріння сягає «Мангеттенського проєкту», використовує чипи компанії для вивчення ядерного синтезу. Aramco Digital, технологічна донька саудівської нафтової компанії, теж співпрацює з Groq.
У березні Groq запустила GroqCloud, де розробники можуть винайняти доступ до чипів без необхідності купувати їх. Щоб привабити користувачів, компанія запропонувала безплатний доступ – прийшло 70 000 людей. Сьогодні у платформи 350 000 користувачів і вони продовжують підписуватися.
30 липня компанія ввела плату за користування, а також найняла Стюарта Пенна, колишнього виконавчого директора Intel, на посаду головного операційного директора, щоб він масштабував виторг і операції. Пенн оптимістично налаштований з приводу зростання: більше чверті звернень клієнтів GroqCloud – це запити на оплату більшої обчислювальної потужності.
«Чипи Groq дуже потужні», – каже головний науковець Meta Янн Лекун. Він раніше викладав Россу компʼютерну науку в Нью-Йоркському університеті, а тепер приєднався до Groq як технічний радник.
Минулого місяця гендиректор Meta Марк Цукерберґ оголосив, що саме Groq стане постачальником чипів для розвитку «висновування» нової моделі Llama 3.1. Він назвав стартап «інноваційним».
Сумніви та виклики
Росс певний час працював у Google, де займався «тензорними процесорами», які оптимізовані для машинного навчання. Звідти він пішов у 2016-му, щоб заснувати Groq разом з іншим інженером з Google, Дуґом Вайтменом, який був першим гендиректором стартапу. Того року Groq провів раунд фінансування на $10 млн, який очолив венчурний фонд Social Capital. Втім після того залучення інвесторів все йшло важко. Вайтмен пішов за кілька років, і не відповів на прохання про коментар.
Скептиків майбутнього успіху Groq не бракує. Один венчурний капіталіст, який пропустив останній раунд фінансування компанії, назвав підхід Groq «свіжим», але він вважає, що інтелектуальну власність стартапу важко буде захищати у довгостроковій перспективі.
Мітеш Аґравал, голова хмарного відділу стартапу Lambda, що розвиває ШІ-інфраструктуру, сказав, що не збирається брати на озброєння чипи Groq чи ще чиїсь. «Важко зараз думати про щось, окрім Nvidia», – сказав він.
Інші ж ставлять під сумнів те, наскільки економними будуть витрати на масштабне виробництво чипів Groq.
Росс знає, що попереду на нього чекає непростий шлях. «Ми ніби новачки року. Нам ще дуже далеко до Nvidia, але всі слідкують за тим, що ми робимо, і чекають на наш наступний крок», – каже Росс.
