Генеральний директор OpenAI Сем Альтман заявив, що компанія не планує виходити на публічний ринок цього року. Це рішення зумовлене зростанням занепокоєння щодо безпеки штучного інтелекту (ШІ). Цей крок відтерміновує одну з найбільш очікуваних IPO в історії щонайменше до 2027 року та є найчіткішим сигналом того, що посилення занепокоєння щодо все більш потужного ШІ починає змінювати бізнес-плани галузі.
Раніше, наприкінці минулого місяця, фінансовий директор OpenAI Сара Фрайер повідомляла співробітникам про ймовірний вихід компанії на публічний ринок у 2027 році або навіть раніше, якщо “наш бізнес продовжуватиме зростати”.
Заяви Альтмана прозвучали того ж дня, коли генеральний директор Anthropic Даріо Амодеї опублікував статтю із закликом до компаній, що займаються розробкою ШІ, сповільнити темпи вдосконалення своїх найсучасніших моделей. Альтман та Ілон Маск швидко підтримали цю пропозицію у соціальних мережах, що є незвичайною одностайністю серед трьох затятих конкурентів.
У своїй статті Амодеї запропонував триетапний план, спрямований на уповільнення темпів розробки без “відмови від комерційної переваги чи лідерства Сполучених Штатів у сфері ШІ”. Anthropic активно готується до IPO, яке, як очікується, стане історичним, хоча компанія офіційно не розкривала терміни свого дебюту.
Раптове зближення позицій Альтмана, Амодеї та Маска демонструє, наскільки швидко занепокоєння щодо ШІ перемістилося з периферії до центру галузі, і тепер починає конфліктувати з її величезними комерційними амбіціями.
Стаття закликає компанії, що займаються розробкою штучного інтелекту, контролювати темпи вдосконалення можливостей моделей. Цей крок відбувається на тлі зростаючого хору дослідників, які закликають до скоординованого уповільнення.
Амодеї запропонував триетапний план, який, за його словами, допоможе стримати темпи розробки без “відмови від комерційної переваги чи лідерства Сполучених Штатів у сфері ШІ”, хоча він і визнав, що деякі кроки можуть бути легше досягти, ніж інші.
Тиск зростає у Вашингтоні, де законодавці обох партій закликають до нових заходів безпеки для ШІ та вимагають від керівників технологічних компаній свідчити після серії кібератак, здійснених без прямого контролю людини.
Окрім столиці, представники влади на рівні штатів та місцевого самоврядування також стикаються зі зростаючим обуренням проти дата-центрів ШІ та їхніх вимог до електроенергії, води та громад.
Занепокоєння щодо можливостей ШІ
Амодеї зазначив, що Anthropic “одноосібно” зобов’язалася виконати перший крок плану, який надає незалежним оцінювачам доступ до компанії на рівні співробітників для перевірки практик безпеки та звітування про інциденти. Другий крок заохочує провідні компанії з розробки ШІ у демократичних країнах координувати свої дії та встановлювати спільні стандарти безпеки, а третій закликає до співпраці між демократичними та авторитарними урядами.
“Щоб бути зрозумілим, уповільнення темпів не означає зупинку навчання моделей чи технічного прогресу, але це означає забезпечення того, щоб компанії виділяли достатньо часу для узгодження та захисту своїх моделей, а незалежні оцінювачі підтверджували це”, – написав Амодеї.
Стаття з’явилася після того, як дослідник Anthropic викликав бурю у соціальних мережах, оголосивши про звільнення з компанії. Джейкоб Коксон, який також працював дослідником у OpenAI, заявив, що пішов з роботи через занепокоєння, що Anthropic та OpenAI “грають з нашим життям”. Він зазначив, що люди, які створюють ШІ, “щиро вірять, що це може вбити нас усіх до кінця десятиліття”.
Хоча такі думки є екстремальними, занепокоєння щодо потенціалу ШІ спричинити вимирання людства або інші катастрофічні події не є новим у колах дослідників ШІ. Наприклад, у 2023 році видатні дослідники та керівники компаній, що займаються ШІ, зокрема Амодеї та Альтман з OpenAI, підписали заяву, в якій йшлося: “Зменшення ризику вимирання від ШІ має бути глобальним пріоритетом поряд з іншими ризиками масштабу суспільства, такими як пандемії та ядерна війна”.
Амодеї заявив у суботу, що хоча ідея призупинення або уповільнення розробки ШІ обговорювалася з 2023 року, тоді це “мало сенс”, оскільки моделі ще не були достатньо потужними, щоб діяти у реальному світі, і не мали здатності до “значного обману, маніпуляцій, шахрайства чи кібератак”.
- Apple презентувала перші складні iPhone та нові серії годинників
- DefenseTech, що підтримується Andreessen та Thiel, відкрила американський завод з виробництва ракет
- Дослідник Anthropic: ШІ має більше 10% шансів “вбити всіх людей”
- Як керуючий хедж-фондом побудував свою компанію, повністю засновану на агентах ШІ
“Я продовжую вірити, що ШІ може значно покращити якість людського життя. Моє бажання досягти цих переваг не зменшується”, – написав Амодеї. “Але переваги будуть досягнуті лише тоді, коли ми побудуємо технологію правильно, і – якщо ми добре використаємо здобутий час – варто докласти надзвичайно обережних зусиль, щоб зробити це правильно”.
Після публікації своєї статті Амодеї підкреслив, що пошук правильної швидкості розробки буде першочерговим завданням. Надмірне уповільнення може надати перевагу авторитарним урядам, сказав він в інтерв’ю CNN.
“Якщо ми будемо надто повільними, я все ще вважаю, що неправильні люди будуть керувати технологією. І це, знову ж таки, значно підвищить ймовірність того, що щось піде не так”, – зазначив він.
Сара Хек, керівник відділу державної політики Anthropic, високо оцінила статтю та закликала законодавців зробити свій внесок у створення запобіжників.
“Уряд має відігравати критично важливу роль, зокрема, блокуючи продаж найсучасніших чіпів ворожим країнам, таким як Китай, приймаючи національний закон, що вимагає тестування передових моделей, з правом блокувати найсучасніші моделі, які виявляться небезпечними”, – заявила вона у дописі на X.
Підтримка добровільного уповільнення
Стаття Амодеї отримала схвальні відгуки від багатьох дослідників та керівників галузі в суботу, включаючи Альтмана. У дописі на X Альтман заявив, що погоджується з Амодеї щодо необхідності уповільнення розробки передових можливостей ШІ. Альтман зазначив, що ця тема була “основним предметом” обговорення в OpenAI останніми тижнями.
“Зобов’язання надати незалежним оцінювачам доступ на рівні співробітників – це чудова ідея, і ми зробимо те саме”, – сказав Альтман. “Незабаром ми поділимося додатковою інформацією”.
Раніше цього місяця головний науковий співробітник OpenAI, Якуб Пачоцький, опублікував блог-пост, в якому попередив, що жодна компанія, що займається ШІ, не “розв’язала проблему узгодженості та моніторингу достатньою мірою, щоб продовжувати відповідально масштабуватися на максимальній швидкості ще довго”. В індустрії ШІ, узгодженість (alignment) – це робота розробників ШІ, спрямована на забезпечення того, щоб система діяла відповідно до людських цінностей та намірів.
Пачоцький висловив очікування, що добровільні уповільнення стануть “звичним явищем до встановлення спільних стандартів безпеки”.
Маск також висловив підтримку уповільненню в суботу, написавши в дописі на X, що “Даріо має рацію”.
Маск, чия конкурентна стартап-компанія xAI була придбана його ракетною компанією SpaceX раніше цього року, раніше був затятим критиком Anthropic. Він стверджував, що компанія “ненавидить західну цивілізацію” і “приречена стати протилежністю свого імені”, тобто людиноненависницькою. Але після того, як Anthropic оголосила про значну угоду про обчислювальні потужності з SpaceX у травні, Маск значною мірою змінив свою позицію.
“Усі, кого я зустрів, були висококваліфікованими і дуже піклувалися про те, щоб робити правильно”, – написав тоді Маск. “Ніхто не викликав мого “детектора зла””.
Амодеї написав у суботу, що, на його думку, ШІ все ще може “драматично підвищити якість людського життя”, але ризики слід сприймати серйозно.
“Я вважаю, що якщо уповільнення дасть нам хоча б додатковий рік-два до того, як моделі досягнуть критичних рівнів можливостей, і ми використаємо цей час для просування узгодженості, ми зможемо значно зменшити ризик того, що щось піде серйозно не так”, – сказав він.
ДИВІТЬСЯ: Дослідник Anthropic AI: компанія “грає з нашим життям”
дивитись заразВІДЕО1:5701:57
Дослідник Anthropic AI: компанія “грає з нашим життям”
Виберіть CNBC як джерело новин на Google і ніколи не пропускайте найважливіше з найнадійнішого бізнес-джерела.
Інформація підготовлена на основі матеріалів: www.cnbc.com