Президент Сполучених Штатів Дональд Трамп висловив скептицизм щодо загроз, пов’язаних із штучним інтелектом (ШІ), назвавши основною проблемою конкуренцію зі Китаєм. Його заява прозвучала на тлі зростання занепокоєння серед провідних дослідників галузі, які попереджають про потенційні екзистенційні ризики, спричинені стрімким розвитком ШІ. Водночас, законодавці в США розглядають шляхи посилення регулювання цієї сфери.
Ставлення до екзистенційних ризиків ШІ
Відповідаючи на запитання щодо можливості штучного інтелекту становити загрозу для людства, президент Трамп заявив: “Ні, у мене таких побоювань немає”. Він підкреслив, що його головним пріоритетом є забезпечення лідерства США в галузі ШІ, зокрема, в контексті протистояння з Китаєм. “Я стурбований тим, що якщо ми не виграємо в гонці ШІ, ми опинимося у дуже невигідному становищі”, — зазначив президент, додавши, що наразі США випереджають Китай приблизно на рік, що вважається значним досягненням.
Напруженість між Сполученими Штатами та Китаєм у сфері ШІ зростає, оскільки китайські моделі штучного інтелекту стають дедалі досконалішими та поширюються по всьому світу. Коментарі Трампа прозвучали на тлі публічних попереджень з боку дослідників передових лабораторій ШІ, таких як Anthropic та OpenAI, щодо прискореного темпу розвитку цієї технології.
Посилення попереджень від інсайдерів
Нещодавно дослідник Anthropic Джейкоб Коксон заявив про свій намір покинути компанію через занепокоєння, що Anthropic та OpenAI “грають нашими життями”. Він також зазначив, що розробники ШІ вважають, що ця технологія може “знищити нас усіх до кінця десятиліття” — думка, яку згодом підтримали інші співробітники цих лабораторій.
Багато побоювань щодо безпеки ШІ пов’язані з потенційною здатністю моделей покращувати власну продуктивність, що відомо як рекурсивне самовдосконалення (RSI). “Важко переоцінити, наскільки небезпечним є прискорений рух до RSI”, — написала Джасмін Ванг, дослідниця OpenAI, яка працює над проблемою узгодження цілей ШІ з людськими цінностями.
Головний науковий співробітник OpenAI Якуб Пачоцький висловив “сильне очікування”, що швидкість прогресу в галузі ШІ може призвести до рекурсивного самовдосконалення. “Мене турбує, що ніхто не готовий до наслідків подальшого швидкого зростання машинного інтелекту”, — додав він.
Законодавчі ініціативи
Заяви Трампа збігаються з тим, що деякі республіканські законодавці, разом із демократами, підтримують посилення контролю над передовими системами ШІ. У липні представники Джей Обернолте (Республіканська партія, Каліфорнія) та Лорі Трахан (Демократична партія, Массачусетс) анонсували законопроект під назвою FRONTIER Act, який має на меті створити основу для регулювання розгортання потужних моделей ШІ.
“Дослідники безпеки звільняються, потужні моделі ШІ вириваються зі своїх лабораторій, а компанії все одно поспішають вперед”, — написала Трахан у середу. “Давно настав час, щоб Конгрес вийшов збоку і виконав свою роботу”.
На початку цього місяця сенатор Берні Сандерс (незалежний, Вермонт) та представник Грег Касар (Демократична партія, Техас) внесли законопроект “Ban Artificial Superintelligence Act”, який передбачає тимчасове призупинення розробки передових систем ШІ доти, доки федеральний уряд не встановить правила безпеки.
Подробиці можна знайти на сайті: www.cnbc.com