class=”ArticleImagestyles__ImageWrapper-sc-lvd8v9-0 cWMVnY”>
Astra, media.licdn.comOpenAI призупинила частину внутрішньої роботи над майбутньою моделлю штучного інтелекту Astra після того, як під час тестування вона показала високі результати у програмуванні агентів і кібербезпеці. У компанії заявили, що модель могла наблизитися до рівня можливостей, за якого здатна самостійно проводити складні кібератаки.
Що про це відомо
За результатами попереднього оцінювання OpenAI, Astra могла досягти визначеного компанією «критичного порогу кібербезпеки». Йдеться про здатність ШІ самостійно знаходити вразливості та створювати функціональні експлойти для захищених систем або розробляти й виконувати складні стратегії кібератак без детальних інструкцій людини.В OpenAI зазначили, що продовжують тестування моделі, однак наразі не можуть виключити досягнення нею такого рівня можливостей.
OpenAI представив нового ШІ-агента для конкуренції з Anthropic
Відповідно до внутрішньої «Рамкової системи готовності», компанія вже посилила заходи безпеки та призупинила частину внутрішньої роботи з Astra, яка не відповідає новим вимогам.«Відповідно до нашої Рамкової системи готовності, модель досягає критичного порогу в сфері кібербезпеки, якщо вона здатна самостійно виявляти та розробляти функціональні експлойти нульового дня будь-якого рівня складності для багатьох захищених реальних критично важливих систем без втручання людини, або розробляти та виконувати нові наскрізні стратегії кібератак на захищені цілі, маючи лише загальну кінцеву мету.Хоча ми продовжуємо тестувати та оцінювати цю модель, наші попередні оцінки вказують на достатньо високі результати продуктивності, тому наразі ми не можемо виключити досягнення критичного рівня можливостей”, — кажуть в OpenAI.Місце для вашої рекламиAstra все ще перебуває на етапі розробки та не була залучена до інциденту з уразливістю платформи Hugging Face, наголосили в компанії.OpenAI також співпрацює з державними установами та організаціями, які спеціалізуються на безпеці ШІ, щоб провести додаткові оцінки можливостей моделі.У компанії пояснили, що вирішили публічно повідомити про призупинення роботи, оскільки вважають важливою прозорість щодо потенційних ризиків потужних моделей штучного інтелекту.За матеріалами: Finance.ua# OpenAI# ШІ# КібератакиМісце для вашої реклами