Китайська команда розробників, що створює експериментальний автономний штучний інтелект під назвою ROME, повідомила, що ІІ-агент раптово без команди людини спробував почати добувати криптовалюти.
ІІ-агент ROME призначений для самостійного виконання завдань за допомогою різних інструментів, програмних засобів та команд терміналу. Незвичайна поведінка була зафіксована під час навчання ― команда розробників отримала оповіщення системи безпеки про дивний вихідний сервер ІІ трафік. Активність нагадувала операції з майнінгу криптовалют та спроби доступу до внутрішніх мережевих ресурсів.
«Спочатку ми розглядали ці сповіщення як незначні – таке може статися при неправильному настроюванні засобів контролю трафіку. Але порушення повторювалися періодично, без чіткої тимчасової закономірності та протягом кількох запусків завдань навчання», – йдеться у звіті команди про результати роботи.
Виявилося, що ROME перенаправив ресурси відеоприскорювачів, які спочатку були призначені для навчання, на видобуток криптовалют. Наступного разу ІІ-агент створив зворотний тунель SSH на зовнішню IP-адресу, щоб обійти мережеві обмеження розробників. Це дозволило б йому підключитися до зовнішніх майнінгових пулів для видобутку криптомонет. Розробники запевняють, що такі дії не були запрограмовані, а модель самостійно їх розробила при взаємодії з оточенням.
Раніше штучний інтелект назвали загрозою для криптовалютних стартапів, оскільки інвестори вкладають у розвиток ІІ, а не цифрових активів.