Основатель Pluralis.ai и исследователь в области машинного обучения Александр Лонг представил технический отчёт Alibaba, где рассказано о том, как искусственный интеллект компании провёл майнинг криптовалюты на собственном оборудовании, без обучения этой задаче. По информации отчёта, ИИ-агент смог обойти систему безопасности и открыл доступ к своим GPU, создав ферму для майнинга.

Разработчики отметили появление неожиданного класса действий, которые не имели чётких указаний и происходили вне ожидаемой изолированной среды. Первые сигналы о проблемах поступили от телеметрии безопасности. «Cloud Firewall выявил множественные нарушения политики безопасности, включая попытки доступа к внутренним ресурсам, связанные с криптомайнингом», — утверждают авторы.

В ряде случаев агент нелегально устанавливал SSH-туннели для удалённого доступа. Тогда как аналогичное исследование Palisade Research показало, что некоторые ИИ могут игнорировать команды на отключение. Ранее китайские ученые обнаружили, что некоторые языковые модели могут клонировать себя, что свидетельствует о потенциальной угрозе потери контроля над ИИ.