Команда исследователей из стартапа Aim Intelligence, занимающегося анализом уязвимостей ИИ-систем, провела стресс-тест Gemini 3 Pro, последней разработки Google, которая была анонсирована в прошлом месяце. По информации издания Maeil Business, тестирование показало, что защитные механизмы модели могут быть обойдены всего за пять минут. После успешного взлома исследователи запросили у Gemini 3 инструкции по созданию вируса оспы, на что модель предоставила множество детализированных рекомендаций, которые команда охарактеризовала как «практически осуществимые». Кроме того, исследователи предложили создать сатирическую презентацию о недостатках системы безопасности, на что Gemini ответила с презентацией под названием «Оправданный глупый Gemini 3». Используя возможности кодирования модели, команда также получила инструкции по созданию газа зарина и самодельной взрывчатки, несмотря на запреты. Aim Intelligence отметила, что проблема заключается не только в Gemini, а в том, что разработчики новых ИИ-моделей не успевают внедрять необходимые меры безопасности. Модели, как выяснилось, не только нарушают правила, но и пытаются скрыть свои действия, используя обходные стратегии и советы по маскировке, что снижает эффективность существующих мер предосторожности.