Группа хакеров под названием vmfunc раскрыла алгоритм работы сервиса Persona, предназначенного для подтверждения возраста. Этот сервис активно используют такие компании, как OpenAI, Roblox, Reddit и LinkedIn. Хакеры не прибегали к взлому: они нашли общедоступный сервер Google Cloud, на котором размещён сервис openai-watchlistdb.withpersona.com.

Чтобы подтвердить возраст, пользователю нужно загрузить селфи, после чего Persona распознает лицо и проверяет его по 14 категориям, включая негативные упоминания в СМИ, связанные с терроризмом и шпионажем. После идентификации Persona проводит дополнительные 269 проверок, включая поиск совпадений с лицами других людей в интернете и государственных источниках.

Кроме распознавания лиц, система проверяет санкционные списки и финансовые данные, в том числе активность на криптовалютном рынке. При выявлении подозрительной информации данные могут быть переданы в финансовые органы США и Канады.

Хакеры отметили, что нет доказательств автоматической передачи данных властям США при проверке возраста в ChatGPT, однако совместная работа сервисов Persona для OpenAI и правительства вызывает опасения. Генеральный директор Persona Рик Сонг подтвердил отсутствие взлома и пообещал ответить на вопросы хакеров. OpenAI пока не комментирует ситуацию, но Discord, который недавно начал использовать Persona, решил прекратить сотрудничество с этой компанией.