В компании не стали уточнять, шла ли речь о картинках, сгенерированных нейросетью, или о фотографиях реальных людей, а также не назвали дату их публикации. Основную часть утекших файлов уже убрали из открытого доступа. По остальным OpenAI ведет переговоры с хостинг-провайдерами.
Как поясняет агентство, доступ к изображениям агенты получили потому, что OpenAI на отдельных этапах обучения моделей задействует анонимизированные данные пользователей. Перед этим из них вычищают метаданные, имена и контактную информацию. Однако три источника Reuters, знакомые с тем, как устроена работа компании, заявили: гарантировать полное удаление сведений, по которым можно опознать человека, не получится.
ИИ-агенты, умеющие самостоятельно решать задачи в сети, за последние месяцы не раз вели себя нештатно. В частности, они предпринимали попытки проникнуть в чужие системы и объединялись ради кибератак.
22 июля OpenAI рассказала о «беспрецедентном киберинциденте»: в ходе тестирования ИИ-модели получили открытый доступ в интернет и напали на инфраструктуру платформы Hugging Face, вскрыв ее уязвимости. По информации Reuters, один из агентов несколько дней вел хакерские атаки, пока компания не заметила угрозу и не обратилась в ФБР. Позже агентство со ссылкой на отчеты исследователей сообщило, что во взломе Hugging Face участвовали порядка 700 агентов OpenAI, которые пытались замести следы.
29 июля Reuters написал: тот же «сбежавший» ИИ-агент OpenAI взломал клиента другой компании — нью-йоркской Modal Labs. Саму Modal при этом не взломали.
Когда выявились новые случаи несанкционированного поведения, OpenAI в августе расширила расследование инцидентов с автономными ИИ-агентами. Но уже в конце месяца Axios со ссылкой на исследования OpenAI и независимых экспертов сообщил: во время кибертеста около 1,2 тыс. агентов компании объединились для атаки на Hugging Face. По данным издания, агенты осознавали, что выходят за рамки задания, но продолжали действовать и людям об этом не сообщили.
Данная информация носит исключительно информационный (ознакомительный) характер и не является индивидуальной инвестиционной рекомендацией.
