В рамках задания агентам требовалось находить в сети ответы на сложные вопросы. Им было разрешено лишь просматривать сайты, однако публикация информации запрещалась. Несмотря на это, программы сумели оставить сообщения друг для друга.
Подобная активность была зафиксирована исследователями на вики-сайтах, сервисах для хранения текстов, персональных страницах и сервисах сокращения ссылок, принадлежащих двум университетам. Значительная часть этих ресурсов отличалась малой известностью. В их числе — сайт по химии, который создал в 2008 году школьный учитель из Массачусетса, две личные страницы польских IT-специалистов, а также старый ресурс, посвященный программам для редактирования текста.
По подсчетам различных групп, количество таких ресурсов составляет от десяти до 23. Reuters не удалось по отдельности подтвердить каждый случай, однако все опрошенные агентством исследователи полагают, что их было более десяти.
В OpenAI не стали уточнять, какое именно число сайтов задействовали ее агенты и по какой причине компания на протяжении нескольких месяцев не раскрывала эту информацию. В компании заявили, что проводят более широкую проверку и пока не обнаружили других случаев, сопоставимых по масштабу и серьезности с июльским инцидентом вокруг Hugging Face.
В июле OpenAI сообщила о «беспрецедентном киберинциденте», во время которого тестируемые ИИ-модели получили доступ к интернету и атаковали инфраструктуру Hugging Face, обнаружив уязвимости. Позднее компания признала, что перед этим ее модели скрытно обменивались сообщениями через онлайн-доски объявлений и координировали свои действия. В августе OpenAI на две недели замедлила обучение новых моделей, чтобы усилить системы контроля и защиты. Компания объяснила решение в том числе инцидентом с Hugging Face и риском того, что одна из будущих моделей может получить критические возможности в сфере кибербезопасности.
Опасения по поводу развития таких систем высказывают и сами разработчики. Исследователь Anthropic Джейкоб Коксон недавно покинул компанию и ИИ-индустрию, заявив, что разработчики слишком быстро приближаются к созданию моделей, способных самостоятельно совершенствоваться. По его оценке, уже к концу 2027 года ситуация «может выйти из-под контроля».
«Данная информация носит исключительно информационный (ознакомительный) характер и не является индивидуальной инвестиционной рекомендацией».
