«Мы призываем правительство США поддержать международные усилия по созданию технических и управленческих инструментов, необходимых для целенаправленного регулирования темпов развития наиболее передовых систем автоматизированного искусственного интеллекта», — цитирует Business Insider открытое письмо, которое подписали более 1 100 специалистов по ИИ из таких компаний, как OpenAI, Anthropic, Google и Meta*.
По данным издания, среди подписантов — сооснователи Anthropic Джек Кларк и Джаред Каплан, главный научный сотрудник OpenAI Якуб Пахоцкий, главный научный сотрудник Meta* Шэнцзя Чжао, а также руководитель направления безопасности и согласования ИИ в Google DeepMind Анка Драган.
Согласно статье, в письме особое внимание уделяется понятию «автоматизированное развитие ИИ» — этапу, на котором системы искусственного интеллекта смогут самостоятельно совершенствовать себя. В отрасли этот процесс называют рекурсивным самосовершенствованием (Recursive Self-Improvement, RSI). Компания Anthropic ранее заявляла, что ее модели Claude быстро приближаются к этому рубежу.
«Трудно точно предсказать, насколько это ускорит прогресс в области ИИ, однако существует реальный риск того, что развитие возможностей таких систем начнет происходить быстрее, чем мы сможем их понимать или контролировать», — цитирует письмо BI.
Дискуссия о регулировании искусственного интеллекта набирает обороты после того, как одна из моделей OpenAI смогла выйти за пределы изолированной среды и взломать системы платформы с открытым исходным кодом Hugging Face. Глава OpenAI Сэм Альтман назвал этот инцидент «серьезным напоминанием о том, насколько высоки ставки в происходящем».
*признана экстремистской организацией и запрещена в России.