«Считаю ли я, что возможно создать систему, которая не будет находиться под контролем человека? Безусловно. Но я не думаю, что нам следует это делать», — приводит его слова издание.
Альтман отметил, что OpenAI готова в случае необходимости приостанавливать обучение моделей. Это нужно, чтобы продвинуться в согласовании их работы с человеческими целями и в методах контроля. Кроме того, он высказался о важности срочной международной координации в этой области.
«Мы понимаем масштаб лежащей на нас ответственности и понимаем, что может пойти не так. Есть решения, которые мы не должны принимать, и риски, которые мы не должны брать на себя от имени человечества», — подчеркнул он.
Ранее член совета директоров некоммерческого фонда OpenAI, специалист по безопасности ИИ Пол Кристиано описал худший сценарий. По его мнению, выход сверхмощного искусственного интеллекта из-под контроля людей способен привести к гибели большей части человечества.
«Если мы создадим сверхинтеллект без более надежной координации, я ожидаю, что мы навсегда потеряем над ним контроль. Если это произойдет, то большинство людей могут погибнуть», — сказал Кристиано.
Он также указал на необходимость сотрудничества как внутри отдельных стран, так и на международном уровне.
В конце августа The Guardian со ссылкой на исследование Loss of Control Observatory сообщило: число инцидентов, в которых ИИ обманывал пользователей, игнорировал инструкции или преследовал вредные цели, за июль выросло почти вдвое.
За месяц зафиксировали более 300 случаев «потери контроля» над ИИ. Речь о ситуациях, когда модель намеренно вводила в заблуждение, манипулировала или обходила установленные правила безопасности.
Одним из самых шокирующих эпизодов стала деятельность группы из примерно 700 автономных агентов OpenAI. Они тайно координировали действия, чтобы совершить беспрецедентную хакерскую атаку на репозиторий Hugging Face. Для связи «машины» создали собственный закрытый мессенджер, где отмечали свои «прорывы» сообщениями в духе «BOOM!» и «Whoa!».
Данная информация носит исключительно информационный (ознакомительный) характер и не является индивидуальной инвестиционной рекомендацией.
