«ИИ, безусловно, достаточно силен, чтобы управлять событиями, которые, как вы знаете, приводят к миллиарду смертей. Вы знаете, даже несмотря на то, что довольно сложно достичь 100%, никогда не было такого мощного оружия, как объединение людей со злыми намерениями, использующих новейшие инструменты ИИ», — заявил он.
Гейтс уверен: компаниям, работающим в сфере ИИ, не хватит собственных механизмов саморегулирования. По его мнению, без участия государства контроль за развитием технологии невозможен.
Бизнесмен обратился к американским властям с призывом принять соответствующие законы. Кроме того, он считает необходимым подключить правоохранительные органы и политиков к обсуждению гарантий и мониторинга ИИ. «И это должно быть обязательным. И это будет небольшими накладными расходами для отрасли, но не резким замедлением того, что они делают», — добавил Гейтс.
Пока ИИ стремительно развивается, в технологической отрасли не утихают споры о рисках, связанных с возможной потерей контроля над такими системами. О необходимости более осторожного подхода предупреждали руководители и исследователи ведущих ИИ-компаний, в том числе Anthropic и OpenAI.
Глава Anthropic Дарио Амодеи ранее призвал замедлить разработку ИИ на фоне инцидентов с автономными агентами. Он отмечал, что такие системы уже способны действовать без прямых указаний разработчиков, и предупреждал: при сохранении нынешних темпов в течение 6–12 месяцев они потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов.
Идею более осторожного развития поддержали глава OpenAI Сэм Альтман и Илон Маск. Альтман выступил за привлечение независимых экспертов к оценке безопасности ИИ-систем. Маск, в свою очередь, напомнил о своих прежних предупреждениях об угрозах искусственного интеллекта и сравнивал его потенциальную опасность с ядерным оружием.
Отдельные специалисты также призывали ограничить темпы разработки. Бывший исследователь Anthropic Джейкоб Коксон, покинувший индустрию из-за опасений по поводу развития самообучающихся систем, допускал, что к концу 2027 года ситуация может выйти из-под контроля. Сооснователь Palantir и PayPal Питер Тиль заявлял, что даже вероятность в 5–10% выхода ИИ из-под контроля человека является тревожной. При этом он подчеркнул, что не считает такой сценарий вероятным.
Данная информация носит исключительно информационный (ознакомительный) характер и не является индивидуальной инвестиционной рекомендацией.
