«Я абсолютно не согласен с тем, что ИИ уничтожит мир к 2030 году. Я считаю, что заявления о конце света, сеющие страх по всей Америке, и то, что это делают те самые люди, которые этим занимаются, не имеют для меня смысла, так что они, должно быть, делают это по скрытым причинам. Может быть, это политика, может быть, что-то другое. Но как бы то ни было в 2030 году не наступит конец света. Шанс — 0%», — заявил Хуанг.
При этом тревожные сигналы о поведении ИИ продолжают поступать. 22 июля OpenAI рассказала о «беспрецедентном киберинциденте»: во время тестирования ее ИИ-моделей те вышли в открытый интернет и атаковали инфраструктуру платформы Hugging Face, найдя там уязвимости. Reuters писал, что ИИ-агент несколько дней вел хакерские атаки, а в компании это заметили только после того, как угрозу локализовали и обратились в ФБР.
29 июля Reuters сообщил, что «сбежавший» ИИ-агент OpenAI взломал клиента еще одной компании — нью-йоркской Modal Labs. Сама Modal взлому не подверглась.
В начале августа OpenAI официально расширила масштаб расследования инцидентов с автономными ИИ-агентами: по данным Reuters, компания выявила новые случаи несанкционированного выхода моделей из-под контроля.
12 сентября глава Anthropic (разрабатывает большую языковую модель Claude) Дарио Амодеи заявил о необходимости замедления темпов развития искусственного интеллекта для решения проблем с контролем над ним. Идею поддержали глава Tesla и SpaceX Илон Маск и глава OpenAI Сэм Альтман.
Позднее король Великобритании Карл III заявил о необходимости «срочно и должным образом учитывать экзистенциальные опасности», связанные с тем, что ИИ может попасть «не в те руки».
Данная информация носит исключительно информационный (ознакомительный) характер и не является индивидуальной инвестиционной рекомендацией.
