Пора задуматься об отключении систем ИИ, считает экс-глава Google

Бывший генеральный директор Google Эрик Шмидт предупредил, что, когда компьютерная система достигает точки, в которой она может самосовершенствоваться, следует «всерьез задуматься об ее отключении».

Марина Светлова
Автор Финансы Mail
Источник: РИА "Новости"

Многоцелевая гонка в сфере искусственного интеллекта далека от финишной черты, но всего за несколько лет границы этой области расширились в геометрической прогрессии, вызывая как благоговение, так и беспокойство, пишет Эйвери Лотц в статье для Axios.

«Я никогда не видел инноваций в таком масштабе», — признал Шмидт в программе ABC. Восхваляя «выдающееся достижение человечества», он вместе с тем предупредил о непредвиденных опасностях безудержного развития ИИ.

На его взгляд, когда система начинает «самосовершенствоваться», настает время подумать о том, чтобы «выдернуть вилку из розетки». На вопрос о том, может ли мощная система противостоять попыткам ее отключить, Шмидт ответил: «Теоретически лучше, чтобы кто-то держал руку на вилке».

В прошлом году Шмидт сказал, что компьютеры, принимающие собственные решения, могут появиться всего через два-четыре года. На ABC он подтвердил, что компьютерные системы смогут проводить собственные исследования в течение года или двух.

Среди поклонников и противников генеративного ИИ есть консенсус, что самые мощные модели могут работать с интеллектом аспиранта уже в следующем году.

Кроме того, Шмидт отметил, что Китай в последние полгода сделал «поразительный» рывок и догнал США в сфере технологий. По его мнению, «крайне важно, чтобы Америка выиграла эту гонку в глобальном масштабе и опередила Китай».

На вопрос о том, какие шаги он бы предпринял, если бы ему дали полный контроль над мировым ИИ, Шмидт ответил, что прежде всего он бы «обеспечил победу Запада», и подчеркнул необходимость финансирования, оборудования и рабочей силы.

Кроме того, он бы создал вторую ИИ-систему для мониторинга первой.

Люди не смогут контролировать искусственный интеллект, но ИИ-системы должны быть способны контролировать его.

Эрик Шмидт
бывший гендиректор Google

Данный материал основывается на переводе публикации зарубежного СМИ и не отражает позицию редакции проекта Финансы Mail