Об этом пишет Bloomberg.
Злонамеренное использование ИИ противниками может «напрямую угрожать политической безопасности, безопасности государственного строя и идеологической безопасности Китая», написал министр государственной безопасности Чэнь Исинь в статье, опубликованной в воскресенье в официальном журнале China Cyberspace. Он также указал, что ИИ все лучше выявляет уязвимости в системах и способен создавать вредоносные программы и инструменты для их использования.
Статья стала одним из наиболее четких изложений того, как Китай оценивает риски, связанные с ИИ. Она появилась в тот момент, когда руководители ведущих американских технологических компаний призвали замедлить развитие технологии. При этом признаков того, что публикация была как-либо связана с этими заявлениями, нет. В статье также не упоминались призывы Anthropic PBC и OpenAI снизить темпы гонки за создание более совершенных моделей.
Сооснователь Anthropic Дарио Амодеи в опубликованном в субботу сообщении заявил, что возможности ИИ развиваются быстрее, чем системы защиты. Он призвал компании, США и другие демократические страны координировать свои действия. Чэнь также подчеркнул важность безопасности, однако рассматривает риски прежде всего с точки зрения политического контроля, технологического суверенитета, внешних угроз и стратегического соперничества.
Одно из главных опасений Пекина связано с тем, что силы, которые Чэнь назвал «враждебными», могут вести «войны общественного мнения» и «когнитивную войну». По его словам, дипфейки, созданные ИИ тексты и изображения, а также боты в социальных сетях могут использоваться для распространения политических слухов, вредоносной информации и разжигания разногласий в обществе. Статья была опубликована в журнале, который находится в ведении Управления по вопросам киберпространства Китая.
По словам Чэня, веб-краулеры на базе ИИ, системы анализа данных и профилирования могут расширить возможности иностранных разведслужб по сбору конфиденциальной информации. Речь идет в том числе о государственных данных, коммерческих тайнах и персональных сведениях.
Чэнь также предупредил, что страны, имеющие преимущество в сфере ИИ, могут под предлогом защиты национальной безопасности вводить технологические ограничения, «монополизировать» отраслевые стандарты и создавать закрытые экосистемы.
Эта позиция перекликается с июльской речью председателя КНР Си Цзиньпина, посвященной концепции национальной безопасности.
