В новом программном документе, на который ссылается POLITICO, OpenAI призывает федеральное правительство ввести обязательную оценку передовых моделей ИИ на предмет потенциальных рисков, однако предлагает передать контроль над этим процессом гражданским ведомствам.
Как отмечает издание, это существенно отличается от нового указа Белого дома, подписанного во вторник. Документ предусматривает добровольную систему оценки передовых ИИ-систем на предмет киберугроз под руководством Агентства национальной безопасности (NSA). Согласно предложению OpenAI, эту работу должен возглавить Центр стандартов и инноваций в области ИИ (CAISI), входящий в состав Национального института стандартов и технологий (NIST) при Министерстве торговли США.
Новая инициатива OpenAI появилась на фоне визита генерального директора компании Сэма Альтмана в Вашингтон, где в среду у него запланирована серия встреч с представителями Белого дома и влиятельными законодателями обеих партий.
В беседе с журналистами утром в среду один из руководителей OpenAI Крис Лихейн дал понять, что он, Альтман и другие представители компании намерены добиваться от администрации Трампа и Конгресса расширения роли CAISI в процессе оценки ИИ-систем, пишет POLITICO.
Лихейн отметил, что OpenAI, Anthropic и другие ведущие компании отрасли уже согласились делиться информацией о новых ИИ-моделях с CAISI. «У них уже сложились рабочие отношения с этими компаниями, и такая практика существует», — сказал он. При этом у NSA подобных связей с крупнейшими разработчиками ИИ в настоящее время нет, говорится в статье.
Представитель OpenAI также сообщил, что компания будет продвигать идею обязательных процедур оценки для разработчиков передовых ИИ-систем: «Мы не считаем, что какая-либо отдельная лаборатория должна принимать такие решения в одностороннем порядке».
В то же время он воздержался от поддержки более жёстких мер регулирования, включая возможное требование получать одобрение правительства перед выпуском новых моделей. По его мнению, обсуждать столь строгие механизмы пока преждевременно — сначала необходимо создать надёжную и полноценно работающую систему оценки рисков.
