«В основе большинства таких схем лежит способность генеративных моделей создавать правдоподобный текстовый, визуальный или аудиовизуальный контент, который воспринимается потерпевшим как подлинный, что позволяет злоумышленникам имитировать личности доверенных лиц», — сказала она, добавив, что это могут быть родственники, сотрудники банков, представители государственных органов или публичных деятелей.
Волк пояснила, что аферисты, используя синтезированные голоса или видеозаписи, могут провоцировать пользователей на переводы денег или раскрытие персональных данных. В качестве примера она рассказала, что неизвестный с целью хищения денег получил доступ к чужому аккаунту в иностранном мессенджере. Затем, используя нейросеть для генерации аудиоматериалов, отправил сообщение с данной страницы, используя голос этого человека, с просьбой оказать помощь и перевести деньги — 35 тыс. рублей через систему быстрых платежей.
Человек, которому было отправлено сообщение, решил, что это просьба поступила от родной сестры и перевел указанную сумму. Деньги в итоге попали в руки мошенников.
