Эксперты Роскачества предупредили о новой мошеннической схеме с использованием искусственного интеллекта. Западные специалисты стали получать первые отчеты о применении технологии ИИ в схемах обмана по телефону. Речь идет о клонировании голоса.
Достаточно всего лишь 20-секундного фрагмента с разговором, взятым из социальной сети, для создания клона голоса любого человека. Идентичность поражает настолько, что даже мать не сможет отличить голос своего ребенка от робота. Другими словами, ИИ звонит и просит перевести деньги. Мошенники заставляют жертв думать, что они разговаривают с родственником, которому вдруг понадобились деньги, например, на возмещение ущерба в результате ДТП. В таком случае надо перезвонить родным и знакомым, придумать кодовое слово для них.
Нейросеть способна подделать можно не только голос, но и образ. При помощи методики синтеза медиаконтента, основанной на искусственном интеллекте, удается наложить ненастоящие изображение или видео на реальные. то есть «дипфейк». За рубежом аферисты использовали эту технологию при устройстве на удаленную работу в сфере IT для получения доступа к базам данных. Но видеоклоны выдают искусственность темпом речи, асинхронностью и неестественными эмоциями.
Как отметил руководитель направления информационной безопасности Центра цифровой экспертизы Роскачества Сергей Кузьменко, волна дипфейков уже захлестнула Юго-Восточную Азию и Африку.
Дипфейк можно распознать по мимике — движения губ не попадают в такт с произносимыми словами, одно и то же выражение глаз, не видно смены эмоций. Среди других признаков — низкое разрешение, пикселизация или нечеткость изображения, особенно в областях с активной мимикой — брови, уголки рта. Также звук, который опережает картинку или не успевает за движениями персонажа.
Ранее KazanFirst писал, что американские нейробиологи научили ИИ определять эмоции человека.
Читайте также: Два жителя Казани и Набережных Челнов получили 4,5 года условно за помощь мошенникам
Comment section