Уже известны случаи, когда подделывали голос человека и даже внешность. 15 миллионов звонков в день совершали телефонные мошенники в России в апреле, почти в два раза больше чем в прошлом году. Мошенники могут попытаться с полученной записью голоса обратиться в банк, чтобы от имени другого клиента совершить различные финансовые операции.
Мошенники имитируют голос родственников с помощью искусственного интеллекта
Москва 24 6 892 подписчика Подписаться С помощью искусственного интеллекта мошенники научились создавать поддельные видео- и аудиодипфейки. Так, школьница отдала 275 тысяч рублей мошенникам, которые сгенерировали голос ее бабушки. Подобные файлы злоумышленники создают и с известными личностями, где те рекламируют сомнительные сайты и услуги.
Например, у родителей действительно может быть непутевый сын, который попадает в плохие истории. За счет стресса и доверчивости различить тонкости в голосе непросто, — поясняет специалист. За борьбу с подделками решили взяться на государственном уровне Как отмечает Александров, сегодня круг потенциально успешных атак мошенников расширяется за счет того, что голос, имитированный ИИ, действительно стал похож на оригинал, и в зоне риска находятся люди, которые знают о подобных мошеннических атаках, но не в курсе применения современных технологий в сфере копирования голоса.
Как не стать жертвой мошенника Для того чтобы создать голосовой дипфейк, имитирующий речь конкретного человека, злоумышленникам нужны образцы его голоса. Как говорит главный эксперт «Лаборатории Касперского» Сергей Голованов, при наличии нескольких образцов голоса мошенники могут с помощью нейросети создать аудиозапись с необходимым им содержанием. Однако в режиме реального времени создавать подобную запись не получится, — рассказывает эксперт. Образцы голоса потенциальной жертвы для создания дипфейков злоумышленники могут добывать разными путями. Как отмечает Александр Самсонов, мошенникам помогают публичные аудио- и видеозаписи в соцсетях, а также утечки биометрических данных.
Кроме того, они могут просто позвонить человеку по телефону и записать его голос на диктофон. Поэтому, чтобы защититься от них, очень важно беречь личную голосовую информацию. Также следует соблюдать конфиденциальность в соцсетях и мессенджерах, чтобы ограничить возможность получения голосовых данных третьими лицами, — говорит специалист.
Даже статистически получается так, что 95 процентов звонков — это мошенники. Поэтому не стоит как-то из-за этого сильно переживать, а просто сбросить телефонный звонок и перезвонить в ту организацию, сотрудником которой представлялся звонящий. Если это правоохранительные органы, то нужно звонить в полицию", — разъяснил собеседник Москвы 24. Также эксперт предостерег от активного общения с мошенниками и их разоблачения. Даже знакомый с преступными схемами человек может попасться на удочку, уверен Ульянов. Мошенники — люди достаточно опытные, скорее всего, они обзвонили не одну тысячу потенциальных жертв, простыми вопросами их не ошарашишь. Обычно у них есть четкие легенды, и они точно знают, что ответить.
Более того, истории готовятся другими людьми, которые более опытны в этих вещах, — чаще всего психологами. Владимир Ульянов руководитель аналитического центра Zecurion Эксперт в области информационной безопасности Александр Власов в разговоре с Москвой 24 посоветовал получше следить за разговорами коллег и друзей, чтобы быстро узнавать их манеру голоса. Поэтому в таких случаях нужно следить за своими знакомыми и друзьями, чтобы понимать, какими они выражениями и словечками пользуются в разговоре", — пояснил он.
Хотя это — стопроцентный фейк.
От массового применения нового типа интернет-попрошайничества пока оберегают сами технологии. На создание копии голоса нейросети сейчас нужно много времени. Ну и также стоит понимать, что конечный результат тоже не всегда идеален, приходится что-то обрабатывать", — рассказал Симонян. Подделку голоса можно отличить как раз по чрезмерной обработке.
Если в записи сильно шумит ветер, громко едут машины, лают собаки — стоит насторожиться. Но главное: голос нейросети все равно звучит немного механически. Понять это можно, только если вслушаться. Вот только мошенники часто берут жертв на испуг — имитируют ситуации, когда деньги нужны срочно.
Запись голоса они могут получить даже у самого осторожного человека, просто позвонив по телефону с каким-нибудь опросом.
Мошенники придумали новую схему развода с подменой голоса. Будьте бдительны
| Украденные голоса: мошенники осваивают новый способ обмана россиян // Новости НТВ | Проверить подлинность подделанного голоса или видео можно лишь технически, предупреждает Семенычев. |
| Мошенники подделывают голоса и крадут деньги | Также развивается технология deepfake: преступники подделывают голос близких людей жертв. |
| Мошенники начали активно выманивать образцы голосов граждан - Ведомости | Для подделки голосов мошенники используют нейросеть, отметил Андрей Ефимов Фото: Александр Елизаров © |
| Мошенники могут подделать чужой голос, чтобы украсть деньги | Мошенники подделали голос родственника жертвы, который из-за этого лишился 100 тысяч рублей. |
Эксперт Кузьменко: мошенники начали использовать нейросети и дипфейки для обмана россиян
В статье рассказывается о том, как мошенники используют технологию подделки голоса для обмана людей и получения доступа к их биометрическим данным. «Таймырский телеграф» – Мошенники продолжают совершенствоваться: теперь они стали использовать специальную программу, с помощью которой подделывают голоса. Мошенники подделывают голоса, притворяясь вашими родственниками или знакомыми Для создания убедительного аудиосообщения преступники используют нейросети, с помощью которых можно воспроизвести интонацию, тембр голоса и особенности речи конкретного. Мошенники научились использовать современные технологии DeepFake для имитации голоса, сообщили в Роскачестве. Стоит мошеннику загрузить короткий образец аудиоролика из сообщения в социальной сети или голосовой почты (всего 30 секунд), и он может использовать инструменты синтеза голоса с помощью искусственного интеллекта.
Мошенники научились подделывать аудио и видео с помощью ИИ - Москва 24
Для начала свяжитесь со своими родственниками или знакомыми, чтобы проверить информацию о предполагаемой тревожной просьбе, — говорит «Российской газете» Сергей Кузьменко, руководитель Центра цифровой экспертизы Роскачества. Чтобы не попасться в руки мошенников, нужно спросить такую информацию, которая известна только вам и родственникам. Например, про домашних животных, общих друзей или вашу последнюю с ним встречу. Это сразу даст понять, кто с вами на связи.
Тем временем, россияне начали сталкиваться со случаями мошенничества с помощью полисов обязательного страхования.
Вызвать подозрение также должно несоответствие между движениями губ и произносимыми словами. Пока все нейросети, которые делают подменные видео и аудио, далеки от совершенства. Однако мошенники адаптируются и на этот случай. Они записывают видео в низком разрешении или с помехами, чтобы размыть детали, по которым потенциальная жертва может определить подмену. Поэтому важно критически относиться к любому общению в Сети и обращать внимание не только на технические детали, говорит Гараев. Например, если ваш якобы коллега общается в непривычном тоне или вдруг стал использовать непривычную лексику — это тоже повод насторожиться. Наконец, если в вашем окружении не принято отправлять аудио- и видеосообщения, но вдруг вы получили их сразу несколько и сразу с просьбами о переводе денег, то самое правильно в этом случае — насторожиться.
Как защитить от мошенников себя и своих родных Чтобы ваш голос и лицо не стали образцами для обучения нейронных сетей, следуйте нескольким простым правилам: Не рассказывайте много о себе в интернете. Не публикуйте в социальных сетях много личных фотографий и видеоматериалов. Ограничьте доступ к вашим соцсетям списком друзей и близких. Это полностью не избавит от проблем, но снизит возможный риск. Не отправляйте свои личные данные, фотографии и видео другим людям без необходимости.
Сами по себе эти объявления не являются мошенническими, но собранные дата-сеты голосов злоумышленники используют для обучения нейросетей и генерируют на их основе аудиосообщения, с помощью которых вымогают деньги у друзей и родственников жертвы. О том, что такая схема набирает популярность, говорится в исследовании компании по кибербезопасности Angara Security есть в распоряжении «Ведомостей». По словам представителя Angara Security, большая часть таких объявлений размещена в Telegram, но используются и другие ресурсы, например Habr или спам-звонки с предложением заработать на «большом проекте». Согласно исследованию, количество таких сообщений без учета спам-звонков в 2021 г. Авторы таких объявлений просят предоставить аудиозапись в формате телефонного звонка или записи разговора, которую необходимо отправить личным сообщением или боту. За участие в проекте предлагают гонорар от 300 до 5000 руб. Для этого изначально нужен реальный голос человека, чтобы придать достоверность аудиосообщениям. Созданные таким образом голосовые сообщения могут адресоваться родственникам, коллегам по работе, которых часто легко определить по данным в открытом доступе, а также банковским сервисам и другим интересующим мошенников целям», — пояснил представитель Angara Security.
Технология называется "дипфейк" от англ. За рубежом злоумышленники опробовали дипфейки при устройстве на удаленную работу в сфере IT для получения доступа к базам данных. Однако созданные видеоклоны выдают свою искусственность темпом речи, асинхронностью и неестественными эмоциями. Новые технологии используются не только передовыми IT-компаниями, но и вовсю группами мошенников. Волна дипфейков уже захлестнула Юго-Восточную Азию и Африку. До России она тоже непременно дойдет в ближайшее время и будет работать по схеме звонков от "родственников", например, пожилым людям, предупредил эксперт Роскачества. Тем самым не за горами момент, когда обманы со звонками от силовых ведомств и сотрудников банка будут полностью осуществляться программными алгоритмами на базе нейросетей.
ЦБ: мошенники стали обманывать россиян, подделывая голоса их родных
С имитированным голосом жертвы мошенники могут попытаться позвонить в банк и выполнить различные операции, такие как снятие денег со счета или перевод средств на другой счет. Благодаря бурно развивающемуся искусственному интеллекту (ИИ) мошенники теперь способны воспроизвести голос знакомого человека, а в некоторых случаях даже его лицо. злоумышленники подделывают голос с помощью технологии дипфейка и одновременно подменяют номер. Мошенники ради обмана россиян подделывают голоса родных и близких потенциальных жертв — об этом рассказали в Центробанке РФ. В Кизеле пойман мошенник, забравший у пенсионерки 100 тысяч. Мошенники подделали голос гендиректора московского фитнес-клуба с помощью нейросети и украли выручку.
Не дайте себя обмануть! Что придумали телефонные мошенники в 2024г: нейросети, QR и маркетплейсы
Примечательно, что образцы чужих голосов к ним попадают вполне легальным путем, к которому с точки зрения закона практически невозможно предъявить претензий. Вместе с юристами мы разбираемся, как россиянам обезопасить себя от новой мошеннической схемы и что делать, если вы все же стали жертвой. Как мошенники научились подделывать голос с помощью нейросети? Новая схема опасна тем, что она не выглядит как обман и работает абсолютно легально. Мошенники размещают объявления о поиске людей для озвучки рекламных роликов или даже фрагментов фильмов или сериалов. За эту работу, разумеется, предусмотрена оплата, которую, как правило, люди действительно получают — именно поэтому никаких подозрений подобные схемы не вызывают. Проблемы начинаются уже после отправки голосовой записи и получения оплаты за нее. Злоумышленники используют полученные образцы голосов для обучения нейросетей, которые впоследствии генерируют голосовые сообщения, которые практически невозможно отличить от настоящих. Их они рассылают знакомым и близким жертвы, выманивая деньги под разными предлогами. Как мошенники записывают голоса других людей?
Это не единственная преступная схема с использованием голосовых записей жертвы для кражи денег у его знакомых. Еще в январе пользователи Telegram столкнулись с похожим, но чуть более примитивным алгоритмом обмана. Мошенники получали доступ к аккаунту пользователя, просматривали историю переписок, чтобы максимально скопировать манеру общения реального человека, и отправляли людям из списка контактов сообщения с просьбой перевести деньги. Для убедительности после нескольких текстовых сообщений они присылали голосовое, которое или было сгенерировано с помощью искусственного интеллекта, или смонтировано из фрагментов старых аудиосообщений из переписок.
С помощью нейросети преступники научились подделывать голос собеседника. В Роскачестве рассказали, как уберечь свои биометрические данные от мошенников. В наше время каждый, у кого есть смартфон и любая сумма денег на счету, становится потенциальной жертвой аферистов. Теперь мошенники, используя современные технологии, научились успешно подделывать голос человека, который без труда они берут из открытых источников голосовые сообщения в мессенджерах , а также используют общедоступные аудио- и видеозаписи из интернета.
Для того чтобы научить нейросеть говорить вашим голосом, ей достаточно 20-секундного фрагмента разговора для создания копии.
Однако ведущие российские банки не используют систему управления счетом с помощью голоса. Например, в Сбербанке в качестве биометрического идентификатора для проведения платежных операций используется не голос, а лицо человека. Банки сохраняют ваш голос в биометрической базе только для того, чтобы автоматически распознавать его при звонках в техническую службу поддержки банка. К тому же существует опасение, что мошенники запишут ваш голос и передадут в Единую биометрическую систему или биометрические системы банков.
Однако, несмотря на возможность утечки биометрии из банковского хранилища, использовать ее для несанкционированной идентификации невозможно. Причина состоит в самом процессе идентификации. Когда вы сдаете биометрические данные в базу, сохраняется не конкретное фото лица или одна аудиозапись голоса, а некий ее слепок в виде набора ваших характерных признаков. При этом восстановить по таким данным фото или голос человека практически невозможно. Помните, что банки заинтересованы в конфиденциальности данных своих клиентов, ведь несанкционированные операции могут нанести удар по их репутации и привести к финансовым потерям.
Мошенники подделывают голоса, притворяясь вашими родственниками или знакомыми Отвечая на телефонные звонки, люди обычно не сомневаются, что говорят именно с тем, чей номер записан в телефонной книжке. Если звонивший попросил перевести небольшую сумму на неизвестный счет или номер телефона — не проблема. Ведь вы узнали голос собеседника и без сомнений выполните просьбу. Позже выясняется, что это новая уловка аферистов. Для создания убедительного аудиосообщения преступники используют нейросети, с помощью которых можно воспроизвести интонацию, тембр голоса и особенности речи конкретного человека.
Например, позвонивший вам в мессенджер ребенок, родственник или знакомый просит срочно перевести небольшую сумму денег. Причина может быть какая угодно — ребенку срочно нужно сделать подарок другу или учительнице, пожилому родственнику не хватает небольшой суммы на покупку лекарств в аптеке. Звонивший под разными предлогами уговаривает отправить деньги на чужую карту или перевести их по чужому номеру телефона.
Голос при этом имитируется, а злоумышленник использует факты из жизни потенциальной жертвы. В конце февраля — начале марта пользователи соцсетей и эксперты по кибербезопасности рассказали , что злоумышленники начали также подделывать видеосообщения в мессенджерах например, «кружочки» в Telegram. Самый известный случай произошел в феврале в Гонконге. Сотрудник одной финансовой компании получил якобы от руководителя сообщение, в котором была просьба перевести крупную сумму со счета организации. Эта просьба смутила жертву, но чтобы развеять сомнения, мошенники пригласили его на видеоконференцию, в которой принимали участие и другие сотрудники компании.
Но все они, кроме жертвы, использовали технологию подмены голоса и видео. Компания из-за этого обмана потеряла 25,6 млн долларов. Топ 3 дебетовых карт Откуда у мошенников образцы голосов и изображения людей Подменные видео и аудио мошенники получают с помощью нейросетей. Однако для их обучения требуются образцы голосов и изображения людей — чем больше, тем качественнее получится подмена. Мошенники берут всю информацию из открытых источников — в первую очередь, из соцсетей. Например, в случае с гонконгской компанией сотрудники, именами которых воспользовались мошенники, активно вели свои страницы — выкладывали видеолекции со своим участием и личные фотографии. Как распознать подмену Распознать подмену голоса или видео на современном этапе сложно, но возможно.
Киберпреступники освоили технологию замены голоса для шантажа и мошенничества — эксперт
| Эксперт предупредил, что мошенники могут подделывать голоса родственников жертв | Эксперт Кузьменко: мошенники начали использовать нейросети и дипфейки для обмана россиян. |
| Украденные голоса: мошенники осваивают новый способ обмана россиян // Новости НТВ | Для подделки голосов мошенники используют нейросеть, отметил Андрей Ефимов Фото: Александр Елизаров © |
| ЦБ: мошенники научились имитировать гoлоса родных потенциальной жертвы - Российская газета | Стоит мошеннику загрузить короткий образец аудиоролика из сообщения в социальной сети или голосовой почты (всего 30 секунд), и он может использовать инструменты синтеза голоса с помощью искусственного интеллекта. |
| Мошенники придумали новую схему развода с подменой голоса. Будьте бдительны | Мошенничество с клонированием голоса появилось относительно недавно и уже встречается в западных странах. |
| Мошенники могут подделать чужой голос, чтобы украсть деньги | В Кизеле пойман мошенник, забравший у пенсионерки 100 тысяч. |
Не дайте себя обмануть! Что придумали телефонные мошенники в 2024г: нейросети, QR и маркетплейсы
Телефонные мошенники в России все чаще подделывают голоса родственников и знакомых своих жертв. «Атаковали даже мэра Марченко»: мошенники подделывают голоса и лица жителей Волгограда с помощью нейросетей. «Таймырский телеграф» – Мошенники продолжают совершенствоваться: теперь они стали использовать специальную программу, с помощью которой подделывают голоса.
«Совпадение полное»: мошенники подделывают голоса родных и близких
Там он увидел и якобы финансового директора компании, и других сотрудников. После этого он сделал запрос в штаб-квартиру компании и понял, что был обманут. Во время видеозвонка его участники практически не общались с сотрудником, а по большей части давали ему указания. В какой-то момент встреча внезапно завершилась, но и это не смутило работника. После этого мошенники поддерживали связь с жертвой через платформы обмена мгновенными сообщениями, электронную почту и видеозвонки один на один. В полиции сообщили, что в общей сложности они обратились к двум или трём сотрудникам компании.
Они помогают определить, кто звонит — живой человек или программа. Синтез голоса Для копирования голоса используются технологии речевого синтеза. В специальную программу загружаются образец голоса реального человека и текст, который нужно произнести. В качестве звукового материала используются записи телефонных звонков в том числе с роботами , видеозаписи, размещённые в соцсетях, и голосовые сообщения в мессенджерах. Искусственному интеллекту достаточно трёх секунд речи оригинального носителя, чтобы дипфейк получился убедительным. Но удалять аудиосообщения после прослушивания не поможет. Мы же не можем молчать всё время. Мы всё равно оставляем огромное количество аудиоинформации. Её могут записать где угодно.
Только совокупность корректных данных позволит открыть доступ к управлению счетом или другими услугами Шамиль МагомедовIT-эксперт «Кроме того, представители банковских структур не раз подчеркивали, что операторы, принимающие звонок, также снабжены подробными инструкциями и могут различить "красные флажки", сигнализирующие о возможных мошенниках», — отметил собеседник. Цифровая гигиена При этом Магомедов напомнил, что забывать о простых правилах цифровой гигиены не стоит. Если вашего голоса нет в базах данных, и вы не дали согласие на доступ к своим данным с помощью биометрии, то и преступники не смогут "притвориться" вами», — сообщил эксперт. Во-вторых, следует внимательно относиться к тому, кто и с какого номера звонит. В этом вопросе лучше проявить осторожность и сбросить подозрительный звонок, особенно если он идет через мессенджер, связавшись с банком самостоятельно по официальному телефону, указанному на обороте банковской карты.
Вы могли бы, коли вы получите и товар, и деньги, оплатить нам стоимость товара сейчас по этой ссылке? Дружно лайкаем Эта схема изощрённее. Судя по найденной информации, практикуют её жители поднебесной. Возможная жертва получает сообщение с предложением заработать деньги простым способом — лайкать товары. Дескать, таким образом магазин продвигает себя на площадке. Делов-то, поставить с десяток лайков и получить на карту небольшую сумму. Заинтересованная жертва вступает в чат, где другие «коллеги» обсуждают выполнение заданий. Сомневаются, успокаивают друг друга. Жертва ставит лайки, шлёт их скриншоты и видит скриншоты других. Получает свои небольшие деньги на карту! Отлично, первый уровень пройден, появилось доверие к источнику небольшого, но заработка. На следующий день задание усложняется, теперь надо набить количество заказов. Для этого необходимо выкупить товар. Деньги за него обещают вернуть и, разумеется, с надбавкой за работу. Дальше на выбор просят или перевести деньги за товар «продавцу» или же перейти на фишинговый сайт, который имитирует маркетплейс, оставить там свои данные карты и лишиться денег на ней QR-коды Достаточно новый способ мошенничества связан с подсовыванием жертвы QR-кода, переход по которому ведет на фишинговый сайт, неотличимый от настоящего. Там уже всё как обычно — оставляете данные карты и с неё всё списывают. Как избежать мошенничества? Разговор Разумеется, важно сохранять контроль над собой и своими действиями в первые минуты общения со звонящим.