В Корее пожилой мужчина потерял более $120 тыс. в результате инвестиционного мошенничества. Вложить свои средства он решил после просмотра видео на YouTube-канале, где известные местные актеры рассказывали о преимуществах инвестиционной схемы.

В Гонконге финансист перевел мошенникам $25,6 млн. Перед тем как совершить трансакцию, он созвонился по видеосвязи со своим руководством.

Что объединяет эти случаи? Видео, с которыми имели дело пострадавшие, были ненастоящими: их сгенерировали с помощью технологии deepfake. Это метод создания контента, основанный на машинном обучении. Нейросеть накладывает фрагменты контента на исходные фото, аудио или видео. Таким образом, например, можно получить видео, в котором изменены лица, мимика и голоса участников.

Применение дипфейков достаточно широко: например, их используют в кинематографе и рекламе. Всё чаще такие технологии используют мошенники в кибератаках как против обычных людей, так и против бизнеса. Преступники пытаются обмануть предпринимателей и их сотрудников, чтобы завладеть данными и финансами или чтобы нанести им репутационный ущерб. По данным разработчика Regula, 37% компаний по всему миру уже сталкивались с мошенничеством с использованием ИИ-сгенерированного аудио, 29% — с дипфейк-видео.

Почему мошенники стали чаще использовать дипфейки? Технологии защиты информации очень выросли по уровню распознавания аномального поведения в информационных системах, что взламывать конкретные системы стало дорого и долго. Проще и быстрее воздействовать на человека, поэтому мошенники всё больше полагаются на методы социальной инженерии, в том числе на обман с помощью дипфейков.

Предпринимателям и руководителям стоит подготовить своих сотрудников к возможным атакам. Для этого следует постоянно информировать сотрудников о современных методах социальной инженерии. Учебные программы должны содержать не только теорию, но и практические блоки: рекомендуется регулярно проводить обучение и симуляции атак.

Если вы решили устроить симуляцию, обратите внимание на специфику работы каждого отдела — от этого может зависеть тип атаки. Например, HR-отдел нужно учить распознавать дипфейк-кандидатов. Еще во время пандемии в США были зафиксированы случаи, когда фальшивые кандидаты откликались и проходили собеседования на реальные вакансии. На сайтах поиска работы были размещены десятки тысяч поддельных резюме. Цели мошенников — шпионаж, доступ к корпоративной информации, проникновение во внутреннюю IT-систему. Второй момент: обучение лучше проводить во всей компании, чтобы сотрудники не могли рассказать о них своим коллегам из других отделов.

Хорошее решение — бороться с искусственным интеллектом с помощью самих же нейросетей. Можно внедрять собственные решения кибербезопасности на базе ИИ или использовать существующие инструменты обнаружения дипфейков — такие создают в том числе и российские разработчики.

Снизить риск несанкционированного доступа к важным данным помогут зашифрованные каналы связи и многофакторная аутентификация. Их всегда стоит использовать в деловых коммуникациях. А мониторинг присутствия бренда в интернете позволит вовремя информировать аудиторию о распространении фейков и предотвратить ущерб.

Но что делать, если вы не руководитель, а рядовой сотрудник? В этом случае вы сами можете защитить от мошенников личные данные и информацию работодателя. Для этого обращайте внимание на детали. В аудио тревожными сигналами могут быть прерывистые предложения, слишком долгие паузы между словами. Речь может казаться безжизненной, смена интонаций — нелогичной, а фоновые звуки — не соответствовать предполагаемому местонахождению говорящего. Если вы имеете дело с собеседником, а не с записью, вспомните последнее взаимодействие с этим человеком и задайте связанный с этим вопрос. Сможет ли предполагаемый мошенник ответить на него?

В видео «звоночки» — это неравномерное качество изображения. Например, лицо размыто, а остальная картинка остается четкой, и наоборот. Обратите внимание, не различается ли тон кожи в разных частях лица, синхронизировано ли движение губ с речью, есть ли у очков блики. Выглядят ли движения естественными, моргает ли человек, или может быть, он это делает слишком часто. При общении в режиме реального времени можно попросить собеседника сменить свою позу или положение тела (например, помахать руками, повернуться в профиль, привстать). Посмотрите, не появилось ли в изображении аномалий.

Вы можете самостоятельно тренироваться в поиске визуальных несоответствий. В интернете есть достаточно обучающих видео по теме и тестов для самопроверки.

Невозможно полностью исключить возможность атаки на компанию, в том числе с использованием технологий социальной инженерии и фишинга, к которым относятся и дипфейки. Вопрос в стоимости взлома. Задача любого бизнеса — сделать его защищенным настолько, чтобы хакерам было невыгодно его атаковать. Важным элементом тут является высокий уровень кибергигиены сотрудников, технологическая оснащенность и осведомленность о новых видах угроз.

Дмитрий Крюков — руководитель направления гибридных коммуникаций «МТС Линк»