"Почему фальшивые атаки могут обойтись вам дороже денег"

В этом интервью для Help Net Security Камелия Чан, генеральный директор X-PHY, рассказывает об опасностях дипфейков в реальных ситуациях, в том числе об их использовании в финансовых махинациях и политической дезинформации. Она объясняет стратегии защиты на основе ИИ и рекомендует обновлять планы реагирования на инциденты и внутренние политики, интегрировать инструменты обнаружения и обеспечивать соблюдение таких нормативных актов, как DORA в ЕС, чтобы снизить ответственность.

Как злоумышленники использовали дипфейки в реальных инцидентах, пусть даже гипотетических, и насколько правдоподобной становится такая тактика?

Мы уже видели, как дипфейки используются во всём — от финансового мошенничества до политической дезинформации. Одна из наиболее тревожных тенденций — мошенничество с выдачей себя за других людей, когда злоумышленники используют синтетическое аудио- или видео, выдавая себя за руководителей компаний или политиков.

Примечательный пример произошёл в Гонконге в 2020 году, когда менеджера банка обманом заставили перевести 35 миллионов долларов после телефонного звонка от человека, которого он принял за директора компании. Мошенник использовал клонирование голоса на основе искусственного интеллекта, чтобы идеально имитировать голос руководителя, и подкрепил запрос убедительными электронными письмами и документами. Этот случай стал одним из первых и наиболее громких примеров мошенничества с использованием дипфейков в финансовом секторе.

Это лишь один пример, но в последнее время я вижу всё больше сообщений о том, что компании обманом заставляли переводить крупные суммы денег на основе дипфейков в видеозвонках. Некоторые из наших партнёров, клиентов и даже сотрудники внутри компании обратили на это внимание. Так что очевидно, что это уже не гипотетические случаи — они происходят прямо сейчас, и инструменты для их создания становятся всё более доступными.

Эта тактика очень правдоподобна, потому что она использует наше доверие к визуальной и слуховой информации. Помните поговорку «что видишь, в то и веришь»? Теперь мы даже не можем так сказать. Пока люди полагаются на то, что видят и слышат, как на доказательства, эти атаки будут эффективными, и их будет трудно обнаружить без специальных инструментов.

Какую роль играет искусственный интеллект в защите от дипфейков? Существуют ли перспективные модели или архитектуры, специально разработанные для этого?

ИИ — это и проблема, и решение, когда речь идёт о дипфейках. С одной стороны, он позволяет создавать синтетические медиа. С другой стороны, это наша лучшая защита. Усовершенствованные модели машинного обучения, особенно мультимодальный ИИ, становятся всё более эффективными в выявлении тонких, изощрённых признаков манипуляций — от неестественного моргания и несоответствий в мимике до несоответствующих аудиовизуальных сигналов. Ценность использования ИИ заключается в его способности обеспечивать защиту в режиме реального времени с более высоким уровнем конфиденциальности и более быстрым реагированием, что крайне важно, поскольку угрозы становятся всё более целенаправленными и динамичными.

Некоторые перспективные модели ИИ, которые используются, — это свёрточные нейронные сети (CNN), сети с долгой краткосрочной памятью (LSTM) и рекуррентные единицы с активацией (GRU). CNN используются для анализа мельчайших деталей в визуальных данных, LSTM и GRU — это модели ИИ на основе памяти для отслеживания синхронизации аудио- и видеоряда.

Обнаружение дипфейков также всё чаще интегрируется в более широкие экосистемы безопасности, где каждый уровень — от аппаратного обеспечения до данных и контента — выступает в качестве контрольной точки для проверки подлинности, добавляя важный уровень доверия. Сочетая обнаружение дипфейков с надёжной защитой конечных устройств, организации могут гарантировать, что каждое устройство способно быстро и конфиденциально проверять целостность цифровых коммуникаций без необходимости передавать конфиденциальный контент в облако.

Как организациям следует обновлять свои планы реагирования на инциденты, чтобы включить сценарии глубокой подделки?

Относитесь к дипфейкам как к любой другой киберугрозе и применяйте принцип нулевого доверия. Это значит, что не стоит считать что-то реальным только потому, что это выглядит или звучит убедительно.

Обновите свой план реагирования, включив в него шаги по проверке видео- или аудиоконтента, особенно если он используется для запроса конфиденциальных действий. Создайте модель рисков, которая учитывает, как дипфейки могут использоваться для воздействия на критически важные бизнес-процессы, такие как общение руководителей, финансовые согласования или взаимодействие с клиентами. Убедитесь, что ваша команда знает, как выявлять тревожные признаки, кого предупреждать и как документировать инцидент.

Используйте инструменты для обнаружения, которые могут сканировать медиафайлы в режиме реального времени и сохранять помеченный контент для проверки. Чем быстрее вы сможете выявить проблему и принять меры, тем больший ущерб вы сможете предотвратить. В современных условиях безопаснее сначала усомниться, а доверять только после проверки.

Какие внутренние правила должны внедрить организации, чтобы снизить риск атак с использованием дипфейков?

Организациям следует внедрить чёткие правила проверки, обнаружения и эскалации. Любой конфиденциальный запрос, связанный с деньгами, учётными данными или конфиденциальными сведениями, должен требовать дополнительной проверки, например обратного звонка или вторичного подтверждения.

Осведомлённость о дипфейках должна быть включена в регулярное обучение, чтобы сотрудники могли заранее замечать тревожные признаки. Использование инструментов обнаружения для поддержки команд путём сканирования и пометки подозрительных материалов в режиме реального времени помогает им быстрее и безопаснее принимать решения.

Планы реагирования на инциденты также должны предусматривать, как действовать в случае подозрения на дипфейк, сохранять доказательства и сообщать о них.
В конечном счёте, проверка необычных сообщений должна стать нормой, а не исключением.

Существует ли риск ответственности или нарушения нормативных требований, если компания станет жертвой дипфейка? Как это следует учитывать при планировании?

Да, безусловно — особенно если произошла утечка данных или были потеряны деньги. Регулирующие органы ожидают, что компании будут предпринимать разумные шаги для предотвращения такого рода мошенничества. Согласно таким законам, как Закон ЕС о цифровой операционной устойчивости (DORA), организации обязаны защищать персональные данные и обеспечивать операционную устойчивость к киберугрозам. Неспособность предвидеть или защититься от атак с использованием дипфейков может увеличить риск привлечения к ответственности, штрафов и репутационного ущерба.

Вот почему важно учитывать дипфейки при планировании кибербезопасности и рисков. Проконсультируйтесь со своей юридической командой, обновите свои процессы и убедитесь, что ваши системы и сотрудники готовы. Если что-то случится, вы должны быть в состоянии показать, что отнеслись к этому серьёзно и были готовы.

 

Дополнительная интересная информация:

После кражи Bybit появилось около 600 фишинговых доменов

"Обход сетевой защиты: Как Fast Flux ставит под угрозу вашу безопасность"

Фишеры все чаще выдают себя за компании, занимающиеся электронным взиманием платы за проезд

Microsoft представила более надежную защиту на базе искусственного интеллекта

Обнаружение данных как первый шаг к защите от кибератак  видео

Южнокорейское VPN под ударом APT  видео

Уязвимость нулевого дня Apple  видео

 

**МЕТА ТЕГИ:** дипфейки, кибербезопасность, финансовое мошенничество, политическая дезинформация, искусственный интеллект, защита от дипфейков, ИИ, машинное обучение, свёрточные нейронные сети, LSTM, GRU, нулевое доверие, планы реагирования на инциденты, DORA, нормативные требования, ответственность, утечка данных, социальная инженерия.