Дипфейки-самозванцы вызывают новую волну мошенничества

Sep 02, 2023

Детские голоса, сгенерированные компьютером, настолько реалистичны, что они обманывают собственных родителей. Маски, созданные на основе фотографий из социальных сетей, могут проникнуть в систему, защищенную идентификатором лица. Это звучит как научная фантастика, но эти методы уже доступны преступникам, охотящимся на обычных потребителей.

Распространение мошеннических технологий встревожило регулирующие органы, полицию и людей на самых высоких уровнях финансовой индустрии. Искусственный интеллект, в частности, используется для «ускорения» мошенничества, предупредила в июне председатель Федеральной торговой комиссии США Лина Хан, призвав правоохранительные органы повысить бдительность.

Еще до того, как искусственный интеллект вырвался на свободу и стал доступен каждому, у кого есть подключение к Интернету, мир изо всех сил пытался сдержать взрыв финансового мошенничества. Только в США потребители потеряли почти 8,8 миллиарда долларов в прошлом году, что на 44% больше, чем в 2021 году, несмотря на рекордные инвестиции в обнаружение и профилактику. Эксперты по финансовым преступлениям в крупнейших банках, включая Wells Fargo & Co. и Deutsche Bank AG, говорят, что надвигающийся бум мошенничества является одной из самых больших угроз, стоящих перед их отраслью. Помимо оплаты затрат на борьбу с мошенничеством, финансовая индустрия рискует потерять доверие обгоревших клиентов. «Это гонка вооружений», — говорит Джеймс Робертс, возглавляющий отдел по борьбе с мошенничеством в Commonwealth Bank of Australia, крупнейшем банке страны. «Было бы преувеличением сказать, что мы побеждаем».

История мошенничества, несомненно, так же стара, как история торговли и бизнеса. Один из самых ранних известных случаев произошел более 2000 лет назад. Он касался греческого морского торговца, который пытался потопить свое судно, чтобы получить мошенническую выплату по страховому полису. Просмотрите любой газетный архив, и вы обнаружите бесчисленные попытки отобрать у доверчивых людей их деньги. Но темная экономика мошенничества, как и экономика в целом, периодически подвергается всплескам дестабилизирующих инноваций. Новая технология снижает затраты на мошенничество и позволяет преступнику получить доступ к большему количеству неподготовленных меток. Электронная почта знакомила каждого пользователя компьютера в мире с группой оказавшихся в затруднительном положении принцев, которым требовалась помощь в спасении потерянного состояния. Крипто принес с собой расцвет схем Понци, вирусно распространившихся в социальных сетях.

Взрывной рост ИИ предлагает не только новые инструменты, но и потенциальные финансовые потери, которые изменят жизнь. А возросшая сложность и новизна технологии означают, что каждый, а не только доверчивый человек, является потенциальной жертвой. Карантинные меры, введенные из-за COVID-19, ускорили внедрение онлайн-банкинга во всем мире: телефоны и ноутбуки заменили личное общение в отделениях банков. Это принесло преимущества в виде снижения затрат и увеличения скорости для финансовых фирм и их клиентов, а также открыло возможности для мошенников.

Некоторые из новых методов выходят за рамки того, на что способны нынешние готовые технологии, и не всегда легко отличить, имеете ли вы дело с обычным мошенником или государственным деятелем. «Мы начинаем видеть гораздо более изощренные меры в отношении киберпреступности», — говорит Эми Хоган-Берни, генеральный менеджер по политике и защите кибербезопасности в Microsoft Corp.

В этом году глобальные расходы на киберпреступность, включая мошенничество, достигнут 8 триллионов долларов, что превысит экономический объем Японии, третьей по величине экономики в мире. По данным исследователя Cybersecurity Ventures, к 2025 году он достигнет $10,5 трлн, увеличившись более чем втрое за десятилетие.

В пригороде Сиднея Редферн некоторые из команды Робертса, насчитывающей более 500 человек, проводят дни, подслушивая мошенников, чтобы из первых рук услышать, как ИИ меняет их битву. Ложная просьба денег от любимого человека не нова. Но теперь родителям звонят и клонируют голос их ребенка с помощью искусственного интеллекта, чтобы он звучал неотличимо от настоящего. Эти уловки, известные как мошенничество с использованием социальной инженерии, как правило, имеют самый высокий процент результативности и приносят мошенникам одни из самых быстрых результатов.

Клонировать голос человека становится все проще. Как только мошенник загружает короткий отрывок из аудиоклипа из чьей-либо социальной сети или сообщения голосовой почты (он может длиться до 30 секунд), он может использовать инструменты синтеза голоса на базе искусственного интеллекта, которые легко доступны в Интернете, для создания необходимого ему контента.