Киберпреступники, похоже, очень любят генеративный ИИ. Microsoft предупреждает, что технология развилась до такой степени, что онлайн-мошенничество теперь может быть завершено за минуты, а не дни или недели, и практически без технических знаний.

В своем последнем выпуске отчета Cyber Signals Microsoft пишет, что ИИ начал снижать технические барьеры для мошенников и киберпреступников, ищущих собственные инструменты для повышения производительности.

Спектр кибермошенничеств, для которых может быть использован ИИ, очень широк. Например, эти инструменты могут помочь в создании приманок для социальной инженерии путем сканирования и извлечения веб-данных для создания подробных профилей сотрудников или других целей.

Существуют также изощренные случаи мошенничества с использованием обзоров товаров, улучшенных искусственным интеллектом, и витрин, созданных искусственным интеллектом, где мошенники создают целые поддельные веб-сайты и поддельные бренды электронной коммерции, а также фальсифицируют деловую историю и отзывы клиентов. Мошенники могут даже использовать искусственный интеллект для создания чат-ботов службы поддержки клиентов, которые лгут о необъяснимых платежах и других аномалиях.

Уже давно сообщается, что развивающаяся технология дипфейков делает ее популярным инструментом для мошенников. Мы видели, как его использовали для создания фальшивых одобрений знаменитостей, выдачи себя за друзей и семью и даже, как указывает Microsoft, для собеседований при приеме на работу и приеме на работу по видеозвонкам. В компании отметили, что задержка синхронизации губ, роботизированные голоса или странная мимика — все это признаки того, что человек на другом конце видеозвонка может быть дипфейкером.

Microsoft рекомендует потребителям с осторожностью относиться к ограниченным по времени предложениям, обратному отсчету и подозрительным отзывам. Они также должны перепроверять домены и отзывы перед совершением покупки и избегать использования способов оплаты, которые не защищены от мошенничества, таких как прямые банковские переводы и платежи в криптовалюте.

Мошенничество с техподдержкой также находится на подъеме. Хотя искусственный интеллект не всегда задействован, мошенники техподдержки часто выдают себя за законных сотрудников IT-поддержки из известных компаний и используют тактику социальной инженерии, чтобы завоевать доверие своих целевых пользователей. В таких мошенничествах часто используется инструмент Windows «Быстрая помощь», позволяющий злоумышленникам использовать удаленное соединение для просмотра экрана или захватывать экран для устранения проблемы. В результате Microsoft добавляет предупреждение в Quick Assist и просит пользователей установить флажок, чтобы подтвердить последствия для безопасности при совместном использовании своих экранов. Microsoft также рекомендует использовать «Удаленную помощь» вместо «Быстрой помощи» во внутренней технической поддержке.

这篇文章虽然重点关注人工智能诈骗的危险，但也指出微软将继续保护其平台和客户免受网络犯罪分子的侵害。在2024年4月至2025年4月期间，微软阻止了价值40亿美元的欺诈企图，拒绝了4.9万个欺诈性合作伙伴注册，并阻止了每小时约160万次机器人注册尝试。