사이버 범죄자들은 생성형 AI를 매우 좋아하는 것 같습니다. Microsoft는 이 기술이 이제 며칠 또는 몇 주가 아닌 몇 분 만에 완료할 수 있는 수준까지 발전했으며 기술 지식이 거의 또는 전혀 없다고 경고합니다.

사이버 시그널(Cyber Signals) 보고서 최신판에서 마이크로소프트는 AI가 자체 생산성 도구를 찾는 사기 및 사이버 범죄 행위자에 대한 기술 장벽을 낮추기 시작했다고 썼습니다.

AI가 사용될 수 있는 사이버 사기의 범위는 매우 넓습니다. 예를 들어, 이러한 도구는 웹 데이터를 스캔하고 스크랩하여 직원 또는 기타 대상에 대한 자세한 프로필을 구축함으로써 사회 공학 미끼를 만드는 데 도움이 될 수 있습니다.

또한 AI로 강화된 제품 리뷰와 AI가 생성한 상점을 사용하여 사기꾼이 전체 가짜 웹사이트와 가짜 전자 상거래 브랜드를 만들고 비즈니스 이력과 고객 리뷰를 위조하는 정교한 사기 사례도 있습니다. 사기꾼은 AI를 사용하여 설명할 수 없는 청구 및 기타 이상 징후에 대해 거짓말을 하는 고객 서비스 챗봇을 설계할 수도 있습니다.

진화하는 딥페이크 기술로 인해 사기꾼들에게 인기 있는 도구가 되고 있다고 오랫동안 보고되어 왔습니다. 우리는 가짜 유명인 추천을 하고, 친구와 가족을 사칭하고, 심지어 Microsoft가 지적한 것처럼 화상 통화를 통한 채용 및 지원 면접에 사용되는 것을 보았습니다. 회사는 지연된 립싱크, 로봇 음성 또는 이상한 얼굴 표정은 모두 화상 통화 상대방이 딥페이커일 수 있다는 신호라고 지적했습니다.

Microsoft는 소비자에게 기간 한정 제안, 카운트다운 및 의심스러운 리뷰에 주의할 것을 조언합니다. 또한 구매하기 전에 도메인과 리뷰를 다시 확인하고 직접 은행 송금 및 암호화폐 결제와 같이 사기 방지 기능이 없는 결제 방법을 사용하지 않아야 합니다.

기술 지원 사기도 증가하고 있습니다. AI가 항상 관련되어 있는 것은 아니지만 기술 지원 사기꾼은 종종 잘 알려진 회사의 합법적인 IT 지원 직원으로 가장하고 소셜 엔지니어링 전술을 사용하여 대상 사용자의 신뢰를 얻습니다. Windows "빠른 지원" 도구는 이러한 사기에 자주 사용되어 공격자가 원격 연결을 사용하여 화면을 보거나 화면을 장악하여 문제를 해결할 수 있도록 합니다. 결과적으로 Microsoft는 빠른 지원에 경고를 추가하고 사용자에게 화면 공유의 보안 영향을 확인하기 위해 확인란을 선택하도록 요청하고 있습니다. 또한 내부 기술 지원에서 "빠른 지원" 대신 "원격 도움말"을 사용하는 것이 좋습니다.

这篇文章虽然重点关注人工智能诈骗的危险，但也指出微软将继续保护其平台和客户免受网络犯罪分子的侵害。在2024年4月至2025年4月期间，微软阻止了价值40亿美元的欺诈企图，拒绝了4.9万个欺诈性合作伙伴注册，并阻止了每小时约160万次机器人注册尝试。