Penjahat dunia maya tampaknya sangat menyukai AI generatif. Microsoft memperingatkan bahwa teknologi telah berkembang ke titik di mana penipuan online sekarang dapat diselesaikan dalam hitungan menit, bukan hari atau minggu, dan dengan sedikit atau tanpa pengetahuan teknis.

Dalam edisi terbaru laporan Cyber Signals, Microsoft menulis bahwa AI telah mulai menurunkan hambatan teknis untuk penipuan dan pelaku penjahat dunia maya yang mencari alat produktivitas mereka sendiri.

Kisaran penipuan dunia maya yang dapat digunakan AI sangat luas. Misalnya, alat ini dapat membantu membuat umpan rekayasa sosial dengan memindai dan mengikis data web untuk membangun profil terperinci karyawan atau target lainnya.

Ada juga kasus penipuan yang canggih, menggunakan ulasan produk yang ditingkatkan AI dan etalase yang dihasilkan AI, di mana penipu membuat seluruh situs web palsu dan merek e-niaga palsu, serta memalsukan riwayat bisnis dan ulasan pelanggan. Penipu bahkan dapat menggunakan AI untuk merancang chatbot layanan pelanggan yang berbohong tentang biaya yang tidak dapat dijelaskan dan anomali lainnya.

Telah lama dilaporkan bahwa teknologi deepfake yang berkembang menjadikannya alat yang populer bagi penipu. Kami telah melihatnya digunakan untuk membuat dukungan selebriti palsu, menyamar sebagai teman dan keluarga, dan bahkan, seperti yang ditunjukkan Microsoft, untuk perekrutan dan wawancara lamaran melalui panggilan video. Perusahaan mencatat bahwa sinkronisasi bibir yang tertunda, suara robot, atau ekspresi wajah yang aneh adalah tanda-tanda bahwa orang di ujung lain panggilan video mungkin adalah deepfaker.

Microsoft menyarankan konsumen untuk mewaspadai penawaran waktu terbatas, hitung mundur, dan ulasan yang mencurigakan. Mereka juga harus memeriksa ulang domain dan ulasan sebelum melakukan pembelian dan menghindari penggunaan metode pembayaran yang tidak memiliki perlindungan penipuan, seperti transfer bank langsung dan pembayaran mata uang kripto.

Penipuan dukungan teknis juga meningkat. Meskipun AI tidak selalu terlibat, penipu dukungan teknis sering berpura-pura menjadi staf pendukung TI yang sah dari perusahaan terkenal dan menggunakan taktik rekayasa sosial untuk mendapatkan kepercayaan dari target pengguna mereka. Alat "Quick Assist" Windows sering digunakan dalam penipuan semacam itu, memungkinkan penyerang menggunakan koneksi jarak jauh untuk melihat layar atau mengambil alih layar untuk memperbaiki masalah. Akibatnya, Microsoft menambahkan peringatan ke Quick Assist dan meminta pengguna untuk mencentang kotak centang untuk mengonfirmasi implikasi keamanan dari berbagi layar mereka. Microsoft juga merekomendasikan penggunaan "Bantuan Jarak Jauh" alih-alih "Bantuan Cepat" dalam dukungan teknis internal.

这篇文章虽然重点关注人工智能诈骗的危险，但也指出微软将继续保护其平台和客户免受网络犯罪分子的侵害。在2024年4月至2025年4月期间，微软阻止了价值40亿美元的欺诈企图，拒绝了4.9万个欺诈性合作伙伴注册，并阻止了每小时约160万次机器人注册尝试。