AI membuat email phishing lebih baik daripada manusia

Jaringan saraf terus menunjukkan hasil yang luar biasa dalam berbagai tugas. Benar, kali ini pekerjaan mereka sama sekali tidak mulia: dengan bantuan AI, peneliti Singapura membuat email phishing yang terbukti lebih meyakinkan daripada yang ditulis oleh orang sungguhan.

Secara khusus, pada konferensi keamanan siber Black Hat dan Defcon yang diadakan di Las Vegas minggu lalu, para ahli dari Badan Teknologi Pemerintah (Singapura) diberi tahu tentang hasil percobaan yang tidak biasa.

Mereka menulis ratusan email phishing sendiri, dan kemudian membuat lebih banyak lagi menggunakan algoritma pemrosesan bahasa alami GPT-3 dan teknologi kecerdasan buatan lainnya. Mereka kemudian mengirimkan surat-surat itu ke 200 rekan untuk menguji mana yang menurut mereka lebih meyakinkan.

Dalam kedua kasus, email berisi tautan pelacak - mereka tidak mengunduh virus ke perangkat, tetapi hanya mengirim laporan klik kepada para peneliti. Hasilnya mengejutkan: orang "secara signifikan lebih sering" mengklik tautan surat yang disusun oleh kecerdasan buatan daripada yang ditulis oleh orang lain. Sayangnya, tidak ada statistik pasti yang diberikan.

Penulis mencatat bahwa surat-surat yang ditulis oleh AI terdengar "mengejutkan manusia" dan bahwa platform secara otomatis menambahkan elemen yang tidak terduga, untuk membuat teks lebih meyakinkan - misalnya, dia mengutip undang-undang Singapura, karena input menunjukkan bahwa penerima dari Singapura.

Para ahli telah lama memperdebatkan apakah masuk akal bagi scammer untuk melatih jaringan saraf untuk membuat email phishing - lagipula, pengiriman massal tetap sangat efektif dan hemat biaya. Tetapi jika Anda membutuhkan email yang ditargetkan, yang kompilasinya membutuhkan pekerjaan tambahan, jaringan saraf dapat sangat berguna.

Meskipun mungkin terdengar menakutkan, kabar baiknya adalah bahwa pelatihan AI berkualitas menghabiskan jutaan dolar - mungkin tidak. berharap bahwa dalam waktu dekat scammers akan memutuskan untuk membayar secara massal untuk meningkatkan sistem, yang sudah sangat baik bekerja.