Sisi Negatif AI
- Dok. Kaspersky
"Hanya 7 persen dari kata sandi tersebut yang cukup kuat untuk menahan serangan jangka panjang," jelasnya.
Rekayasa sosial dengan AI
AI juga dapat digunakan untuk rekayasa sosial guna menghasilkan konten yang tampak masuk akal, termasuk teks, gambar, audio, dan video.
Pelaku ancaman siber dapat menggunakan model bahasa besar seperti ChatGPT-4o untuk menghasilkan teks penipuan, seperti pesan phishing yang canggih.
Phishing yang dihasilkan AI dapat mengatasi kendala bahasa dan membuat email yang dipersonalisasi berdasarkan informasi media sosial pengguna.
Bahkan dapat meniru gaya penulisan individu tertentu, sehingga serangan phishing berpotensi lebih sulit dideteksi.
Deepfake menghadirkan tantangan keamanan siber lainnya. Apa yang dulunya hanya penelitian ilmiah kini telah menjadi masalah yang meluas. Penjahat siber telah menipu banyak orang dengan penipuan peniruan identitas selebriti, yang menyebabkan kerugian finansial yang signifikan.
Deepfake juga digunakan untuk mencuri akun pengguna dan mengirim audio permintaan uang menggunakan suara pemilik akun kepada teman dan kerabat.
Penipuan asmara yang canggih melibatkan penjahat siber yang membuat persona palsu dan berkomunikasi dengan korban di situs kencan.
Salah satu serangan paling rumit terjadi pada bulan Februari di Hong Kong, di mana penipu mensimulasikan panggilan konferensi video menggunakan deepfake untuk menyamar sebagai eksekutif perusahaan, meyakinkan seorang pekerja keuangan untuk mentransfer sekitar US$25 juta.
Kerentanan AI
Selain menggunakan AI untuk tujuan yang merugikan, penyerang juga dapat menyerang algoritma AI itu sendiri.
Serangan siber ini meliputi:
1.   Serangan injeksi cepat pada model bahasa besar, di mana penyerang membuat permintaan yang melewati batasan perintah sebelumnya.
2.   Serangan adversarial pada algoritme pembelajaran mesin, di mana informasi tersembunyi dalam gambar atau audio dapat membingungkan AI dan menghasilkan keputusan yang salah.
Dewan HAM PBB: AI Ancaman Umat Manusia
Kecerdasan buatan (AI) dapat menjadi ancaman eksistensial bagi umat manusia sehingga perlu segera ditangani, kata Komisaris Tinggi PBB untuk HAM Volker Turk.
