youngster.id - Risiko terbesar dari kecerdasan buatan (artificial intelligence/AI) saat ini terletak pada sifatnya yang bersifat dual-use atau memiliki dua tujuan. Di satu sisi, teknologi ini dimanfaatkan secara luas oleh pelaku usaha dan layanan publik. Namun di sisi lain, AI juga semakin banyak digunakan untuk mengotomatisasi phishing, penipuan, hingga penyebaran malware dalam skala besar.
Ancaman tersebut dinilai semakin mendesak bagi Indonesia. Tingginya ketergantungan masyarakat pada aplikasi pesan instan, platform e-commerce, serta layanan publik digital membuat Indonesia menjadi target empuk kejahatan siber berbasis AI. Sejumlah peringatan pemerintah sebelumnya juga mengungkap peredaran aplikasi ChatGPT palsu yang dimanfaatkan untuk menyebarkan malware dan menjalankan kampanye phishing.
Indikator dari Tim Tanggap Insiden Keamanan Siber Nasional (CSIRT) menunjukkan kemunculan ancaman bergaya agen AI, termasuk phishing yang semakin canggih dan berpotensi mencuri data pribadi serta kredensial keuangan masyarakat.
Riset Palo Alto Networks Unit 42 bertajuk The Dual-Use Dilemma of AI: Malicious LLMs mengungkap maraknya penggunaan large language models (LLM) berbahaya atau dikenal sebagai dark LLMs. Model seperti WormGPT, FraudGPT, dan KawaiiGPT dilaporkan diperjualbelikan secara terbuka melalui Telegram dan forum dark web.
“Keberadaan model AI tanpa pengaman ini secara signifikan menurunkan hambatan teknis bagi pelaku kejahatan siber, baik dari sisi keahlian maupun waktu, untuk melancarkan serangan berskala besar dan terlokalisasi,” ujar pihak Palo Alto Networks dalam keterangannya, dikutip Senin (19/1/2026).
Unit 42 menilai penggunaan LLM berbahaya berpotensi mengubah lanskap kejahatan siber di Indonesia dalam tiga aspek utama. Pertama, kemampuan AI menghasilkan bahasa yang sangat presisi memungkinkan pelaku membuat pesan phishing dan penyusupan email bisnis yang tampak meyakinkan, termasuk meniru gaya komunikasi pimpinan perusahaan, institusi keuangan, maupun lembaga pemerintah.
Kedua, teknologi AI mendorong komersialisasi kejahatan siber dengan kemampuan menghasilkan malware, phishing kits, dan skrip pencurian data secara instan, yang sebelumnya hanya dapat dilakukan oleh pelaku dengan keahlian teknis tinggi. Ketiga, hilangnya hambatan teknis membuat kejahatan siber semakin terdemokratisasi, memungkinkan pelaku berkemampuan rendah menjalankan penipuan dan pemerasan digital secara cepat, murah, dan masif.
Sebagai contoh, WormGPT disebut mampu menghasilkan konten penipuan dalam Bahasa Indonesia yang fasih dan kontekstual, sehingga serangan phishing dan social engineering melalui email maupun aplikasi pesan menjadi semakin sulit dikenali oleh korban.
Unit 42 menekankan pentingnya peran pembuat kebijakan dalam menetapkan standar dan kerangka kerja yang mengatur proliferasi model AI berbahaya, termasuk kewajiban audit keamanan secara berkala. Seiring penyusunan peta jalan AI nasional, tantangan utama Indonesia dinilai bukan membatasi penggunaan AI, melainkan membangun ketahanan keamanan siber terhadap serangan berbasis AI yang bergerak cepat dan berskala besar.
Pendekatan prevention-first dengan mengintegrasikan praktik AI yang aman ke dalam tata kelola dan strategi pertahanan siber dinilai krusial agar manfaat inovasi AI dapat dimaksimalkan tanpa meningkatkan risiko digital. Kolaborasi antara pemerintah, regulator, dan sektor swasta pun dianggap diperlukan untuk memastikan praktik AI yang aman tertanam dalam kerangka tata kelola nasional.
.
STEVY WIDIA
Discussion about this post