youngster.id - Ancaman siber semakin meningkat seiring dengan meningkatnya ketergantungan kita pada platform media sosial. Apalagi perkembangan teknologi AI telah memungkinkan terciptanya konten-konten palsu yang meyakinkan serta konten yang dihasilkan oleh AI, yang semakin mengaburkan batasan antara realitas dan fiksi.
Ditambah lagi, penggunaan AI di media sosial telah memunculkan kekhawatiran terkait bias algoritma dan pembentukan echo chamber yang membantu mempercepat penyebaran misinformasi.
Vice President Marketing, Asia Pacific and Japan, Palo Alto Network Lisa Sim mengatakan, media sosial saat ini telah menyentuh hampir semua aspek kehidupan kita, sama halnya dengan ancaman siber.
“Meskipun media sosial telah lama menjadi instrumen bagi para penjahat siber, kehadiran AI yang semakin marak kian memperparah ancaman ini, mengingat konten deepfake dan konten yang dihasilkan oleh AI semakin mengaburkan batas antara realita dan fiksi,” katanya dikutip Sabtu (29/6/2024).
Menurut Lisa, ancaman seperti deepfake phishing semakin meningkat dengan teknologi seperti GPT-3 yang mampu menghasilkan teks dan video yang sangat mirip dengan gaya bahasa dan perilaku individu yang ditiru. Jika dimanfaatkan secara tidak bertanggung jawab, fitur deepfake ini bisa disalahgunakan untuk memanipulasi informasi dan mengelabui orang lain agar menyerahkan informasi sensitif, hingga berpura-pura menjadi orang lain dan memohon sejumlah uang tunai untuk keperluan fiktif.
“Memadukan media sosial dan konten yang dihasilkan oleh AI memberikan penjahat siber sebuah sarana rekayasa sosial yang ampuh untuk memanipulasi orang-orang awam agar melakukan tindakan yang berisiko, seperti mengklik tautan berbahaya,” ujarnya.
Lisa menerangkan, untuk melihat bagaimana AI dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab, perlu melihat kejadian-kejadian yang terjadi di Indonesia baru-baru ini. Pada masa pemilihan presiden beberapa waktu lalu misalnya, kita melihat banyak konten deepfake yang beredar di media sosial, seperti video yang menampilkan sosok yang mirip dengan mantan presiden serta tokoh-tokoh nasional lainnya. Hal ini dapat memengaruhi percakapan politik dan berpotensi menggiring opini publik, yang semakin menekankan potensi AI dalam menciptakan konten yang meyakinkan tetapi palsu, serta kekuatan media sosial yang dapat memperluas jangkauan para pelaku kejahatan.
Karena itu, Lisa menegaskan, Hari Media Sosial Sedunia (World Social Media Day) yang jatuh pada tanggal 30 Juni mengingatkan kita semua bahwa untuk melindungi diri sendiri, kita harus cermat dalam memilah-milah konten yang kita konsumsi, melakukan verifikasi sumber, dan mencermati kejanggalan pada video atau gambar.
“Ada baiknya kita rutin meninjau dan memperbarui pengaturan privasi akun kita untuk mengontrol siapa saja yang bisa melihat unggahan dan informasi pribadi kita. Hanya dengan senantiasa waspada, kita bisa melindungi diri kita sendiri dalam menghadapi berbagai ancaman online yang ada,” pungkasnya.
STEVY WIDIA