youngster.id - Para profesional di bidang keamanan Teknologi Informasi (TI) maupun penjahat siber saat ini semakin mengandalkan AI dalam strategi mereka. Data State of IT terbaru dari Salesforce menunjukkan optimisme yang kuat terhadap agen AI, dengan 100% pemimpin keamanan cyber mengidentifikasi setidaknya satu tantangan keamanan yang dapat ditingkatkan dengan agen AI.
Seiring dengan percepatan adopsi kecerdasan buatan (AI) dan meningkatnya ancaman siber, sekitar 8 dari 10 (82%) pemimpin bidang keamanan TI di Indonesia menyadari perlunya transformasi praktik keamanan mereka—sebuah tren yang terjadi secara global. Namun, meskipun penuh harapan, survei terhadap lebih dari 150 pemimpin TI di Indonesia, menyoroti tantangan besar dalam hal implementasi.
Hampir 1 dari 3 organisasi (29%) mengkhawatirkan fondasi data mereka belum siap untuk memaksimalkan agentic AI, dan lebih dari setengah (57%) tidak sepenuhnya yakin memiliki pengamanan (guardrail) yang memadai untuk menerapkan agen AI.
“Organisasi hanya bisa mempercayai agen AI sejauh mereka yakin bahwa data mereka dapat diandalkan. Dengan 49% pemimpin keamanan TI di Indonesia mengatakan bahwa pelanggan masih ragu mengadopsi AI karena masalah keamanan dan privasi, jelas bahwa pengelolaan data yang kuat bukan lagi pilihan, tapi keharusan,” kata Gavin Barfield, Vice President & Chief Technology Officer, Solutions, ASEAN, Salesforce dikutip Selasa (17/6/2025).
Gavin memaparkan, ancaman siber berbasis AI berkembang cepat, dan 71% pemimpin TI Indonesia khawatir ancaman ini akan segera menaklukkan sistem perlindungan tradisional. Selain serangan yang sudah umum seperti peretasan keamanan cloud, malware, dan phishing, mereka kini semakin waspada terhadap data poisoning. Dalam metode baru tersebut, penjahat siber merusak data yang digunakan untuk melatih AI, sehingga menghasilkan keputusan yang tidak akurat atau berbahaya.
“Tim keamanan TI yang menerapkan tata kelola data yang kuat akan lebih siap memanfaatkan agen AI dalam operasional keamanan sekaligus memastikan perlindungan data dan kepatuhan tetap terjaga,” ujarnya.
Selain itu, riset terbaru menunjukkan bahwa kepercayaan konsumen terhadap perusahaan menurun drastis. Sebanyak 60% responden mengatakan bahwa perkembangan AI membuat kredibilitas bisnis semakin krusial. Selain itu, hanya 42% konsumen percaya perusahaan akan menggunakan AI secara etis, turun dari 58% pada 2023.
Seiring semakin banyak perusahaan mengadopsi AI agentic, tata kelola data menjadi semakin penting. Meski 71% pemimpin TI Indonesia mengklaim memiliki data berkualitas, hanya 57% yang yakin agen AI mereka beroperasi dengan izin dan protokol yang benar, dan hanya 43% percaya bahwa sistem pengamanan mereka sudah memadai.
Menurut Gavin, pentingnya tata kelola data semakin meningkat setelah diterapkannya Undang-Undang Perlindungan Data Pribadi (PDP) Indonesia. Regulasi ini mewajibkan organisasi untuk memperoleh izin eksplisit dari pengguna sebelum memproses data, menunjuk petugas perlindungan data, segera melaporkan pelanggaran, serta memenuhi ketentuan ketat dalam transfer data lintas negara. Bagi perusahaan, ini berarti mereka harus menyesuaikan sistem internal, kebijakan, dan praktik penggunaan AI agar terhindar dari risiko hukum dan reputasi.
“Tata kelola data harus menjadi prioritas bagi perusahaan yang ingin menerapkan AI secara bertanggung jawab di tengah lingkungan regulasi yang semakin kompleks,” ujarnya.
Menurut riset State of IT, lebih dari 51% tim keamanan TI di Indonesia sudah menggunakan agen AI dalam pekerjaan sehari-hari. Jumlah ini diperkirakan akan lebih dari dua kali lipat dalam dua tahun ke depan. Para pemimpin keamanan TI melihat berbagai manfaat dari peningkatan penggunaan agen AI, mulai dari deteksi ancaman hingga audit canggih terhadap kinerja model AI. Sebanyak 84% mengharapkan penggunaan agen AI dalam dua tahun ke depan.
STEVY WIDIA