youngster.id - Peran kecerdasan buatan (AI) dalam kehidupan sehari-hari terus berkembang. Bukan hanya membantu mencari informasi atau menjadi teman berdiskusi. Untuk itu, kini Meta AI dibekali kemampuan mendeteksi percakapan yang mengindikasikan tekanan emosional pada remaja.
Pihak Meta menghadirkan serangkaian fitur keamanan baru yang dirancang untuk melindungi pengguna remaja. Termasuk memberi notifikasi kepada orang tua apabila Meta AI mendeteksi indikasi bunuh diri atau tindakan melukai diri sendiri dalam percakapan.
Menurut Meta, pendekatan ini dikembangkan bersama para ahli kesehatan mental dan orang tua agar keseimbangan antara privasi remaja dan keselamatan mereka tetap terjaga. Fitur ini berlaku bagi orang tua yang menggunakan fitur Parental Supervision di Instagram.
Melalui pembaruan ini, Meta AI tidak hanya akan mengarahkan remaja ke layanan bantuan krisis atau mendorong mereka berbicara dengan orang dewasa yang dipercaya, tetapi juga mengirimkan pemberitahuan kepada orang tua jika percakapan dinilai menunjukkan risiko yang memerlukan perhatian. Sebelum notifikasi dikirim, setiap percakapan yang ditandai AI akan ditinjau terlebih dahulu oleh manusia untuk mengurangi potensi kesalahan deteksi.
CEO sekaligus Co-Founder ConnectSafely, Larry Magid, menilai langkah tersebut mampu menjaga privasi remaja tanpa mengabaikan peran orang tua dalam memberikan dukungan ketika anak menghadapi situasi yang berisiko.
“Menurut saya, Meta telah berhasil menemukan keseimbangan yang tepat—melindungi privasi remaja sekaligus memastikan orang tua memiliki informasi yang mereka butuhkan untuk dapat memberikan dukungan kepada anak mereka,” ucapnya, Senin (20/7/2026).
Saat ini fitur notifikasi bagi orang tua telah tersedia di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan fitur tersebut akan diluncurkan secara global sebelum akhir tahun.
Selain itu, perusahaan juga tengah juga meminta masukan dari lebih dari 75 ahli kesehatan mental mengenai cara Meta AI merespons prompt remaja terkait isu bunuh diri dan tindakan melukai diri sendiri.
“Peninjauan ini tidak hanya mengevaluasi respons instan terhadap kekhawatiran terkait bunuh diri dan tindakan melukai diri sendiri, tetapi juga memperhatikan konteks percakapan yang lebih luas, tindak lanjut yang tepat, serta berbagai tingkatan risiko yang dapat terjadi, bahkan dalam situasi kritis sekalipun. Penyempurnaan berbasis skenario yang dipandu oleh para ahli seperti ini sangat penting untuk menghadirkan pengalaman berinteraksi denganAI yang lebih aman bagi remaja,” kata Dr. Ji-yeon Lee, Psikolog Berlisensi (AS) dan Profesor Psikologi Konseling di Hankuk University of Foreign Studies (Korea Selatan).
Meta juga mengembangkan sistem yang memungkinkan Meta AI menghubungi layanan darurat apabila mendeteksi risiko bunuh diri yang dinilai mendesak, baik pada pengguna remaja maupun dewasa. Langkah ini melengkapi sistem serupa yang sebelumnya telah diterapkan di Facebook dan Instagram.
Tak hanya memperkuat sistem deteksi, Meta juga memperketat jenis percakapan yang dapat dilakukan remaja dengan Meta AI. Secara otomatis, akun remaja akan menggunakan pengaturan konten yang disesuaikan untuk pengguna berusia 13 tahun ke atas.
Dengan pengaturan ini, Meta AI tidak akan merespons percakapan bernuansa romantis maupun seksual, tidak memberikan resep minuman beralkohol, serta mengarahkan pengguna ke topik yang lebih aman.
Bagi orang tua yang mengaktifkan fitur Limited Content di Instagram, pembatasan tersebut kini juga berlaku untuk interaksi remaja dengan Meta AI. Dengan demikian, AI akan menolak lebih banyak kategori prompt yang dianggap sensitif atau tidak sesuai usia pengguna.
.
STEVY WIDIA
Discussion about this post