review1st.com – Meta mengumumkan serangkaian fitur keamanan baru untuk meningkatkan perlindungan remaja saat menggunakan Meta AI.
Salah satu pembaruan terbesarnya adalah sistem yang akan memberikan notifikasi kepada orang tua apabila percakapan remaja dengan Meta AI menunjukkan indikasi tekanan emosional, termasuk pembahasan mengenai bunuh diri atau tindakan menyakiti diri sendiri.
Langkah ini menjadi bagian dari komitmen Meta untuk menciptakan pengalaman AI yang lebih aman bagi pengguna remaja, sekaligus membantu orang tua memberikan dukungan ketika dibutuhkan.
Orang Tua Akan Mendapat Peringatan dari Meta AI
Melalui fitur Parental Supervision di Instagram, orang tua akan menerima notifikasi jika Meta AI mendeteksi adanya risiko yang mengarah pada:
- bunuh diri;
- tindakan melukai diri sendiri;
- tekanan emosional serius.
Selain notifikasi, Meta juga menyediakan panduan dari para ahli agar orang tua dapat memulai percakapan yang tepat dengan anak remaja mereka mengenai kondisi emosional yang sedang dialami.
Sebelumnya, Meta AI telah mengarahkan remaja yang menunjukkan tanda-tanda krisis menuju layanan bantuan profesional serta mendorong mereka untuk berbicara dengan orang tua, wali, atau konselor tepercaya. Kini, perlindungan tersebut diperluas dengan melibatkan orang tua secara langsung.
Sistem AI Dikembangkan Bersama Pakar Kesehatan Mental
Meta menjelaskan bahwa sistem deteksi ini dibangun berdasarkan masukan dari orang tua dan para ahli kesehatan mental.
AI dirancang untuk mengenali berbagai bentuk ungkapan yang menunjukkan kemungkinan seseorang ingin menyakiti diri sendiri, termasuk penyampaian secara tidak langsung atau tersirat.
Sebelum notifikasi dikirimkan kepada orang tua, seluruh percakapan yang ditandai AI akan melalui proses peninjauan manual guna mengurangi kemungkinan kesalahan deteksi.
Apabila makna percakapan masih belum jelas, Meta memilih mengambil langkah pencegahan dengan tetap mengirimkan pemberitahuan kepada orang tua.
Fitur Mulai Hadir di Sejumlah Negara
Saat ini, fitur notifikasi tersebut telah tersedia bagi pengguna Instagram Parental Supervision di:
- Amerika Serikat
- Inggris
- Australia
- Kanada
Meta juga mengonfirmasi bahwa fitur ini akan diperluas secara global sebelum akhir tahun 2026.
Fitur baru tersebut melengkapi sistem yang sebelumnya sudah memberi tahu orang tua apabila remaja berulang kali mencari kata kunci terkait bunuh diri atau tindakan menyakiti diri di Instagram.
Meta AI Akan Menghubungi Layanan Darurat
Selain melibatkan orang tua, Meta juga tengah mengembangkan sistem yang memungkinkan Meta AI menghubungi layanan darurat apabila mendeteksi adanya risiko bunuh diri yang sangat tinggi dan mendesak.
Fitur ini nantinya berlaku bagi pengguna remaja maupun dewasa.
Langkah tersebut memperluas kebijakan yang sebelumnya telah diterapkan di Facebook dan Instagram.
Sepanjang tahun lalu, Meta mengirimkan lebih dari 19.000 rujukan kepada layanan darurat di berbagai negara setelah mendeteksi potensi risiko bunuh diri melalui unggahan pengguna.
Meta Libatkan Lebih dari 75 Ahli Kesehatan Mental
Untuk meningkatkan kualitas respons AI terhadap isu kesehatan mental, Meta bekerja sama dengan lebih dari 75 tenaga medis dan ahli kesehatan mental.
Para pakar tersebut mengevaluasi ratusan respons Meta AI terhadap berbagai skenario yang berkaitan dengan:
- bunuh diri;
- tindakan melukai diri sendiri;
- kesehatan mental remaja;
- dukungan emosional.
Masukan tersebut digunakan untuk memastikan Meta AI mampu memberikan respons yang lebih empatik, memvalidasi perasaan pengguna, sekaligus mengarahkan mereka menuju bantuan profesional tanpa mengakhiri percakapan secara tiba-tiba.
Meta Perketat Pembatasan Konten untuk Remaja
Meta juga memperluas pengaturan Limited Content ke dalam pengalaman menggunakan Meta AI.
Dengan pengaturan ini, Meta AI secara otomatis menyesuaikan respons sesuai usia pengguna dan membatasi berbagai jenis percakapan yang dinilai sensitif.
Sebagai contoh, Meta AI tidak akan:
- terlibat dalam percakapan romantis atau seksual dengan remaja;
- memberikan resep minuman beralkohol;
- merespons berbagai prompt yang dianggap tidak sesuai usia.
Sebaliknya, sistem akan mengarahkan percakapan menuju topik yang lebih aman dan edukatif.
Bagi orang tua yang mengaktifkan fitur Limited Content melalui Instagram, pembatasan tersebut juga akan berlaku secara otomatis saat anak menggunakan Meta AI.
Meta Perkuat Komitmen terhadap Keamanan Remaja
Melalui pembaruan ini, Meta berupaya menghadirkan keseimbangan antara privasi remaja dan perlindungan dari risiko kesehatan mental.
Kombinasi antara notifikasi kepada orang tua, keterlibatan layanan darurat, penyempurnaan respons AI berbasis masukan para ahli, hingga pembatasan konten sesuai usia diharapkan mampu menciptakan pengalaman menggunakan Meta AI yang lebih aman bagi remaja di seluruh dunia.
