NewsRepublik.com, Teknologi – Meta mengambil langkah tegas dengan memperketat aturan penggunaan chatbot berbasis kecerdasan buatan (AI), khususnya saat berinteraksi dengan remaja dan anak di bawah umur.
Kebijakan ini diumumkan menyusul temuan bahwa chatbot milik induk perusahaan Facebook, Instagram, dan WhatsApp tersebut sempat terlibat dalam percakapan berisiko dengan pengguna anak.
Mulai saat ini, chatbot AI Meta tidak lagi diperkenankan membahas topik sensitif, termasuk isu bunuh diri, perilaku melukai diri sendiri, maupun gangguan makan ketika berinteraksi dengan remaja.
Langkah ini diambil setelah adanya penyelidikan dari Senat Amerika Serikat terkait bocornya dokumen internal yang menunjukkan chatbot tersebut mampu terlibat dalam percakapan bernuansa “sensual” dengan pengguna remaja.
Meta melalui pernyataan resminya membantah tuduhan itu. Perusahaan menegaskan dokumen yang beredar tidak akurat dan tidak sejalan dengan kebijakan internal yang secara tegas melarang konten seksual terhadap anak-anak.
Lebih lanjut, Meta memastikan setiap percakapan yang menyentuh isu sensitif akan dialihkan kepada tenaga profesional manusia, bukan ditangani langsung oleh chatbot.
Aktivis Nilai Perlindungan AI Meta bagi Remaja Masih Lemah
Meta menegaskan telah menanamkan sistem perlindungan khusus bagi remaja dalam produk kecerdasan buatan (AI) mereka.
“Kami telah memasukkan sistem perlindungan untuk remaja ke dalam produk AI sejak awal, termasuk merancangnya agar dapat merespons dengan aman pesan tentang menyakiti diri sendiri, bunuh diri, dan gangguan makan,” ujar juru bicara Meta, dikutip dari BBC, Selasa (2/9/2025).
Namun, klaim tersebut tetap menuai kritik dari sejumlah aktivis. Andy Burrows, Kepala Molly Rose Foundation, menyebut keputusan Meta menghadirkan chatbot yang berpotensi membahayakan remaja sebagai hal yang “sangat mengejutkan.”
“Meskipun langkah-langkah keamanan lebih lanjut disambut baik, pengujian keamanan super ketat harus dilakukan sebelum produk dipasarkan, bukan secara retrospektif ketika bahaya telah terjadi,” tegasnya.
Burrows juga meminta regulator komunikasi Inggris, Ofcom, untuk siap turun tangan jika Meta dianggap gagal menjamin keamanan pengguna yang masih berusia remaja.
Fitur Akun Remaja
Meta mengumumkan tengah melakukan pembaruan pada sistem kecerdasan buatan (AI) di seluruh layanannya. Salah satu langkah yang diambil adalah menghadirkan kategori khusus “akun remaja” bagi pengguna berusia 13 hingga 18 tahun di Facebook, Instagram, dan Messenger.
Melalui fitur ini, Meta menekankan pentingnya pengaturan konten dan privasi yang lebih ketat. Perusahaan berharap langkah tersebut dapat menciptakan pengalaman yang lebih aman bagi kalangan muda saat menggunakan berbagai aplikasi dan platform media sosial di bawah naungannya.
Chatbot Ilegal di Platform Meta Tiru Wajah Selebriti
Di tengah upaya memperketat kebijakan bagi pengguna remaja, Meta justru menghadapi sorotan lain terkait keberadaan chatbot ilegal berbasis kecerdasan buatan (AI) yang meniru identitas selebriti tanpa izin.
Mengutip Variety, Senin (1/9/2025), sejumlah figur publik ternama seperti Anne Hathaway, Taylor Swift, dan Scarlett Johansson menjadi sasaran eksploitasi digital. Citra mereka dipakai untuk menciptakan chatbot yang digunakan dalam interaksi bernuansa seksual.
Eksploitasi ini dilaporkan berlangsung dalam bentuk percakapan genit hingga rayuan bermuatan seksual yang secara rutin ditujukan kepada para pengguna. Kondisi tersebut memicu kekhawatiran baru terkait lemahnya pengawasan terhadap distribusi dan penggunaan chatbot berbasis AI.
Soroti Pelanggaran Privasi dan Hak Atas Citra Diri
Fenomena chatbot ilegal kian mengkhawatirkan setelah teknologi ini terbukti mampu menghasilkan gambar photorealistic—foto palsu buatan AI—yang menampilkan konten tak senonoh dari sejumlah korban.
Praktik tersebut pertama kali terungkap melalui laporan investigasi mendalam yang dipublikasikan kantor berita Reuters. Menyusul temuan itu, Meta mengonfirmasi telah menghapus belasan chatbot AI yang terbukti melanggar ketentuan platform.
Meski langkah penertiban sudah dilakukan, insiden ini menyoroti kelemahan sistem pengawasan internal Meta dalam mengendalikan pengembangan sekaligus distribusi teknologi kecerdasan buatan.
Skandal ini pun membuka babak baru dalam diskursus global mengenai keamanan privasi, hak atas citra diri, serta ancaman pelecehan seksual di ranah digital. Peniruan wajah publik figur untuk kepentingan komersial maupun tindakan yang merendahkan martabat dinilai sebagai pelanggaran serius terhadap prinsip fundamental privasi.
Figur publik sekalipun tetap memiliki hak penuh untuk mengendalikan bagaimana wajah dan identitas mereka dipergunakan oleh pihak lain.
