Proteksi Anak dari Konten AI: Tantangan Digital di Era Generatif

  • Aug 06, 2025
  • Firdaus
  • Informasi

 

Perkembangan teknologi kecerdasan buatan (AI) telah membawa revolusi besar dalam dunia digital. Namun, di balik kemajuan tersebut, muncul pula kekhawatiran yang semakin nyata terhadap paparan anak-anak terhadap konten berbasis AI yang tidak sesuai usia. Dari deepfake, gambar hasil AI generatif, hingga chatbot yang sulit dibedakan dari manusia, ancaman tersembunyi ini menjadi sorotan serius bagi orang tua, pendidik, dan pembuat kebijakan.

Di Kota Malang, isu ini mulai mendapat perhatian setelah sejumlah laporan masuk ke Dinas Pendidikan dan Komisi Perlindungan Anak Indonesia (KPAI) daerah, terkait anak-anak yang mengakses video animasi dan percakapan AI dengan muatan seksual terselubung atau kekerasan tersamar. Banyak di antaranya berasal dari platform populer yang menggunakan AI generatif untuk menghasilkan gambar, suara, bahkan cerita secara otomatis.

Dunia Digital Tanpa Batas

Menurut dosen Ilmu Komunikasi Universitas Negeri Malang, Dr. Meira Anindita, tantangan utama dalam era digital berbasis AI adalah minimnya filter yang benar-benar memahami konteks psikologis dan perkembangan anak. “AI bisa membuat konten sesuai permintaan pengguna, tapi belum tentu dapat membedakan apakah konten itu layak ditonton oleh anak-anak atau tidak,” ujarnya.

Berbeda dengan konten manual yang masih bisa dikurasi oleh tim manusia, konten AI sering kali lepas dari pengawasan karena sifatnya real-time dan berbasis permintaan. Misalnya, anak yang penasaran bisa saja menuliskan permintaan tertentu ke chatbot berbasis AI, lalu menerima balasan dengan konten yang tidak layak, meskipun mereka tidak menyadari akibatnya.

Peran Orang Tua dan Regulasi

Pemerintah Kota Malang melalui Dinas Kominfo telah mulai mengadakan sosialisasi ke sekolah-sekolah mengenai bahaya konten AI yang tidak difilter. Kepala Dinas Kominfo, Hendra Prasetyo, menegaskan pentingnya literasi digital sejak dini. “Orang tua perlu sadar bahwa pengawasan digital sekarang tidak cukup dengan memblokir situs. Mereka harus mengerti cara kerja AI dan mengedukasi anak-anak secara aktif,” ujarnya.

Sementara itu, secara nasional, Kementerian Komunikasi dan Informatika tengah menggodok regulasi baru yang mengatur batasan usia dan algoritma penyaringan pada platform AI. Beberapa usulan termasuk kewajiban mode anak (kids mode) pada setiap layanan AI, pelabelan konten otomatis, serta audit berkala oleh badan independen.

Teknologi untuk Melindungi Anak

Meski AI bisa menjadi ancaman, teknologi ini juga bisa menjadi solusi. Startup teknologi asal Bandung, misalnya, tengah mengembangkan AI parental guard, sebuah perangkat lunak yang bisa menyaring konten AI berdasarkan usia dan minat anak secara dinamis. Aplikasi ini dirancang untuk berjalan di latar belakang, memantau interaksi anak dengan teknologi berbasis AI, dan memberikan notifikasi langsung ke orang tua jika ditemukan anomali.

Kesadaran Kolektif

Di tengah perkembangan yang begitu cepat, perlindungan anak tidak cukup hanya dari satu arah. Dibutuhkan kolaborasi antara pemerintah, penyedia platform, orang tua, dan anak-anak itu sendiri. Pendidikan literasi digital menjadi pondasi utama agar anak dapat menjadi pengguna yang cerdas, bukan korban dari dunia digital yang tanpa batas.

“Anak-anak adalah pengguna teknologi masa depan, tapi saat ini merekalah yang paling rentan. Proteksi tidak hanya tentang melarang, tapi mendampingi dan mendidik,” tutup Dr. Meira.

Reporter: Maya Lestari – Redaksi Teknologi Keluarga dan Edukasi, Malang