salsabilafm.com – Organisasi nirlaba yang fokus pada keselamatan anak dalam penggunaan media dan teknologi, Common Sense Media, merilis hasil penilaian risiko terhadap produk kecerdasan buatan (AI) Gemini milik Google.
Dilansir Antara, Minggu (7/9/2025), hasil analisis menyebutkan, meski Gemini mampu menegaskan dirinya hanyalah komputer dan bukan teman, sistem ini tetap dikategorikan berisiko tinggi bagi anak-anak dan remaja.
Dalam laporannya, Common Sense menyoroti bahwa versi “Under 13” dan “Teen Experience” dari Gemini pada dasarnya hanya merupakan adaptasi layanan dewasa dengan tambahan filter keamanan. Padahal, menurut mereka, produk AI untuk anak seharusnya dirancang sejak awal dengan mempertimbangkan keselamatan pengguna muda.
Analisis juga menemukan Gemini masih bisa membagikan konten tidak pantas, seperti informasi terkait seks, narkoba, alkohol, hingga saran soal kesehatan mental yang berpotensi membahayakan. Situasi ini dikhawatirkan semakin serius karena AI dilaporkan terlibat dalam sejumlah kasus bunuh diri remaja dalam beberapa bulan terakhir.
Kekhawatiran makin besar setelah muncul bocoran bahwa Apple mempertimbangkan menggunakan Gemini sebagai model bahasa besar (LLM) untuk Siri terbaru yang akan dirilis tahun depan. Jika hal itu benar, jutaan remaja dinilai berpotensi terpapar risiko serupa, kecuali Apple menambahkan pengaman ekstra.
Akibat temuan tersebut, Gemini untuk kategori anak dan remaja diberi label “High Risk”. Robbie Torney, Senior Director AI Programs Common Sense Media, menegaskan bahwa platform AI bagi anak-anak seharusnya disesuaikan dengan kondisi dan perkembangan mereka, bukan sekadar versi modifikasi dari produk orang dewasa.
“Gemini memang sudah tepat dalam beberapa hal mendasar, tetapi keliru pada detailnya. Sebuah platform AI untuk anak seharusnya disesuaikan dengan kondisi mereka, bukan menggunakan pendekatan seragam untuk anak-anak di berbagai tahap perkembangan,” kata Robbie Torney Senior Director AI Programs Common Sense Media.
“Agar AI aman dan efektif bagi anak-anak, ia harus dirancang dengan mempertimbangkan kebutuhan dan perkembangan mereka, bukan sekadar versi modifikasi dari produk yang dibuat untuk orang dewasa,” tambahnya.
Menanggapi laporan itu, Google menyatakan pihaknya memiliki kebijakan serta perlindungan khusus untuk pengguna di bawah 18 tahun. Google mengakui masih ada respons Gemini yang tidak sesuai tujuan, namun perusahaan menambahkan perlindungan tambahan dan mengandalkan uji keamanan dengan pakar eksternal.
Google juga menekankan bahwa sistemnya dilengkapi pengaman agar tidak membentuk kesan hubungan nyata dengan pengguna. Namun, perusahaan mempertanyakan metode pengujian Common Sense karena tidak mengetahui daftar pertanyaan yang digunakan.
Sebagai perbandingan, Common Sense juga menilai beberapa layanan AI lain. Meta AI dan Character AI dikategorikan “unacceptable” karena dinilai sangat berisiko. Perplexity disebut berisiko tinggi, ChatGPT berada di level “moderate”, sementara Claude (yang ditujukan bagi pengguna 18 tahun ke atas) dinilai memiliki risiko minimal. (*)
