Uni Eropa Selidiki X Terkait Gambar Seksual Hasil AI Grok
Komisi Eropa resmi membuka penyelidikan terhadap platform X terkait dugaan pelanggaran kewajiban penilaian risiko sebelum meluncurkan alat kecerdasan buatan Grok. Langkah ini diambil setelah muncul laporan bahwa Grok digunakan untuk menghasilkan gambar seksual yang dimanipulasi, termasuk konten yang berpotensi masuk kategori pelecehan seksual terhadap anak.
Dalam pengumumannya, Komisi Eropa menilai bahwa risiko yang seharusnya diantisipasi sebelum peluncuran Grok “tampaknya telah terwujud.” Alat berbasis AI tersebut dilaporkan dimanfaatkan untuk membuat gambar seksual eksplisit, termasuk deepfake yang melibatkan perempuan dan anak-anak. Otoritas Uni Eropa menegaskan bahwa praktik semacam ini merupakan bentuk pelanggaran serius terhadap hak asasi dan keselamatan pengguna.
Komisioner teknologi Uni Eropa menyatakan bahwa deepfake seksual terhadap perempuan dan anak adalah bentuk kekerasan digital yang tidak dapat diterima. Melalui proses hukum ini, Komisi Eropa akan menilai apakah X telah memenuhi kewajiban hukumnya di bawah Digital Services Act (DSA), atau justru mengabaikan perlindungan hak-hak fundamental warga Eropa demi pengembangan layanannya.
Pengawasan terhadap X tidak hanya datang dari Uni Eropa. Otoritas Inggris juga tengah meneliti platform tersebut setelah akun chatbot Grok dilaporkan digunakan untuk menghasilkan gambar telanjang pengguna serta konten pelecehan seksual anak. Regulator perlindungan data Inggris meminta klarifikasi mengenai langkah-langkah kepatuhan terhadap hukum perlindungan data, sementara otoritas keselamatan online membuka penyelidikan terpisah terkait risiko konten ilegal.
Tekanan internasional meningkat setelah otoritas di Amerika Serikat ikut membuka penyelidikan atas pembuatan materi seksual tanpa persetujuan menggunakan Grok. Menyusul sorotan global tersebut, X mengumumkan pembatasan kemampuan pembuatan dan pengeditan gambar Grok, yang hanya tersedia bagi pelanggan berbayar. Kebijakan ini menuai kritik keras karena dinilai justru menjadikan fitur yang berpotensi melanggar hukum sebagai layanan premium.
Di bawah aturan Uni Eropa, X telah diklasifikasikan sebagai platform online sangat besar setelah melaporkan lebih dari 45 juta pengguna aktif bulanan di wilayah tersebut. Status ini mewajibkan X untuk secara aktif mengidentifikasi dan memitigasi risiko sistemik, termasuk penyebaran konten ilegal serta ancaman terhadap hak-hak dasar pengguna.
Penyelidikan terbaru ini menambah daftar masalah hukum yang dihadapi X di Eropa. Sebelumnya, Komisi Eropa telah menjatuhkan denda besar atas pelanggaran kewajiban transparansi yang diatur dalam Digital Services Act. Kasus Grok kini menjadi ujian penting bagi penegakan regulasi AI dan platform digital di kawasan tersebut, sekaligus menegaskan sikap tegas Uni Eropa terhadap penyalahgunaan teknologi kecerdasan buatan.
