Jaksa Prancis Geledah Kantor X, Panggil Elon Musk Terkait Deepfake Grok
Otoritas Prancis melakukan penggeledahan di kantor X di Paris sebagai bagian dari penyelidikan pidana terhadap alat kecerdasan buatan Grok. Langkah ini diambil menyusul meningkatnya laporan terkait penggunaan Grok untuk menghasilkan konten ilegal, termasuk gambar seksual eksplisit dan deepfake bermuatan sensitif.
Penyelidikan tersebut dibuka pada Januari 2025 dan kemudian diperluas setelah adanya pengaduan bahwa Grok digunakan untuk memproduksi dan menyebarkan konten terlarang, termasuk deepfake seksual serta materi penyangkalan Holocaust. Penggeledahan dilakukan oleh unit kejahatan siber Gendarmerie Nasional Prancis dengan dukungan pejabat Europol.
Pemanggilan Elon Musk dan Pimpinan X
Kantor Kejaksaan Paris juga mengumumkan pemanggilan Elon Musk serta CEO X, Linda Yaccarino, untuk wawancara sukarela pada 20 April. Selain itu, sejumlah karyawan X lainnya dijadwalkan dimintai keterangan sebagai saksi antara 20 hingga 24 April.
Pihak kejaksaan menyatakan bahwa penyelidikan mencakup berbagai dugaan tindak pidana yang berkaitan dengan cara kerja dan penggunaan platform X. Fokus utama meliputi penyebaran konten ilegal dan bentuk lain dari aktivitas kriminal daring yang difasilitasi oleh platform tersebut.
Jaksa Paris menegaskan bahwa wawancara sukarela dengan para eksekutif bertujuan memberi kesempatan kepada mereka untuk menjelaskan posisi perusahaan serta langkah kepatuhan yang telah atau akan diambil. Hingga saat ini, penyelidikan disebut berjalan secara konstruktif dengan tujuan memastikan bahwa X mematuhi hukum Prancis selama beroperasi di wilayah nasional.
Dugaan Pelanggaran Pidana Serius
Divisi kejahatan siber tengah menyelidiki tujuh dugaan pelanggaran pidana. Di antaranya termasuk keterlibatan dalam kepemilikan dan distribusi pornografi anak, pelanggaran terkait deepfake seksual, penyangkalan Holocaust, pengambilan data secara curang, perusakan sistem, hingga pengoperasian platform daring ilegal sebagai bagian dari kejahatan terorganisasi.
Sebelumnya, akun Global Government Affairs X menyebut penyelidikan otoritas Prancis terkait dugaan manipulasi algoritma dan pengambilan data ilegal sebagai penyelidikan pidana bermotif politik. Namun, pihak berwenang menegaskan bahwa proses hukum ini bertujuan menegakkan kepatuhan terhadap regulasi yang berlaku.
Tekanan Regulasi dari Berbagai Wilayah
Kasus di Prancis bukan satu-satunya tekanan hukum yang dihadapi X terkait Grok. Komisi Eropa pada Januari 2026 juga membuka penyelidikan terpisah untuk menilai apakah X telah melakukan penilaian risiko yang memadai sesuai Digital Services Act sebelum meluncurkan Grok, terutama setelah alat tersebut digunakan untuk menghasilkan konten seksual eksplisit.
Selain itu, X juga diselidiki oleh otoritas pengawas keselamatan daring Inggris, regulator perlindungan data, serta jaksa negara bagian California terkait penyebaran materi seksual nonkonsensual yang dihasilkan oleh Grok. Beberapa lembaga perlindungan data Eropa juga meminta klarifikasi mengenai langkah-langkah kepatuhan yang diterapkan oleh X dan pengembang AI-nya.
Pada Desember lalu, Komisi Eropa telah menjatuhkan denda sebesar 120 juta euro kepada X atas pelanggaran kewajiban transparansi berdasarkan Digital Services Act. Rangkaian penyelidikan ini menunjukkan meningkatnya pengawasan regulator terhadap penggunaan AI generatif dan tanggung jawab platform dalam mencegah penyalahgunaan teknologi tersebut.
