Otoritas Privasi Inggris Selidiki Grok Terkait Gambar Seksual Buatan AI
Otoritas perlindungan data Inggris resmi membuka penyelidikan terhadap X dan anak perusahaannya di Irlandia menyusul laporan bahwa asisten AI Grok digunakan untuk menghasilkan gambar seksual nonkonsensual. Langkah ini menandai eskalasi pengawasan regulator terhadap penggunaan AI generatif yang berpotensi melanggar hukum perlindungan data dan membahayakan individu.
Penyelidikan ini diumumkan setelah regulator sebelumnya menghubungi X dan pengembang Grok untuk meminta klarifikasi mendesak mengenai langkah-langkah kepatuhan yang diterapkan, menyusul temuan bahwa Grok diduga membuat gambar seksual eksplisit dengan memanfaatkan data pribadi individu tanpa persetujuan.
Fokus Penyelidikan dan Risiko Data Pribadi
Regulator menyatakan akan menilai apakah pemrosesan data pribadi oleh entitas terkait dilakukan secara sah dan apakah pengamanan yang memadai telah diterapkan untuk mencegah pembuatan gambar intim atau manipulatif yang merugikan. Otoritas menegaskan bahwa kegagalan menjaga kontrol atas data pribadi—terutama ketika pengamanan tidak mencegah terbentuknya citra intim berbasis AI—dapat menimbulkan dampak langsung dan signifikan, dengan risiko yang meningkat ketika melibatkan anak-anak.
Pernyataan resmi regulator menekankan kekhawatiran mendalam atas penggunaan data pribadi untuk menghasilkan konten seksual tanpa sepengetahuan atau persetujuan subjek data. Situasi ini dinilai dapat menimbulkan kerugian psikologis dan reputasional yang serius, serta membuka potensi pelanggaran hukum yang berat.
Kewenangan Sanksi dan Tekanan Regulasi
Sebagai otoritas perlindungan data independen, regulator Inggris memiliki kewenangan menjatuhkan denda hingga £17,5 juta atau sebesar 4% dari omzet tahunan global perusahaan, mana yang lebih besar. Kewenangan ini menegaskan konsekuensi finansial dan kepatuhan yang signifikan bagi perusahaan teknologi yang gagal memenuhi standar perlindungan data.
Kasus di Inggris ini berlangsung di tengah meningkatnya tekanan regulator lintas yurisdiksi terhadap X dan Grok. Otoritas di negara lain juga menyoroti dugaan penggunaan Grok untuk menghasilkan konten seksual nonkonsensual dan materi ilegal lainnya, memperkuat fokus global pada tata kelola AI, penilaian risiko, dan pengamanan teknis sebelum peluncuran fitur AI generatif.
Implikasi bagi Pengembangan AI
Penyelidikan ini menggarisbawahi tuntutan yang kian ketat agar platform menerapkan privacy by design dan safety by design dalam pengembangan AI. Regulator menuntut bukti pengamanan yang efektif, transparansi pemrosesan data, serta mekanisme pencegahan yang mampu menghentikan penyalahgunaan AI generatif—khususnya yang berdampak pada privasi dan keselamatan individu.
Perkembangan ini menjadi sinyal kuat bahwa regulator tidak hanya akan menilai hasil akhir, tetapi juga proses, kontrol internal, dan kesiapan mitigasi risiko yang diterapkan perusahaan saat mengoperasikan AI pada skala besar.
