Langkah hukum Jess Asato terhadap xAI membuka babak baru dalam debat soal AI generatif, bukan hanya karena ada gambar deepfake seksual yang beredar, tetapi juga karena pertanyaannya kini bergeser ke tanggung jawab perusahaan pembuat sistem. Gugatan yang diajukan ke High Court Inggris itu menempatkan keamanan desain, perlindungan data, dan pencegahan penyalahgunaan sebagai inti persoalan.
Asato meminta pengadilan menilai bahwa tindakan tersebut melanggar hukum dan menuntut ganti rugi finansial. Melalui firma hukum AWO, ia juga meminta perintah agar xAI menghentikan pelanggaran yang disebut masih berlangsung, sekaligus menerapkan perlindungan baru untuk mencegah penyalahgunaan serupa di masa depan.
Kasus ini mencuat setelah materi yang dibuat lewat Grok disebut beredar tanpa persetujuannya. Menurut laporan Reuters, setelah Asato secara terbuka mengutuk Grok pada Januari, konten fabrikasi mulai menyebar dan memicu kemarahan yang lebih luas.
Materi tersebut mencakup gambar Asato mengenakan bikini serta sebuah video yang menggambarkan dirinya “dichloroform dan disiapkan untuk serangan seksual.” Asato menilai Grok telah menghasilkan deepfake pornografi dan konten seksual yang merugikan ribuan perempuan dan anak-anak.
Ia juga menegaskan bahwa kemampuan seperti itu bukan sekadar kecelakaan atau penyalahgunaan oleh pengguna. Dalam pandangannya, masalah itu lahir dari pilihan desain para pembuatnya, sehingga sorotan tidak berhenti pada orang yang memakai sistem, tetapi juga pada perusahaan yang merancangnya.
Sorotan ke tanggung jawab pengembang
Ravi Naik, direktur hukum AWO sekaligus pengacara utama Asato, menyebut perkara ini sebagai uji penting bagi tanggung jawab hukum pengembang AI. Ia mengatakan kasus tersebut termasuk salah satu klaim pertama yang menguji tanggung jawab atas desain sistem AI.
Pernyataan itu membuat gugatan Asato dipandang lebih besar dari sengketa pribadi. Perkara ini dinilai bisa ikut membentuk standar kehati-hatian baru dalam pengembangan AI generatif, terutama ketika sistem mampu menghasilkan materi abusif.
Perdana Menteri Keir Starmer juga menyatakan dukungannya terhadap langkah hukum tersebut. Menurut Sky News, ia menyebut gambar-gambar itu menjijikkan dan mengatakan dirinya “100%” mendukung tindakan yang diambil Asato.
Di sisi lain, xAI belum segera menanggapi permintaan komentar. Perusahaan itu sudah lebih dulu menghadapi sejumlah tantangan hukum lain terkait kemampuan Grok menghasilkan gambar.
Sekitar pertengahan Januari, xAI mengumumkan perubahan yang membatasi fitur pengeditan gambar Grok. Perusahaan juga melarang pembuatan gambar orang dengan pakaian terbuka di wilayah yang memang melarang konten seperti itu.
Meski kemudian ada larangan perusahaan terhadap fitur nudifikasi, AWO mengutip pengujian NBC News yang menunjukkan Grok masih dapat membuat deepfake seksual setelah pembatasan diberlakukan. Temuan itu membuat perdebatan soal efektivitas pembatasan teknis kembali mengemuka.
Di Inggris, membuat atau meminta gambar deepfake nonkonsensual untuk orang dewasa kini juga telah menjadi tindakan ilegal. Aturan ini memberi konteks tambahan bagi gugatan Asato, karena perkara tersebut menyentuh langsung isu persetujuan, penggunaan data pribadi, dan perlindungan korban.
Di luar Inggris, tekanan terhadap xAI juga muncul dari jalur hukum lain. Baltimore menggugat xAI pada Maret dengan argumen bahwa kemampuan Grok menghasilkan citra seksual fabrikasi melanggar undang-undang perlindungan konsumennya.
Pada bulan yang sama, tiga remaja Tennessee mengajukan class action terpisah. Mereka menuduh model Grok digunakan lewat aplikasi pihak ketiga berlisensi untuk membuat materi pelecehan seksual anak yang menggambarkan mereka.
Reuters juga melaporkan bahwa regulator di sejumlah negara telah membuka penyelidikan terhadap Grok. Rangkaian langkah itu menunjukkan bahwa masalah yang dihadapi xAI tidak lagi terbatas pada satu wilayah atau satu jenis klaim hukum.
Asato turut meminta orang-orang lain di Inggris yang gambarnya dimanipulasi Grok dengan cara yang abusif atau merendahkan untuk maju dan mendukung klaim hukumnya. Ajakan tersebut memperluas kasus ini dari sengketa individual menjadi tekanan kolektif atas cara AI generatif diawasi dan dibatasi.
-
-
-
-
