Meningkatnya rasisme online yang didorong oleh gambar palsu adalah “hanya permulaan dari masalah yang akan datang” setelah rilis terbaru perangkat lunak AI X, para pakar pelecehan online telah memperingatkan.
Kekhawatiran muncul setelah gambar yang dihasilkan komputer dibuat menggunakan Grok, chatbot kecerdasan buatan generatif X, membanjiri situs media sosial pada bulan Desember tahun lalu.
Signify, sebuah organisasi yang bekerja dengan kelompok dan klub olahraga terkemuka untuk melacak dan melaporkan kebencian secara online, mengatakan bahwa mereka telah melihat peningkatan laporan pelecehan sejak pembaruan terbaru Grok, dan percaya bahwa pengenalan AI fotorealistik akan menjadikan hal ini jauh lebih umum.
“Saat ini ini merupakan masalah, namun sebenarnya ini hanyalah awal dari masalah yang akan datang. Hal ini akan menjadi jauh lebih buruk dan kita baru saja memulainya, saya perkirakan dalam 12 bulan ke depan hal ini akan menjadi sangat serius.”
Grok diluncurkan pada tahun 2023 oleh Elon Musk, dan baru-baru ini memperoleh fitur teks ke gambar baru bernama Aurora, yang menghasilkan gambar AI fotorealistik berdasarkan perintah sederhana yang ditulis oleh pengguna.
Versi sebelumnya yang kurang canggih, yang disebut Flux, menimbulkan kontroversi awal tahun ini karena ditemukan melakukan hal-hal yang tidak dapat dilakukan oleh banyak perangkat lunak serupa lainnya, seperti menggambarkan karakter berhak cipta dan tokoh masyarakat dalam posisi yang membahayakanmenggunakan narkoba atau melakukan tindakan kekerasan.
Ada beberapa laporan tentang pembaruan Grok terbaru yang digunakan untuk membuat foto gambar rasis yang realistis dari beberapa pemain dan manajer sepak bola. Satu gambar menggambarkan seorang pemain berkulit hitam sedang memetik kapas, sementara gambar lainnya menunjukkan pemain yang sama sedang memakan pisang dikelilingi oleh monyet di hutan. Gambar terpisah menggambarkan dua pemain berbeda sebagai pilot di kokpit pesawat dengan menara kembar di latar belakang. Lebih banyak gambar yang menggambarkan berbagai pemain dan manajer bertemu dan berbincang dengan tokoh sejarah kontroversial seperti Adolf Hitler, Saddam Hussein, dan Osama bin Laden.
Callum Hood, kepala penelitian di Center for Countering Digital Hate (CCDH), mengatakan X telah menjadi platform yang memberikan insentif dan penghargaan terhadap penyebaran kebencian melalui pembagian pendapatan, dan pencitraan AI menjadikannya lebih mudah.
“Hal yang telah dilakukan X, pada tingkat yang belum pernah dilakukan oleh platform arus utama lainnya, adalah menawarkan insentif tunai kepada akun-akun yang melakukan hal ini, sehingga akun-akun di X dengan sengaja memposting kebencian dan disinformasi yang paling terang-terangan.”
Kekhawatiran utama yang diungkapkan oleh banyak orang bukan hanya kurangnya pembatasan terhadap apa yang dapat diminta oleh pengguna, tetapi juga kemudahan yang diberikan kepada Grok untuk menghindari pedoman AI dengan melakukan “jailbreaking”, yang mencakup mendeskripsikan fitur fisik siapa pun yang diminta. apa yang diinginkan pembisik pada gambar tersebut, bukan sekadar memberi nama.
Musim panas laporan yang diterbitkan oleh CCDH menemukan bahwa ketika diberikan perintah kebencian yang berbeda, Grok membuat 80% darinya, 30% di antaranya dibuat tanpa pushback dan 50% lainnya dibuat setelah jailbreak.
Liga Premier mengatakan mereka mengetahui gambar-gambar tersebut dan memiliki tim khusus yang ditugaskan untuk membantu menemukan dan melaporkan pelecehan rasis yang ditujukan kepada para atlet, yang dapat berujung pada tindakan hukum. Liga Premier diyakini menerima lebih dari 1.500 laporan serupa tahun lalu dan mereka telah memperkenalkan filter yang dapat digunakan pemain di akun media sosial mereka untuk membantu memblokir penyalahgunaan dalam jumlah besar.
Juru bicara FA mengatakan: “Diskriminasi tidak memiliki tempat dalam permainan kami atau masyarakat luas. Kami terus mendesak perusahaan media sosial dan otoritas terkait untuk mengatasi penyalahgunaan online dan mengambil tindakan terhadap pelanggar perilaku yang tidak dapat diterima ini.”
X dan Grok telah dihubungi untuk memberikan komentar.