Getty Images Lebih dari 100.000 perempuan diedit fotonya menjadi foto yang menampilkan mereka dalam keadaan bugil. Gambar-gambar itu kemudian beredar di media sosial dan dibagikan secara online, menurut sebuah laporan baru.
Pakaian para perempuan itu dihapus secara digital oleh Kecerdasan Buatan (AI) dan disebarkan melalui aplikasi Telegram.
Beberapa dari mereka yang menjadi target "tampaknya di bawah umur", kata laporan perusahaan intelijen Sensity.
- Kehidupan seks sutradara film porno Bella Thorne yang sesungguhnya (dan yang palsu)
- Perusahaan kartu kredit didesak memblokir pembayaran ke situs porno lantaran rentan konten eksploitasi seksual
- Bintang porno dan PSK versus Instagram: Ratusan akun dihapus karena melanggar panduan
- Kisah Rose Kalemba: 'Saya diperkosa saat berusia 14 tahun dan videonya diunggah di situs porno'
Tetapi mereka yang menjalankan layanan itu mengatakan aktivitas itu dilakukan hanya untuk "hiburan".
BBC telah menguji perangkat lunak tersebut dan menerima hasil yang buruk.
Sensity mengatakan teknologi yang digunakan adalah "deepfake bot"
Deepfake adalah gambar dan video yang dihasilkan komputer, yang seringkali realistis, berdasarkan template nyata.
Salah satu kegunaannya adalah untuk membuat video porno yang menggunakan wajah selebritas.
Namun, kepala eksekutif Sensity, Giorgio Patrini, mengatakan penggunaan foto pribadi relatif baru.
"Memiliki akun media sosial dengan foto yang terbuka untuk publik saja sudah cukup bagi siapa saja untuk dijadikan incaran," tandasnya.
Bot Telegram
Bot dengan kecerdasan buatan itu ada di dalam kanal pesan pribadi Telegram. Pengguna dapat mengirim bot foto seorang perempuan, dan secara digital pakaiannya bisa dihapus dalam hitungan menit, tanpa biaya.
BBC menguji beberapa gambar, semua dengan persetujuan subjek, dan tidak ada hasil yang benar-benar realistis - termasuk foto seorang perempuan dengan pusar di diafragma.
Aplikasi serupa ditutup tahun lalu, tetapi diyakini ada versi perangkat lunak lain yang beredar.
Administrator yang menjalankan layanan itu, yang diidentifikasikan dengan "P" berkata: "Saya tidak terlalu peduli. Ini adalah hiburan yang tidak membawa kekerasan.
"Tidak ada yang akan memeras siapa pun dengan ini karena kualitasnya tidak realistis."
Dia juga mengatakan timnya melihat foto apa saja yang dibagikan, dan "ketika kami melihat anak di bawah umur, kami memblokir pengguna tersebut untuk selamanya."
Tetapi keputusan untuk membagikan foto itu dengan orang lain tergantung pada siapa pun yang menggunakan bot, katanya.
Saat melakukan pembelaan, dia mengatakan : "Ada perang, penyakit, banyak hal buruk yang berbahaya di dunia." Dia juga mengklaim akan segera menghapus semua gambar tersebut.
Telegram belum menanggapi permintaan komentar.
'Konten pedofil'
Sensity melaporkan bahwa antara Juli 2019 dan 2020, sekitar 104.852 perempuan telah menjadi sasaran dan gambar telanjang palsu mereka dibagikan secara publik.
Investigasi yang dilakukan menemukan bahwa beberapa gambar perempuan tampak di bawah umur, "menunjukkan bahwa beberapa pengguna menggunakan bot untuk membuat dan berbagi konten pedofil."
Sensity mengatakan bot tersebut beriklan secara signifikan di situs media sosial Rusia, VK, dan survei di platform tersebut menunjukkan bahwa sebagian besar pengguna berasal dari Rusia dan negara-negara bekas Uni Soviet.
Namun VK berkata: "Mereka tidak mentolerir konten atau tautan semacam itu di platform mereka dan akan memblokir komunitas yang mendistribusikannya."
Telegram secara resmi dilarang di Rusia hingga awal tahun ini.
"Banyak dari situs web atau aplikasi ini tidak beroperasi di bawah tanah karena tidak dilarang secara tegas," kata Giorgio Patrini dari Sensity.
"Sampai [pelarangan] itu terjadi, saya khawatir keadaannya akan bertambah buruk."
Penulis laporan tersebut mengatakan bahwa mereka telah membagikan semua temuan mereka dengan Telegram, VK, dan lembaga penegak hukum terkait, tetapi belum mendapatkan tanggapan.
Nina Schick, penulis buku Deep Fakes and the Infocalypse, mengatakan pengguna deepfake ada di seluruh dunia, dan badan-badan hukum masih "mengejar ketinggalan" dengan teknologi.
"Hanya masalah waktu saja sampai konten itu menjadi lebih canggih. Jumlah video porno deepfake sepertinya berlipat ganda setiap enam bulan," katanya.
"Sistem hukum belum bisa secara tepat menangani masalah ini. Masyarakat berubah lebih cepat dari yang dapat kita bayangkan karena kemajuan teknologi yang eksponensial ini, dan kita sebagai masyarakat belum memutuskan bagaimana cara mengaturnya.
"Bagi korban porno palsu, ini menghancurkan. Tindakan itu benar-benar dapat mengubah hidup mereka karena mereka merasa dilecehkan dan dihina."
Tahun lalu, negara bagian Virginia di AS menjadi salah satu tempat pertama yang melarang deepfake.
Sementara, undang-undang Inggris terkait gambar telanjang palsu baru-baru ini dikritik karena "tidak konsisten, ketinggalan zaman, dan membingungkan" dalam sebuah laporan universitas.
Meskipun ada kemajuan dalam isu-isu seperti revenge porn [penyebaran konten porno untuk tujuan balas dendam] dan upskirting [tindakan memotret dari bawah rok], masih banyak celah dalam hukum", kata Lucy Hadley dari badan amal Women's Aid.
Meskipun statistik ini menunjukkan seberapa luas penyebaran gambar porno palsu, saat ini hal itu bukanlah pelanggaran khusus.
Pemerintah Inggris telah menginstruksikan Komisi Hukum untuk meninjau undang-undang seputar masalah tersebut di Inggris dan Wales. Proses itu diharapkan selesai pada 2021.