Bagaimana rencana Facebook untuk menghilangkan masalah pornografi balas dendam

Bayangkan bagaimana rasanya menjadi korban pornografi balas dendam.

Seseorang mengambil foto Anda yang tidak pantas di kamar mandi, lalu Anda mengetahuinya tersebar di internet dan media sosial. Hal ini dapat menyebabkan banyak stres dan bahkan depresi.

“Pornografi balas dendam jelas tidak etis dan tidak bermoral,” Roma yang kosong Pengacara perceraian Stacy Phillips mengatakan kepada Fox News. “Ini adalah masalah yang mengubah hidup korban karena diekspos dalam situasi yang membahayakan (seperti difoto atau direkam dalam video saat telanjang atau melakukan tindakan seksual) melanggar privasi korban dan menyebabkan penghinaan yang sangat besar.”

SITUS PORNO YANG INGIN ANDA TONTON KHAWATIR

Sekarang, Facebook memutuskan untuk melakukan sesuatu untuk mengatasi masalah tersebut.

Untuk saat ini, belum ada kecerdasan buatan yang dapat mengidentifikasi suatu gambar sebagai non-konsensual; namun, jika pengguna melabeli suatu gambar sebagai pornografi balas dendam, Facebook telah mulai menggunakan pengenalan pola yang dapat memblokir distribusi gambar tersebut dan mengingatkan pengguna akan masalah tersebut.

“Pengenalan pola dalam aplikasi pornografi balas dendam ini adalah bentuk pengambilan berbasis konten—atau memori asosiatif—dan itulah cara kerja memori penciuman manusia,” kata Dr. Lav Varshney dari the Universitas Illinois di Urbana-ChampaignSeorang pakar AI dan anggota Masyarakat Pemrosesan Sinyal IEEE. “Jika ada gambaran masa depan yang mirip dengan apa yang dihafal, ia akan menunjukkannya.”

TAHANAN OHIO MENGISI KOMPUTER DENGAN INFORMASI PORNO DAN PEMBUATAN YANG GILA

Varshney mengatakan peringatan Facebook membantu karena pengguna mungkin berpikir dua kali untuk memposting gambar tersebut di jejaring sosial lain atau melalui pesan teks di masa mendatang.

Namun, agar AI dapat memblokir gambar awal, menurutnya perlu ada konteks. Dia mengatakan tidak ada AI yang dapat memahami konteks sebuah foto dan apakah itu bersifat suka sama suka atau tidak. Namun, inilah mengapa langkah pelaporan sangat penting dan memungkinkan pembelajaran mesin mengambil alih.

Matt Zeiler, CEO dan pendiri perusahaan visi mesin klarifikasimengatakan alasan Facebook menggunakan AI untuk pengenalan pola pornografi balas dendam adalah karena skalanya — ada ratusan ribu gambar yang dibagikan dan diposkan ulang di jejaring sosial, dan tidak ada operator manusia yang dapat mengidentifikasi dan memblokir semuanya. Pada akhirnya, hal ini membantu para korban karena mengurangi jumlah saham, yang seringkali menjadi penyebab tekanan emosional.

FACEBOOK MELUNCURKAN FITUR UNTUK MENGHENTIKAN BERITA PALSU

Namun, meski para ahli mengatakan kepada Fox News bahwa ini adalah langkah yang baik, Facebook bisa berbuat lebih banyak.

Holly Jacobs, yang merupakan korban pornografi non-konsensual, adalah pendiri, presiden dan direktur eksekutif dari Inisiatif Hak Sipil Dunia Maya. Dia bilang dia suka Facebook memperingatkan pengguna dan memblokir postingan tambahan, tapi satu postingan yang memuat pornografi balas dendam pun sudah terlalu banyak.

“Setelah sebuah gambar diunggah, orang lain dapat melihatnya, mengunduh, berbagi, dan mengunggah ke situs lain dalam hitungan detik,” katanya. “Cara terbaik untuk mencegah terjadinya kerugian pada korban adalah dengan mencegah gambar diunggah atau dibagikan. Kami telah mendorong dan akan terus mendorong industri teknologi untuk mewujudkan hal ini.”

FACEBOOK MENAMBAHKAN ALAT PENCEGAHAN Bunuh Diri UNTUK VIDEO LANGSUNG

Agar hal itu terwujud, kata para ahli, AI harus meningkatkan kemampuannya jauh melampaui kemampuannya saat ini. Seperti yang dicatat oleh Varshney, mereka perlu memahami konteksnya sebelum sebuah gambar diunggah – siapa yang ada di dalam foto tersebut, mengapa gambar tersebut dapat menyebabkan kerugian emosional, dan mengapa gambar tersebut harus diblokir.

AI pada akhirnya akan sampai di sana, tetapi untuk saat ini – semua ahli memuji Facebook karena mengambil tindakan terhadap masalah sensitif dan berpotensi mengubah hidup ini.