Hai Facebook, saatnya mengutamakan keselamatan kami di atas algoritme Anda

Pembunuhan pria tak bersalah di Cleveland ditunjukkan pelaku di Facebook hanyalah kemarahan terbaru yang meresahkan untuk mengungkap dampak buruk media sosial. Rupanya, dampak keji dari tindakan mengerikan tersebut – termasuk, amit-amit menyalin kejahatan – membuat CEO Facebook Mark Zuckerberg mengumumkan peninjauan terhadap kebijakan perusahaannya.

Beberapa orang berpendapat bahwa pembunuh ini akan bertindak berdasarkan dorongan jahatnya dengan atau tanpa internet. Mereka mungkin benar dalam kasus ini, tapi kita tidak akan pernah tahu sejak pelakunya bunuh diri.

Namun, dua insiden baru-baru ini menegaskan bahwa raksasa media sosial hidup dalam gelembung yang diciptakan sendiri, yang secara sembrono memberdayakan para teroris dan orang-orang fanatik serta menempatkan kita semua dalam risiko yang tidak perlu.

Kabar pertama datang dari Mayor itu perusahaan internasional telah menarik jutaan dolar periklanan dari Google/YouTube setelah mengetahui bahwa logo merek mereka muncul di samping video teroris dan megah yang disiarkan oleh raksasa video tersebut. Hal ini terjadi tepat setelah serangan teroris tingkat tinggi terbaru di pintu masuk House of Commons di London.

Khawatir akan krisis keuangan yang sedang berlangsung, kepala bisnis Google Philipp Schindler menulis blog tentang kesalahannya dan berjanji untuk meningkatkan upayanya untuk memblokir iklan pada video yang “menyebarkan kebencian, menyinggung, dan menghina”. “Kami tahu bahwa hal ini tidak dapat diterima oleh pengiklan dan agensi yang menaruh kepercayaan mereka pada kami,” tulisnya.

Namun Google/YouTube gagal menjawab satu konstituen lainnya: Kami Rakyat. Dan mereka masih menyisakan satu pertanyaan penting yang belum terjawab: Mengapa raksasa media sosial ini mengizinkan konten semacam itu diposting? Beberapa video pro-teroris telah menyertakan cuplikan pembantaian di London dalam upaya perekrutan mereka di media sosial. Dan masyarakat Amerika telah mengetahui betapa besarnya malapetaka yang dapat ditimbulkan oleh satu atau dua orang yang melakukan tindakan sendirian yang dipicu oleh kebencian dan kekerasan.

Pertanyaan-pertanyaan tersebut bukanlah hal baru. Sebagai pendiri Proyek Terorisme dan Kebencian Digital Simon Wiesenthal Center, saya rutin bertemu dengan perusahaan media sosial di Silicon Valley. Dalam hal ini, kami merilis a laporan tahunan (2017) yang memberikan gambaran kepada pemerintah, media, aktivis komunitas, dan perusahaan internet tentang bagaimana para ekstremis – mulai dari ISIS hingga David Duke – menggunakan alat pemasaran paling kuat yang pernah diciptakan untuk mempromosikan agenda teroris dan kebencian mereka.

Minggu lalu kami juga merilis rapor tahunan perusahaan pemeringkat mengenai upaya mereka – jika ada – untuk mempermalukan para penyebar kebencian dan teror online.

Google/YouTube tidak berjalan dengan baik. Mereka telah mendapatkan a C- tentang terorisme dan s D pada Benci. Tidak ada alasan mengapa video real-time yang merayakan dan mempromosikan terorisme serta mempermalukan dan menyerang kelompok minoritas harus diizinkan di YouTube. Selain itu, meskipun banyak protes dan peraturan kami sendiri, YouTube masih memiliki perpustakaan yang berkembang tentang cara menggunakan bahan-bahan yang tersedia untuk membuat bom, detonator ponsel jarak jauh, penyembur api buatan sendiri, atau membuat napalm…

Seiring dengan Twitterrekor sempurna, YouTubeKegagalan Trump untuk menangani unggahan kebencian secara konsisten dan serius telah membantu para petinggi dalam negeri memberikan dampak besar selama kampanye presiden yang kontroversial dan memecah-belah tahun lalu.

Perusahaan media sosial tidak menciptakan kebencian, namun mereka belum mengambil tanggung jawab mereka dengan serius untuk membantu mempermalukan para fanatik online agar tidak semakin mempengaruhi arus utama budaya kita.

Ada satu kategori tambahan di Kartu Laporan Terorisme dan Kebencian Digital 2017 kami—Aplikasi Perpesanan. Aplikasi-aplikasi ini telah menjadi alat penting bagi teroris ketika mereka ingin menghindari pihak berwenang. Dengan menggunakan enkripsi siap pakai, teroris di Perancis dan Belgia menjadi gelap sebelum melancarkan pembantaian mereka.

Perusahaan-perusahaan ini hampir tidak melakukan apa pun untuk menghentikan para teroris membeli produk mereka: nilainya berkisar dari B- hingga F. Kini tersiar kabar bahwa Apa itu Aplikasi menolak untuk bekerja sama dengan pihak berwenang Inggris yang menemukan bahwa teroris House of Commons Khalid Massoud telah menggunakan aplikasi terenkripsi mereka untuk komunikasi terakhirnya sebelum melancarkan serangan mematikannya.

Intinya: Sudah waktunya bagi penyedia layanan media sosial untuk mengambil tanggung jawab mereka dengan serius. Algoritma bukanlah pengganti etika. Jika mereka tidak lagi bertindak efektif, tunggulah Washington untuk mulai mempertimbangkan hal-hal yang menakutkan R peraturan kata.