Bagaimana Twitter Dapat Menggunakan Kecerdasan Buatan untuk Mengurangi Pelecehan Online

“Kenapa kamu tidak melompat dari jembatan dan bunuh diri? Aku yakin kamu akan membuat keributan besar.”

Ini adalah tweet sebenarnya yang dikirimkan seseorang kepada saya beberapa tahun yang lalu.

Saya masih mengingatnya karena terlihat ganas — dan bagaimana orang ini tahu bahwa saya seukuran pemain sepak bola? Selama bertahun-tahun, terutama menulis untuk FoxNews.com, saya telah berurusan dengan banyak troll dan pelaku kekerasan online, orang-orang yang sangat senang membuat orang lain merasa sengsara saat online. Itu tidak banyak berubah dalam beberapa tahun terakhir.

Faktanya, keadaannya tampaknya semakin buruk.

Salah satu permasalahannya, kata mantan perwira CIA dan LAPD Henderson Cooper, adalah seringkali sulit untuk menentukan apakah ada niat kriminal. Dan kebebasan berpendapat menjadikan Twitter sebagai forum terbuka.

PENGGUNAAN MEDIA SOSIAL YANG BERLEBIHAN MENYEBABKAN PERASAAN TERISOLASI

Twitter memutuskan untuk menangani masalah ini dengan cara yang halus. Perusahaan (yang menolak mengomentari catatan tersebut) menggunakan algoritme yang dapat mendeteksi pelaku kekerasan online, namun sebagian besar teknik ini hanya menandai pengguna dan memungkinkan Anda memblokir mereka dari feed Anda.

Awal bulan ini, Ed Ho – VP of Engineering di Twitter – diumumkan bahwa Twitter akan mulai “membatasi fungsi pelaku kekerasan online jika mereka melihat pelanggaran berulang kali”. Salah satu tekniknya adalah dengan memblokir pengguna sehingga hanya pengikut langsung yang melihat postingan mereka.

Yang kurang adalah analisis real-time — seseorang dapat dengan mudah mengirimi Anda ancaman pembunuhan secara tiba-tiba hari ini, dan Twitter akan memblokir akun tersebut hanya jika jejaring sosial tersebut melihat adanya pola.

Namun para ahli mengatakan kecerdasan buatan bisa menjadi jawabannya. Dengan menggunakan pembelajaran mesin – dan menganalisis sejumlah besar tweet – AI dapat mengurangi atau bahkan menghilangkan penyalahgunaan Twitter.

“AI dapat membantu menghentikan pelecehan sebelum hal itu terjadi,” kata Darren Campo, dosen di Universitas tersebut Sekolah Bisnis NYU Sternyang menjelaskan bagaimana AI dapat mengarungi jutaan postingan dengan cara yang tidak dapat dilakukan oleh operator manusia. Kurangnya mempekerjakan ribuan karyawan (seluruhnya perusahaan hanya memiliki sekitar 3.800), kecerdasan buatan dapat “menambah garis pertahanan” terhadap penyalahgunaan online.

HACKERS PEMBAJAK AKUN TWITTER DENGAN SWASTIKAS, PESAN ‘NAZI HOLLAND’

Analis konsumen Rob Enderle mengatakan AI harus sangat cerdas. Troll yang melakukan pelecehan secara online sering kali menemukan cara untuk menghindari tindakan pengamanan, dan bagi mereka, ini adalah perilaku yang dipelajari. Dia mengatakan motif utamanya, yaitu niat untuk menimbulkan kerugian di forum publik, tidak dibahas.

“AI dapat menganalisis perilaku, menyarankan respons yang layak, mengidentifikasi dan melacak pelaku yang berulang kali melakukan pelanggaran berdasarkan perilaku mereka, dan menandai mereka yang memerlukan tindakan hukuman agresif,” kata Enderle, yang bekerja untuk Grup Enderle. “Ini bisa menjadi bagian besar dari solusi menyeluruh yang pada akhirnya menghilangkan sebagian besar perilaku ini, dan dalam skala besar, Twitter tidak mampu menangani jumlah staf dalam jumlah besar.”

Analisis “niat untuk merugikan” memang sulit dilakukan, namun para ahli mengatakan hal itu mungkin terjadi – ada jutaan tweet yang tersedia secara online untuk dianalisis dan dibedah. Pembelajaran mesin setidaknya dapat membendung arus ini.

Richard Baraniuk, seorang rekan IEEE dan profesor teknik elektro dan komputer di Rice University, mengatakan AI dapat menggunakan teknik serupa yang digunakan saat ini untuk mendeteksi spam dan malware.

“Algoritme ini hanya akan menghitung frekuensi kemunculan kata-kata dalam sebuah tweet dan kemudian membandingkannya dengan frekuensi dalam tweet yang sudah dinilai melecehkan dan frekuensi dalam tweet yang sudah dianggap tidak melecehkan,” klaim Baraniuk. “Setelah kami membuat kumpulan tweet yang dianggap melecehkan dan tidak melecehkan, maka kami dapat menerapkan pendekatan yang sama pada tweet baru untuk segera menghapus pelaku kekerasan dari sistem.”

Untuk saat ini, Twitter tampaknya menjadi pihak yang defensif. Perusahaan ini secara teratur menerbitkan publikasi tentang cara mengatasi masalah ini. Sementara itu, postingan masih tidak diawasi dan penyalahgunaan masih merajalela.

“Jauh lebih sulit untuk melaksanakannya (kecerdasan buatan real-time yang efektif) dan perusahaan sering kali merasa mereka bisa mendapatkan solusi jika mereka terlihat sedang mencoba solusi – yaitu dengan terlihat sibuk,” kata Enderle. “Twitter terlihat sibuk saat ini, namun jika mereka tidak memperbaiki penyebabnya, dampak negatif terhadap layanan mereka akibat perilaku ini akan terus berlanjut.”