Pengembangan Artificial Intelligence Untuk Mengurangi Penyebaran Hate Speech

Hate Speech di Media Sosial

Jaman sekarang, kita telah akrab dengan "hate speech" atau ujaran kebencian. Masih ingat dengan kelompok Saracen yang telah dibekuk polisi, dan beberapa tokoh lain yang dikenai pasal ujaran kebencian?

Idealnya, "hate speech" bisa dihentikan apabila tiap pribadi manusia menjaga kesopanan saat mengutarakan pendapat, terlepas dari perbedaan pendapat, ras atau jenis kelamin. Namun dunia kita bukanlah dunia yang ideal. Pidato bernada kebencian berlimpah ruah, terlebih dengan adanya platform media sosial yang relatif bebas untuk menyebarkan "hate speech".

Situs jejaring sosial telah berusaha mengendalikan masalah seputar "hate speech" ini, dengan sedikit keberhasilan. Meskipun kita dapat melaporkan perkataan yang termasuk ujaran kebencian, secara fisik tidak mungkin memonitor setiap individu, setiap aliran ucapan yang menghina yang diposting di jalur pribadi maupun forum publik.

Kecuali jika kamu bukan manusia. Dan inilah yang peneliti coba jelajahi dengan menggunakan kecerdasan buatan (artificial intelligence / AI).

Haji Mohammad Saleem dan rekan-rekannya dari McGill University di Montreal, Kanada, mengembangkan AI yang mempelajari bagaimana anggota komunitas yang penuh kebencian berbicara. Ini adalah taktik yang berbeda dari yang telah dicoba oleh perusahaan induk Google, Alfabet's Jigsaw, dengan fokus pada kata kunci tertentu atau frase yang menghasilkan skor toksisitas.

Menurut New Scientist, hal itu tidak berhasil. Komentar "Anda cukup pintar untuk cewek" ditandai 18% mirip dengan apa yang orang anggap jahat, sementara "i love Fuhrer" hanya ditandai 2%.

Dalam sebuah makalah yang diterbitkan secara online, Saleem dan timnya menggambarkan bagaimana AI mereka bekerja. Algoritma pembelajaran mesin mereka dilatih menggunakan data dump posting di kelompok pendukung dan penyalahgunaan paling aktif di Reddit antara 2006 dan 2016, selain posting di forum dan situs web lainnya.

Mereka berfokus pada tiga kelompok yang sering menerima pelecehan online: orang Amerika Afrika, orang-orang yang kelebihan berat badan, dan wanita.

"Kami kemudian mengusulkan sebuah pendekatan untuk mendeteksi pidato kebencian yang menggunakan konten yang dihasilkan oleh komunitas kebencian yang mengidentifikasi diri sendiri sebagai data pelatihan," tulis para peneliti. "Pendekatan kami melewati proses anotasi mahal yang sering dibutuhkan untuk melatih sistem kata kunci dan berkinerja baik di beberapa platform mapan, dan membuat perbaikan substansial mengenai pendekatan terkini."

Algoritma mereka menangkap subteks yang mudah hilang saat mengandalkan kata kunci saja, dan menghasilkan lebih sedikit false-positive daripada metode kata kunci.

"Membandingkan komunitas kebencian dan kebencian untuk menemukan bahasa yang membedakannya adalah solusi cerdas," profesor Cornell University Thomas Davidson mengatakan kepada New Scientist.

Namun, masih ada keterbatasan. AI dilatih menggunakan forum Reddit dan mungkin tidak efektif di situs media sosial lainnya. Selain itu, juga melewatkan beberapa pidato yang jelas menyinggung yang akan diambil oleh AI berbasis kata kunci. Hal itu bisa dimengerti. Menghentikan perkataan yang membenci sama rumitnya dengan penangkapan propaganda teroris online.

Memang, tidak mungkin kita hanya mengandalkan AI walaupun AI semakin menjadi lebih baik dalam menangkap kebencian online. "Pada akhirnya, ucapan kebencian adalah fenomena subjektif yang mengharuskan penilaian manusia untuk mengidentifikasi," Davidson menambahkan.

Kesopanan manusia bisa jadi sesuatu yang belum dapat ditirukan maupun dideteksi oleh AI.
Pengembangan Artificial Intelligence Untuk Mengurangi Penyebaran Hate Speech Pengembangan Artificial Intelligence Untuk Mengurangi Penyebaran Hate Speech Reviewed by Suzana Widiastuti on Oktober 12, 2017 Rating: 5
Diberdayakan oleh Blogger.