Januari 2020 lalu, Netflix merilis sebuah film dokumenter mengenai bagaimana perusahaan teknologi besar berbasis customer seperti Google, Facebook, YouTube, Twitter, Instagram dan yang lainnya bekerja dan memberikan dampak bagi seluruh masyarakat dunia. Dokumenter ini memberikan suatu sudut pandang baru mengenai bagaimana data pengguna digunakan untuk tujuan-tujuan tertentu oleh beberapa pihak tertentu. Secara garis besar, pada umumnya perusahaan teknologi bekerja untuk mencapai tiga aspek utama. Pertama Engagement Goals, yaitu memastikan bahwa pengguna terus menerus menggunakan produk mereka. Kemudian Growth Goals, yaitu memastikan bahwa setiap hari akan semakin banyak pengguna yang menggunakan produk mereka. Dan yang terakhir adalah Bussiness Goals, di mana kita memastikan bahwa selagi kedua tujuan sebelumnya berjalan, perusahaan harus tetap menghasilkan keuntungan.

The Social Dilemma: Bagaimana data pengguna media sosial digunakan Apa yang mereka lakukan dengan data?

Data, secara kasarnya digunakan perusahaan teknologi untuk mencapai ketiga tujuan utama yang sudah disebutkan. Salah satu hal yang paling bisa kita lihat adalah sistem rekomendasi pada mesin pencarian Google, yang merekomendasikan topik berdasarkan apa yang mungkin pengguna sukai, rekomendasi Facebook Group, dan rekomendasi video pada YouTube. Membangun sebuah sistem rekomendasi yang baik dan akurat, tentunya memerlukan banyak data. Data apakah yang dipakai?

Dalam film dokumenter tersebut, dijelaskan bahwa seluruh aktivitas yang kita lakukan secara online, mulai dari hal apa saja yang kita cari, kita sukai, berapa lama kita menonton sebuah video tertentu, akun seperti apa yang kita ikuti, berapa lama kita online dalam satu hari, semuanya terekam dan disimpan menjadi sekumpulan data yang bisa digunakan. Sebuah sistem rekomendasi, menggunakan data tersebut. Singkatnya, mereka mencoba merekam aktivitas atau perilaku spesifik dari pengguna, kemudian menggunakannya untuk membuat sistem rekomendasi yang bisa memprediksi secara akurat aktivitas apa saja yang pengguna bisa lakukan untuk mencapai Engagement Goals.

Apa dampak dari penggunaan dan pengolahan data tersebut?

Melihat dari satu sisi, kita mungkin tidak bisa menyadari di mana letak potensi bahaya dari sebuah sistem rekomendasi. Pada kenyataannya, justru sistem rekomendasi memudahkan kita untuk mencari hal-hal apa saja yang kita perlu. Dalam sudut pandang ini, kedua belah pihak baik perusahaan teknologi dan pengguna sama-sama diuntungkan. Selain karena pengguna merasakan kemudahan, hal ini juga meningkatkan engagement pada aplikasi yang digunakan. Namun, yang menjadi masalah adalah bagaimana sebuah sistem rekomendasi, atau AI yang dibangun untuk sistem rekomendasi tersebut tidak bisa membedakan mana sesuatu yang benar dan salah, berdasarkan nilai dan norma yang berlaku di masyarakat.

Mengutip salah satu dari pembicara dalam film dokumentasi tersebut, tidak ada kebenaran pada sebuah mesin selain jumlah klik yang dihasilkan pengguna. Rekomendasi dihasilkan dari aktivitas yang dilakukan oleh pengguna sebelumnya. Jika seorang pengguna sebelumnya menonton terus menerus video tertentu, maka video sejenis itulah yang akan muncul sebagai rekomendasi selanjutnya. Tentu akan berbahaya jika video tersebut merupakan sebuah berita palsu atau hal yang bisa menyebabkan perpecahan dalam masyarakat atau dampak buruk lainnya. Data menunjukan bahwa berita palsu yang beredar di internet tersebar enam kali lebih cepat dari berita benar. Ini dikarenakan AI tidak memiliki moral, AI tidak bisa dirancang untuk mengetahui mana yang baik dan buruk.

Beberapa contoh dari hal ini adalah bagaimana hate speech tersebar di antara warga Amerika yang memilih Partai Republik dan Demokrat karena sistem rekomendasi secara tidak langsung menyempitkan pandangan para pengguna terhadap pandangan oposisi. Hal menarik juga bagaimana beberapa pihak menyebutkan bahwa media sosial seperti Facebook dapat memengaruhi hasil pemungutan suara untuk pemilihan presiden.

Salah satu contoh lain adalah fenomena Pizzagate yang berada pada Facebook, sebuah grup yang berisi penjualan manusia ilegal. Seiring dengan bertambah besarnya grup ini, kemudian grup ini muncul sebagai rekomendasi bagi beberapa kelompok orang. Mengutip kembali hal yang dikatakan oleh salah satu panelis dari film dokumenter ini, bahwa mengklaim media sosial memiliki efek yang begitu buruk bagi peradaban adalah klain yang sangat besar. Pada kenyataanya, media sosial juga merupakan alat bantu untuk berbagai hal. Namun memang sedikit menakutkan bagaimana media sosial memiliki kemampuan untuk mengeluarkan sisi buruk dari masyarakat dan membuatnya tersebar dan memberikan dampak lebih masif dengan sangat sedikit usaha.

Tidak sedikit kasus kericuhan dan dampak buruk dari canggihnya media sosial. Cukup menakutkan apa yang terjadi online benar-benar bisa menyebabkan hal buruk terjadi offline. Kita fokuskan pada satu masalah dulu saja, yaitu bagaimana sebuah sistem rekomendasi bisa menyebabkan hal yang begitu buruk terjadi. Dalam dokumenter ini dijelaskan bagaimana ide dari sistem rekomendasi ini, adalah menggunakan psikologi pengguna untuk mencapai tujuan tertentu.

Salah satu contoh spesifik adalah hate speech yang tersebar di kalangan pendukung Partai Demokrat mengenai Republik dan sebaliknya. Sistem rekomendasi, akan secara otomatis merekomendasikan hal-hal yang kita sukai. Para pendukung Partai Demokrat akan terus menerus mendapat rekomendasi mengenai konten yang tidak mendukung Partai Republik, begitu juga sebaliknya. Secara tidak langsung, sistem rekomendasi akan membuat kita memiliki dunia dengan fakta kita sendiri, dan memandang salah pihak lain.

Sistem rekomendasi, merekomendasikan apa yang kita sukai, bukan apa yang benar. Dan semakin kita mendapatkan rekomendasi yang sama, maka kita akan merasa semakin benar. Tidak bisa dipungkiri bahwa hal seperti inilah yang meningkatkan engagement dari suatu produk, tapi tidak bisa dielak juga bahwa sebuah pertemanan mungkin rusak karena berbeda pandangan politik yang diakibatkan karena sistem rekomendasi.

The Social Dilemma: Bagaimana data pengguna media sosial digunakan

Apa yang seharusnya kita lakukan?

Bisa dibilang secara kasar bahwa hal ini merupakan sebuah eksploitasi terhadap data pengguna. Beberapa menyebutkan bahwa merekam aktivitas pengguna sejauh itu merupakan bentuk pelanggaran privasi. Dalam film ini, semua pihak sepakat bahwa seharusnya harus ada sebuah regulasi untuk mengatur sejauh mana perusahaan bisa merekam data pengguna dan menggunakannya untuk keperluan bisnis sehingga tidak melewati batas privasi dan terkesan mengeksploitasi psikologi pengguna. Mengurangi akurasi pada AI mungkin bisa melebarkan sudut pandang pengguna terhadap suatu masalah tertentu.

Terlepas dari semua hal yang disebutkan di atas, terdapat satu trivia menarik yang bisa dikutip dari film dokumenter ini. Kita tahu bahwa sering beredar berita di masyarakat luas mengenai bagaimana keamanan data pengguna pada perusahaan teknologi sangat buruk karena mereka menjual data pengguna kepada pihak tertentu. Faktanya, salah satu panelis mengatakan bahwa bukan merupakan urusan perusahaan teknologi untuk menjual datanya sehingga mereka bisa mendapatkan uang, data pengguna tersimpan dengan aman. Mereka menggunakan untuk mengoptimasi produk mereka, sehingga mereka bisa menghasilkan lebih banyak uang. Yang menjadi persoalan mengenai keamanan data seharusnya bukanlah kekhawatiran akan data pengguna akan dijual. Yang menjadi perhatian adalah bagaimana data aktivitas, perilaku para pengguna bisa digunakan oleh mereka dan memengaruhi lagi perilaku pengguna dalam kehidupan nyata. Hal ini tentunya yang masih menjadi persoalan bagi seluruh stakeholder dalam bidang teknologi.