Tata Kelola berdasarkan Algoritme
Pengawasan Total

Algoritme yang memberi penghargaan atau menghukum warga sebuah negara berdasarkan data yang dikumpulkan – tata kelola berdasarkan algoritme sudah lama menjadi kenyataan di Cina atau pun India. Tetapi di Jerman pun program-program komputer sudah mengambil keputusan yang berdampak kepada orang banyak.

Von Arne Cypionka

Lalu lintas di persimpangan jalan di selatan Jembatan Changhong di kota Xiangyang di Cina yang berpenduduk jutaan orang itu padat dan kacau. Pengendara mobil membunyikan klakson, pejalan kaki menyeberang jalan saat lampu merah, dan skuter listrik meliuk-liuk di tengah kemacetan. Di tepi jalan terpasang layar berukuran besar dengan banyak foto wajah orang. Hanya satu di antara sekian banyak papan iklan? Bukan. Polisi memasang monitor itu pada tahun 2017 sebagai langkah penertiban. Layar tersebut memperlihatkan wajah orang-orang yang melanggar peraturan lalu lintas di tempat ini – dan kemudian teridentifikasi oleh kamera dengan perangkat lunak pengenalan wajah otomatis. Intinya adalah “mempermalukan mereka di depan para tetangga dan kolega”, begitu penjelasan seorang juru bicara pemerintah kota kepada New York Times. Di samping wajah orang-orang bersangkutan terpampang pula nama dan nomor kartu identitas masing-masing. Sebuah upaya pendidikan.
 
Layar monitor seperti di Xiangyang hanyalah sebagian kecil dari perangkat pengawasan dan kontrol milik pemerintah. Untuk sistem kredit sosialnya yang baru, Partai Komunis telah meluncurkan sejumlah proyek percontohan di berbagai kota dalam beberapa tahun terakhir. Proyek-proyek itu mengumpulkan data dari kamera pengawas, chat pribadi, pembelian daring dan banyak sumber lainnya untuk selanjutnya dikaitkan satu sama lain. Tujuannya adalah agar sampai tahun 2020 seluruh penduduk di negeri itu terdaftar dalam satu sistem penilaian. Dengan upaya komputasi yang luar biasa, setiap warga Cina pada gilirannya akan mendapat jumlah poin tertentu, yang selalu diperbarui oleh algoritme komputer. Langkah ini masuk akal bagi pemerintah yang otoriter - dengan demikian tiap-tiap orang dari 1,4 miliar warga Cina dapat dikontrol secara individual.

KONTROL DAN HUKUMAN LEWAT ALGORITME

Tata kelola berdasarkan algoritme terjadi jika pemerintah atau instansi memanfaatkan arus data yang luar biasa dari media sosial dan platform lainnya – lalu mengerahkan mesin untuk memutuskan apakah seorang warga diberi penghargaan atau dihukum atas dasar data tersebut. Komputer mengenali pola dan rutinitas dan secara otomatis menerapkan tindakan pendisiplinan: Seseorang yang mengembalikan sepeda sewaan tanpa kerusakan, tidak menerobos lampu merah, dan selalu datang tepat waktu ke tempat kerja akan diberi penghargaan dalam bentuk poin. Sebaliknya, seseorang yang mengritik kebijakan Cina atau – dan ini pun sudah memenuhi syarat – sering berhubungan dengan orang-orang yang dinilai buruk, harus rela melihat jumlah poinnya terus menyusut. Ini menimbulkan konsekuensi yang drastis: Orang-orang dengan nilai rendah antara lain dilarang menaiki pesawat atau kereta api kecepatan tinggi. Atau anak-anak mereka tidak boleh bersekolah di sekolah swasta.
 
Mengawasi warga sebuah negara sedemikian cermat, mengumpulkan seluruh informasi tentang mereka dan memanfaatkannya untuk melawan mereka itu bukan hanya melanggar ranah pribadi, tetapi juga merupakan pengebirian hak-hak kebebasan pribadi. Tetapi bukan di Cina saja instansi pemerintah mengolah data pribadi – di India pun ada upaya untuk memperoleh gambaran keseluruhan mengenai para penduduk melalui registrasi orang per orang.
 
Untuk itu dibuat pangkalan data bernama Aadhaar (“Fondasi”), yang sementara ini telah mencakup sebagian besar populasi India dengan 1,2 miliar pengguna terdaftar. Dengan nomor 12 digit yang dikaitkan dengan nama, usia, tetapi juga dengan foto iris mata dan segenap sidik jari, setiap orang dapat mengidentifikasi diri secara pasti dan, misalnya saja, mengajukan permohonan untuk memperoleh bantuan sosial – setidaknyadalam teori. Pada awal tahun, wartawan India Rachna Khaira sempat mengungkapkan kelemahan sistem itu: Ia menghubungi sejumlah peretas yang dengan bayaran 500 Rupee saja, sekitar enam Euro, memberinya akses ke seluruh pangkalan data. Pangkalan data Aadhaar, yang seharusnya mencegah pembagian yang tidak adil serta penipuan dalam distribusi bahan pangan, ternyata semakin bermasalah. Konon sudah ada orang yang mati kelaparan karena tidak dapat menunjukkan dokumen atau karena sistem pengenalan biometrik tidak berfungsi. Selain itu, akibat kebocoran ada jutaan set data yang terungkap ke publik.
Sejumlah perempuan mendaftarkan diri di pangkalan data Aadhaar di India | Foto: © picture alliance / NurPhoto

SUDAH SAATNYA UNTUK DEBAT SEPUTAR DATA DI EROPA

Di Eropa pun penggunaan algoritme untuk menganalisis data bukan hal yang luar biasa. Namun berbeda dengan eksperimen-eksperimen berisiko di kedua negara berpenduduk paling banyak di dunia – Cina dan India – belumtentu pihak negara yang mengolah data pribadi dalam jumlah besar. Di Jerman, misalnya, ada Schutzgemeinschaft für allgemeine Kreditsicherung (Badan Perlindungan Kredit Umum), atau lebih dikenal sebagai Schufa. Schufa mengaku menyimpan 864 juta informasi mengenai sekitar 67 juta orang dan 5 juta perusahaan. Tidak ada yang tahu seperti apa persisnya proses yang pada gilirannya bisa menentukan apakah seseorang boleh menyewa sebuah apartemen atau berhak mendapat ponsel dengan mengikat kontrak. Kriteria yang diberlakukan oleh Schufa juga tidak diketahui. Ada indikasi bahwa kaum perempuan, misalnya, dirugikan dalam penilaian.

 Jerman tidak akan mempertontonkan pelanggar lalu lintas di layar monitor. Meskipun begitu perlu ditanyakan: Sejauh mana perusahaan seperti Schufa atau pun lembaga negara boleh mengumpulkan dan memanfaatkan data? Sudah saatnya untuk mendiskusikan legitimitas tata kelola berdasarkan algoritme. Pada akhirnya, ini menyangkut pertanyaan apakah kontrol atas masyarakat akan diserahkan kepada mesin. Jika disetel dengan tepat, algoritme dapat mengambil keputusan secara efisien, cepat dan adil. Tetapi kalau melihat cara pengerahan saat ini, kelebihan tersebut tampaknya kurang berimbang dengan besarnya kemungkinan penyalahgunaan, pelanggaran ranah pribadi setiap orang, serta ketidakjelasan prosesnya.