Aksi Artificial Intelligence Memerangi Korupsi

Salah satu contohnya bias. Bias pada AI tak selalu dapat dilacak. Saat Amazon mengandalkan AI untuk melakukan penerimaan pegawainya, dicurigai terjadi bias. Bias terendus, saat penanggung jawab memeriksa komposisi pegawai yang diterima, lebih banyak laki-laki dibanding perempuan. Sementara Amazon tak berniat melakukan diskriminasi gender. Melihat kejanggalan itu, dilakukan pemeriksaan data yang diproses machine learning. Hasilnya, ada data yang ketika terbaca oleh perangkat, salah satu gender dianggap lebih cocok mengisi posisi itu. Misalnya data "pekerjaan berkaitan dengan penggunaan perangkat teknologi tinggi". Di sini perangkat AI seakan diperintah, mencari laki-laki dibanding perempuan. 

Pada robot AI antikorupsi, bias itu juga dapat terjadi. Manakala panitia lelang menggunakan data pemasok-pemasok yang telah dianggap mampu oleh pemerintah, bisa jadi justru berisi pemasok-pemasok yang menyuap atau nepotisme dengan panitia lelang. Data ini bias. Dengan prinsip "data buruk yang masuk, buruk pula hasilnya", penggunaan robot AI tak mampu mencegah keburukan. Alih-alih sistem menghasilkan pemasok yang bebas korupsi, sistem tak bisa membebaskan dirinya dari bias yang tak disadari. 

Persoalan AI blackbox lainnya,  transparansi. Pemilihan pemasok yang hendak menjamin transparansi, kadang sulit dipenuhi sistem berbasis AI. Tak semua keputusan yang dihasilkannya dapat dipahami. Saat AI digunakan di Inggris untuk menentukan hukuman bagi residivis agar proses pengadilannya lebih mudah, cepat dan murah, justru sulit dinilai transparansinya. Pada penjahat kambuhan yang dalam wawancaranya berniat menjadikan kejahatan yang menyebabkannya tertangkap, terakhir kalinya justru dijatuhi hukuman yang jauh lebih berat, dibanding penjahat yang tak menunjukkan niat lebih baik.

Sistem AI tak mampu menilai niat. Tapi apa dasar hukuman lebih berat yang dijatuhkan itu, juga tak dapat dijawab oleh pegawai pengadilan. Banding yang diajukan sang residivis, justru memperkuat keputusan yang diberikan sistem berbasis AI. Transparansi penetapan hukuman gagal. 

Keadaan di atas dapat dijelaskan, AI mempertimbangkan keputusannya secara kompleks. Bahkan variabelnya tak terduga. Deep learning yang belum sepenuhnya dipahami cara kerjanya, dapat menghasilkan wawasan-wawasan baru yang terbentuk oleh keadaan kuantitatif data. Brand processor komputer yang digunakan peserta lelang ketika mengirimkan dokumen pendaftaran, dapat dikuantifikasi dengan brand sejenis terhadap peluangnya menyelesaikan pekerjaan pemasokan. Tentu panitia lelang tak dapat menjelaskan variabel "brand processor" ini, sebagai penduga kinerja pemasok. Namun, robot AI mempertimbangkan itu. Karenanya, bakal muncul adanya peserta lelang yang tampak memenuhi semua persyaratan sebagai pemasok tapi ditolak.