AI yang dilatih pada data yang tidak representatif dapat menghasilkan rekomendasi yang merugikan pasien dari kelompok miskin, pedesaan, perempuan, atau minoritas etnis. Risiko lain yang harus diantisipasi yaitu data berkualitas rendah (Diagnosis yang salah), serta Kesenjangan digital dan infrastruktur.
“Dalam konteks kesehatan, keadilan bukan sekedar akses, tapi juga soal kualitas dan kesetaraan hasil pelayanan. Keadilan digital harus menjadi pondasi utama dalam adopsi AI di sektor kesehatan. Kita tidak boleh membiarkan teknologi menjadi alat diskriminasi baru dalam sistem pelayanan publik,” kata alumni S1 Fakultas Kesehatan Masyarakat UI ini.
“Di sisi lain, banyak fasilitas kesehatan kita, terutama di daerah 3T - tertinggal, terdepan, dan terluar, belum memiliki data medis yang lengkap dan terstruktur. Kalau AI dipaksa berjalan dengan data yang buruk, maka hasil diagnosisnya bisa menyesatkan dan membahayakan pasien,” tambah Sri Gusni.
Perlindungan Data
Dalam era digitalisasi layanan kesehatan, persoalan perlindungan data pribadi yang semakin krusial juga disoroti Partai Perindo. Kasus kebocoran data, seperti yang ditunjukkan melalui aplikasi Peduli Lindungi pada tahun 2025, menjadi alarm bahwa sistem perlindungan informasi sensitif di Indonesia masih memiliki banyak celah.
Meskipun regulasi terus diperkuat, kompleksitas AI dalam sektor kesehatan menghadirkan tantangan baru yang belum sepenuhnya dijawab oleh kerangka hukum saat ini.