AI Bisa Diskriminatif? Begini Cara Kecerdasan Buatan Memperlebar Kesenjangan Sosial!

Bandung, VIVA – Kemajuan kecerdasan buatan (AI) tidak hanya membawa perubahan dan kemajuan besar dalam banyak sektor, namun juga menimbulkan pertanyaan etis yang kompleks. Salah satu masalah utama yang kini disoroti adalah kesenjangan sosial dan diskriminasi algoritmik yang muncul dari pengembang dan pengguna AI.

AI yang pada dasarnya dirancang untuk bisa netral, ternyata juga bisa memperlebar kesenjangan sosial jika akses terhadap teknologi tersebut dibatasi hanya untuk kelompok-kelompok tertentu. Negara maju dan golongan kaya memiliki akses lebih luas terhadap teknologi ini, sementara masyarakat yang kurang beruntung semakin tertinggal. Menurut laporan World Economic Forum, "AI dapat memperburuk ketidaksetaraan jika tidak dikelola dengan hati-hati, khususnya di negara berkembang".

Tantangan lain yang sering muncul adalah diskriminasi algoritmik, yaitu bias yang muncul dari keputusan yang diambil AI. Algoritmik AI dilatih berdasarkan data historis, yang sayangnya sering kali membuat bias sosial, ras, atau gender. Misalnya, studi yang dilakukan oleh MIT menunjukkan bahwa sistem pengenalan wajah AI cenderung lebih akurat pada orang berkulit putih dibanding orang berkulit hitam atau wanita. Ini terjadi karena data yang digunakan untuk melatih AI lebih banyak berisi orang kulit putih.

Menurut Dr. Kate Crawford, seorang pakar AI dan etika, "AI bukan entitas netral. Keputusan yang dibuat AI sangat dipengaruhi oleh data yang kita berikan, dan jika data itu mengandung bias, AI akan memperkuat bias tersebut." Hal ini mengarah pada ketidakadilan yang bisa berdampak signifikan, misalnya dalam perekrutan kerja, di mana AI bisa secara tidak adil menyingkirkan pelamar dari kelompok tertentu.

Untuk itu, para ahli menekankan pentingnya regulasi dan standar etika dalam pengembangan AI. Melibatkan perspektif beragam dalam pembuatan AI, serta mengembangkan sistem pengawasan yang ketat, adalah langkah penting untuk mencegah kesenjangan sosial dan diskriminasi yang lebih besar ke depan.