“Algoritma sama biasnya dengan manusia yang merancang atau menugaskan mereka dengan niat tertentu. Oleh karena itu kita harus memicu perdebatan terbuka tentang tujuan sistem perangkat lunak dengan dampak sosial. "- Ralph Müller-Eiselt
Algoritme biasa ada di mana-mana, jadi pada saat kritis dalam evolusi pembelajaran mesin dan AI, mengapa kita tidak berbicara tentang masalah kemasyarakatan yang ditimbulkan oleh hal ini?
Dalam bukunya, Weapons of Math Destruction - Bagaimana Big Data Meningkatkan Ketidaksetaraan dan Ancaman Demokrasi, Cathy O'Neil menunjukkan bahwa "proses data besar mengkodifikasi masa lalu" tetapi mereka tidak "menciptakan masa depan." Bagaimana perasaan kita tentang mesin yang mempengaruhi institusi manusia kita? Siapa yang melindungi kualitas hidup ketika algoritma bertanggung jawab? O’Neil berpendapat bahwa sentuhan manusia sangat penting untuk “menanamkan nilai yang lebih baik ke dalam algoritme kami.”
Ralph Müller-Eiselt adalah pakar dalam kebijakan dan tata kelola pendidikan dan mengepalai gugus tugas Bertelsmann Foundation tentang tantangan dan peluang kebijakan di dunia digital. Dalam proyek “Etika Algoritme” terbarunya (dia adalah penulis bersama Die Digitale Bildungsrevolution; Judul Bahasa Inggris - Revolusi Digital Pendidikan), dia melihat lebih dekat pada konsekuensi pengambilan keputusan algoritmik dan kecerdasan buatan dalam masyarakat dan pendidikan. Dia bergabung dengan Global Search for Education untuk berbicara tentang AI, algoritme, dan apa yang seharusnya kita pikirkan.
“Terserah pada kita untuk menentukan apakah AI dalam pendidikan akan menjadi katalis untuk memperkuat keadilan sosial - atau untuk melemahkannya.” - Ralph Müller-Eiselt
Ralph, bagaimana kita memastikan bahwa algoritma selalu disusun untuk mencapai dampak positif bagi masyarakat dan pendidikan, daripada bahaya atau risiko?
Algoritma sama biasnya dengan manusia yang merancang atau menugaskan mereka dengan niat tertentu. Karena itu kita harus memicu perdebatan terbuka tentang tujuan sistem perangkat lunak dengan dampak sosial. Terserah kepada kita sebagai masyarakat untuk memutuskan di mana sistem tersebut harus digunakan dan untuk memastikan bahwa mereka dirancang dengan tujuan yang tepat dalam pikiran. Kedua, kita harus ingat bahwa bahkan algoritma yang dirancang dengan niat baik dapat menghasilkan hasil yang buruk. Semakin besar potensi dampaknya terhadap partisipasi individu dalam masyarakat, yang lebih penting adalah penilaian risiko pencegahan dan - begitu pengambilan keputusan otomatis digunakan - evaluasi komprehensif untuk memverifikasi hasil yang dimaksudkan. Melibatkan pihak ketiga yang netral dalam proses ini dapat sangat membantu untuk membangun kepercayaan dalam pembuatan keputusan berbasis perangkat lunak.
Bagaimana kita menilai apakah mereka mencapai apa yang dimaksudkan?
Akuntabilitas transparan adalah kunci ketika datang untuk menilai aplikasi dan alat berbasis algoritma. Ini tidak berarti bahwa kita perlu membuat kode algoritma dapat diakses publik. Bahkan, itu sama sekali tidak membantu bagi sebagian besar individu yang terkena dampak untuk mendapatkan pemahaman tentang bagaimana keputusan berdasarkan algoritma dibuat. Sebagai gantinya, kita memerlukan mekanisme seperti pernyataan tujuan sendiri untuk algoritma yang dapat diverifikasi melalui evaluasi melalui ahli netral yang diberikan akses ke informasi dan data yang relevan. Evaluasi ini harus dirancang secara holistik mungkin untuk memeriksa apakah algoritma benar-benar melayani tujuan yang dimaksudkan dan untuk mengungkapkan risiko dan peluang nyata mereka.
“Meskipun ada peluang besar untuk saran berdasarkan algoritme mengenai pilihan kurikulum dan pilihan pekerjaan yang berorientasi pada kompetensi, kita mungkin tidak menutup mata sebelum bahaya menargetkan pelanggan yang lemah, diskriminasi standar dan pengecualian pasar kerja berskala besar.” - Ralph Müller- Eiselt
Bagaimana Anda melihat algoritme dan AI beradaptasi dengan sistem pendidikan yang terus berkembang?
Era digital menawarkan sejumlah nilai tambah potensial untuk pendidikan. Banyak dari mereka bergantung pada penggunaan data yang terhubung - baik itu mempersonalisasi pembelajaran, mengatasi hambatan motivasi melalui gamification, memberikan orientasi di rimba peluang, atau tidak sedikit, mencocokkan kompetensi individu dengan tuntutan pasar tenaga kerja. Penggunaan algoritma dan AI di sektor pendidikan masih dalam tahap awal, dengan banyak trial and error yang harus diamati. Tetapi teknologi dapat dan pasti akan membantu mengembangkan semua masalah ini dalam waktu dekat. Karena ini dapat berdampak pada pendidikan dalam skala yang cukup besar, pembuat kebijakan sebaiknya tidak menunggu hal-hal ini terjadi dan bereaksi setelahnya, tetapi secara aktif membentuk regulasi sekarang untuk mempertahankan kebaikan publik. Terserah pada kita untuk menentukan apakah AI dalam pendidikan akan menjadi katalis untuk memperkuat keadilan sosial - atau untuk melemahkannya.
Bagaimana kita dapat mempersonalisasi AI untuk beradaptasi dengan setiap kelas dan kebutuhan anak?
Mempersonalisasi pembelajaran untuk mengembangkan kemampuan individu yang lebih baik adalah salah satu peluang utama pembelajaran digital. Aplikasi berbasis algoritme dan AI dapat mendemokratisasi akses ke pendidikan yang dipersonalisasi yang karena alasan terkait biaya sebelumnya hanya tersedia untuk sejumlah orang terbatas. Tetapi ada garis tipis antara janji dan bahaya AI dalam pendidikan. Meskipun ada peluang besar untuk saran berdasarkan algoritme mengenai pilihan kurikulum dan pilihan pekerjaan yang berorientasi pada kompetensi, kita mungkin tidak menutup mata sebelum bahaya menargetkan pelanggan yang lemah, diskriminasi standar dan pengecualian pasar kerja berskala besar.
Karena AI dibuat oleh manusia, apakah ada resiko bahwa algoritma dan AI tidak akan secara akurat bekerja dalam lingkungan pendidikan karena kesalahan manusia? Bagaimana kesalahan dalam AI berdampak pada pengalaman belajar?
Algoritma hanya sebaik manusia yang merancangnya. Kesalahan manusia dapat diterjemahkan ke dalam suatu algoritma pada banyak tahap: dari mengumpulkan dan memilih data melalui pemrograman algoritma untuk menafsirkan outputnya.
Sebagai contoh, jika suatu algoritma menggunakan data historis, yang biasa dalam arah tertentu karena pola diskriminatif di masa lalu, algoritma akan belajar dari pola-pola ini dan kemungkinan besar bahkan memperkuat diskriminasi ini ketika digunakan dalam skala. Kesalahan yang tidak diinginkan seperti itu harus benar-benar dihindari dan terus-menerus diperiksa, karena mereka akan memperluas kesenjangan sosial di sektor pendidikan.
“Bagi pembuat kebijakan, sekarang saatnya untuk secara proaktif membentuk bidang ini menuju keadilan sosial. Dan mereka yang terlibat dalam desain dan pengembangan algoritma yang sebenarnya harus meluangkan waktu untuk merefleksikan tanggung jawab sosial mereka dan menciptakan standar umum untuk etika profesional di bidang ini. "- Ralph Müller-Eiselt
Bagaimana masalah ini dapat diminimalkan?
Sebagaimana dijelaskan lebih rinci di atas, kita perlu melakukan penilaian risiko pencegahan dan memastikan evaluasi yang konstan dan komprehensif dari aplikasi berbasis algoritma melalui pihak ketiga yang netral. Kita juga harus memicu debat publik yang lebih luas dan meningkatkan kesadaran akan penggunaan, peluang, dan risiko algoritma dalam pendidikan. Bagi pembuat kebijakan, sekarang saatnya untuk secara proaktif membentuk bidang ini menuju keadilan sosial. Dan mereka yang terlibat dalam desain dan pengembangan algoritma yang sebenarnya harus meluangkan waktu untuk merefleksikan tanggung jawab sosial mereka dan menciptakan standar umum untuk etika profesional di bidang ini.
Apakah AI dan algoritme perlu disetel ulang untuk sistem pendidikan yang berbeda secara global? Seberapa pentingkah untuk memasukkan perbedaan budaya ke dalam formulasi AI?
Apa yang kebanyakan sistem pendidikan di dunia memiliki kesamaan adalah bahwa mereka bertujuan untuk memberdayakan dan mendukung orang-orang dalam mengembangkan kemampuan dan bakat individu mereka, singkatnya: untuk menciptakan kesetaraan peluang. Namun, cara-cara untuk mendekati dan mencapai tujuan ini bermacam-macam. Semuanya memiliki kekuatan dan kelemahan mereka. Apa yang berhasil di satu tempat tidak selalu bekerja dalam konteks sosial lain. Dengan cara yang sama, aplikasi berbasis algoritme dan AI perlu disesuaikan dengan pengaturan sosial budaya tertentu yang mereka gunakan.