Hazırlayanlar: Dr. Öğretim Üyesi Tuba Kelep Pekmez, Araş. Gör. Eren Sözüer

Bildirinin kapsamı

Avrupa Konseyi Bakanlar Komitesi, insan haklarının bütünselliği kapsamında sosyal hakların da bilgisayar veya yapay zeka destekli karar alma süreçlerinde korunması gerektiğini vurgulayarak bu bildiriyi kabul etmiştir. Bu bağlamda son teknolojik gelişmelerle bilgisayar veya yapay zeka destekli karar alma sistemlerinin sosyal hakların kullanımı sürecinde devletler tarafından karar alma süreçlerinde kullanımından doğabilecek olan sorunlar üzerinde durulmaktadır.

Sosyal güvenlikte bilgisayar veya yapay zeka destekli karar almanın riskleri

Bakanlar Komitesi bu tür sistemlerin kullanılmasının, daha hızlı hizmet sunma, yönetim maliyetlerinin düşürülmesi, şeffaflığı sağlama gibi avantajları olmasının yanı sıra, bilgisayar veya yapay zekanın “kodunun” özellikleri nedeniyle varılacak hatalı kararların bireylerin sosyal haklarından yoksun kalmasına sebebiyet verebileceğine dikkat çekmiştir. Dolayısıyla, sosyal güvenlikte bilgisayar veya yapay zeka destekli karar alma süreçlerinin adil olması ve sosyal uyum açısından herhangi bir farklılığa yol açmadan herkese uygulanmaları sağlanmalıdır. Bakanlar Komitesi özellikle yerleşik ayrımcılık kalıplarının uygulama alanı bulması tehlikesini vurgulamıştır. Zira alınacak önyargılı ve/veya hatalı otomatik kararlar, yoksunluğa, aşırı yoksulluğa ve hatta evsizliğe yol açabilecek ve ilgililere ciddi veya onarılamaz zararlar verebilecektir.

Bakanlar Komitesi’nin önerileri

  • Bilgisayar veya yapay zeka destekli karar alma mekanizmaları, hukuki belirlilik, yasallık, veri kalitesi, ayrımcılık yasağı ve şeffaflık ilkelerine uygun olarak geliştirilmeli ve kullanılmalıdır.
  • Bilgisayar veya yapay zeka destekli karar alma mekanizmalarında hataların önlenmesi ya da azaltılması için insan tarafından gözetim sağlanmalıdır.
  • Dezavantajlı kişilerin korunması için özel önlemler alınmalıdır.

Bildiri metni için bkz.: https://search.coe.int/cm/Pages/result_details.aspx?ObjectId=0900001680a1cb98

Yapay zeka destekli karar alma için bkz.: https://becominghuman.ai/how-artificial-intelligence-helps-to-improve-decision-making-347a67f9127f