Yapay zeka, bürokrasinin çeşitli alanlarında kullanımı giderek artan bir teknoloji haline gelirken, yeni bir rapor, bu kullanımın birtakım önemli problemleri ve yanılgıları gün yüzüne çıkarıyor. Raporda, bürokrasideki yapay zeka uygulamalarının kimi durumlarda yanlışlı sonuçlar ürettiği ve insan haklarına ziyan verebileceği bahislerine dikkat çekiliyor.
Özellikle toplumsal yardımların idaresi konusunda kullanılan yapay zeka araçlarına odaklanan rapor, bu araçların birtakım vatandaşların hak ettikleri yardımları almalarını engellediğini belirtiyor. İnceleme sonuçlarına nazaran, bu araçlar yanılgılı bir formda kimi şahısların yardımlarını kesiyor, hatta hak etmelerine karşın yardım almalarını engelliyor. Bu durum, yapay zeka tabanlı sistemlerin insan hayatı üzerindeki önemli tesirlerini gözler önüne seriyor.
Kamuda yapay zeka kullanımı tedirginlik yaratıyor!
Ayrıca, rapor, kolluk kuvvetlerinin yüz tanıma teknolojisi kullanımını da eleştiriyor. Yüz tanıma araçları, aldatıcı bilgiler sunarak hatalı bireylerin tespit edilmesini zorlaştırabiliyor. Bu durum, hatasız insanların haksız yere suçlanmasına ve cezalandırılmasına yol açabilir.
Rapor, bu sıkıntıların bilhassa yapay zeka sistemlerinin eğitilmesi ve bilgilerin işlenmesi sırasında ortaya çıktığını vurguluyor. Eğitim bilgilerinin önyargılı yahut eksik olması, yapay zeka sistemlerinin yanlışlı sonuçlar üretmesine neden olabiliyor. Ayrıyeten, bu sistemlerin nasıl çalıştığına dair gereğince şeffaf olmamaları, problemlerin tespit edilmesini ve çözülmesini zorlaştırıyor.
Rapor, bürokraside yapay zeka kullanımının kontrol altına alınması, eğitim datalarının daha dikkatli bir formda seçilmesi ve yapay zeka sistemlerinin şeffaf hale getirilmesi gerektiği bahislerinde tekliflerde bulunuyor. Ayrıyeten, insan haklarına hürmet gösterilmesi ve adaletin sağlanması için yapay zeka sistemlerinin daha dikkatli bir formda kullanılması gerektiği vurgulanıyor.