Yapay Zekada Taraflılığın Ortadan Kaldırılması

Yapay zekanın (YZ) günlük hayatımıza girdiğinden kimsenin şüphe yok. Akıllı telefonlardan araç paylaşım uygulamalarına kadar YZ o kadar yaygındır ki nasıl çalıştığını nadiren düşünüyoruz.

Bununla birlikte Oklahoma Üniversitesi'nden bir bilim insanı için YZ ve makine öğrenimi çalışmalarının temel konusu. Dr. Amy McGovern, Oklahoma Üniversitesi (OU) Hava, İklim ve Kıyı Oşinografisinde Güvenilir Yapay Zeka Araştırmaları için Ulusal Bilim Vakfı YZ Enstitüsü başkanı.

McGovern 1990'ların sonlarından beri şiddetli hava olaylarını inceliyor. Kariyeri boyunca hava ve iklim felaketlerini önlemek için güvenilir YZ yöntemleri olduğunu umduğu şeyleri geliştirirken YZ alanında hızlı bir yükselişe tanık olmuş.

Ancak son zamanlarda McGovern ile Colorado ve Washington'dan araştırmacılar özellikle jeoçeşitlilik söz konusu olduğunda yapay zekada önemli uyumsuzluklar olduğunu ve yöntemlerin nesnel olmadığını fark etti.

OU Bilgisayar Bilimlerinde profesör olan McGovern, 'YZ algoritmaları nesnel olduğu kabul edilen matematiksel formüllere dayanmaktadır; ancak daha yüksek nüfuslu alanlara ve daha zengin alanlara yönelik bir yanlılık söz konusu. Örneğin, bir bölgede daha fazla insan yaşıyorsa birinin bir dolu veya kasırga olayını gözlemleme ve bildirme olasılığı daha yüksektir. Bu YZ modelinin dolu ve kasırga olasılığını kentsel alanlarda daha fazla ve kırsal alanlarda daha düşük tahmin etmesine yol açabilir’ dedi. YZ araçlarının dolu, rüzgar veya kasırga tahmininde bulunurken nesnel olduğu varsayılır. McGovern 'Değiller' diyor.

Artan farkındalık

Ekip kısa süre önce 'Çevre Bilimleri için neden etik, sorumlu ve güvenilir YZ yaklaşımları geliştirmeye odaklanmamız gerekiyor' başlığı ile Environmental Data Science dergisinde bir makale yayınladı.

Araştırmacılar özellikle çevre bilimleri alanında etik YZ yöntemlerini araştırıyorlar. McGovern, 'Eğitimde, endüstride ya da hükümette yer alan çevre bilimciler anlamlı YZ araçları geliştirilmesi için kesinlikle gereklidir ve çevre bilimcilerinin gelecekteki gelişmelerde öncü bir rol oynayabilmeleri için YZ temellerini öğrenmelerine yardımcı olmak amacıyla daha fazla eğitim kaynağına ihtiyaç vardır' dedi.

Grup çevre bilimlerinde YZ etiğini eğitimde yükselen bir eğilim olarak görüyor. McGovern, ‘Bilimlerde veri bilimi tekniklerinin hızla ortaya çıkması ve bu uygulamaların çoğunun toplumsal önemi ile birlikte geleceğin bilim insanlarının bilgili olmaya hazırlanması acil bir ihtiyaçtır' dedi.

McGovern YZ sistemlerinin onları oluşturan insanlar kadar kusurlu olabileceğini ve bilinçli olarak geliştirilmediği ve sorumlu bir şekilde uygulanmadığı takdirde istemeden yarardan çok zarar verebileceğini söylüyor. ‘Çalışmamızın çevre biliminde daha etik olarak bilgilendirilmiş YZ sistemlerine yönelik büyük bir adım olmasını umuyoruz' dedi