Kalbi olan yapay zekâ: Yapay zekâ, önyargıları nasıl ortaya çıkarabilir?

Günümüzün ileri görüşlü şirketleri ve özellikle İK ekipleri, yapay zekâ ve makine öğreniminin yararları konusunda oldukça bilgililer... Birçoğu, süreçleri otomatikleştirme, veri analizi yoluyla içgörü kazanma, müşterilerle ve çalışanlarla etkileşim kurma dahil olmak üzere en önemli iş ihtiyaçlarını desteklemek için bu teknolojilerden yararlanmaya başladı bile...

Tek bir iş ilanının binlerce başvuru sahibine kolayca ulaşabildiği bir zamanda, yapay zeka kullanımı meşgul İK profesyonelleri için bir nimet oldu. İster birkaç iş ilanı olan küçük bir şirket olun ister yüzlerce iş ilanı olan bir sanayi devi olun, bu kadar çok özgeçmişi okumak göz korkutucu bir iştir.

Başvuruları okumak ve değerlendirmek ve işe alım önerilerinde bulunmak için yapay zekadan yararlanmak, bu işi çok daha kolay ve verimli hale getirebilir.

Önyargıları çıkmak için yapay zeka mı?

Herhangi bir AI stratejisinin en önemli bir parçası, sistemlerin önyargısız olmasını sağlamaktır - ve bu, nitelikli adaylara karşı ayrımcılıktan kaçınmak için özellikle işe alım sürecinde geçerlidir.

2018'de Amazon, kadınları cezalandırdığı için özgeçmiş tarama sistemini kaldırdı; bir kadın satranç takımında oynamak veya bir kız kolejine gitmek gibi deneyimlerin listelenmesi, başvuranların notlarının düşürülmesine neden oldu.

Yapay zeka modelleri yalnızca üzerinde eğitildikleri veri kümeleri kadar iyidir. 

Amazon'un sistemi kendi işe alım verilerine göre eğitildi, ancak çoğu çalışan erkek olduğundan, algoritma başarılı uygulamaları erkek odaklı kelimelerle ilişkilendirdi.

AI sistemleri ayrıca genellikle beyaz olmayan insanlara karşı ayrımcılık yapar. Joy Buolamwini ve Timnit Gebru tarafından yapılan araştırma, cinsiyet tanıma algoritmalarının beyaz erkekler için en doğru ve siyah kadınlar için en az doğru olduğunu ortaya koydu. Aslında bunun neden bir sorun olduğunu görmek kolay.

Ve eğer cinsiyeti tahmin edemezsek, yüzleri de doğru bir şekilde tanımlayamayız.

Suçlu: Eğitim verileri

Bu vakaların tümünde, eğitim verileri büyük bir suçludur: Amazon, algoritmalarını kendi iş adayları üzerinde eğitirken, Buolamwini ve Gebru tarafından incelenen yüz tanıma algoritmaları, "ağırlıklı olarak daha açık tenli deneklerden oluşan" veri kümeleri üzerinde eğitilmiştir.

Ancak önyargı, eğitim verilerinin yanı sıra başka nedenlerden de kaynaklanıyor. Hangi soruların sorulacağını, kimin kimin üzerinde güce sahip olduğunu ve işyerinde hangi davranışların kabul edilebilir olduğunu belirlerken içeri sızar. İşyeri kültürü ve uygulamalarıyla ilgili sorunlar, bu uygulama ve sonuçların nasıl dağıtılacağını yönlendirdiği için AI yazılımıyla ilgilidir.

Önyargılı veriler, önyargılı işyeri deneyiminden gelir ve karmaşık önyargı ve hakkaniyet konularını yönetmek, doğrudan İK ekiplerine aittir.
Azınlık ve kadınların istenmeyen kültürel koşullar nedeniyle sık sık işten ayrıldığı bir zamanda, bu adayları “uyumsuz” olarak değerlendiren işe alım verileri konusunda eğitilmiş modellere sahip olmamalıyız.

Zorlukları azaltın

İK profesyonelleri hem AI sistemlerinin getirdiği zorlukları hem de bunları nasıl azaltacaklarını anlamalıdır. İlk olarak, İK ekiplerinin Amazon'un yaptığı gibi AI sistemlerinin kullanımı hakkında eleştirel düşünmesi gerekiyor.

Amazon, algoritmalarını sorgulamaya, sonuçların neden yetersiz olduğunu belirlemek için kendilerini denetlemeye ve işe yaramayacağını anlayınca sistemi kapatmaya istekli oldukları için önyargılı sonuçları ortaya çıkardı.

İK ekiplerinin ayrıca, ırk ve cinsiyet dahil olmak üzere korunan gruplar hakkında bilgi toplamadıklarından emin olmak için denetimlerini dikkatli bir şekilde gözden geçirmeleri gerekir.

Amazon'un deneyiminin gösterdiği gibi eğitim süreci, korunan sınıflar hakkında açık veriler olmadan bile cinsiyete veya ırka dayalı bir model üretebilir, ancak bu veriler mevcut değilse bu önyargıyı ortaya çıkarmak zordur.

İK ekipleri ayrıca yapay zekanın neler yapabileceğini veya neler yapamayacağını anlamalıdır. Bu ekiplerin algoritmaları anlaması gerekmiyor, ancak eğitim verilerine ne tür önyargıların yansıtılabileceğini, kurumlara nasıl kodlandıklarını ve AI sistemlerinin bu önyargıları nasıl daha fazla yönlendirebileceğini bilmeleri gerekiyor.

Kimin verileri taranıyor?

Ayrıca, herhangi bir karara yol açan faktörleri detaylandırarak AI'yı açıklanabilir hale getirme yöntemlerine de aşina olmalıdırlar. Ayrıca, özellikle bir özgeçmişi taramak için üçüncü taraf bir uygulama veya hizmet kullanırken, AI sistemlerinin kalbindeki verilerin kaynağını bilmeleri gerekir.

Yapay zeka modeli kendi şirketinin verileriyle mi, başka birinin verileriyle mi, ikisinin birleşimiyle mi yoksa tamamen farklı bir veri kümesiyle mi eğitildi? İK ekipleri bu soruları sormazsa, ihtiyaç duydukları cevapları alamazlar.

İK profesyonelleri teknoloji uzmanı değillerdir, ancak önyargı ve sistemik konularda oldukça bilgilidirler. Bu içgörü, İK'da AI'dan adil ve tarafsız bir şekilde yararlanmalarına yardımcı olacaktır.

Bilinmesi gereken

Şirketlerin İK girişimleri için yapay zekayla çalışmaya başlarken akılda tutulması gereken birkaç önemli nokta:

• Çoğu yapay zeka sistemi, büyük ölçüde üzerinde eğitildikleri veriler nedeniyle önyargılı ve adaletsiz olabilir. Diğer önyargılar, kuruluşun kurumsal kültüründen ve güç dinamiklerinden ortaya çıkar.

• Nihai işe alım ve İK kararlarını yapay zeka sistemleri değil, insanlar vermelidir.

• AI sistemlerini dahili olarak kurarken dikkatli olun, çünkü bunlar genellikle düşük kaliteli sonuçlar verir.

• Veri tedarik zincirinin farkında olun. Kullanıma hazır sistemleri kullanırken, bunların kuruluşunuzun üzerinde hiçbir kontrolü olmayan veriler kullanılarak eğitildiğini ve satıcının önyargılarını veya üçüncü taraf veri kümelerinin önyargılarını yansıtabileceğini unutmayın.

• Yapay zekanın nasıl çalıştığı, önyargıları nasıl güçlendirdiği ve sonuçlarını en iyi şekilde nasıl denetleyeceğiniz konusunda eğitim alın.

Doğru kullanıldığında, AI sistemleri önyargıyı sürdürmek yerine ortaya çıkarabilir. 

Ancak yapay zekanın gerçek değerini anlamak için İK ekipleri basitçe yazılım kuramaz ve sonuçlarına güvenemez. İstedikleri sonuçlar hakkında eleştirel düşünmeli ve bunları elde etmek için doğru adımları atmalıdırlar.