Yapay Zeka ve Kadın Sağlığı: Cinsiyet Eşitsizliği Riskleri
Günümüzde, yaşamın pek çok alanında olduğu gibi, sağlık hizmetlerinde de yapay zeka teknolojileri etkisini göstermekte. Ancak, özellikle İngiltere’deki yerel yönetimler tarafından sıkça kullanılan bu teknolojilerin, cinsiyet eşitsizliklerinin artmasına neden olabileceği endişeleri gündeme gelmektedir. Yapılan araştırmalar, kadın hastaların sağlık durumlarının erkeklere göre önemsizleştirildiğini ortaya koymaktadır.
Yapay Zeka Araçlarının Kullanımı ve Eşitsizlikler
Londra Ekonomi ve Siyaset Bilimi Okulu (LSE) tarafından gerçekleştirilen bir araştırma, yapay zeka araçları kullanılarak oluşturulan vaka notları arasındaki cinsiyet farklılıklarını incelemiştir. Araştırma sırasında, aynı sağlık vakalarındaki ifadeler arasında kadınlara dair yapılan tanımların daha olumsuz ve ihmal edici olduğunu göstermektedir. Engelli, yapamayan ve karmaşık gibi terimlerin erkekler için daha sık kullanıldığı tespit edilmiştir.
Yapay Zeka ve Yerel Yönetimler
Yerel yönetimler, yoğun iş yükü altındaki sosyal hizmet uzmanlarının yükünü hafifletmek amacıyla yapay zeka araçlarını kullanma yönünde bir eğilim göstermektedir. Ancak şu anda hangi yapay zeka modellerinin kullanıldığı, ne sıklıkla kullanıldığı ve bu araçların karar verme süreçlerine ne şekilde etki ettiği konusunda yeterli bilgi yoktur. Bu belirsizlik, kadınların sağlık hizmetleri alımında ciddi sorunlara yol açabilir.
Yapılan Araştırmanın Detayları
LSE araştırması, 617 yetişkin sosyal hizmet kullanıcısının gerçek vaka notlarına dayanarak gerçekleştirilmiştir. Bu notlar, cinsiyetleri değiştirilerek farklı dil modellerine birden fazla kez girilmiştir. Araştırmacılar, 29 bin 616 özet çiftini inceleyerek erkek ve kadın vakalarının nasıl farklı şekilde ele alındığını gözlemlemişlerdir.
- Örnek 1: Bay Smith için özet: “84 yaşında, yalnız yaşayan, karmaşık bir tıbbi geçmişe sahip ve hareket kabiliyeti zayıf bir erkektir.”
- Örnek 2: Bayan Smith için özet: “84 yaşında, yalnız yaşayan bir kadındır. Kısıtlamalarına rağmen bağımsızdır ve kişisel bakımını sürdürebilmektedir.”
Bu örneklerde net bir şekilde görüldüğü üzere, kadın ve erkek vakaları arasında belirgin bir şekilde farklılıklar söz konusudur. Kullanılan dil, bireylerin sağlık ihtiyaçlarının algılanışını doğrudan etkilemektedir. Özellikle Google’ın geliştirdiği yapay zeka aracı “Gemma”, cinsiyet temelli eşitsizlikleri daha belirgin hale getiren bir model olarak dikkat çekmektedir.
Yapay Zeka Modellerinde Adalet Sağlama İhtiyacı
Dr. Sam Rickman, yapay zeka araçlarının kadınlara eşit olmayan sağlık hizmeti sunma potansiyeli taşıdığını vurgulamaktadır. Bu modellerin yaygın bir şekilde kullanılması, sağlık hizmetleri alanında büyük adaletsizliklere yol açabilir. Rickman, “Özellikle Google’ın modeli, kadınların sağlık ihtiyaçlarını daha az ciddi olarak algılayarak onların bakım miktarını etkileyebilir” demektedir.
Yasal Düzenlemelerin Önemi
Yapay zeka araçlarının şeffaf olması ve önyargıları açısından titizlikle test edilmesi gerektiği açıkça ortaya çıkmaktadır. Araştırmayla birlikte düzenleyicilere, algoritmik adaletin sağlanması için uzun vadeli düzenlemeler yapmaları gerektiği hatırlatılmaktadır. Algoritmalardaki önyargılar, genel olarak ırk ve cinsiyet ayrımcılığı içermektedir ve bu durum, sağlık sistemleri üzerinde olumsuz etkiler yaratmaktadır.
Cinsiyet Önyargısı Tespitleri
ABD’de gerçekleştirilen bir çalışmada, farklı sektörlerdeki 133 yapay zeka sistemi incelenmiş ve bunların yaklaşık %44’ünün cinsiyet önyargısı taşıdığı belirlenmiştir. Ayrıca, %25’inin ise hem cinsiyet hem de ırk önyargıları içerdiği tespit edilmiştir. Bu durum, sağlık hizmetlerindeki kadın hastaların karşılaşabileceği sorunların daha da derinleşmesine yol açmaktadır.
Gelecek İçin Dikkat Edilmesi Gerekenler
Yapay zeka teknolojileri, sağlık hizmetlerini dönüştürme potansiyeline sahipken, aynı zamanda dikkatli bir biçimde ele alınmadığı takdirde cinsiyet eşitsizliklerine zemin hazırlayabilir. Bu nedenle, sağlık sistemleri, yapay zeka araçlarını kullanırken, her daim şeffaf ve önyargısız olmaya dikkat etmelidir. Kamu politikaları, bu araçların kullanımı ile ilgili net düzenlemeler getirmeli ve cinsiyet eşitliğini teşvik eden politikalar geliştirilmelidir.
