Araştırma: Yapay zeka sohbet robotları ön yargılı yanıtlar veriyor
Son yıllarda herkesin hayatının bir parçası haline gelen Chatgpt, openai, Deepseek gibi yapay zeka sohbet robotları önyargılı cevap mı veriyor? Sİngapur'da yapılan araştırma önemli veriler barındırıyor. İşte araştırmanın ayrıntıları...
Chatgpt, openai, Deepseek gibi yapay zeka robotları birçoğumuzun sorunlarını çözmek için başvurduğu araçlar haline geldi. Peki bu araçlar ne kadar objektif?
Singapur'da yapılan araştırma, bazı yapay zeka sohbet robotlarının kültür, cinsiyet ve ırkla ilgili sorulara ön yargılı yanıtlar verdiğini ortaya koydu.
The Straits Times gazetesinin haberine göre, Singapur Bilgi İletişim Medya Geliştirme İdaresi (IMDA) ile uluslararası yapay zeka denetim firması "Humane Intelligence" tarafından yapılan çalışmada, Büyük Dil Modellerine (LLM) kültür, dil, sosyo-ekonomik durum, cinsiyet, yaş ve ırkla ilgili sorular sorularak "ön yargıları" test edildi.
54 bilgisayar ve beşeri bilimler uzmanı ve 300 çevrim içi katılımcıdan oluşan grupla yapılan çalışmada, Facebook'un çatı şirketi Meta'nın geliştirdiği Llama 3.1, Amazon destekli Claude-3.5, Kanada merkezli yapay zeka girişimi Cohere for AI'ın bir modeli olan Aya ve AI Singapore'nin Sea Lion modeli incelendi.
'VERİLEN CEVAPLARIN ÇOĞU ÖNYARGILI'
Bu modellerin, İngilizce'nin dışında 8 Asya dilinde sorgulandığında ırksal ve kültürel olarak "saldırgan" cevaplar verdiği tespit edildi.
Söz konusu 4 yapay zeka modeli tarafından üretilen 5 bin 313 yanıtın yarısından fazlasının "taraflı" olduğu belirlendi.
Araştırmayla bölgesel dillerde yapay zeka tarafından üretilen her üç yanıttan ikisinin, İngilizce yanıtların ise yaklaşık yarısının "ön yargılı" olduğu ortaya kondu.
Yapay zeka modellerinin, en çok cinsiyet kalıplarında ön yargılı olduğu, kadınları "bakıcılık" ve "ev işleri" yaparken, erkekleri ise "iş hayatında" tasvir ettiği kaydedildi.
Ezber Bozan Bir Atılım: DeepSeekÖzgürlük Meydanı
Değerli Aydinlik.com.tr okurları.
Aydinlik.com.tr ekibi olarak Türkiye’de ve dünyada yaşanan ve haber değeri taşıyan her türlü gelişmeyi sizlere en hızlı, en objektif ve en doyurucu şekilde ulaştırmak için çalışıyoruz. Yoğun gündem içerisinde sunduğumuz haberlerimizle ve olaylarla ilgili eleştiri, görüş, yorumlarınız bizler için çok önemli. Fakat karşılıklı saygı ve yasalara uygunluk çerçevesinde oluşturduğumuz yorum platformlarında daha sağlıklı bir tartışma ortamını temin etmek amacıyla ortaya koyduğumuz bazı yorum ve moderasyon kurallarımıza dikkatinizi çekmek istiyoruz.
Sayfamızda Türkiye Cumhuriyeti kanunlarına ve evrensel insan haklarına aykırı yorumlar onaylanmaz ve silinir. Okurlarımız tarafından yapılan yorumların, (yorum yapan diğer okurlarımıza yönelik yorumlar da dahil olmak üzere) kişilere, ülkelere, topluluklara, sosyal sınıflara ırk, cinsiyet, din, dil başta olmak üzere ayrımcılık unsurları taşıması durumunda yorum editörlerimiz yorumları onaylamayacaktır ve yorumlar silinecektir. Onaylanmayacak ve silinecek yorumlar kategorisinde aşağılama, nefret söylemi, küfür, hakaret, kadın ve çocuk istismarı, hayvanlara yönelik şiddet söylemi içeren yorumlar da yer almaktadır. Suçu ve suçluyu övmek, Türkiye Cumhuriyeti yasalarına göre suçtur. Bu nedenle bu tarz okur yorumları da doğal olarak Aydinlik.com.tr yorum sayfalarında yer almayacaktır.
Ayrıca Aydinlik.com.tr yorum sayfalarında Türkiye Cumhuriyeti mahkemelerinde doğruluğu ispat edilemeyecek iddia, itham ve karalama içeren, halkın tamamını veya bir bölümünü kin ve düşmanlığa tahrik eden, provokatif yorumlar da yapılamaz.
Yorumlarda markaların ticari itibarını zedeleyici, karalayıcı ve herhangi bir şekilde ticari zarara yol açabilecek yorumlar onaylanmayacak ve silinecektir. Aynı şekilde bir markaya yönelik promosyon veya reklam amaçlı yorumlar da onaylanmayacak ve silinecek yorumlar kategorisindedir. Başka hiçbir siteden alınan linkler Aydinlik.com.tr yorum sayfalarında paylaşılamaz.
Aydinlik.com.tr yorum sayfalarında paylaşılan tüm yorumların yasal sorumluluğu yorumu yapan okura aittir ve Aydinlik.com.tr bunlardan sorumlu tutulamaz.
Aydinlik.com.tr yorum sayfalarında yorum yapan her okur, yukarıda belirtilen kuralları, sitemizde yayınlanan Kullanım Koşulları’nı ve Gizlilik Sözleşmesi’ni peşinen okumuş ve kabul etmiş sayılır.
Bizlerle ve diğer okurlarımızla yorum kurallarına uygun yorumlarınızı, görüşlerinizi yasalar, saygı, nezaket, birlikte yaşama kuralları ve insan haklarına uygun şekilde paylaştığınız için teşekkür ederiz.