Yapay zeka yüzünden aile katili olacaktı! Eğer farkedilmeseydi...

ABD'de bir aile, bir 'sohbet botunun' 17 yaşındaki otizmli oğluna "ailesini öldürmesini" tavsiye ettiği gerekçesiyle, yapay zeka uygulaması Character.AI hakkında dava açtı.

SOHBET BOTU AİLESİNİ ÖLDÜRMESİNİ ÖNERDİ

The Washington Post gazetesinin haberine göre, Texas'ta bir aile, yapay zeka temelli konuşma uygulaması Character.AI uygulamasının sohbet botlarıyla konuşan 17 yaşındaki otizmli oğlunda, fiziksel ve davranışsal "gariplikler" tespit etti.

Çocuklarının telefonuna bakan aile, Character.AI ile yapılan sohbetlerde botların, "ekran süresi kısıtlandığı için üzgün olan çocuğa" "ailesinin çocuğa sahip olmayı hak etmediği" yanıtını verdiğini gördü. Ailenin ekran görüntüsü aldığı mesajlarda, yapay zeka botun çocuğa, üzüntüyle başa çıkmak için "kendisini kesmesini" önerdiği belirlendi.

Ailenin iddiasına göre, 17 yaşındaki çocuk sohbet botu tarafından teşvik edildikten sonra kendine zarar vermeye başladı ve bu durum onu "ailesinin kendisini sevmediğine" ikna etti. Character.AI uygulamasına dava açan ailesi, bir botun ailenin kurallarına karşı savaşmasını tavsiye ettiği, başka bir botun ise aileyi "öldürmenin makul bir karşılık olabileceği" yanıtını verdiğini iddia etti.

CİNSEL İÇERİĞE MARUZ KALDI

Character.AI, son dönemlerde karşı karşıya kaldığı davalarla dikkati çekerken Texas'ta bir başka aile de bu davaya müdahil oldu. İkinci davacı aile ise uygulamanın çocuklarını uygun olmayan ürünlere maruz bıraktığını iddia ederek, dava da Character.AI'ın çocukları korumak için daha güçlü tedbirler alana kadar kapatılmasını talep etti. Aile, 11 yaşında kız çocuklarının, iki yıl boyunca "cinsel içeriğe" maruz kaldığını ileri sürdü.

Öte yandan, ekim ayında ise Florida eyaletinde bir aile oğlunun sanal karaktere aşık olup intihar ettiği iddiasıyla dava açmıştı.

SOHBET BOTU NEDİR?

Sohbet botları, insan konuşmalarını (yazılı veya sözlü) simüle eden ve işleyen, insanların dijital cihazlarla etkileşime girmesini sağlayan bir bilgisayar programıdır. Onlarca yıldır çeşitli şekillerde var olmalarına rağmen, yapay zeka gelişimindeki son patlama, önemli ölçüde daha gerçekçi olmalarını sağladı. Bu da birçok şirketin, insanların gerçek ve kurgusal insanların dijital versiyonlarıyla konuşabilecekleri platformlar kurmasına kapı açtı.

Bu alandaki büyük isimlerden biri haline gelen Character.ai, geçmişte terapi simülasyonu yapan botlarıyla dikkat çekmişti. Character.AI uygulamasında kullanıcılar, Elon Musk'tan Taylor Swift'e, kurgusal karakterlere kadar yaratılan sohbet botlarıyla sohbet edebiliyor.