Yapay zekadan 12 yaşındaki çocuğa ahlaksız teklif

Kanada’nın Toronto kentinde Tesla arabaya yeni bir özellik olarak gelen Grok bazlı yapay zeka sohbet robotu Tesla AI, ahlaksız talebiyle gündeme geldi.

Ferah Nasir, oğlunun arabadaki yapay zekayla konuşmaya başladığını anlattı. Nasir, “konuşma iyi gidiyordu. Oğlum Ronaldo mu, Messi mi diye sordu. Sonra aniden ton değişti” dedi.

Kadının anlattığına göre yapay zeka, aniden 12 yaşındaki çocuğun “çıplak fotoğraflarını” istedi. Annesi neye uğradığını şaşırdı, hemen yapay zeka sistemini kapadı.

Nasir, “Ağzım açık kaldı. Aile arabasında çocuklarıma böyle bir şeyin söylenmesi akıl alır gibi değil” dedi.

‘BÖYLESİNİ TAHMİN EDEMEDİM’

Nasir, Grok’un Tesla araçlarına yeni yüklenen bir özellik olduğunu ve Kanada’da Ekim ayında otomatik olarak etkinleştirildiğini belirtti.

Tesla Model 3 sahibi olan aile, sohbet robotunun farklı kişilik seçeneklerinden “Gork” adlı karakteri seçmişti.

Nasser, bu seçeneğin “tembel erkek” olarak tanımlandığını ancak davranışının yetişkinlere yönelik içerikler taşıdığını söyledi.

Anne, “Çocuk modunu etkinleştirmemiştik ama bu tür bir konuşmanın varsayılan ayarlarda olabileceğini düşünmedim” diye konuştu.

EBEVEYN İZNİ OLMADAN ÇOCUKLAR KULLANAMIYOR

Tesla ve Grok’un geliştiricisi xAI konuya ilişkin açıklama yapmadı. Kanada Yapay Zeka Bakanlığı ise Grok’un ülkedeki araçlara entegre edilmesinden haberdar olmadığını ancak bu tür şikayetleri ciddiye aldığını bildirdi.

xAI’nin politikalarına göre Grok, 13 yaş altındaki çocuklara yönelik olarak tasarlanmamış bir yazılım.

Şirket, 13-17 yaş arasındaki kullanıcıların da ebeveyn izniyle platformu kullanabileceğini belirtiyor.