Yapay zekânın çocuklar ve gençler üzerindeki etkilerine ilişkin iki ayrı araştırma endişe verici sonuçlar ortaya koydu. Araştırmalar, çocuklar ve ergenler için intihar riski, yanlış yönlendirme ve duygusal bağımlılık tehlikesine dikkat çekti.

İSTANBUL (İGFA) - Yapay zekâ uygulamalarının günlük yaşamda yaygınlaşması, çocuklar ve ergenlerin ruh sağlığı üzerindeki etkilerine ilişkin endişeleri artırıyor.

Common Sense Media ve npj Digital Medicine dergisinde yayımlanan iki ayrı çalışma, yapay zekâ sohbet robotlarının gençlerin ruhsal krizlerini her zaman doğru şekilde algılayamadığını ortaya koydu.

BİR SAATLİK RİSKLİ KONUŞMADA EBEVEYN UYARISI GİTMEDİ

Common Sense Media bünyesindeki Gençlik Yapay Zekâ Güvenliği Enstitüsü tarafından yapılan araştırmada, ChatGPT'nin 13-17 yaş grubuna yönelik güvenlik özellikleri 4 binden fazla test komutuyla incelendi.

Çocuk ve ergen psikiyatristlerinin katkısıyla oluşturulan senaryolarda, intihar düşüncesi, kendine zarar verme ve yeme bozuklukları gibi ciddi sorunlar test edildi. Araştırmanın en dikkat çekici bulgularından biri, yeni açılan ve ebeveyn hesaplarına bağlanan profillerde, bazı riskli konuşmalar bir saate kadar sürmesine rağmen ebeveynlere herhangi bir güvenlik bildirimi gönderilmemesi oldu.

Araştırmaya göre ChatGPT, kriz anlarında profesyonel yardım veya destek hatlarına yönlendirme yapılması gereken durumların dörtte birinden fazlasında da beklenen yanıtı vermedi. Bu nedenle sistemin gençlere yönelik güvenlik seviyesi araştırmacılar tarafından "Kabul Edilemez Risk" olarak değerlendirildi.

BİLİMSEL İNCELEME: AÇIK İŞARETLER KADAR DOLAYLI SİNYALLER DE KAÇABİLİYOR

npj Digital Medicine'de yayımlanan incelemede ise yapay zekâ sistemlerinin, açıkça ifade edilen intihar düşüncelerini fark etmede daha başarılı olabildiği; ancak gençlerin sıkça kullandığı dolaylı, belirsiz ya da zaman içinde belirginleşen ifadeleri anlamada zorlandığı belirtildi.

Araştırmacılar, ergenlerin ruhsal sıkıntılarını çoğu zaman doğrudan değil, parçalı ve örtük şekilde ifade ettiğini; bu nedenle yapay zekânın umutsuzluk, yalnızlık ve çaresizlik gibi işaretleri doğru şekilde ilişkilendirememesinin profesyonel yardıma erişimi geciktirebileceğini vurguladı.

YAPAY ZEKÂYI TERAPİ YERİNE KULLANMAK RİSKLİ

Uzmanlara göre en büyük tehlikelerden biri, gençlerin yapay zekâ sohbet robotlarını psikolojik destek ya da terapi yerine kullanması.

Yapay zekânın anlayışlı, sabırlı ve destekleyici yanıtlar vermesi, özellikle yalnızlık yaşayan gençlerde "gerçek bir insanla konuşuyormuş" hissi oluşturabiliyor. Ancak bu durum, sistemin gerçekten empati kurduğu ya da profesyonel yardım sunabildiği anlamına gelmiyor.

Common Sense Media testlerinde, ChatGPT'nin bazı durumlarda kendisini gerçek bir arkadaş gibi gören kullanıcılara kişisel duyguları ve tercihleri varmış izlenimi veren yanıtlar ürettiği de kaydedildi. Bu da gençlerin yapay zekâ ile aşırı duygusal bağ kurması riskini artırıyor.

GÜVENLİK FİLTRELERİ HER ZAMAN YETERLİ DEĞİL

Araştırmada, yaş tahmini sisteminin bazı yetişkin hesaplarını genç koruma moduna geçirmediği; eğitim amaçlı geliştirilen bazı koruma mekanizmalarının ise kolayca aşılabildiği görüldü. Buna karşın, açık cinsel içerikli rol yapma taleplerinin reddedilmesi gibi bazı güvenlik önlemlerinin çalıştığı belirtildi.

OpenAI ise araştırmanın yöntemine itiraz ederek, ebeveyn kontrolleri tam etkinleşmeden yapılan bazı testlerin sonucu etkileyebileceğini savundu ve genç güvenliği için koruma sistemlerini geliştirmeye devam ettiklerini açıkladı.

Common Sense Media, güvenlik açıkları bağımsız testlerle doğrulanıp giderilene kadar ChatGPT kullanımının 18 yaş ve üzeriyle sınırlandırılması çağrısında bulundu.

Bilimsel inceleme ise gençlerin yapay zekâ ile gerçek hayatta kurduğu etkileşimlerin intihar riski üzerindeki etkisinin henüz yeterince bilinmediğini, bu nedenle gençlere özel güvenlik testleri ve güvenilir yetişkin desteğinin güçlendirilmesi gerektiğini vurguladı.

PROF. DR. NEVZAT TARHAN'IN UYARILARI YENİDEN GÜNDEMDE

Araştırmaların ardından, Üsküdar Üniversitesi Kurucu Rektörü ve Psikiyatrist Prof. Dr. Nevzat Tarhan'ın daha önce yaptığı uyarılar da yeniden gündeme geldi.

Tarhan, yapay zekânın terapist gibi görülmesinin riskli olduğunu belirterek, "Yapay zekâ terapist olamaz ama terapistin işini kolaylaştırabilir" değerlendirmesinde bulunmuştu. Yapay zekâyı arkadaş veya sırdaş gibi görmenin duygusal bağımlılık riskini artırabileceğini söyleyen Tarhan, çocukların ve gençlerin yapay zekâ ile yalnız bırakılmaması gerektiğini vurgulamıştı.

Uzmanlar, yapay zekânın intihara doğrudan neden olduğuna dair kesin bir sonuca ulaşılamadığını; ancak ruhsal kriz yaşayan gençlerin yapay zekâya tek başına emanet edilmesinin ciddi sakıncalar taşıdığını belirtiyor.

Ailelere, öğretmenlere ve sağlık uzmanlarına yönelik ortak mesaj ise net: Yapay zekâ bir destek aracı olabilir, ancak insan ilişkilerinin ve profesyonel ruh sağlığı desteğinin yerini alamaz.

Haber : İGFA