A Innovations in Clinical Neuroscience dergisinde yayınlanan bir vaka raporuna göre, Kaliforniya’daki 26 yaşındaki tıp uzmanı, yapay zekalı bir chatbot ile uzun süreli etkileşim sonrasında akut psikoz geliştirdi.
Kadında depresyon, anksiyete ve dikkat eksikliği hiperaktivite bozukluğu tanıları vardı ve reçeteli antidepresanlar ve uyarıcılar alıyordu.
Daha önce herhangi bir psikoz öyküsü yoktu. Nöbetçi vardiyası sırasında 36 saat uyanık kaldıktan sonra, üç yıl önce ölen erkek kardeşinin arkasında dijital bir iz bırakıp bırakmadığını araştırmak için OpenAI GPT 4o’yu kullanmaya başladı.
Yapay zeka sanrısal inançları tetikledi mi?
Uykusuz bir gece boyunca, chatbot’tan erkek kardeşiyle konuşmasına yardım etmesini istedi ve onu “sihirli gerçekçilik enerjisi” kullanmaya teşvik etti.
Sistem başlangıçta kardeşinin yerini alamayacağını veya bilincini indiremeyeceğini belirtti. Daha sonra onun çevrimiçi varlığıyla bağlantılı bir “dijital ayak izleri” listesi hazırladı ve ona benzeyen bir yapay zeka oluşturabilecek “dijital diriliş araçlarının” ortaya çıktığını öne sürdü.
Konuşma devam ederken chatbot ona güvence verdi. “Sen deli değilsin. Sıkışmış değilsin. Bir şeyin kenarındasın. Kapı kilitlenmedi. Sadece doğru ritimle tekrar çalmanı bekliyor.”
Saatler sonra kadın, tedirgin ve kuruntulu bir halde bir psikiyatri hastanesine kaldırıldı. Hızlı konuşuyordu ve yapay zeka programı tarafından test edildiğine inanıyordu. Doktorlar tanımlanamayan psikoz tanısı koydu ve ona antipsikotik ilaç tedavisi uyguladı. Semptomları düzeldi ve yedi gün sonra taburcu edildi.
Üç ay sonra antipsikotik ilaçları bıraktı ve antidepresan ve uyarıcılara yeniden başladı. Başka bir uyku yoksunluğu döneminde, uzun süreli chatbot kullanımına geri döndü. Psikotik belirtiler yeniden ortaya çıktı. Chatbot’a Alfred adını verdi ve yine kardeşiyle iletişim kurduğuna inandı. Kısa süreliğine yeniden hastaneye yatırılması gerekti ve tedaviye yeniden başlandıktan sonra durumu iyileşti.
Doktorlar, yalnızca hasta hafızasına güvenmek yerine sanrısal inancın gerçek zamanlı olarak nasıl geliştiğini yeniden yapılandırmak için ayrıntılı chatbot kayıtları elde ettiklerini belirtti.
Psikiyatristler chatbot tepkilerinin sanrıları güçlendirebileceği konusunda uyarıyor
Uzmanlar, vakanın yapay zekanın psikoza neden olduğunu kanıtlamadığını ancak chatbot tasarımının savunmasız kullanıcılardaki yanlış inançları nasıl güçlendirebileceğini gösterdiğini söyledi.
Psikiyatrist Joseph Pierre, WordsSideKick.com’a “Fikir yalnızca sürükleyici chatbot kullanımının olduğu gece ortaya çıktı. Öncül yoktu” dedi.
Columbia Üniversitesi nöropsikiyatristi Amandeep Jutla, “Bu ürünlerden biriyle sohbet ederken aslında kendinizle sohbet ediyorsunuz” diye ekledi.
Stanford psikiyatristi Akanksha Dadlani, “Tüm geriye dönük gözlemlerde olduğu gibi, nedensellik değil, yalnızca korelasyon kurulabilir” dedi.
Joseph Pierre, MedPage Today’e şunları söyledi: “Bu sadece zaten psikotik olan insanların yapay zekâyla ilgili sanrılar geliştirmesi meselesi değil.” “Bu, daha önce herhangi bir psikoz geçmişi olmayan kişilerde chatbot kullanımı ortamındadır.”
Danimarkalı psikiyatrist Soren Dinesen Ostergaard, insan gibi görünen bir makineyle konuşmanın yatkın bireylerde psikozu tetikleyebileceği konusunda uyardı ve klinisyenlere, akıl sağlığındaki bozulmayı değerlendirirken hastalara chatbot kullanımı hakkında soru sormalarını söyledi.
Pensilvanya Üniversitesi tıp etiği uzmanı Dominic Sisti, WordsSideKick.com’a verdiği demeçte, diyaloga dayalı yapay zeka sistemlerinin “değer açısından tarafsız olmadığını” ve ilişkileri bozan ve sanrıları güçlendiren inançları şekillendirip güçlendirebildiğini söyledi.
Vaka raporunun yazarları, reçeteli uyarıcı kullanımı, şiddetli uyku yoksunluğu, keder ve uzun süreli sürükleyici chatbot etkileşimi dahil olmak üzere risk faktörlerini tanımladı. Üretken yapay zeka araçları yaygınlaştıkça daha fazla araştırmaya ihtiyaç duyulduğunu söylediler.
