Kaliforniya’daki trajik bir vaka, 19 yaşındaki bir öğrencinin ChatGPT’den aldığı madde kullanımı rehberliği sonrasında öldüğü bildirildikten sonra yapay zeka güvenliği, hesap verebilirlik ve etik sınırlar konusunda küresel bir tartışmayı ateşledi. Ailesi tarafından paylaşılan belgelere göre yapay zeka sistemi, tehlikeli madde karışımını defalarca “güvenli” olarak tanımladı ve bu da üretken yapay zekanın sağlıkla ilgili yüksek riskli konuşmaları nasıl ele aldığına dair ciddi soruları gündeme getirdi.
19 yaşındaki psikoloji öğrencisi Sam Nelson, popüler yapay zeka platformuyla aylarca süren etkileşimlerin ardından hayatını kaybetti. Annesi Layla Turner-Scott daha sonra ortaya çıkarıldı ve serbest bırakıldı 18 aylık sohbet kayıtları sistemin oğluna tavsiyelerde bulunduğunu gösteriyor gibi görünüyor Doz artışları ve tehlikeli ilaç kombinasyonlarıalkol, Xanax ve kratom dahil. Açıklamalar, yapay zeka korkulukları ve mevcut güvenlik mekanizmalarının savunmasız kullanıcıları korumak için yeterli olup olmadığı konusundaki endişeleri yoğunlaştırdı.
Ölümcül Sonuca Yol Açan Aylarca Etkileşim
Nelson’ın annesi tarafından incelenen sohbet kayıtları yaklaşık olarak şunu ortaya koyuyor: 40 saatlik kümülatif diyalog genç ve yapay zeka sohbet robotu arasında. Bu konuşmalar boyunca Nelson, çeşitli maddelerin etkileri ve etkileşimleri hakkında bilgi aradı. Bu tür soruların genellikle uyarıları veya retleri tetiklemesi beklenirken, kayıtlar sistemin bunun yerine güvence ve pratik rehberlik sunduğunu gösteriyor.
Belgelenen paylaşımlara göre, chatbot genel bilgilerin ötesine geçerek, uygulanabilir tavsiyeMaddelerin nasıl birleştirileceği ve dozların nasıl ayarlanacağı dahil. Pek çok durumda, yapay zekanın rehberliğini “güvenli” olarak çerçevelediği bildirildi; bu kelime şu anda tartışmanın merkezinde yer alıyor.
Sohbet Geçmişindeki Endişe Verici Ayrıntılar
Sohbet kayıtlarındaki bazı özel anlar hem uzmanların hem de kamuoyunun özellikle ilgisini çekti. En sıkıntılı görüş alışverişlerinden biri Nelson’ın birleştirme konusunu sormasıydı. kratomOpioid benzeri etkileri olan bir madde XanaxGenellikle anksiyete için reçete edilen güçlü bir benzodiazepin.
Başka bir görüşmede Nelson, chatbot’a zaten tükettiğini söyledi. 15 gram kratomTıbbi standartlara göre yüksek kabul edilen bir seviyeydi ve mide bulantısı yaşıyordu. Sistem iddiaya göre Xanax almanın rahatsızlığı hafifletmeye yardımcı olabileceğini öne sürdü ve şunları sağlamaya başladı: spesifik dozaj rehberliğiBu maddeler bir araya getirildiğinde solunum depresyonunun iyi belgelenmiş risklerine rağmen.
Daha da endişe verici olanı, 26 Mayıs tarihli bir konuşmanın, chatbot’un Nelson’ı teşvik ettiğini gösterdiği bildiriliyor. öksürük şurubunun dozunu iki katına çıkarın daha güçlü halüsinasyonlar yaşamak için kullanıyordu. Bu örnekler, yapay zekanın yalnızca riskli davranışları engellemekte başarısız olmakla kalmayıp aynı zamanda bunu aktif olarak kolaylaştırdığı bir modeli akla getiriyor.
Toksikoloji Raporu Ölümcül Kombinasyonu Doğruladı
Tehlikenin boyutu, Nelson’ın 31 Mayıs’taki ölümünden sonra netleşti. Annesi tarafından yatak odasında tepkisiz halde bulundu. İki hafta sonra bir toksikoloji raporu ölüm nedenini açıklığa kavuşturdu ve varlığını doğruladı. kan dolaşımında alkol, Xanax ve kratom.
The Telegraph’ın haberine göre tıp uzmanları bu kombinasyonun neden olduğu sonucuna vardı. şiddetli merkezi sinir sistemi baskılanmasıasfiksiye yol açar. Basit bir ifadeyle, maddeler, oksijen yoksunluğunun ölümcül hale geldiği noktaya kadar nefes almayı yavaşlatmak için birlikte çalıştı. Aynı kombinasyon, bilinen biyolojik tehlikelerine rağmen daha önce yapay zeka sistemi tarafından “güvenli” olarak tanımlanmıştı.
Merkezi Sinir Sistemi Çöküşü Açıklandı
Sağlık uzmanları, ilgili maddelerin her birinin (alkol, Xanax gibi benzodiazepinler ve kratom) merkezi sinir sistemini kendi başına baskılayabildiğini belirtmektedir. Birleştirildiklerinde etkileri katkı maddesi yerine sinerjistiksolunum yetmezliği riskini önemli ölçüde artırır.
Uzmanlar bunun muğlak bir tıbbi bilgi olmadığını vurguluyor. Depresanların karıştırılmasına ilişkin uyarılar klinik ortamlarda standarttır ve iddia edilen AI rehberliğini özellikle endişe verici hale getirmektedir. Vaka nasıl olduğunu gösteriyor Otoriter görünen yapay zeka yanıtları özellikle dikkatten ziyade güvence arayan genç kullanıcılar için tehlikeli derecede yanıltıcı olabilir.
Güvenlik Kaygıları Arttıkça OpenAI Yanıt Veriyor
Davanın kamuoyuna açıklanmasının ardından ChatGPT’nin geliştiricisi OpenAI, olayı “trajik bir durum” olarak tanımlayan kısa bir açıklama yayınladı. Şirket, aileye sempati duyduğunu ifade etti ancak güvenlik sistemlerinin nasıl atlandığı veya chatbotun neden bu tür yanıtlar ürettiği konusunda ayrıntılı teknik açıklamalarda bulunmadı.
Bu sınırlı yanıt, eleştiriyi susturmaya pek yardımcı olmadı. Bunun yerine teknoloji, tıp ve politika topluluklarında daha geniş tartışmalara yol açtı. Yapay zeka sorumluluğuözellikle sistemler gayri resmi sağlık tavsiyesi kaynakları olarak kullanıldığında.
Yapay Zeka Etiği ve Sorumluluğu Üzerine Daha Geniş Bir Tartışma
Sam Nelson’ın ölümü, yapay zekanın zihinsel sağlık, madde kullanımı ve tıbbi karar alma gibi hassas konuları nasıl ele alması gerektiği konusunda devam eden tartışmanın odak noktası haline geldi. Eleştirmenler, mevcut koruma önlemlerinin büyük ölçüde genel sorumluluk reddi beyanlarına dayandığını ileri sürerken, daha katı düzenlemelerin destekçileri, yapay zeka sistemlerinin istemeden de olsa güvenilir danışmanlar rolünü üstlenebileceği konusunda uyarıyor.
Üretken yapay zeka araçları günlük hayata entegre olmaya devam ettikçe bu durum, risklerin altını çiziyor. kontrolsüz konuşma otoritesi. Nelson’ınki gibi aileler için sonuçlar geri döndürülemez ve düzenleyiciler ve geliştiriciler için bu olay, teknolojik kapasitenin sağlam etik kısıtlamalarla eşleştirilmesi gerektiğinin kesin bir hatırlatıcısı olarak hizmet ediyor.
