Yapay zeka teknolojisinin merhumla konuşmaya olanak sağladığı dijital ölümden sonraki yaşam alanında, etik sınırlar ve olası zararlarla ilgili endişeler Cambridge Üniversitesi bilim insanları tarafından ön plana çıkarıldı. “Ölü robotlar” veya “keder robotları” olarak adlandırılan bu yapay zeka destekli sohbet robotları, ölen sevdiklerin dilini ve kişiliğini taklit ederek yaslılara teselli sunacak şekilde tasarlandı. Ancak yakın zamanda yapılan bir araştırma, bu yeniliklerin, araştırmacıların güvenlik standartlarından yoksun “dijital taciz” olarak tanımladığı durumlar da dahil olmak üzere istenmeyen sonuçlara yol açabileceği konusunda uyarıyor.
Bu teknolojinin etik sonuçları, ölen nişanlısının dijital bir kopyasıyla sohbet etmek için Aralık Projesi olarak bilinen yapay zeka teknolojisinin erken bir versiyonunu kullanan Joshua Barbeau gibi bireylerin deneyimleriyle vurgulandı . Barbeau, AI’ya metin örneklerini ve kişisel açıklamalarını sağlayarak, merhumun düşünceleri gibi gizlenen reklamların eklenmesi de dahil olmak üzere, bu tür teknolojinin olası kötüye kullanımına ilişkin endişeleri artıran gerçekçi yanıtlara tanık oldu.
Dahası, psikologlar bu teknolojilerin çocukların kayıplarla başa çıkmaları üzerindeki etkisine vurgu yaparak ölen kişinin onuru ve yaşayanların refahı hakkında soru işaretleri uyandırıyor. Padova Üniversitesi’nden Profesör Ines Testoni, ölen sevdiklerimizden ayrılmanın zorluğunun altını çizerek, ölümü ve sonrasını anlamanın önemini vurguladı. Potansiyel riskleri göstermek için Cambridge AI etik uzmanları, keder robotlarının zarar verebileceği üç varsayımsal senaryoyu özetliyor.
Bunlar arasında ticari ürünlerin tanıtımını yapan vefat eden kişilerin izinsiz simülasyonları, iyileşmede gecikmelere yol açan gerçekçi olmayan etkileşimlerden kaynaklanan kafa karışıklığı ve duygusal sıkıntı ve suçluluk yaratan isteksiz alıcılara dijital varlıkların empoze edilmesi yer alıyor. Çalışma, keder robotları için, devre dışı bırakma mekanizmalarını ve yaş kısıtlamalarını içeren, rızaya dayalı tasarım süreçlerinin uygulanmasını savunuyor. Dahası, bu dijital kopyaların saygılı bir şekilde kullanımdan kaldırılması için yeni ritüeller yapılması çağrısında bulunarak, bu teknolojinin yalnızca yas sürecini geciktirip geciktirmediğini sorguluyor.
Araştırmanın ortak yazarlarından Dr. Katarzyna Nowaczyk-Basińska, yapay zekanın dijital ahiretteki etik karmaşıklıklarına dikkat çekerek, ölen kişinin onuruna öncelik verilmesi ve hem veri bağışçılarının hem de kullanıcıların haklarının korunması ihtiyacını vurguluyor. Yapay zekanın dijital ölümden sonraki yaşam alanında kullanımı gelişmeye devam ettikçe, bu keşfedilmemiş bölgede gezinmede etik hususlar hâlâ en önemli konu olmaya devam ediyor. Çin’de, ölen sevdiklerinin yapay zeka tarafından üretilen kopyalarının gelişen endüstrisi, yas tutanlara teselli sağlarken önemli etik soruları da gündeme getiriyor. Silicon Intelligence gibi şirketler, ölülerle konuşmayı simüle eden dijital avatarlar oluşturmak için yapay zeka teknolojisindeki ilerlemelerden yararlanıyor ve ölen annesiyle bağlantıyı sürdürmek isteyen Sun Kai gibi bireylere rahatlık sunuyor.
Bu hizmetlere olan talep, ölülerle iletişim kurmaya yönelik kültürel bir geleneğin altını çiziyor ancak eleştirmenler, yapay zeka kopyalarıyla etkileşim kurmanın kederi işlemenin sağlıklı bir yolu olup olmadığını sorguluyor. Teknolojik sınırlamalara ve etik belirsizliklere rağmen dijital ölümsüzlük pazarı hızla büyüyor, fiyatlar düşüyor ve erişilebilirlik artıyor. Yapay zeka tarafından oluşturulan, derin sahtekarlıklara benzeyen avatarlar, ölen kişinin benzerliğini ve konuşma kalıplarını kopyalamak için fotoğraf, video ve metin gibi veri girişlerine güveniyor. Çin’in yapay zeka teknolojisindeki hızlı ilerlemeleri, Silicon Intelligence gibi şirketlerin etkileşimli uygulamalardan tablet ekranlarına kadar kişiselleştirilebilir seçenekler sunmasıyla bu tür hizmetleri daha erişilebilir hale getirdi.
Bazıları bu kopyaları tedavi edici olarak görürken, diğerleri etkileşimlerin gerçekliği ve ölülerin rızası olmadan kopyalanmasının etik sonuçları hakkında endişelerini dile getiriyor. Ayrıca vücut hareketlerinin kopyalanması ve yeterli eğitim verilerinin elde edilmesi gibi teknik zorluklar da önemli engeller oluşturmaktadır. Yapay zeka kopyalarını çevreleyen etik ikilemler , ölen ünlülerin rızası olmadan videolarını oluşturmak için yapay zekayı kullanan Ningbo’daki bir şirketin dahil olduğu tartışmalı bir olayla örneklendirildi . Olay halkın tepkisine yol açtı ve gelişen dijital ahiret teknolojisi alanında açık etik kurallara olan ihtiyacın altını çizdi.