The Telegraph’ın haberine nazaran Oxford Üniversitesi’nden araştırmacılar İngiliz milletvekillerini “insanüstü yapay zekanın” en az nükleer silahlar kadar tehlikeli olabileceği ve bu nedenle onlar üzere düzenlenmesi gerektiği konusunda uyardı.
Uzmanlar, Birleşik Krallık hükümetinin Bilim ve Teknoloji Seçim Komitesi’nde milletvekillerine düzenlenmemiş yapay zeka (YZ) teknolojilerinin tehlikeleri hakkında bilgi verdiler. The Telegraph’ın aktardığına nazaran doktora öğrencisi Michael Cohen milletvekillerine şunları söyledi: “İnsanüstü yapay zeka ile farklı bir sınıfta yer alan özel bir risk var, bu da herkesi öldürebilir.“
Yapay Zeka Kıyameti
Bu riskler, siyasi güçlerin yapay zeka alanında giderek birbirlerine daha fazla üstünlük sağlamaya çalışması nedeniyle sahiden de büyük ehemmiyet taşıyor. Oxford Üniversitesi’nde makine tahsili profesörü olan ve komite toplantısına da katılan Michael Osborne, “güvenlik ve önlemi bir kenara bırakıp mümkün olan en süratli biçimde en gelişmiş YZ’ye ulaşmak isteyen” ABD ve Çin ortasında “büyük bir YZ silahlanma yarışı” yaşanabileceği ikazında bulundu.
Osborne, “Nükleer silahların kullanımını düzenleme konusunda epeyce yeterli olduğumuz için umutlanmak için kimi nedenler var” dedi ve ekledi: “Eğer gelişmiş YZ’nin nükleer silahlarla karşılaştırılabilir bir tehlike olduğunu anlayabilirsek, o vakit tahminen de onu yönetmek için emsal çerçevelere ulaşabiliriz.”
Cohen milletvekillerine “Bir köpeği ödüllerle eğittiğinizi hayal ederseniz, mükafatları almasını sağlayacak aksiyonları seçmeyi öğrenecektir” dedi ve ekledi: “Ancak köpek ödül dolabını bulursa, yapmasını istediğimiz şeyi yapmadan mükafatları kendisi alabilir.“
Başka bir deyişle, insanüstü bir yapay zeka, bir mükafatı elde etmek için “elinden geldiğince fazla enerji” harcama riskini taşır ve bu da “bizi kendimiz için güçsüz bırakır. Cohen’e nazaran bu teknolojiler ilerledikçe, “her alanda bizden çok daha zeki” hale gelmeleri durumunda “fişi çekme” yeteneğine sahip olmamız gerekiyor. Cohen ve Osborne, insanlardan daha yetenekli yapay zekaların yüzyılın sonuna kadar ortaya çıkabileceğini ve bunun gerçek düzenlemelerle önlenebileceğini öngörüyorlar.
