İş Yapay Zeka Araştırması Dergisi'nde yayınlanmaktadır. Bilindiği gibi, ultra önceki eylemlerden geçebilecek tehlike, boyalarda, terminatör ile ilgili blokbüferlerde açıklanmaktadır. İnsanlar ve Makineler için Machines Enstitüsü Uzmanları da dahil olmak üzere çeşitli bilimsel disiplinlerin temsilcileri Max Planck, süper arızalı robotları ne kadar insanı yönetebileceğini kontrol etmeye karar verdi.
"Dünyayı yöneten süper bir proclaimer - bilim kurgu gibi geliyor. Ancak, zaten belirli önemli görevleri bağımsız olarak gerçekleştiren robotlar var. Aynı zamanda, programcılar nasıl öğrendiklerini anlamıyorlar. Sonuç olarak, soru ortaya çıkıyor: bu işlem bir noktada kontrol edilemez ve insanlık için tehlikeli olabilir mi? " - MANUEL SEBIARY tarafından yapılan çalışmanın yazarlarından biri, MAX Planck Enstitüsü'nün merkezindeki Dijital Mobilizasyon Grubu'nun başkanlığı.
Bu soruyu cevaplamak için, bilim adamları modelleme ve teorik hesaplamalar kullandılar. Çıktı olduğu gibi, overtong aracındaki etik ilkeler hakkındaki veriler olsa ve dış dünyayla bağlantısını sınırlasa bile (örneğin, internet erişimini kapatır), böyle bir sistemin serbest bırakılacağı risklerden insanlığı kurtarmaz. kontrol altında.
Gerçek şu ki, bilişim teorisine göre, bu caydırıcılıkın algoritmalarından herhangi biri - Etik ilkeler hakkında bir program olup olmadığı veya dış dünyaya erişimin kısıtlanması - savunmasız ve belirli koşullar altında kendisini kapatma yeteneğine sahiptir. Bu nedenle, uzmanlar, süper etkilenen AI kişisini ve daha erken veya daha sonra kontrolden çıkabileceği durumları kolayca yönetemeyeceği sonucuna varır.
"Komple caydırıcılığın, hesaplamada doğal olan temel sınırlamalar nedeniyle prensipte imkansız olduğunu iddia ediyoruz. Araştırmacılar, süper drum, evrensel Turing Makinesi kullanılarak gerçekleştirilen tüm programları içeren tüm programları içeren bir program içerecektir. "
Kaynak: Çıplak Bilim