การศึกษาแสดงให้เห็นว่าผู้คนจะไม่สามารถจัดการเครื่องจักรที่ได้รับผลกระทบสูงสุด

การศึกษาแสดงให้เห็นว่าผู้คนจะไม่สามารถจัดการเครื่องจักรที่ได้รับผลกระทบสูงสุด

งานได้รับการตีพิมพ์ในวารสารการวิจัยปัญญาประดิษฐ์ อันตรายที่สามารถดำเนินการต่อจากการกระทำที่พิเศษเป็นพิเศษตามที่ทราบกันไว้ในสีที่อธิบายไว้ใน Blockbusters เกี่ยวกับ Terminator ตัวแทนของสาขาวิชาวิทยาศาสตร์ต่าง ๆ รวมถึงผู้เชี่ยวชาญจากศูนย์กลางสำหรับผู้คนและเครื่องจักรเพื่อการพัฒนาของมนุษย์แม็กซ์ฟอสค์สค์ตัดสินใจตรวจสอบว่ามีคนสามารถจัดการหุ่นยนต์ที่มีข้อบกพร่องได้มากแค่ไหน

"Super-proclaimer ที่จัดการโลก - เสียงเหมือนนิยายวิทยาศาสตร์ แต่มีหุ่นยนต์อยู่แล้วที่ทำงานสำคัญบางอย่างอย่างอิสระ ในเวลาเดียวกันโปรแกรมเมอร์ไม่เข้าใจเลยว่าพวกเขาเรียนรู้อย่างไร เป็นผลให้คำถามเกิดขึ้น: กระบวนการนี้สามารถทำได้ในบางจุดที่จะไม่สามารถควบคุมได้และเป็นอันตรายต่อมนุษยชาติ? " - หนึ่งในผู้เขียนของการศึกษาโดย Manuel Sebearian หัวหน้ากลุ่มการระดมทหารแบบดิจิทัลในใจกลางของผู้คนและเครื่องจักรของสถาบันแม็กซ์ฟอร์คก์ค์

เพื่อตอบคำถามนี้นักวิทยาศาสตร์ใช้การสร้างแบบจำลองและการคำนวณเชิงทฤษฎี เมื่อมันปรากฏออกมาแม้ว่าข้อมูลเกี่ยวกับหลักการทางจริยธรรมในรถยนต์ Overtong และ จำกัด การเชื่อมต่อกับโลกภายนอก (ตัวอย่างเช่นปิดการเข้าถึงอินเทอร์เน็ต) มันจะไม่ช่วยมนุษยชาติจากความเสี่ยงที่ระบบดังกล่าวจะได้รับการปล่อยตัวจาก อยู่ในความควบคุม.

ความจริงก็คือตามทฤษฎีของสารสนเทศอัลกอริธึมใด ๆ ของการยับยั้งเช่นนี้ไม่ว่าจะเป็นโปรแกรมเกี่ยวกับหลักการทางจริยธรรมหรือการ จำกัด การเข้าถึงโลกภายนอก - เสี่ยงและภายใต้สถานการณ์บางอย่างมันค่อนข้างสามารถปิดตัวเองได้ ดังนั้นผู้เชี่ยวชาญจึงสรุปได้ว่ามันจะไม่สามารถจัดการคน AI ที่ได้รับผลกระทบและสถานการณ์ไม่ช้าก็เร็วสามารถควบคุมได้

"เรายืนยันว่าการยับยั้งที่สมบูรณ์นั้นอยู่ในหลักการเป็นไปไม่ได้เนื่องจากข้อ จำกัด พื้นฐานที่มีอยู่ในการคำนวณเอง Superflum จะมีโปรแกรมที่มีโปรแกรมทั้งหมดที่ดำเนินการโดยใช้เครื่องทัวริงสากลซึ่งอาจซับซ้อนเท่ากับสถานะของโลก "นักวิจัยสรุป

ที่มา: วิทยาศาสตร์เปลือยกาย