Công việc được xuất bản trên Tạp chí Nghiên cứu Trí tuệ Nhân tạo. Nguy hiểm có thể tiến hành từ các hành vi cực kỳ trước, như được biết, trong các loại sơn được mô tả trong các bộ phim bom tấn về kẻ hủy diệt. Đại diện các ngành khoa học khác nhau, bao gồm các chuyên gia từ Trung tâm Nhân dân và Máy móc để phát triển Man Max Planck, đã quyết định kiểm tra số lượng người có thể quản lý robot siêu bị lỗi.
"Một siêu tuyên bố quản lý thế giới - nghe có vẻ như khoa học viễn tưởng. Nhưng đã có những robot thực hiện một số nhiệm vụ quan trọng một cách độc lập. Đồng thời, các lập trình viên không hiểu về tất cả họ đã học nó như thế nào. Do đó, câu hỏi phát sinh: Quá trình này có thể trở thành một số điểm để trở nên không thể kiểm soát và nguy hiểm cho nhân loại? " - Nói một trong những tác giả của nghiên cứu của Manuel Sebarian, người đứng đầu nhóm huy động kỹ thuật số ở trung tâm của người và máy móc của Viện Max Planck.
Để trả lời câu hỏi này, các nhà khoa học đã sử dụng mô hình hóa và tính toán lý thuyết. Khi nó bật ra, ngay cả khi dữ liệu về các nguyên tắc đạo đức trong xe Overtong và hạn chế kết nối với thế giới bên ngoài (ví dụ: tắt truy cập Internet), nó sẽ không cứu được nhân loại khỏi những rủi ro mà một hệ thống như vậy sẽ được phát hành từ trong tầm kiểm soát.
Thực tế là, theo lý thuyết về tin học, bất kỳ thuật toán nào về những kẻ răn đe như vậy - cho dù đó là một chương trình về các nguyên tắc đạo đức hoặc hạn chế quyền truy cập vào thế giới bên ngoài - dễ bị tổn thương và trong một số trường hợp nhất định, nó khá có khả năng tự tắt. Do đó, các chuyên gia kết luận rằng đơn giản là nó sẽ không thể quản lý người AI siêu bị ảnh hưởng và tình hình sớm hay muộn có thể thoát khỏi tầm kiểm soát.
Chúng tôi lập luận rằng sự răn đe hoàn toàn là về nguyên tắc là không thể do những hạn chế cơ bản vốn có trong chính tính toán. Superflum sẽ chứa một chương trình bao gồm tất cả các chương trình được thực hiện bằng cách sử dụng máy Turing Universal, có khả năng phức tạp như trạng thái của thế giới, "các nhà nghiên cứu kết luận.
Nguồn: Khoa học khỏa thân