কাজ কৃত্রিম বুদ্ধিমত্তা গবেষণা জার্নাল প্রকাশিত হয়। অতিপ্রাকৃত-পূর্ব-আইনগুলি থেকে এগিয়ে যেতে পারে এমন বিপদ, যা পরিচিত, পেইন্টগুলিতে ব্লকবাস্টারের বিষয়ে বর্ণিত হয়। ম্যান ম্যাক্স প্ল্যানেকের বিকাশের জন্য কেন্দ্রের জন্য কেন্দ্রের বিশেষজ্ঞ এবং মেশিন ইনস্টিটিউট থেকে বিশেষজ্ঞদের সহ বিভিন্ন বৈজ্ঞানিক বিভাগের প্রতিনিধিরা, সুপার-ত্রুটিযুক্ত রোবটগুলি পরিচালনা করতে কতজন ব্যক্তি সক্ষম তা পরীক্ষা করার সিদ্ধান্ত নিয়েছে।
"বিশ্বব্যাপী ঘোষক যা বিশ্বকে পরিচালনা করে - বিজ্ঞান কথাসাহিত্য মত শোনাচ্ছে। কিন্তু স্বাধীনভাবে নির্দিষ্ট গুরুত্বপূর্ণ কাজ সম্পাদন করে যা ইতিমধ্যে রোবট রয়েছে। একই সময়ে, প্রোগ্রামাররা কীভাবে তারা শিখেছিল তা বুঝতে পারছেন না। ফলস্বরূপ, প্রশ্নটি উদ্ভূত হয়: এই প্রক্রিয়াটি কিছুটা মানবতার জন্য অনিয়ন্ত্রিত এবং বিপজ্জনক হয়ে উঠতে পারে? " - ম্যানুয়েল সেবারিয়ানের গবেষণার একজন লেখক, জনগণের কেন্দ্রে এবং সর্বোচ্চ প্ল্যানক ইনস্টিটিউটের মেশিনে ডিজিটাল মোবিলিলাইজেশন গ্রুপের প্রধান।
এই প্রশ্নের উত্তর দিতে, বিজ্ঞানীরা মডেলিং এবং তাত্ত্বিক গণনা ব্যবহার করেন। এটি চালু হওয়ার সাথে সাথে, ottong গাড়ীতে নৈতিক নীতির তথ্য এবং বাইরের বিশ্বের সাথে সম্পর্কিত তথ্য (উদাহরণস্বরূপ, ইন্টারনেট অ্যাক্সেস বন্ধ করুন) সীমাবদ্ধ করে, এটি মানবতাবিরোধী ঝুঁকি থেকে যেমন একটি সিস্টেম থেকে মুক্তি পাবে তা থেকে মানবতা সংরক্ষণ করবে না নিয়ন্ত্রণে.
আসলে, ইনফরম্যাটিক্সের তত্ত্ব অনুসারে, এই ধরনের প্রতিরোধের অ্যালগরিদমগুলির মধ্যে কোনও - নৈতিক নীতিগুলি বা বাইরের বিশ্বের অ্যাক্সেস সীমিত করা - দুর্বল এবং নির্দিষ্ট পরিস্থিতিতে এটি নিজেই বন্ধ করার পক্ষে বেশ সক্ষম। অতএব, বিশেষজ্ঞরা সিদ্ধান্ত নেন যে এটি কেবল সুপার-প্রভাবিত AI ব্যক্তি এবং যত তাড়াতাড়ি পরিস্থিতি নিয়ন্ত্রণে বা পরে নিয়ন্ত্রণের বাইরে যেতে পারে তা পরিচালনা করতে পারবে না।
"আমরা যুক্তি দিয়েছি যে সম্পূর্ণ প্রতিরোধ নীতিগতভাবে গণনা করে মৌলিক সীমাবদ্ধতার কারণে নিজেই গণনা করা হয়। গবেষকরা বলেন, সর্বজনীন টুরিং মেশিন ব্যবহার করে সর্বজনীন টুরিং মেশিন ব্যবহার করে সঞ্চালিত সমস্ত প্রোগ্রামগুলিতে একটি প্রোগ্রাম থাকবে, যা বিশ্বের রাষ্ট্রের মতো জটিল।
উত্স: নগ্ন বিজ্ঞান