Жұмыс жасанды интеллект-зерттеулер журналында жарияланады. Ультра-дейін алдын-ала актілерден, бояуларда, бояуларда құрылғыларда терминатор туралы айтылған қауіп-қатер туындаған қауіп. Әр түрлі ғылыми пәндердің өкілдері, соның ішінде Макс Планкты дамыту жөніндегі Халық және Машина институтының мамандары, соның ішінде адамдардың қаншалықты ақаулы роботтарды басқаруға болатындығын тексеруді шешті.
«Әлемді басқаратын супер-жариялаушы - ғылыми фантастика сияқты. Бірақ қазірдің өзінде белгілі бір маңызды тапсырмаларды өз бетінше орындайтын роботтар бар. Сонымен бірге, бағдарламашылар мұны қалай білгендерін түсінбейді. Нәтижесінде, сұрақ туындайды: бұл процесті белгілі бір уақытта адамзат үшін бақыланбайды ма? » - дейді Мануэль Сейбарьдің бірі, Макс Планк институтының тұрғындары мен машиналарының орталығындағы цифрлық жұмылдыру тобының жетекшісі.
Бұл сұраққа жауап беру үшін ғалымдар модельдеу және теориялық есептеулерді қолданды. Тіпті, қашықтағы көліктегі этикалық қағидаттар туралы мәліметтер және сыртқы әлеммен байланысын шектеу және оның сыртқы әлеммен байланысын шектейтін болса да (мысалы, Интернетке қол жетімділікті өшіреді), ол адамзатты мұндай жүйеден босатылатын тәуекелдерден құтқармайды бақылауда.
Бұл, информатика теориясына сәйкес, мұндай сақтандырғыштардың кез-келгеніне сәйкес, бұл этикалық қағидаттар туралы бағдарлама немесе сыртқы әлемге қол жетімділікті шектеу немесе шектеулі және белгілі бір жағдайларда шектеулі бола ма, жоқ па, бұл өздігінен бұрылуға қабілетті. Сондықтан, сарапшылар бұл өте зардап шеккен AI-ді басқара алмайды, ал жағдайды ертерек немесе одан да кешіктіріп, басқара алмайды.
«Біз есептеуге тән негізгі шектеулерге байланысты толық сақтануы мүмкін емес деп санаймыз. Superflum құрамында әмбебап туринг машинасын қолдана отырып, барлық бағдарламаларды қамтитын бағдарлама бар, ол әлемнің жағдайы сияқты күрделі, «зерттеушілер қорытындылады.
Дереккөз: жалаңаштан