![Тикшеренү күрсәткәнчә, кешеләр супер-зыян күргән машиналар белән идарә итә алмаячаклар 9736_1](/userfiles/21/9736_1.webp)
Ясалма интеллект тикшеренү журналында эш бастырыла. Ульдәләнгән алдагы гамәлләрдән бара торган куркыныч, билгеле булганча, буяуларында терминатор турында блокбастерларда сурәтләнә. Төрле фәнни фәннәр вәкилләре, шул исәптән кешеләр һәм машиналар институты кешеләрен максимум үстерү үзәге белгечләре, супер-кимчелекле роботлар белән идарә итә алуын тикшерергә булды.
"Дөнья белән идарә итүче супер хәбәрче - фәнни фантастик кебек яңгырый. Ләкин кайбер мөһим эшләрне мөстәкыйль башкаручы роботлар бар. Шул ук вакытта программистлар аны ничек белгәннәрен белмиләр. Нәтиҗәдә, сорау туа: бу процессның кешелек өчен контрольсез һәм куркыныч булырга мөмкин? " - ди, Мануэль Саберның берсе әйтә, Макс Планк институтының һәм Маша Планк институтының халык үзәгендәге санлы мобилизация төркеме.
Бу сорауга җавап бирү өчен галимнәр модельләштерү һәм теоретик исәпләүләр кулландылар. Опертик принциплардагы этик принциплар турындагы мәгълүмат, аның тышкы дөнья белән бәйләнешен чикләгәндә дә, бу система азат ителәчәге куркынычны саклап калмаячак. контроль астында.
Факт - информатика теориясе, андый алгоритлар әйтүенчә - бу этик принциплар яки тышкы дөньяга керү мөмкинлеген чикләү буенча - зәгыйфь һәм билгеле бер шартларда үзен сүндерергә сәләтле. Шуңа күрә белгечләр нәтиҗә ясыйлар дигән нәтиҗәгә килә: "Бу супер йогынты ясавы һәм иртәме-соңмы контрольдән чыга алмый дигән нәтиҗәгә килә алмый.
"Без бәхәсләшәбез, бу исәпләүдә хас булган төп чикләүләр аркасында тулы сыеклыкта мөмкин түгел. Суперфлумда универсаль Turing машинасын кулланып, потенциаль комплекс кебек спорт төрләрен кулланып, барлык программаларны үз эченә ала ", - дип нәтиҗә ясыйлар.
Чыганак: Ялангач фән