కృత్రిమ మేధస్సు పరిశోధన యొక్క జర్నల్ లో పని ప్రచురించబడింది. అల్ట్రా-పూర్వ చర్యల నుండి వచ్చిన ప్రమాదం, పిలుస్తారు, పెయింట్స్ లో టెర్మినేటర్ గురించి బ్లాక్బస్టర్స్లో వర్ణించబడింది. మనిషి మాక్స్ ప్లాంక్ అభివృద్ధి కోసం ప్రజలు మరియు యంత్రాలు ఇన్స్టిట్యూట్ సెంటర్ నుండి నిపుణులతో సహా వివిధ శాస్త్రీయ విభాగాల ప్రతినిధులు, సూపర్ లోపాలు నిర్వహించడానికి ఎంత వ్యక్తి తనిఖీ నిర్ణయించుకుంది.
"ప్రపంచాన్ని నిర్వహిస్తున్న ఒక సూపర్-ప్రకటిత - సైన్స్ ఫిక్షన్ లాంటి ధ్వనులు. కానీ స్వతంత్రంగా కొన్ని ముఖ్యమైన పనులు చేసే రోబోట్లు ఇప్పటికే ఉన్నాయి. అదే సమయంలో, ప్రోగ్రామర్లు వారు నేర్చుకున్న ఎలా అన్నింటినీ అర్థం చేసుకోరు. ఫలితంగా, ప్రశ్న తలెత్తుతుంది: ఈ ప్రక్రియను మానవజాతికి అనియంత్ర మరియు ప్రమాదకరమైనదిగా మారడానికి ఈ ప్రక్రియను చెయ్యగలరా? " - మాక్స్ ప్లాంక్ యొక్క ఇన్స్టిట్యూట్ యొక్క ప్రజల మరియు యంత్రాల మధ్యలో డిజిటల్ సమీకరణ సమూహం యొక్క అధ్యయనం యొక్క రచయితలలో ఒకరు.
ఈ ప్రశ్నకు సమాధానం ఇవ్వడానికి, శాస్త్రవేత్తలు మోడలింగ్ మరియు సైద్ధాంతిక లెక్కలను ఉపయోగిస్తారు. ఇది ముగిసినప్పుడు, ఓవర్గ్ కారులో నైతిక సూత్రాలపై డేటా మరియు వెలుపల ప్రపంచం (ఉదాహరణకు, ఇంటర్నెట్ యాక్సెస్ను ఆపివేయడం) కూడా పరిమితం అయినప్పటికీ, అటువంటి వ్యవస్థ నుండి విడుదల చేయబడే ప్రమాదాల నుండి ఇది మానవజాతిని కాపాడదు పర్యవేక్షణలో.
వాస్తవానికి, ఇన్ఫర్మేటిక్స్ సిద్ధాంతం ప్రకారం, అటువంటి అణచివేత యొక్క అల్గోరిథంలు - ఇది నైతిక సూత్రాల గురించి లేదా వెలుపల ప్రపంచానికి ప్రాప్యతను పరిమితం చేస్తాయని - కొన్ని పరిస్థితులలోనూ దాన్ని ఆపివేయడం చాలా సామర్థ్యం కలిగి ఉంటుంది. అందువలన, నిపుణులు అది కేవలం సూపర్ ప్రభావిత AI వ్యక్తిని నిర్వహించలేరు మరియు పరిస్థితిని ముందుగానే లేదా తరువాత నియంత్రణను పొందలేరు.
"గణనలో అంతర్గతంగా ఉన్న ప్రాథమిక పరిమితుల కారణంగా పూర్తి నిరోధకత సూత్రం అసాధ్యం అని మేము వాదించాము. Superflum సార్వత్రిక ట్యూరింగ్ యంత్రాన్ని ఉపయోగించి నిర్వహించబడే అన్ని ప్రోగ్రామ్లను కలిగి ఉంటుంది, ప్రపంచంలోని రాష్ట్రంగా సంక్లిష్టంగా సంక్లిష్టంగా ఉంటుంది "అని పరిశోధకులు ముగించారు.
మూలం: నేకెడ్ సైన్స్