కృత్రిమ మేధస్సు వేగంగా అభివృద్ధి చెందుతున్న తరుణంలో ఏఐ మానవాళి మనుగడకే తీవ్రమైన ముప్పుగా మారనుందనే హెచ్చరికలు ప్రపంచవ్యాప్తంగా కలకలం రేపుతున్నాయి. ప్రపంచంలోని అగ్రశ్రేణి ఏఐ పరిశోధన సంస్థలైన ఓపెన్ఏఐ, ఆంత్రోపిక్లలో మూడేళ్లపాటు ప్రీ-ట్రైనింగ్ రీసెర్చర్గా పనిచేసిన 27 ఏళ్ల బ్రిటిష్ పరిశోధకుడు జాకబ్ కాక్సన్ తన పదవికి రాజీనామా చేశారు. సెల్ఫ్-ఇంప్రూవింగ్ సూపర్ ఇంటెలిజెన్స్ వ్యవస్థలను నిర్మించే క్రమంలో ప్రైవేట్ సంస్థలు బాధ్యతారాహిత్యంగా వ్యవహరిస్తూ మానవాళి జీవితాలతో చెలగాటమాడుతున్నాయని ఆయన తీవ్ర ఆరోపణలు చేశారు. ఏఐ సాంకేతికతను అభివృద్ధి చేస్తున్న కీలక వ్యక్తులే ఈ దశాబ్దం చివరి నాటికి అది మనందరినీ అంతం చేస్తుందని బలంగా నమ్ముతున్నారని ఆయన సోషల్ మీడియా వేదికగా వెల్లడించారు.
గత మూడేళ్లుగా ప్రముఖ ఏఐ ల్యాబ్లలో పరిశోధనలు చేసిన కాక్సన్, సెప్టెంబర్ 8-9 మధ్య కాలంలో వరుస పోస్టుల ద్వారా ఈ నిజాలను బయటపెట్టారు. సూపర్హ్యూమన్ ఏఐ సిస్టమ్స్ చాలా వేగంగా రూపుదిద్దుకుంటున్నాయని, ఇవి ఏ రంగాన్నైనా ఒక్కరాత్రిలో మార్చేసి, సైబర్ వ్యవస్థలను హ్యాక్ చేసే సామర్థ్యాన్ని సాధిస్తాయని ఆయన స్పష్టం చేశారు. ఓపెన్ఏఐలోని చాలామందికి నాగరికత స్థాయి ప్రమాదాలపై సరైన అవగాహన లేదని, ఆంత్రోపిక్ ల్యాబ్స్ ప్రమాదాన్ని గుర్తించినప్పటికీ పోటీలో పడి ముందుకు వెళ్తున్నాయని ఆయన వివరించారు. ల్యాబ్లలోని సీనియర్ రీసెర్చర్లు బహిరంగంగా సౌమ్యంగా మాట్లాడినప్పటికీ, ప్రైవేట్ చర్చల్లో మాత్రం తీవ్ర భయాన్ని వ్యక్తం చేస్తున్నారని ఆయన పేర్కొన్నారు.
కాక్సన్ చేసిన ఈ తీవ్రమైన ఆరోపణలపై ఆంత్రోపిక్ అలైన్మెంట్ సైన్స్ లీడ్ ఎవన్ హబింగర్ స్పందిస్తూ ఆ వ్యాఖ్యలను పూర్తిగా నిర్ధారించారు. దీంతో ఏఐ భద్రతపై జరుగుతున్న చర్చలు ఒక్కసారిగా ఊపందుకున్నాయి. తదుపరి దశాబ్దంలో ఏఐ వల్ల మానవాళికి 10 శాతం కంటే ఎక్కువ ప్రమాదం ఉందనేది తన వ్యక్తిగత అంచనా అని హబింగర్ బహిరంగంగా అంగీకరించారు. ఆంత్రోపిక్ సంస్థ తన వంతు ప్రయత్నాలు చేస్తున్నప్పటికీ, సూపర్ ఇంటెలిజెన్స్ అలైన్మెంట్ను పూర్తిగా పరిష్కరించే ప్రణాళికలు ఇంకా తమ దగ్గర లేవని ఆయన స్పష్టం చేశారు. ప్రస్తుత మోడల్స్ వల్ల పెద్దగా ప్రమాదం లేకపోయినా, రికర్సివ్ సెల్ఫ్-ఇంప్రూవ్మెంట్ ద్వారా సూపర్ ఇంటెలిజెన్స్ వచ్చే వేగం ఊహించిన దానికంటే ఎక్కువగా ఉందనడంలో సందేహం లేదు.
వాల్ స్ట్రీట్ జర్నల్ నివేదిక ప్రకారం, కొన్ని అగ్రెసివ్ సినారియోల్లో రాబోయే సంవత్సరం చివరి నాటికే పరిస్థితి పూర్తిగా నియంత్రణ తప్పే అవకాశం ఉందని కాక్సన్ హెచ్చరించారు. ఫలితంగా ఏఐ ల్యాబ్లలో పనిచేస్తున్న పరిశోధకులు పరిస్థితి తీవ్రతను సూచించేలా “క్రంచ్ టైమ్”, “ఎండ్ గేమ్” వంటి పదాలను ఉపయోగిస్తున్నారు. ఈ నేపథ్యంలో ఆంత్రోపిక్ లాంటి భద్రతకు ప్రాధాన్యత ఇచ్చే సంస్థలలోనే ఇలాంటి పరిస్థితులు ఉండటం గమనార్హం. ఇప్పటికే ఫిబ్రవరి 2026లో ఆంత్రోపిక్ సేఫ్గార్డ్స్ టీమ్ లీడ్ కూడా ప్రపంచం ప్రమాదంలో ఉందంటూ తమ పదవికి రాజీనామా చేయడం ఈ ఆందోళనలకు బలాన్ని చేకూరుస్తోంది.
ఈ తీవ్రమైన ప్రమాదాన్ని నివారించడానికి గ్లోబల్ రేస్ను అడ్డుకోవడం మరియు మోడల్ కెపబిలిటీలపై తాత్కాలిక నిషేధాలు విధించడం వంటి కఠినమైన చర్యలు అవసరమని పరిశోధకులు అభిప్రాయపడుతున్నారు. హగ్గింగ్ ఫేస్ దాడి వంటి హెచ్చరికల ద్వారా ల్యాబ్ల మధ్య ఒప్పందాలు కుదిరే అవకాశం ఉందని కాక్సన్ ఆశాభావం వ్యక్తం చేశారు. ఏఐ మనస్సు గురించి పూర్తిగా అర్థం చేసుకోకుండా సూపర్ఇంటెలిజెంట్ రన్లను ప్రారంభించడం తీవ్ర ప్రమాదకరమని ఆయన హెచ్చరించారు. భవిష్యత్తులో ఈ పరిణామాలను అరికట్టడానికి పరిశోధనా సంస్థలు సరైన పద్ధతులను పాటించకపోతే మానవాళి ఉనికికే గొప్ప ముప్పు ఏర్పడుతుంది.
ప్రస్తుతానికి ఈ రాజీనామాలు మరియు వ్యాఖ్యలపై ఆంత్రోపిక్, ఓపెన్ఏఐ సంస్థలు అధికారికంగా ఎటువంటి ప్రకటన విడుదల చేయలేదు. అయితే అంతర్గత సీనియర్ స్థాయిలో పనిచేస్తున్న రీసెర్చర్ల నుంచి ఇలాంటి స్పష్టమైన హెచ్చరికలు రావడం అత్యంత విచారకరం. ఏఐ సామర్థ్యాలు రోజురోజుకు విపరీతంగా పెరుగుతున్న నేపథ్యంలో, అలైన్మెంట్ సమస్యకు సరైన పరిష్కారం కనుగొనకుండా ముందుకు సాగడం అతిపెద్ద విపత్తుకు దారితీస్తుందని నిపుణులు హెచ్చరిస్తున్నారు. ఇప్పటికైనా గ్లోబల్ పాలసీ మేకర్లు, పరిశోధకులు ఈ హెచ్చరికలను తీవ్రంగా పరిగణించి తగిన భద్రతా చర్యలు చేపట్టాల్సిన అవసరం ఎంతైనా ఉంది.
