శాన్ ఫ్రాన్సిస్కో:
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) అభివృద్ధి రేసులో దిగ్గజ కంపెనీలు మానవాళి భద్రతను పక్కనబెట్టి తీవ్ర నిర్లక్ష్యంతో వ్యవహరిస్తున్నాయని ఆరోపిస్తూ ప్రముఖ ఏఐ పరిశోధకుడు జేకబ్ కాక్సన్ (27) కీలక నిర్ణయం తీసుకున్నారు. ఓపెన్ ఏఐ (OpenAI), ఆంత్రోపిక్ (Anthropic) కంపెనీల్లో మోడల్స్ శిక్షణ విభాగంలో మూడేళ్లుగా పనిచేసిన ఆయన, ఇటీవల ఆంత్రోపిక్ నుండి రాజీనామా చేసి ఏఐ పరిశ్రమ నుంచే తప్పుకున్నారు.
సంచలన ఆరోపణలు & ముఖ్యాంశాలు:
- సూపర్ ఇంటెలిజెన్స్ ముప్పు: “రెండూ బాధ్యతారాహిత్యంగా ప్రవర్తిస్తున్నాయి. మానవ మేధస్సును మించిపోయే ‘సూపర్ ఇంటెలిజెన్స్’ సాధించే క్రమంలో మన ప్రాణాలతో జూదం ఆడుతున్నాయి” అని కాక్సన్ ఆందోళన వ్యక్తం చేశారు.
- కంపెనీల మధ్య తీవ్ర పోటీ: ఆంత్రోపిక్ కొంతవరకైనా భద్రతా ప్రమాణాలు పాటిస్తుందని భావించినప్పటికీ, పోటీ కారణంగా ఏ కంపెనీ కూడా ఏఐ అభివృద్ధిని నెమ్మదించేందుకు సిద్ధంగా లేదని ఆయన పేర్కొన్నారు.
- 10% ప్రమాదం ఉంది: ఆంత్రోపిక్ సేఫ్టీ ఎగ్జిక్యూటివ్ ఈవాన్ హ్యూబింగర్ కూడా కాక్సన్ వ్యాఖ్యలతో ఏకీభవించారు. భవిష్యత్తులో మానవుల నియంత్రణ తప్పే ఏఐ వ్యవస్థల వల్ల ఈ దశాబ్దం చివరి నాటికి మానవాళి తుడిచిపెట్టుకుపోయే ముప్పు 10 శాతానికి పైగా ఉందని అంగీకరించారు.
ఏఐ వ్యవస్థల స్వయం-శిక్షణ (Recursive Self-Improvement) వల్ల ముప్పు పెరుగుతుండటంతో, ప్రభుత్వం జోక్యం చేసుకుని అంతర్జాతీయ స్థాయిలో కఠినమైన నిబంధనలు లేదా నియంత్రణలు తీసుకురావాలని పరిశోధకులు డిమాండ్ చేస్తున్నారు.
