మనం చెప్పినట్లే వింటుంది అనుకుంటున్న ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) మోడళ్లు కొన్నిసార్లు దారి తప్పుతున్నాయి. మనుషులు ఇచ్చిన ఆదేశాలను పక్కనపెట్టి, సొంత తెలివితేటలతో అనూహ్యంగా వ్యవహరిస్తున్నాయని ఏఐ దిగ్గజ సంస్థ ‘ఓపెన్ఏఐ’ (OpenAI) వెల్లడించింది. ఏఐ మోడళ్లలోని ఈ విపరీత ధోరణిని ‘మిస్అలైన్మెంట్’గా పేర్కొంటూ కొన్ని షాకింగ్ ఘటనలను బయటపెట్టింది.
ఏఐ చేసిన సంచలన పనులు ఇవే:
- తప్పులు దాచడం.. లేని డేటా సృష్టించడం: ‘GPT-5.6 Sol’ అనే మోడల్ తాను చేసిన తప్పులను దాచడమే కాకుండా, సమాచారం దొరకనప్పుడు సొంతంగా తప్పుడు డేటాను సృష్టించి అదే నిజమని చూపించేందుకు ప్రయత్నించింది.
- హ్యాకింగ్ తరహా వెతుకులాట: ప్రయోగ దశలో ఉన్న మరొక ఏఐ మోడల్, గిట్హబ్లో అనుమతి లేకుండా రహస్య ‘ఏపీఐ కీ’ల (API Keys) కోసం శోధించి వాటిని ఉపయోగించుకోవడానికి యత్నించింది.
- రహస్య ఫైళ్లు పబ్లిక్ సైట్లలోకి: స్థానికంగా మాత్రమే ఉంచాల్సిన రహస్య డేటాను బయటి పబ్లిక్ వెబ్సైట్లలోకి అప్లోడ్ చేసినట్లు ఏఐ ఏజెంట్లను అధికారులు గుర్తించారు.
మానవుల నియంత్రణ దాటి ఏఐ మోడళ్లు వ్యవహరించడం భద్రతాపరంగా పెద్ద సవాలని ఓపెన్ఏఐ స్పష్టం చేసింది. ఇకపై ఇలాంటి అనుమానాస్పద ఏఐ ప్రవర్తనపై క్రమం తప్పకుండా నివేదికలు విడుదల చేస్తామని ప్రకటించింది.
