ఏఐతో ఐటీ రంగాన్ని వణికించిన ఆంథ్రపిక్‌ నుంచి అతడు ఔట్

ఆంథ్రపిక్(Anthropic).. కొన్ని రోజుల క్రితం ఐటీ రంగాన్ని హడలెత్తించి వార్తల్లో నిలిచిన అంశం. ఇప్పుడు మరోసారి ప్రపంచ వార్తల్లో హాట్ టాపిక్‌గా మారింది. కానీ ఈసారి ఇంత చర్చకు రావడానికి కారణం ఆ సంస్థ సాధించిన అచీవ్‌మెంట్ కాదు.. ఆ సంస్థ నుంచి ఒక ఉద్యోగి బయటకు రావడం. అవును.. ఆంథ్రపిక్ సంస్థలో ఉద్యోగానికి ఒక ఉద్యోగి రాజీనామా చేశాడు. అదిప్పుడు టాక్ ఆఫ్ ది వరల్డ్‌గా మారింది. ఇంతకీ ఆ ఉద్యోగి ఎవరో తెలుసా.. మృణాంక్ శర్మ. ఆంథ్రపిక్ భద్రతా విభాగానికి చీఫ్‌గా పనిచేశాడు. ఫిబ్రవరి 9 ఆయన లాస్ట్ వర్కింగ్ డే. ఈ మేరకు మృణాంక్ తన తోటి ఉద్యోగులకు సోషల్ మీడియా వేదికగా ఒక లేఖను కూడా పంపాడు.

ఆంథ్రపిక్‌లో మృణాంక్ ప్రయాణం

మృణాంక్ శర్మ కెంబ్రిడ్జ్ యూనివర్సిటీలో మెషిన్ లెర్నింగ్‌లో ఎంఈఎంగ్ పూర్తి చేసి, ఆక్స్ఫర్డ్‌లో డీపిల్ సాధించారు. మెషిన్ లెర్నింగ్‌లో పరిశోధనలు చేసి, తర్వాత పరిశ్రమలో AI భద్రత సమస్యలపై పనిచేశారు. మృణాంక్ శర్మ రెండు సంవత్సరాల క్రితం పీహెచ్‌డీ పూర్తి చేసి శాన్ ఫ్రాన్సిస్కో వెళ్లాడు. అక్కడే AI భద్రతకు తోడ్పడాలనే లక్ష్యంతో ఆంథ్రపిక్‌లో చేరారు. 2025 ఫిబ్రవరిలో కంపెనీ సేఫ్‌గార్డ్స్ రీసెర్చ్ టీమ్(Safeguards Research Team)ను ప్రకటించింది. ఆ టీమ్‌కు మృణాంక్ నాయకత్వం వహించారు. జైల్బ్రేక్ నిరోధక చర్యలు, ఆటోమేటెడ్ రెడ్ టీమింగ్, మోడల్ దుర్వినియోగ పర్యవేక్షణ వంటి అంశాలపై ఈ బృందం పరిశోధనలు చేసింది. బోర్డర్ సేఫ్‌గార్డ్స్(broader Safeguards) విభాగంతో కలిసి భద్రతా మెకానిజాలు, యూజర్ పాలసీల అమలులో కూడా కీలక పాత్ర పోషించింది.

తన లేఖలో ఏఐ సికఫాన్సి(AI sycophancy) అధ్యయనం, ఏఐ ఆధారిత బయోటెర్రరిజం ప్రమాదాల తగ్గింపు, భద్రతా పరిష్కారాలను ప్రొడక్షన్‌లో అమలు చేయడం, ప్రారంభ AI safety కేసుల్లో ఒకటి రచించడం వంటి పనులను ప్రస్తావించారు. అంతర్గత పారదర్శకత వ్యవస్థలపై తాజా ప్రయత్నాలు, అలాగే AI అసిస్టెంట్లు మానవత్వంపై చూపే ప్రభావం పై చేసిన చివరి ప్రాజెక్ట్ తనకు ప్రత్యేక సంతృప్తినిచ్చాయని తెలిపారు.

రాజీనామాకు కారణం ఏంటి?

ప్రపంచం అనేక పరస్పర సంక్షోభాల మధ్య ఉందని, కేవలం సాంకేతిక పరిష్కారాలు సరిపోవని ఆయన అభిప్రాయంగా చెప్పారు. విలువలు, చర్యల మధ్య ఏర్పడే ఒత్తిళ్లు తన నిర్ణయానికి కారణమయ్యాయని వెల్లడించారు. పూర్తి సమగ్రతతో పని చేసే మార్గాన్ని వెతుకుతూ సంస్థను వీడుతున్నానని తెలిపారు. ఇకపై కవిత్వం, రచన, “courageous speech”పై దృష్టి పెట్టాలని, poetry డిగ్రీని అన్వేషించాలని చెప్పారు. అలాగే ఫెసిలిటేషన్, కోచింగ్, కమ్యూనిటీ బిల్డింగ్ రంగాల్లో పని చేయాలన్న ప్రణాళికలను పంచుకున్నారు. అయితే Anthropic Safeguards టీమ్ పనితీరు కొనసాగుతుందని సంస్థ స్పష్టం చేసింది.