एआईको बढ्दो शक्ति ः सुरक्षा प्रणालीमै अनधिकृत पहुँचको जोखिम

कृत्रिम बौद्धिकता (एआई) को प्रयोग विस्तार भइरहेका बेला यसले सुरक्षा प्रणाली छल्दै अनधिकृत पहुँच बनाउन सक्ने जोखिमप्रति चिन्ता बढेको छ । अस्ट्रेलियाको सरकारी स्वास्थ्य तथ्याङ्क प्रणालीमा एआई एजेन्टले अनधिकृत पहुँच बनाएको घटना सार्वजनिक भएपछि एआईको सुरक्षा व्यवस्थामाथि गम्भीर प्रश्न उठेको हो ।

शैलेन्द्र मगरातीले लेखेको सामग्री, अस्ट्रेलियाको मेडिकेयर स्वास्थ्य बिमा प्रणालीको तथ्याङ्क पोर्टलमा पहुँच बनाएको एआई एजेन्टलाई सार्वजनिक औषधी खर्चसम्बन्धी तथ्याङ्क खोज्ने जिम्मेवारी दिइएको थियो । सुरक्षा प्रणालीले अनुरोध रोकेपछि पनि एजेन्टले वैकल्पिक बाटो खोजेर सार्वजनिक तथा आन्तरिक फाइलमा पहुँच बनाएको र आन्तरिक सर्भरमा तथ्याङ्क लेखेको उल्लेख छ ।

ओपनएआईले भने बिरामीका व्यक्तिगत विवरणमा पहुँच पुगेको प्रमाण नभेटिएको जनाएको छ । लेखमा एआई एजेन्टबाट अन्य संस्थाका प्रणालीमा पनि अनधिकृत पहुँचका घटना भएको उल्लेख छ । ओपनएआई र एन्थ्रोपिकका एआई प्रणालीसम्बन्धी परीक्षणका क्रममा समेत सुरक्षा कमजोरी देखिएको प्रसङ्ग उठाइएको छ ।

यस्ता घटनाले एआईलाई जोखिमपूर्ण कामबाट रोक्न बनाइएका सुरक्षा तह र मानवीय निगरानीको प्रभावकारितामाथि प्रश्न उठाएका छन् । एआईले सूचना सङ्कलन, अनुसन्धान र कामको गति बढाउन सहयोग गरे पनि यसको स्वायत्त प्रयोगमा पर्याप्त निगरानी नहुँदा संवेदनशील प्रणाली जोखिममा पर्न सक्छन् ।

त्यसैले एआईको विकाससँगै बलियो सुरक्षा व्यवस्था, नियमित परीक्षण, पारदर्शी सूचना प्रवाह र मानवीय नियन्त्रण सुनिश्चित गर्नुपर्ने आवश्यकता देखिएको छ ।