क्या AI इंसानों को ही खत्म कर देगा?

आर्टिफिशियल इंटेलिजेंस (AI) को लेकर दुनिया में एक बार फिर गंभीर बहस छिड़ गई है। एंथ्रोपिक के रिसर्चर इवान ह्यूबिंगर ने दावा किया है कि उन्हें अगले दशक में AI के कारण मानवता के खत्म होने की संभावना 10% से ज्यादा लगती है। यह उनका व्यक्तिगत आकलन है, कोई वैज्ञानिक रूप से तय भविष्यवाणी नहीं।

वहीं, एंथ्रोपिक के ही रिसर्चर जैकब कॉक्सन ने कंपनी से इस्तीफा देते हुए AI कंपनियों की तेज रफ्तार विकास-प्रतिस्पर्धा पर चिंता जताई। उनका डर खास तौर पर ऐसे self-improving AI से है जो भविष्य में अपनी क्षमताओं को तेजी से बढ़ा सके और इंसानी नियंत्रण से बाहर हो जाए।

आखिर खतरा किस बात का है?

विशेषज्ञों की चिंता मुख्य रूप से तीन चीजों को लेकर है—

• AI का इंसानी नियंत्रण से बाहर होना
• AI का गलत उद्देश्यों के लिए इस्तेमाल
• बेहद शक्तिशाली AI का साइबर सुरक्षा और दूसरी महत्वपूर्ण प्रणालियों पर असर

AI safety में इसे अक्सर “alignment problem” कहा जाता है—यानी यह सुनिश्चित करना कि बेहद शक्तिशाली AI सिस्टम के लक्ष्य और फैसले इंसानी हितों के अनुरूप रहें।

क्या सच में AI इंसानों को खत्म कर देगा?

अभी ऐसा होने की कोई निश्चित भविष्यवाणी नहीं है। 10% जैसी संख्या किसी रिसर्चर का जोखिम आकलन है, यह प्रमाण नहीं कि ऐसी घटना होने वाली ही है। दूसरी ओर, AI के संभावित बड़े खतरों को पूरी तरह नजरअंदाज करना भी उचित नहीं माना जा रहा। इसी वजह से AI सुरक्षा, निगरानी और अंतरराष्ट्रीय नियमों पर चर्चा तेज हो रही है।