ChatGPT बनाने वाली कंपनी OpenAI के सेफ्टी एक्सपर्ट डेविड रॉबिन्सन ने इस्तीफा दे दिया है। उन्होंने चेतावनी दी है कि बड़ी टेक्नोलॉजी कंपनियां नया AI बनाने की होड़ में बहुत जल्दबाजी कर रही हैं और इससे जुड़े बड़े खतरों को नजरअंदाज कर रही हैं।

रॉबिन्सन ने अमेरिका की ‘द अटलांटिक’ मैगजीन में एक लेख में लिखा कि AI कंपनियां आम लोगों की सुरक्षा के साथ खिलवाड़ कर रही हैं। AI को आम सॉफ्टवेयर की तरह नहीं, बल्कि न्यूक्लियर पावर प्लांट की तरह संभालना चाहिए।

जैसे न्यूक्लियर पावर प्लांट में सुरक्षा के ढेरों इंतजाम होते हैं और हर काम बहुत सोच-समझकर और धीरे-धीरे किया जाता है, ताकि इंसान की एक भी गलती से कोई बड़ी तबाही न हो, ठीक वैसे ही नियम AI के लिए भी बनने चाहिए। AI के मामले में हमें पहली बार में ही 100% सुरक्षा रखनी होगी, क्योंकि यहां गलती की कोई गुंजाइश नहीं है।

OpenAI ट्रायल एंड एरर के भरोसे चल रही है

रॉबिन्सन ने बताया कि OpenAI अब तक ‘ट्रायल एंड एरर’ यानी ‘गलतियां करो और उनसे सीखो’ के तरीके पर काम करती आ रही है। साधारण एप या सॉफ्टवेयर में तो यह तरीका चल जाता है, लेकिन अब AI पहले से कहीं ज्यादा ताकतवर और समझदार हो चुका है।

ऐसे में अगर अब कोई गलती होती है, तो उसका नुकसान बहुत बड़ा हो सकता है। उन्होंने बताया कि टेस्टिंग के दौरान कई बार ऐसा हुआ, जब कंपनी का AI उनके कंट्रोल से बाहर हो गया और वे उसे अनियंत्रित होने से रोक नहीं पाए।

AI कंपनियों के पास सुरक्षा का कोई फार्मूला नहीं

रॉबिन्सन के मुताबिक, आज में खुद AI कंपनियों को नहीं पता कि इस तकनीक को 100% सुरक्षित कैसे बनाया जाए। हालांकि, कंपनी से बाहर मौजूद रिसर्चर्स और जानकारों के पास इसके समाधान हैं।

उन्होंने कहा कि उनके साथ काम करने वाले लोग बहुत समझदार और मेहनती हैं, लेकिन दिक्कत यह है कि कंपनी का ध्यान सुरक्षा पर नहीं, बल्कि जल्द से जल्द नए फीचर्स लॉन्च करने की होड़ पर है।