ओपनएआई पिछले कुछ समय से आर्टिफिशियल इंटेलिजेंस (एआई) और एडवांस्ड लार्ज लैंग्वेज मॉडल (एलएलएम) के मामले में सबसे आगे है। ऐसा लगता है कि इस सारी चर्चा और लोकप्रियता के बीच कंपनी सुरक्षा संबंधी चिंताओं को भूल गई है। ऐसे कई उदाहरण हैं, जिनमें ओपनएआई के कर्मचारियों ने सुरक्षा और सुरक्षा प्रोटोकॉल के प्रति अज्ञानता का हवाला देते हुए अपने पदों से इस्तीफा दे दिया है। हाल ही में एक और रिपोर्ट सामने आई है, जिसके अनुसार ओपनएआई नए मॉडल विकसित करते समय सुरक्षा और सुरक्षा प्रोटोकॉल की अनदेखी कर रहा है।
रिपोर्ट में ओपनएआई के नवीनतम जीपीटी-4 ओमनी (या जीपीटी-4o) मॉडल के लॉन्च से पहले हुई लापरवाही पर जोर दिया गया है।
ओपनएआई के कुछ कर्मचारियों ने अपनी पहचान बताए बिना एक खुले पत्र पर हस्ताक्षर किए और एआई सिस्टम के निर्माण के बारे में निगरानी की कमी के बारे में चिंता व्यक्त की। यह ध्यान रखना महत्वपूर्ण है कि ओपनएआई ने नए प्रोटोकॉल का मूल्यांकन करने और उन्हें बनाने के लिए कुछ चुनिंदा बोर्ड सदस्यों और निदेशकों की एक नई सुरक्षा और सुरक्षा समिति भी बनाई है।
यह भी पढ़ें | वनप्लस 12 की कीमत में भारी कटौती: डिवाइस को डिस्काउंट कीमत पर कैसे पाएं
क्या OpenAI सुरक्षा प्रोटोकॉल की उपेक्षा कर रहा है?
ओपनएआई के तीन कर्मचारियों ने गुमनाम रूप से द वाशिंगटन पोस्ट को बताया कि टीम पर एक नए परीक्षण प्रोटोकॉल को तेजी से लागू करने का दबाव था, जिसे विशेष रूप से “एआई सिस्टम को विनाशकारी नुकसान पहुंचाने से रोकने के लिए, ओपनएआई के नेताओं द्वारा निर्धारित मई लॉन्च की तारीख को पूरा करने के लिए” डिज़ाइन किया गया था।
रिपोर्ट में GPT-4o के लॉन्च से पहले हुई एक ऐसी ही घटना को उजागर किया गया है। रिपोर्ट में एक अनाम OpenAI कर्मचारी के हवाले से कहा गया है, “उन्होंने लॉन्च के बाद पार्टी की योजना बनाई, इससे पहले कि वे यह जान सकें कि लॉन्च करना सुरक्षित है या नहीं। हम मूल रूप से इस प्रक्रिया में विफल रहे।”
ओपनएआई के कर्मचारियों ने पहले भी कंपनी द्वारा सुरक्षा और संरक्षा उपायों की स्पष्ट उपेक्षा के बारे में चिंता जताई है। हाल ही में, ओपनएआई और गूगल डीपमाइंड दोनों के कई पूर्व और वर्तमान कर्मचारियों ने एक खुले पत्र पर हस्ताक्षर किए। इस पत्र में नई एआई प्रणालियों के विकास में अपर्याप्त निगरानी के बारे में उनकी चिंताओं को उजागर किया गया है जो महत्वपूर्ण जोखिम पेश कर सकती हैं।