OpenAI Safety Concern : चॅटजीपीटी सुरक्षित नाही! OpenAIच्या कर्मचाऱ्यांनी कंपनीवर केला मोठा आरोप

AI Safety : कृत्रिम बुद्धिमत्तेच्या (AI) क्षेत्रात OpenAI आणि त्यांचे चॅटबॉट चॅटजीपीटी (ChatGPT) आणि अत्याधुनिक लार्ज लँग्वेज मॉडेल्स (LLMs) यांची चर्चा खूप होते. मात्र, या कंपनीच्या सुरक्षा रेकॉर्डमुळे अनेक प्रश्न उपस्थित होत आहेत. अहवालांनुसार, OpenAI नवीन मॉडेल्स बनवण्याच्या नादात सुरक्षा आणि संरक्षणाच्या नियमांकडे दुर्लक्ष करत असून वेगाने पुढे जाण्याचा प्रयत्न करत आहे.

अहवालात म्हटले आहे की, OpenAI ने त्यांचे नवीनतम GPT-4 ओम्नी (किंवा GPT-4o) मॉडेल लाँच करण्याआधीच सुरक्षा नियमांकडे दुर्लक्ष केले जात होते. OpenAI च्या काही कर्मचाऱ्यांनी अनामिकपणे लिहिलेल्या पत्रात AI सिस्टम्सच्या निर्मिती दरम्यान देखरेखीचा अभाव असल्याबद्दल चिंता व्यक्त केली आहे. यावर उपाय म्हणून OpenAI ने निवडक बोर्ड सदस्य आणि संचालकांची एक नवीन "सुरक्षा आणि संरक्षण समिती" स्थापन केली आहे.

अहवालात पुढे म्हटले आहे की, "OpenAI ने मे महिन्याच्या लाँचची अंतिम तारीख पाळण्यासाठी AI सिस्टीमला विनाशकारी नुकसान होण्यापासून रोखण्यासाठी" तयार केलेले नवीन चाचणी प्रोटोकॉल वेगाने पार पाडण्यासाठी कर्मचाऱ्यांवर दबाव टाकला जात होता. ही प्रोटोकॉल्स AI मॉडेल्स हानीकारक माहिती, जसे रासायनिक, जैविक, रेडिओलॉजिकल आणि अण्वस्त्र (CBRN) शस्त्रे कशी बनवायची याबद्दल मार्गदर्शन करणार नाही किंवा सायबर हल्ल्यांमध्ये मदत करणार नाहीत याची खात्री करण्यासाठी असतात.

याआधीही OpenAI च्या कर्मचाऱ्यांनी कंपनीमध्ये सुरक्षा आणि संरक्षण नियमांची हेळसांड केल्याबद्दल तक्रार केली होती. गेल्या महिन्यात OpenAI आणि Google DeepMind चे काही माजी आणि सध्याचे कर्मचारी यांनी संयुक्तपणे एक पत्र लिहिले होते. या पत्रात नवीन AI सिस्टम्सच्या निर्मिती दरम्यान देखरेखीचा अभाव असल्याबद्दल चिंता व्यक्त करण्यात आली होती. यामुळे मोठे धोके निर्माण होऊ शकतात.

या पत्रात सरकारकडून हस्तक्षेप आणि नियामक यंत्रणा तसेच कंपन्यांनी माहिती देणाऱ्यांना संरक्षण देण्याची मागणी करण्यात आली होती. कृत्रिम बुद्धिमत्ते क्षेत्रातील आघाडीचे तीन तज्ज्ञ ज्योफ्री हिंटन आणि योशुआ बेंजिओ यांनी या पत्राला अप्रूवल दिले.