OpenAI Faces Criticism Over Safety Protocols esakal
विज्ञान-तंत्र

OpenAI Safety Concern : चॅटजीपीटी सुरक्षित नाही! OpenAIच्या कर्मचाऱ्यांनी कंपनीवर केला मोठा आरोप

ChatGPT Safety Protocols : चॅटजिपिटी वापरत असाल तर तुमची सुरक्षा धोक्यात आहे कारण कंपनी कडून डेटा सुरक्षेबद्दल कोणतेच प्रोटोकॉल फॉलो केले जात नाहीयेत अशी धक्कादायक माहिती अहवालातून समोर आली आहे. हा अहवाल पत्र स्वरूपाने दुसऱ्या तिसऱ्या कुणी नाही तर कंपनीच्या कर्मचाऱ्यांनी जगासमोर मांडला आहे.

Saisimran Ghashi

AI Safety : कृत्रिम बुद्धिमत्तेच्या (AI) क्षेत्रात OpenAI आणि त्यांचे चॅटबॉट चॅटजीपीटी (ChatGPT) आणि अत्याधुनिक लार्ज लँग्वेज मॉडेल्स (LLMs) यांची चर्चा खूप होते. मात्र, या कंपनीच्या सुरक्षा रेकॉर्डमुळे अनेक प्रश्न उपस्थित होत आहेत. अहवालांनुसार, OpenAI नवीन मॉडेल्स बनवण्याच्या नादात सुरक्षा आणि संरक्षणाच्या नियमांकडे दुर्लक्ष करत असून वेगाने पुढे जाण्याचा प्रयत्न करत आहे.

अहवालात म्हटले आहे की, OpenAI ने त्यांचे नवीनतम GPT-4 ओम्नी (किंवा GPT-4o) मॉडेल लाँच करण्याआधीच सुरक्षा नियमांकडे दुर्लक्ष केले जात होते. OpenAI च्या काही कर्मचाऱ्यांनी अनामिकपणे लिहिलेल्या पत्रात AI सिस्टम्सच्या निर्मिती दरम्यान देखरेखीचा अभाव असल्याबद्दल चिंता व्यक्त केली आहे. यावर उपाय म्हणून OpenAI ने निवडक बोर्ड सदस्य आणि संचालकांची एक नवीन "सुरक्षा आणि संरक्षण समिती" स्थापन केली आहे.

अहवालात पुढे म्हटले आहे की, "OpenAI ने मे महिन्याच्या लाँचची अंतिम तारीख पाळण्यासाठी AI सिस्टीमला विनाशकारी नुकसान होण्यापासून रोखण्यासाठी" तयार केलेले नवीन चाचणी प्रोटोकॉल वेगाने पार पाडण्यासाठी कर्मचाऱ्यांवर दबाव टाकला जात होता. ही प्रोटोकॉल्स AI मॉडेल्स हानीकारक माहिती, जसे रासायनिक, जैविक, रेडिओलॉजिकल आणि अण्वस्त्र (CBRN) शस्त्रे कशी बनवायची याबद्दल मार्गदर्शन करणार नाही किंवा सायबर हल्ल्यांमध्ये मदत करणार नाहीत याची खात्री करण्यासाठी असतात.

याआधीही OpenAI च्या कर्मचाऱ्यांनी कंपनीमध्ये सुरक्षा आणि संरक्षण नियमांची हेळसांड केल्याबद्दल तक्रार केली होती. गेल्या महिन्यात OpenAI आणि Google DeepMind चे काही माजी आणि सध्याचे कर्मचारी यांनी संयुक्तपणे एक पत्र लिहिले होते. या पत्रात नवीन AI सिस्टम्सच्या निर्मिती दरम्यान देखरेखीचा अभाव असल्याबद्दल चिंता व्यक्त करण्यात आली होती. यामुळे मोठे धोके निर्माण होऊ शकतात.

या पत्रात सरकारकडून हस्तक्षेप आणि नियामक यंत्रणा तसेच कंपन्यांनी माहिती देणाऱ्यांना संरक्षण देण्याची मागणी करण्यात आली होती. कृत्रिम बुद्धिमत्ते क्षेत्रातील आघाडीचे तीन तज्ज्ञ ज्योफ्री हिंटन आणि योशुआ बेंजिओ यांनी या पत्राला अप्रूवल दिले.

ब्रेक घ्या, डोकं चालवा, कोडे सोडवा!

Read latest Marathi news, Watch Live Streaming on Esakal and Maharashtra News. Breaking news from India, Pune, Mumbai. Get the Politics, Entertainment, Sports, Lifestyle, Jobs, and Education updates. And Live taja batmya on Esakal Mobile App. Download the Esakal Marathi news Channel app for Android and IOS.

Mahayuti Manifesto: महायुतीकडून कोल्हापूरच्या प्रचार सभेत वचननामा जाहीर; जनतेला दिली ‘ही’ १० आश्वासनं

Sharada Sinha: बिहारच्या गानकोकिळा शारदा सिन्हा यांचं निधन! दिल्लीच्या एम्समध्ये घेतला शेवटचा श्वास

Ladki Bahin Yojana: लाडक्या बहिणींसाठी मुख्यमंत्र्यांची मोठी घोषणा, महिन्याला मिळणार 2100 रुपये

Latest Marathi News Updates : देश-विदेशात दिवसभरात काय घडलं? वाचा एका क्लिकवर

Porsche Car Accident : रक्ताचे नमुने बदलण्यास सांगणाऱ्याचा अटकपूर्व जामीन सर्वोच्च न्यायालयानेही फेटाळला

SCROLL FOR NEXT