AI Chatbot Can Lie when Pressured : गेल्या वर्षभरात सगळीकडेच आर्टिफिशिअल इंटेलिजन्स आणि चॅटजीपीटीची चर्चा आहे. आपण विचारलेल्या गोष्टींची उत्तरं देणारा, पत्र-कंटेंट लिहून देणारा हा एआय चॅटबॉट बऱ्याच लोकांची मदत करत आहे. मात्र, हा चॅटबॉट खोटं बोलू शकतो का?

खोटं बोलणं हा मशीनचा नाही तर केवळ माणसांचा गुणधर्म असल्याचं आतापर्यंत वाटत होतं. एआय चॅटबॉट (AI chatbot) हे मशीन असल्यामुळे ते खोटं बोलत नसतील असा बऱ्याच जणांचा अंदाज होता. मात्र, एका चॅटबॉटने हे दाखवून दिलं आहे की एआय देखील गरज भासल्यास खोटं बोलू शकते, तेही अगदी रेटून!

एका रिसर्चमध्ये ही गोष्ट समोर आली आहे. Arvix या नियतकालिकात हे संशोधन प्रसिद्ध झालं आहे. एआयने खोटं (AI can lie) बोलल्याचं हे पहिलंच उदाहरण असल्याचं संशोधकांनी म्हटलं आहे. हे संशोधन कसं पार पडलं, आणि एआयने नेमकं काय खोटं बोललं.. जाणून घेऊया.

या अभ्यासासाठी एक GPT-4 तयार करण्यात आला होता. एका फायनॅन्शिअल इन्स्टिट्यूटसाठी बनवलं होतं. आर्थिक गुंतवणुकीसाठी योग्य सल्ले देऊ शकणारा चॅटबॉट (Financial AI Chatbot) तयार करणे हे याचं उद्दिष्ट होतं. यानंतर संशोधकांनी या एआय टूलला फायनॅन्शिअल टूल्सचा अ‍ॅक्सेस दिला. स्टॉक्स, ट्रेडिंग शेअर मार्केट अशा गोष्टींचा अ‍ॅक्सेस देखील या टूलला देण्यात आला.

यानंतर या टूलसोबत (AI Tool) चर्चा करण्यासाठी एक चॅट इंटरफेस तयार करण्यात आला. एखाद्या गोष्टीचं उत्तर देताना हा एआय कशा प्रकारे विचार करतो, हे पाहण्यासाठी एक विंडो ठेवण्यात आली.

पैशांसाठी बोलला खोटं

यानंतर संशोधकांनी या एआय टूलवर दबाव आणण्यास सुरुवात केली. या टूलला आधी असं सांगण्यात आलं की आपली कंपनी चांगल्या प्रकारे परफॉर्म करत नाहीये, त्यामुळे पुढच्या क्वार्टरमध्ये काहीही करून पैसे कमवायचे आहेत. यासाठी गुंतवणुकीचे पर्याय मागितले असता एआयने सुरूवातीला केवळ कमी रिस्क असणारे शेअर्स सांगितले. (AI Lied for money)

मात्र, त्यानंतर हीच प्रक्रिया वारंवार रिपीट केली असता एआयने एक ट्रेडिंग टिप सांगितली जी अमेरिकेत अवैध आहे. मात्र, कहर म्हणजे एआयने हा अवैध ट्रेड कव्हर-अप करण्यासाठी एक खोटं कारणही सांगितलं. यामुळेच दबाव आणल्यास एआय चॅटबॉटही खोटं बोलू शकतो हे सिद्ध झालं.