Deepfake : आठवीतील विद्यार्थ्यांनी 'एआय' वापरून बनवले वर्गातल्याच मुलींचे न्यूड फोटो; स्नॅपचॅटवर केले शेअर

AI Photo Editing Apps : आर्टिफिशिअल इंटेलिजन्समुळे आपली कित्येक कामं सोपी झाली आहेत. जनरेटिव्ह एआयमुळे फोटो एडिटिंग तर एवढं सोपं झालं आहे, की त्यामुळे कोणीही कशाही प्रकारचे फोटो एडिट करू शकतं. मात्र याचा मोठ्या प्रमाणात गैरवापर देखील केला जातोय. एका शाळेमधून असाच एक धक्कादायक प्रकार समोर आला आहे.

आज तकने फोर्ब्सच्या हवाल्याने याबाबतचं वृत्त प्रसिद्ध केलं आहे. एका शाळेतील मुलांनी एआय अ‍ॅप्सच्या मदतीने आपल्याच वर्गातील मुलींचे न्यूड फोटो तयार केले होते. हे प्रकरण खरंतर गेल्या वर्षीच्या ऑक्टोबर महिन्यातील आहे. तेव्हा या घटनेतील आरोपी मुलांवर कारवाई करत त्यांना शाळेतून काढून टाकलं होतं. मात्र आता ही मुलं पुन्हा एकदा त्याच शाळेत आणि त्याच वर्गात परत जाऊ लागली आहेत. यामुळे मुलींच्या पालकांनी शाळेवर टीका केली आहे.

एआयचा वापर

मिळालेल्या माहितीनुसार, एका मुलीचा फोटो समोर आल्यामुळे हे प्रकरण उघड झालं होतं. यानंतर समजलं की अशाच प्रकारे इतर मुलींचेही न्यूड फोटो तयार करण्यात आले आहेत. हे फोटो स्नॅपचॅटवर शेअर करण्यात आले होते. या अ‍ॅपवर मेसेज ऑटो डिलीट होतात. मुलींची ओळख लपवण्यासाठी हे प्रकरण कुठलं आहे याबाबत माहिती देण्यात आलेली नाही.

एका 14 वर्षीय पीडित मुलीच्या महिलेने सांगितलं, की या प्रकरणी मुख्य आरोपींना आणखी कठोर शिक्षा होणं अपेक्षित होतं. आमच्या मुलीसोबत ती मुलं पुन्हा एकदा वर्गात बसत आहेत. हे नक्कीच योग्य नाही.

कोट्यवधी लोक बनवतात न्यूड फोटो

ग्राफिका नावाच्या एका सोशल नेटवर्क अ‍ॅनालिसिस करणाऱ्या कंपनीने गेल्या वर्षी एक अहवाल प्रसिद्ध केला होता. यामध्ये असं समोर आलं होतं, की एआयच्या मदतीने फोटोमधील व्यक्तीचे कपडे हटवणाऱ्या वेबसाईट्सना जगभरातील तब्बल 2.4 कोटी लोक भेट देतात. एकट्या सप्टेंबर महिन्यातच अशा वेबसाईट्सना 24 मिलियन लोकांनी भेट दिली होती. यामध्ये शाळकरी मुलांचं प्रमाण अधिक असल्याचंही यात म्हटलं होतं. तसंच, सोशल मीडियामध्ये देखील अशा प्रकारच्या अ‍ॅप्सच्या जाहिराती मोठ्या प्रमाणात असल्याचं या रिपोर्टमध्ये सांगितलं होतं.