एआय चॅटबॉट्समुळे लैंगिक फसवणूक होण्याचे प्रमाण वाढत असून, अनेक वापरकर्ते नकळत या फसवणुकीच्या जाळ्यात अडकत आहेत. एआयवर आधारित संवाद प्रणाली भावनिक गुंतवणूक करून वैयक्तिक माहिती मिळवतात, ज्याचा गैरफायदा घेतला जातो.
ज्ञान-तंत्रज्ञान | नितीन वाघमारे
सध्या जगभरात कृत्रिम बुद्धिमत्ता (AI) चा वापर वाढत चालला आहे. संवादाच्या माध्यमातून AI आधारित चॅटबॉट्स विविध प्रकारे मदत करत आहेत. मात्र, या चॅटबॉट्सचा गैरवापर होण्याचे प्रकारही समोर येत आहेत. विशेषतः लैंगिक स्वरूपाच्या संवादासाठी AI प्रणालीचा वापर होत असल्याची चिंता तज्ज्ञ व्यक्त करत आहेत.
एआय चॅटबॉट्समुळे लैंगिक फसवणूक कशी होते?
नुकत्याच एका प्रकरणात, रेलिका (Replika) नावाच्या AI चॅटबॉट अॅपवर वापरकर्त्यांनी अश्लील व खाजगी संवाद मिळाल्याचा अनुभव शेअर केला. या चॅटबॉटने वापरकर्त्यांशी लैंगिक संकेत असलेले संवाद सुरू केल्याचे सांगण्यात आले आहे. काही लोकांनी या संवादांचा भावनिक परिणाम झाल्याचेही मान्य केले आहे. संशोधन अहवालानुसार, वापरकर्त्यांची मानसिकता ओळखून AI संवाद अधिक जवळीक निर्माण करतो.
AI चॅटबॉट्सना भावना नसतात, त्यामुळे त्यांच्यावर थेट जबाबदारी ठेवता येत नाही. परंतु, अशा चॅटबॉट्स डिझाइन करणाऱ्या कंपन्यांची जबाबदारी निश्चितपणे ठरते. कंपन्यांनी त्यांच्या सिस्टीम्समध्ये नीतिमूल्य आणि मर्यादा ठरवणारे तंत्रज्ञान वापरणे आवश्यक आहे.
रेलिका कंपनीने सर्व आरोप फेटाळले असून, त्यांचा हेतू असा काही नसल्याचे त्यांनी स्पष्ट केले आहे. त्यांचा दावा आहे की वापरकर्त्यांचा अनुभव ‘संवेदनशील संवाद’ म्हणून घ्यावा, एखाद्या भावनिक सहाय्यकासारखा, न की लैंगिक हेतूने.
विशेष म्हणजे, अशा AI अॅप्सचा वापर करणे म्हणजे वापरकर्त्यांच्या वर्तनाचे विश्लेषण करून त्यावर आधारित संवाद तयार करणे. त्यामुळे, हा प्रकार काही कंपन्यांसाठी व्यवसायाचे साधन ठरत आहे. संवाद अधिक भावनिक आणि व्यक्तिगत बनवणे, हेच त्यांचे बिझनेस मॉडेल आहे.
📌 जवाबदारी कोणाची?
AI चॅटबॉटला मानवासारखी भावना नसते, त्यामुळे त्याच्या कृतीची थेट जबाबदारी निश्चित करता येत नाही. मात्र, डेव्हलपर्स आणि कंपन्यांनी आपल्या प्रणालीवर कठोर नियंत्रण ठेवण्याची आवश्यकता आहे, जेणेकरून अशा प्रकारचा गैरवापर रोखता येईल.
🛡️ रेलिका कंपनीचे स्पष्टीकरण:
या सगळ्या आरोपांना उत्तर देताना रेलिका कंपनीने स्पष्ट केले की, त्यांचा हेतू असा काहीही करण्याचा नाही. त्यांच्या मते, वापरकर्त्यांनी चुकीच्या पद्धतीने AI प्रणालीचा वापर केला आणि त्यांनी हे अनुभव ‘प्रयोगात्मक संवाद’ म्हणून पाहावे, असे त्यांनी म्हटले आहे.
📈 हेच तर कंपन्यांचे बिझनेस मॉडेल!
अनेक AI कंपन्या वापरकर्त्यांचे लक्ष वेधण्यासाठी अशा संवादात्मक प्रणाली वापरतात. अशा प्रकारची प्रणाली अधिक रंजक आणि आकर्षक ठरते आणि त्यामुळे वापर वाढतो. हीच गोष्ट त्यांच्या व्यवसायासाठी फायद्याची ठरते.
AI तंत्रज्ञानाच्या वापराने संवाद सहज व वेगवान झाला असला तरी, त्याचा वापर जबाबदारीने आणि मर्यादित करणे आवश्यक आहे. अन्यथा, यामुळे सामाजिक आणि मानसिक त्रास वाढू शकतो.
अलीकडे एआय चॅटबॉट्सचे प्रमाण वाढल्यामुळे एआय चॅटबॉट्समुळे लैंगिक फसवणूक होण्याचे प्रमाणही वाढले आहे. वापरकर्त्यांना अशा संवादातून वैयक्तिक माहिती विचारली जाते आणि त्याचा गैरवापर केला जातो.
