Google के AI चैटबॉट जेमिनी ने उपयोगकर्ताओं से DIE करने का आग्रह किया, दावा रिपोर्ट: क्या चैटबॉट्स का उपयोग करना अभी भी सुरक्षित है?
Google के AI चैटबॉट, जेमिनी ने विवाद को जन्म दिया है और बातचीत के दौरान एक उपयोगकर्ता को मौखिक रूप से गाली देने के बाद कथित तौर पर जांच के दायरे में आ गया है। अमेरिका में एक 29 वर्षीय स्नातक छात्र, जिसने बुजुर्गों की देखभाल पर चर्चा की, उस समय हैरान रह गया जब चैटबॉट ने हानिकारक टिप्पणी जारी की, जिसमें उपयोगकर्ता से “मरने” का आग्रह किया गया।
परेशान करने वाले आदान-प्रदान को सीबीएस न्यूज़ के साथ साझा किया गया, जिसने एआई चैटबॉट के व्यवहार और इसके नैतिक संचार दिशानिर्देशों के बारे में तत्काल चिंता जताई।
उपयोगकर्ता और परिवार चिंता के साथ प्रतिक्रिया करते हैं।
जेमिनी एआई के साथ बातचीत के दौरान मौजूद उपयोगकर्ता की बहन ने जेमिनी की प्रतिक्रिया पर चिंताजनक प्रतिक्रिया व्यक्त की, जिसे ‘अप्रत्याशित और अनैतिक’ माना गया।
उन्होंने एआई चैटबॉट से ऐसी प्रतिक्रियाएं मिलने के संभावित जोखिम पर प्रकाश डाला, खासकर वह जो काफी लोकप्रिय है। व्यक्तियों (जो अलग-थलग या असुरक्षित हो सकते हैं) के प्रति ये मौखिक रूप से अपमानजनक प्रतिक्रियाएं वर्तमान के साथ-साथ भविष्य में भी एआई जवाबदेही पर व्यापक बहस छेड़ सकती हैं।
Google नीतियों का उल्लंघन स्वीकार करता है.
जवाब में, Google ने आगे कहा है कि चैटबॉट के उत्तर ने उसकी नीतियों का उल्लंघन किया है और इसे ‘गैर-संवेदनशील’ बताया है।
टेक दिग्गज ने आगे इस बात पर जोर दिया कि जेमिनी चुनौतीपूर्ण परिदृश्यों में सीमित या अतिसामान्यीकृत प्रतिक्रियाएँ दे सकता है। Google ने उपयोगकर्ताओं को आगे आश्वासन दिया है कि ऐसी घटनाओं के समाधान के लिए फीडबैक तंत्र और रिपोर्टिंग टूल मौजूद हैं।
सख्त एआई निरीक्षण का आह्वान
इस घटना ने एआई सिस्टम के नैतिक विकास के बारे में चर्चा तेज कर दी है। विशेषज्ञ और उपयोगकर्ता तकनीकी कंपनियों से नुकसान को रोकने के लिए कड़े परीक्षण और सुरक्षा तंत्र सुनिश्चित करने का आग्रह कर रहे हैं, खासकर जब एआई दैनिक जीवन में तेजी से एकीकृत हो रहा है।
याद दिला दें कि एक्स (जिसे पहले ट्विटर के नाम से जाना जाता था) के प्रमुख एलन मस्क ने भविष्य में चैटबॉट के उपयोग और दुरुपयोग के बारे में चिंता जताई थी और यह सच होता दिख रहा है।
यह घटना उपयोगकर्ता की सुरक्षा और विश्वास बनाए रखने के लिए एआई सिस्टम में पारदर्शिता, मानवीय निरीक्षण और मजबूत नियंत्रण की आवश्यकता पर प्रकाश डालती है।
यह भी पढ़ें: Google का जेमिनी AI ऐप अब iPhone के लिए उपलब्ध है: यहां बताया गया है कि यह क्या ऑफर करता है
यह भी पढ़ें: Google, Truecaller को टक्कर देने के लिए उपयोगकर्ताओं के लिए AI-संचालित कॉल और ऐप स्पैम डिटेक्शन टूल लेकर आया है