बेंगलुरु के इंजीनियर ने एआई से पूछे विचित्र हिंसा‑संबंधी सवाल

बेंगलुरु स्थित एक तकनीकी इंजीनियर ने एक लोकप्रिय एआई चैटबोट का उपयोग करके चिली पाउडर से किसी को अंधा करने और घुटने तोड़ने के तरीकों सहित कई असामान्य प्रश्न पूछे। ये सवाल सार्वजनिक मंच पर पोस्ट किए गए और उन्हें संभावित हिंसा को बढ़ावा देने के कारण मॉडरेटरों द्वारा फ़्लैग किया गया।

इंजीनियर की पोस्ट ने उपयोगकर्ताओं के बीच एआई सामग्री की सीमाओं पर बहस को जन्म दिया। जबकि चैटबोट के नीति इंजन ने सबसे स्पष्ट निर्देशों को ब्लॉक कर दिया, उसने सामान्य सुरक्षा चेतावनियाँ दीं और किसी भी हिंसक इरादे के लिए पेशेवर सहायता लेने का सुझाव दिया।

उद्योग विशेषज्ञों ने इस घटना को एआई सिस्टम के उपयोगकर्ता जिज्ञासा और दुरुपयोग के बीच संतुलन बनाए रखने की आवश्यकता के रूप में उद्धृत किया। प्लेटफ़ॉर्म के प्रवक्ता ने पुष्टि की कि वे फ़िल्टरिंग एल्गोरिदम को मजबूत करने के लिए घटना की समीक्षा कर रहे हैं।

इस घटना ने टेक समुदाय में एआई डेवलपर्स की नैतिक जिम्मेदारियों और अंतिम उपयोगकर्ताओं के लिए स्पष्ट उपयोग दिशानिर्देशों के महत्व पर चर्चा को प्रेरित किया।