अमेरिकी सरकार ने AI कंपनी एंथ्रोपिक को उन्नत मॉडलों में सुरक्षा खामियों पर चेतावनी दी

अमेरिकी सरकार ने आर्टिफिशियल इंटेलिजेंस कंपनी एंथ्रोपिक को संयुक्त राज्य अमेरिका के बाहर अपने उन्नत AI मॉडल, जैसे कि फेबल 5, की रिलीज के संबंध में एक स्पष्ट निर्देश दिया है। अधिकारियों ने किसी भी अंतरराष्ट्रीय तैनाती की अनुमति देने से पहले कंपनी से पहचानी गई सुरक्षा खामियों को ठीक करने की मांग की है।

यह चेतावनी नेशनल सिक्योरिटी एजेंसी (NSA) की जांच के बाद आई है, जिसने ऐसी कमजोरियों की पुष्टि की है जो AI मॉडल के 'जेलब्रेकिंग' की अनुमति देती हैं। सरकार ने चिंता व्यक्त की है कि इन शोषण योग्य खामियों का यदि ठीक से समाधान नहीं किया गया तो उन्हें हथियार के रूप में इस्तेमाल किया जा सकता है।

प्रशासन का रुख इन सुरक्षा मुद्दों के सक्रिय पैचिंग की आवश्यकता पर जोर देता है। हालांकि, क्षेत्र के कुछ विशेषज्ञों ने जटिल AI प्रणालियों में ऐसी सभी कमजोरियों को पूरी तरह से खत्म करने की व्यवहार्यता पर सवाल उठाए हैं।