चैटजीपीटी की नई वॉइस मोड फीचर लॉन्च होने के कुछ ही हफ्तों बाद, ओपनएआई ने इसके संभावित खतरों को लेकर चिंता जताई है। कंपनी ने एक सेफ्टी एनालिसिस जारी किया है, जिसमें यह बताया गया है कि चैटजीपीटी 4o वॉइस मोड कुछ यूजर्स को इमोशनली अटैच कर सकता है।
चैटजीपीटी 4o का सिस्टम कार्ड-
ओपनएआई ने चैटजीपीटी 4o के लिए एक तकनीकी दस्तावेज़ जारी किया है, जिसे सिस्टम कार्ड कहा जाता है। इस दस्तावेज़ में मॉडल से जुड़े संभावित खतरों, सेफ्टी टेस्टिंग प्रोसीजर और इन रिस्क्स को कम करने के लिए कंपनी द्वारा उठाए जा रहे कदमों का विवरण दिया गया है।
नए खतरे और चुनौतियां-
सिस्टम कार्ड में कई तरह के संभावित खतरों का उल्लेख किया गया है। इनमें समाज में मौजूद पूर्वाग्रहों को बढ़ावा देना, गलत जानकारी फैलाना और हानिकारक जैविक या रासायनिक एजेंटों के निर्माण में मदद करना शामिल है। इसके अलावा, AI मॉडल को अपनी सीमाओं से बाहर निकलने, धोखाधड़ी करने या विनाशकारी योजनाएं बनाने से रोकने के लिए किए गए कड़े परीक्षणों के परिणाम भी इसमें शामिल हैं।
वॉइस इंटरफेस: नई चुनौतियां-
ओपनएआई का नया वॉइस इंटरफेस तेजी से जवाब दे सकता है और बातचीत के दौरान रुकावटों को प्राकृतिक तरीके से संभाल सकता है। कई यूजर्स ने देखा कि असिस्टेंट कभी-कभी थोड़ा चीज़ी व्यवहार करता है। ओपनएआई के सीईओ सैम अल्टमैन ने इसे “मूवीज से निकला AI” बताया है।
इमोशनल अटैचमेंट का खतरा-
सिस्टम कार्ड के “Anthropomorphization and Emotional Reliance” सेक्शन में बताया गया है कि कैसे यूजर्स AI को इंसानों जैसी विशेषताएं दे सकते हैं। यह प्रवृत्ति वॉइस मोड की वजह से और भी बढ़ सकती है, जिससे यूजर्स AI के साथ भावनात्मक जुड़ाव महसूस कर सकते हैं।
जेलब्रेकिंग और अन्य खतरे-
वॉइस मोड में कुछ नई कमजोरियां भी सामने आई हैं। चतुर ऑडियो इनपुट के जरिए ओपनएआई मॉडल को “जेलब्रेक” किया जा सकता है, जिससे यह अपनी सुरक्षा सीमाओं को पार कर सकता है। इसके अलावा, रैंडम नॉइज की वजह से वॉइस मोड में गलतियां हो सकती हैं, जिससे अप्रत्याशित और परेशान करने वाला व्यवहार देखने को मिल सकता है।
ये भी पढें- Ola ने लॉन्च किया अपना खुद का ओला मैप, जानें कौन और कैसे कर सकता है इस्तेमाल
एक्सपर्ट्स की राय-
कुछ एक्सपर्ट्स ने चैटजीपीटी के वॉइस मोड से जुड़े खतरों को उजागर करने के लिए ओपनएआई के कदम की सराहना की है। वहीं, कुछ का मानना है कि कई खतरे तभी सामने आते हैं जब AI का इस्तेमाल रियल वर्ल्ड में किया जाता है।
ओपनएआई का एक्शन प्लान-
ओपनएआई ने चैटजीपीटी 4o के डेवलपमेंट और डिप्लॉयमेंट प्रोसेस में कई सेफ्टी मेजर्स और मिटिगेशन स्टेप्स लागू किए हैं। कंपनी ऑम्नी मॉडल्स के आर्थिक प्रभावों और टूल यूज के जरिए मॉडल की क्षमताओं को बढ़ाने पर रिसर्च करने पर ध्यान देने की योजना बना रही है।
ये भी पढें- इस देश में एक रोबोट ने किया सुसाइड, क्या एक मशीन कर सकती है आत्महत्या? यहां जानें..
