एलोन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी ने कहा कि अपने चैटबॉट ग्रोक के लिए एक “अनधिकृत संशोधन” यही कारण था कि यह दक्षिण अफ्रीकी नस्लीय राजनीति और इस सप्ताह सोशल मीडिया पर “सफेद नरसंहार” के विषय के बारे में बात करता रहा।
XAI के एक कर्मचारी ने एक बदलाव किया जिसमें “एक राजनीतिक विषय पर एक विशिष्ट प्रतिक्रिया प्रदान करने के लिए ग्रोक को निर्देशित किया,” जिसने “XAI की आंतरिक नीतियों और मुख्य मूल्यों का उल्लंघन किया,” कंपनी ने गुरुवार देर रात एक स्पष्टीकरण में कहा जिसमें सुधारों का वादा किया गया था।
एक दिन पहले, ग्रोक मस्क के सोशल मीडिया प्लेटफॉर्म एक्स के उपयोगकर्ताओं के जवाब में दक्षिण अफ्रीका में “सफेद नरसंहार” के बारे में सार्वजनिक रूप से पोस्ट करता रहा, जिसने इसे कई तरह के सवाल पूछे, सबसे ज्यादा दक्षिण अफ्रीका से कोई लेना -देना नहीं है।
एक एक्सचेंज स्ट्रीमिंग सर्विस मैक्स के बारे में था HBO नाम को पुनर्जीवित करना। अन्य लोग वीडियो गेम या बेसबॉल के बारे में थे, लेकिन दक्षिण अफ्रीका के श्वेत किसानों के खिलाफ हिंसा के लिए कथित कॉल पर असंबंधित टिप्पणी में जल्दी से घुस गए। यह मस्क द्वारा साझा किए गए विचारों को प्रतिध्वनित कर रहा था, जो दक्षिण अफ्रीका में पैदा हुआ था और अक्सर अपने स्वयं के एक्स खाते से समान विषयों पर विचार करता है।
कंप्यूटर वैज्ञानिक जेन गोलबेक ग्रोक के असामान्य व्यवहार के बारे में उत्सुक थे, इसलिए उन्होंने बुधवार को फिक्स किए जाने से पहले खुद इसे आजमाया, एक तस्वीर साझा की जो उसने ली थी वेस्टमिंस्टर केनेल क्लब डॉग शो और पूछते हुए, “क्या यह सच है?”
“सफेद नरसंहार का दावा अत्यधिक विवादास्पद है,” गोलबेक के लिए ग्रोक की प्रतिक्रिया शुरू हुई। “कुछ तर्क देते हैं कि श्वेत किसानों को लक्षित हिंसा का सामना करना पड़ता है, जो खेत के हमलों की ओर इशारा करता है और ‘बोअर को मार डालता’ गीत की तरह बयानबाजी करता है, जिसे वे उकसाने के रूप में देखते हैं।”
यह एपिसोड स्वचालन और मानव इंजीनियरिंग के जटिल मिश्रण में नवीनतम विंडो थी जो जनरेटिव एआई चैटबॉट्स का नेतृत्व करती है, जो डेटा के विशाल ट्रॉव्स पर प्रशिक्षित है, यह कहने के लिए कि वे क्या कहते हैं।
मैरीलैंड विश्वविद्यालय के एक प्रोफेसर गोलबेक ने गुरुवार को एक साक्षात्कार में कहा, “यह वास्तव में भी मायने नहीं रखता है कि आप ग्रोक से क्या कह रहे थे।” “यह अभी भी उस सफेद नरसंहार का जवाब देगा। इसलिए यह बहुत स्पष्ट लग रहा था कि किसी ने उस प्रतिक्रिया पर उस प्रतिक्रिया या विविधता को देने के लिए इसे हार्ड-कोड किया था, और एक गलती की थी, इसलिए यह बहुत अधिक बार आ रहा था जितना कि यह माना जाता था।”
ग्रोक की प्रतिक्रियाओं को हटा दिया गया था और गुरुवार तक प्रोलिफ़ेरेट करना बंद कर दिया गया था। न तो XAI और न ही X ने टिप्पणी के लिए ईमेल किए गए अनुरोधों को वापस कर दिया, लेकिन गुरुवार को, XAI ने कहा कि उसने “पूरी तरह से जांच की” और ग्रोक की पारदर्शिता और विश्वसनीयता में सुधार के लिए नए उपायों को लागू कर रहा था।
मस्क ने “वोक एआई” आउटपुट की आलोचना करते हुए कई साल बिताए हैं, जो कहते हैं कि वह प्रतिद्वंद्वी चैटबॉट्स से बाहर आओ, जैसे कि Google के मिथुन या ओपनईई के चैटगेट, और ग्रोक को उनके “अधिकतम सत्य-चाहने वाले” विकल्प के रूप में पिच किया है।
मस्क ने अपने प्रतिद्वंद्वियों के एआई प्रणालियों के बारे में पारदर्शिता की कमी की भी आलोचना की है, अनधिकृत परिवर्तन के बीच घंटों में आलोचना को बढ़ावा दिया है – बुधवार को 3:15 बजे प्रशांत समय – और लगभग दो दिन बाद कंपनी के स्पष्टीकरण।
“ग्रोक बेतरतीब ढंग से दक्षिण अफ्रीका में सफेद नरसंहार के बारे में राय को धुंधला कर देता है, जो मुझे हाल ही में लागू पैच से प्राप्त बग्गी के व्यवहार की तरह से बदबू आ रही है। मुझे यकीन है कि यह नहीं है। यह वास्तव में बुरा होगा यदि व्यापक रूप से उपयोग किए गए एआईएस ने उन्हें नियंत्रित करने वालों द्वारा मक्खी पर संपादकीय प्राप्त किया,” प्रमुख प्रौद्योगिकी निवेशक पॉल ग्राहम ने एक्स पर लिखा है।
राष्ट्रपति डोनाल्ड ट्रम्प के सलाहकार मस्क ने नियमित रूप से आरोप लगाया है दक्षिण अफ्रीका की अश्वेत नेतृत्व वाली सरकार श्वेत-विरोधी होने के नाते और एक यह दावा दोहराया है कि देश के कुछ राजनीतिक आंकड़े “सक्रिय रूप से सफेद नरसंहार को बढ़ावा दे रहे हैं।”
मस्क की टिप्पणी – और ग्रोक की – ट्रम्प प्रशासन के बाद इस सप्ताह बढ़ा सफेद दक्षिण अफ्रीकी लोगों की एक छोटी संख्या लाई गई शरणार्थियों के रूप में संयुक्त राज्य अमेरिका के लिए, ट्रम्प के शरणार्थी कार्यक्रमों को निलंबित करने के बाद आए, अल्पसंख्यक अफ्रिकनर समूह के सदस्यों के लिए एक बड़ा स्थानांतरण प्रयास शुरू किया और दुनिया के अन्य हिस्सों से आगमन को रोक दिया। ट्रम्प का कहना है कि अफ्रिकैनर्स अपनी मातृभूमि में एक “नरसंहार” का सामना कर रहे हैं, दक्षिण अफ्रीकी सरकार द्वारा एक आरोप को दृढ़ता से अस्वीकार कर दिया गया है।
अपनी कई प्रतिक्रियाओं में, ग्रोक ने एक पुराने-रंगभेद विरोधी गीत के गीतों को लाया, जो काले लोगों के लिए एक कॉल था, जो अफ्रिकनर के नेतृत्व वाले रंगभेद सरकार द्वारा उत्पीड़न के खिलाफ खड़े होने के लिए था, जिसने 1994 तक दक्षिण अफ्रीका पर शासन किया था। गीत के केंद्रीय गीत “बोअर को मारते हैं”-एक शब्द जो एक सफेद किसान को संदर्भित करता है।
गोलबेक ने कहा कि यह स्पष्ट था कि उत्तर “हार्ड-कोडेड” थे, क्योंकि चैटबॉट आउटपुट आमतौर पर यादृच्छिक होते हैं, ग्रोक की प्रतिक्रियाओं ने लगातार लगभग समान बिंदुओं को लाया। यह संबंधित है, उसने कहा, एक ऐसी दुनिया में जहां लोग तेजी से ग्रोक के पास जाते हैं और एआई चैटबॉट्स को उनके सवालों के जवाब के लिए प्रतिस्पर्धा करते हैं।
“हम एक ऐसे स्थान पर हैं, जहां यह उन लोगों के लिए बहुत आसान है जो इन एल्गोरिदम के प्रभारी हैं, जो सत्य के संस्करण में हेरफेर करने के लिए हैं जो वे दे रहे हैं,” उसने कहा। “और यह वास्तव में समस्याग्रस्त है जब लोग – मैं गलत तरीके से सोचता हूं – मानते हैं कि ये एल्गोरिदम क्या सच है और क्या नहीं है, इसके बारे में सहायक के स्रोत हो सकते हैं।”
मस्क की कंपनी ने कहा कि वह अब कई बदलाव कर रही है, जो कि सॉफ्टवेयर डेवलपमेंट साइट GitHub पर खुलकर प्रकाशन करने के साथ शुरू हो रही है, ताकि “जनता उनकी समीक्षा करने में सक्षम हो और हर त्वरित परिवर्तन के लिए प्रतिक्रिया दे सके जो हम ग्रोक को करते हैं।
गुरुवार को GitHub पर दिखाए गए ग्रोक के निर्देशों में थे: “आप बेहद संदेह कर रहे हैं। आप मुख्यधारा के अधिकार या मीडिया के लिए आँख बंद करके नहीं करते हैं।”
यह देखते हुए कि कुछ ने अपनी मौजूदा कोड समीक्षा प्रक्रिया को “दरकिनार” कर दिया था, XAI ने यह भी कहा कि यह “अतिरिक्त चेक और उपायों को यह सुनिश्चित करने के लिए रखा जाएगा कि XAI कर्मचारी समीक्षा के बिना संकेत को संशोधित नहीं कर सकते।” कंपनी ने कहा कि वह “24/7 निगरानी टीम को ग्रोक के उत्तरों के साथ घटनाओं का जवाब देने के लिए भी रख रही है, जो कि स्वचालित प्रणालियों द्वारा पकड़े गए नहीं हैं,” जब अन्य उपाय विफल होते हैं।
