संदर्भ:
Grok चैटबॉट विवाद: xAI द्वारा विकसित AI चैटबॉट Grok अपने बिना सेंसर किए गए जवाबों के कारण X (पूर्व में Twitter) पर विवादों में आ गया है।
Grok चैटबॉट विवाद:
भारतीय सरकार एलोन मस्क के प्लेटफ़ॉर्म X के साथ उसके AI चैटबॉट Grok द्वारा उत्पन्न विवादास्पद प्रतिक्रियाओं को लेकर बातचीत कर रही है। इस चैटबॉट ने कुछ रूढ़िवादी उपयोगकर्ताओं, जिनमें मस्क भी शामिल हैं, को ‘भ्रामक जानकारी फैलाने वाले‘ कहकर अपमानजनक और पक्षपाती टिप्पणियाँ की हैं।
Grok क्या है?
Grok एक जनरेटिव आर्टिफिशियल इंटेलिजेंस चैटबॉट है, जिसे xAI कंपनी द्वारा विकसित किया गया है, जिसे Elon Musk ने स्थापित किया था। यह एक बड़े भाषा मॉडल (LLM) Grok पर आधारित है और इसे 2023 में लॉन्च किया गया था।
Grok की अनोखी विशेषताएँ:
- रियल–टाइम X डेटा तक पहुँच: अन्य चैटबॉट्स की तुलना में, Grok सार्वजनिक पोस्ट्स को खोजकर और उपयोग करके X (पहले Twitter) से ताज़ा जानकारी प्रदान करता है।
- X के साथ इंटीग्रेशन: उपयोगकर्ता अपनी पोस्ट में Grok को टैग कर सकते हैं और सीधे जवाब प्राप्त कर सकते हैं।
- अनहिंग्ड मोड: यह एक प्रीमियम सुविधा है, जिसमें चैटबॉट ऐसे उत्तर उत्पन्न कर सकता है जो अनुचित या आपत्तिजनक हो सकते हैं।
जनरेटिव AI और इसके नियमन से जुड़े चिंताएँ:
- गलत जानकारी का प्रसार (Amplify Misinformation):
- यदि जनरेटिव AI सिस्टम को पक्षपातपूर्ण डेटा पर प्रशिक्षित किया जाता है या उनमें स्वाभाविक रूप से पूर्वाग्रह होता है, तो वे गलत और भ्रामक सामग्री उत्पन्न कर सकते हैं।
- चूँकि Grok सीधे X (पहले Twitter) पर सामग्री प्रकाशित करने की सुविधा देता है, इससे गलत जानकारी तेजी से फैल सकती है।
- पारदर्शिता की कमी (Lack of Transparency): AI एल्गोरिदम अक्सर ब्लैक-बॉक्स दृष्टिकोण अपनाते हैं, जिससे यह समझना मुश्किल हो जाता है कि किस तरह से डेटा के आधार पर परिणाम उत्पन्न हुए।
- सेंसरशिप का खतरा (Risk of Censorship):
- कंपनियाँ सरकारों द्वारा की जाने वाली विनियामक कार्रवाइयों के डर से आत्म-सेंसरशिप करने लगती हैं।
- इससे अभिव्यक्ति की स्वतंत्रता पर नकारात्मक प्रभाव पड़ सकता है और नवाचार में बाधा उत्पन्न हो सकती है
- AI-जनित उत्तरों की जिम्मेदारी (Accountability for AI-generated output):
- अनुच्छेद 19(1)(a) के तहत अभिव्यक्ति की स्वतंत्रता का अधिकार केवल मनुष्यों पर लागू होता है, AI सिस्टम पर नहीं।
- AI प्रतिक्रियाएँ मशीन द्वारा उत्पन्न होती हैं और उनमें व्यक्तिगत इरादा नहीं होता।
- इससे कानूनी जिम्मेदारी निर्धारित करना कठिन हो जाता है।
- AI के लिए सेफ हार्बर का विस्तार:
- सोशल मीडिया इंटरमीडियरीज को IT Act 2000 के सेक्शन 79 के तहत सुरक्षित सुरक्षा (Safe Harbour) प्राप्त होती है।
- Grokएक मानव उपयोगकर्ता नहीं है, बल्कि इंटरनेट डेटा से उत्तर उत्पन्न करने वाला एक कंप्यूटर प्रोग्राम है।
- यह प्रश्न उठता है कि क्या AI-जनित सामग्री के लिए सेफ हार्बर सुरक्षा लागू होनी चाहिए।
