सोशल मीडिया प्लेटफॉर्म X ने कंटेंट मॉडरेशन में हुई चूक स्वीकार करते हुए कहा है कि वह AI चैटबोट Grok के जरिए अश्लील इमेज जेनरेशन पर पूरी तरह रोक लगाएगा और भारत के कानूनों का पालन करेगा। सरकार के सूत्रों के मुताबिक, आपत्तिजनक कंटेंट वायरल होने के बाद यह फैसला लिया गया। X ने बताया कि अब तक 3,500 से ज्यादा कंटेंट ब्लॉक किए गए हैं और 600 से अधिक अकाउंट डिलीट किए गए हैं।

2 जनवरी को शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने Grok के दुरुपयोग को लेकर आईटी मंत्री अश्विनी वैष्णव को पत्र लिखा था। उसी दिन केंद्र सरकार ने X को चेतावनी दी थी कि Grok से बन रहे अश्लील और फूहड़ कंटेंट को तुरंत हटाया जाए, नहीं तो कानूनी कार्रवाई होगी।

X ने कहा कि भारत उसके लिए अहम बाजार है और कंपनी यहां के नियमों का सम्मान करेगी। यह कदम कंटेंट मॉडरेशन को मजबूत करने की दिशा में है।

प्रियंका चतुर्वेदी ने दावा किया कि X ने पूरी तरह रोक लगाने के बजाय Grok की इमेज जेनरेशन को पेड यूजर्स तक सीमित किया है। उनका कहना है कि इससे महिलाओं और बच्चों की तस्वीरों के अनधिकृत दुरुपयोग का जोखिम बना रहता है और प्लेटफॉर्म निंदनीय व्यवहार को मॉनिटाइज कर रहा है।

X के मालिक इलॉन मस्क ने 3 जनवरी को कहा था कि किसी टूल को दोष देना गलत है—जैसे पेन यह तय नहीं करता कि क्या लिखा जाएगा। उनके मुताबिक, Grok का आउटपुट काफी हद तक यूजर इनपुट पर निर्भर करता है।

आरोप है कि कुछ यूजर्स फर्जी अकाउंट से महिलाओं की तस्वीरें पोस्ट कर Grok को कपड़े बदलने या तस्वीरों को सेक्शुअल तरीके से पेश करने जैसे प्रॉम्प्ट देते थे। बिना अनुमति ऐसी इमेज बनना प्राइवेसी उल्लंघन और अपराध है।