सोशल मीडिया प्लेटफॉर्म X ने अपने AI चैटबोट Grok पर अश्लील और आपत्तिजनक कंटेंट बनाने को लेकर कड़े नियम लागू कर दिए हैं। कंपनी ने स्पष्ट किया है कि Grok के जरिए बनाई गई फूहड़ या अश्लील सामग्री तुरंत हटाई जाएगी और ऐसे कंटेंट बनाने वाले यूजर्स का अकाउंट वही कार्रवाई झेलेगा जो सीधे अवैध कंटेंट अपलोड करने पर होती है। इसका मतलब है कि नियम तोड़ने वाले यूजर का अकाउंट हमेशा के लिए बैन कर दिया जाएगा।

यह कदम भारत सरकार की तरफ से आपत्ति जताने के तीन दिन बाद आया। शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने आईटी मंत्री को पत्र लिखकर बताया था कि कुछ लोग AI का गलत इस्तेमाल कर महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं। X के मालिक इलॉन मस्क ने कहा कि Grok केवल यूजर के इनपुट के आधार पर काम करता है और जिम्मेदारी टूल की नहीं, बल्कि इसे इस्तेमाल करने वाले की होती है। नए नियमों के बाद अब AI का गलत इस्तेमाल करने वालों को सीधे सजा भुगतनी पड़ेगी।