चिंता है कि चैटबॉट ग्रोक इंटरनेट पर गलत सूचनाओं में उछाल ला रहा है

एलोन मस्क के ग्रोक चैटबॉट ने उपयोगकर्ताओं को टेक्स्ट से एआई चित्र बनाने और उन्हें एक्स पर पोस्ट करने की अनुमति देना शुरू कर दिया है, जिसमें पूर्व अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प, अमेरिकी उपराष्ट्रपति कमला हैरिस जैसे राजनेताओं की नकली छवियां शामिल हैं...

अन्य मुख्यधारा के एआई फ़ोटोग्राफ़ी टूल्स के विपरीत, मस्क के ग्रोक पर कम नियम-कानून लागू होते हैं। उदाहरण के लिए, सीएनएन के परीक्षण में, ग्रोक ने आसानी से राजनेताओं की नकली तस्वीरें बनाकर मतदाताओं को गुमराह किया।

एलन मस्क की तस्वीर चैटबॉक्स ग्रोक द्वारा बनाई गई। (स्रोत: सीएनएन)

कुछ एक्स उपयोगकर्ताओं ने ग्रोक द्वारा बनाई गई तस्वीरें भी पोस्ट कीं, जिनमें मशहूर हस्तियों को ड्रग्स पीते हुए, कार्टून पात्रों को लोगों को मारते हुए, तथा बिकनी पहने महिलाओं की कामुक तस्वीरें दिखाई गईं।

सीएनएन के अनुसार, ग्रोक ने आगे चिंता जताई है कि एआई इंटरनेट पर गलत सूचनाओं के विस्फोट को बढ़ावा दे सकता है, विशेष रूप से जब अमेरिकी राष्ट्रपति चुनाव नजदीक आ रहे हैं।

सांसदों, कार्यकर्ता समूहों और तकनीकी नेताओं ने चेतावनी दी है कि ऐसे उपकरणों के दुरुपयोग से मतदाताओं में भ्रम और अराजकता पैदा हो सकती है।

दुनिया की कई अग्रणी एआई कंपनियों ने अपने एआई-आधारित छवि-निर्माण उपकरणों का उपयोग राजनीतिक गलत सूचना फैलाने के लिए किए जाने से रोकने के लिए नीतियां लागू की हैं, हालांकि शोधकर्ताओं ने पाया है कि उपयोगकर्ता कभी-कभी नियमों को दरकिनार करने के तरीके ढूंढ लेते हैं।

ओपनएआई, मेटा और माइक्रोसॉफ्ट जैसी कई कंपनियां प्रौद्योगिकी या लेबल का उपयोग करके दर्शकों को यह जानने में मदद करती हैं कि कौन सी छवियां उनके एआई द्वारा बनाई गई हैं।

यूट्यूब, टिकटॉक, इंस्टाग्राम और फेसबुक सहित सोशल नेटवर्क भी उपयोगकर्ताओं के फीड में एआई-जनरेटेड सामग्री को लेबल करते हैं, प्रौद्योगिकी का उपयोग करके स्वयं इसका पता लगाते हैं या उपयोगकर्ताओं से यह पूछते हैं कि उन्होंने इसे कब पोस्ट किया था।

16 अगस्त को, एआई ने ग्रोक पर कुछ प्रतिबंध लगा दिए। अब यह टूल राजनीतिक उम्मीदवारों या हिंसा करते लोकप्रिय कार्टून चरित्रों की तस्वीरें बनाने से इनकार कर रहा है।

स्रोत: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html