हाल के महीनों में, बाल सुरक्षा विशेषज्ञों और शोधकर्ताओं ने रचनात्मक एआई के कारण ऑनलाइन दुर्व्यवहार को बढ़ावा मिलने की संभावना के बारे में चेतावनी दी है।
मेटा के सीईओ मार्क ज़करबर्ग 31 जनवरी, 2024 को अमेरिकी सीनेट न्यायपालिका समिति की एक सुनवाई में एआई-जनरेटेड तस्वीरें लिए उपस्थित लोगों के सामने भाषण देते हुए। फोटो: रॉयटर्स
एनसीएमईसी ने अभी तक 2023 में प्राप्त सभी स्रोतों से बाल दुर्व्यवहार सामग्री की कुल रिपोर्टों की संख्या जारी नहीं की है। लेकिन 2022 में, उसे इस समस्या के बारे में लगभग 88.3 मिलियन फाइलों की रिपोर्ट प्राप्त हुई।
एनसीएमईसी के उपाध्यक्ष जॉन शेहान ने कहा, "हमें नवोन्मेषी एआई कंपनियों, (ऑनलाइन) प्लेटफार्मों और आम जनता से रिपोर्ट मिल रही हैं।"
मेटा, एक्स, टिकटॉक, स्नैप और डिस्कॉर्ड के सीईओ ने बुधवार (31 जनवरी) को ऑनलाइन प्लेटफॉर्म पर बच्चों की सुरक्षा पर अमेरिकी सीनेट की सुनवाई में गवाही दी। अमेरिकी सांसदों ने सोशल मीडिया कंपनियों से बच्चों को "ऑनलाइन शिकारियों" से बचाने के उनके प्रयासों के बारे में सवाल किए।
स्टैनफोर्ड इंटरनेट ऑब्ज़र्वेटरी के शोधकर्ताओं ने पिछले जून में एक रिपोर्ट में कहा था कि जनरेटिव एआई का उपयोग बुरे लोगों द्वारा वास्तविक जीवन के बच्चों की नकली छवियां बनाकर उन्हें बार-बार नुकसान पहुंचाने के लिए किया जा सकता है।
एनसीएमईसी की साइबरटिपलाइन के निदेशक फॉलन मैकनल्टी, जो ऑनलाइन बाल शोषण की रिपोर्ट लेते हैं, ने कहा कि एआई द्वारा उत्पन्न सामग्री "अधिक से अधिक फोटोरियलिस्टिक" होती जा रही है, जिससे यह निर्धारित करना मुश्किल हो रहा है कि पीड़ित वास्तविक लोग हैं या नहीं।
मैकनल्टी ने कहा कि चैटजीपीटी बनाने वाली कंपनी ओपनएआई ने एनसीएमईसी को रिपोर्ट प्रस्तुत करने के लिए एक प्रक्रिया स्थापित की है, और संगठन अन्य एआई कंपनियों के साथ बातचीत कर रहा है।
होआंग हाई (रॉयटर्स, एफटी के अनुसार)
[विज्ञापन_2]
स्रोत
टिप्पणी (0)