सोशल मीडिया प्लेटफॉर्म फेसबुक और इंस्टाग्राम पर बच्चों के यौन शोषण से जुड़ी गतिविधियों पर रोक लगाने के लिए मेटा ने अपने सुरक्षा उपायों को और मजबूत किया है। कंपनी ने नए आर्टिफिशियल इंटेलिजेंस (AI) टूल और विज्ञापन समीक्षा प्रणाली लागू की है। इनके जरिए संदिग्ध विज्ञापनों, अकाउंट्स और ऑनलाइन नेटवर्क की पहचान कर उनके खिलाफ कार्रवाई की जाएगी।
सामान्य दिखने वाले विज्ञापनों पर भी नजर
मेटा के अनुसार, कुछ लोग ऐसे विज्ञापनों का इस्तेमाल कर रहे हैं जो पहली नजर में सामान्य या हानिरहित दिखाई देते हैं, लेकिन इनके जरिए यूजर्स को प्लेटफॉर्म के बाहर मौजूद अवैध सामग्री तक पहुंचाने की कोशिश की जाती है।
ऐसे मामलों की पहचान के लिए कंपनी ने बड़े भाषा मॉडल (LLM) आधारित सिस्टम तैयार किया है। यह सिस्टम विज्ञापनों में मौजूद संदिग्ध संकेतों को पहचानने के साथ उनके पीछे छिपी गतिविधियों का भी विश्लेषण करेगा।
विज्ञापन के साथ लिंक की भी होगी जांच
मेटा ने विज्ञापन की सामग्री की समीक्षा के साथ यह जांचने की व्यवस्था भी मजबूत की है कि कोई विज्ञापन यूजर को किस वेबसाइट या ऑनलाइन प्लेटफॉर्म पर ले जा रहा है। अगर किसी विज्ञापन से जुड़ा लिंक संदिग्ध पाया जाता है तो उसे ब्लॉक किया जा सकेगा। इसके साथ ही उससे जुड़े अकाउंट के खिलाफ भी कार्रवाई की जाएगी।
AI ‘रेड-टीमिंग एजेंट’ भी तैनात
मेटा ने अपने सुरक्षा सिस्टम की कमियों का पता लगाने के लिए AI आधारित ‘रेड-टीमिंग एजेंट’ भी तैनात किया है। यह सिस्टम सुरक्षा व्यवस्था को चुनौती देकर यह पता लगाने की कोशिश करेगा कि गलत गतिविधियों में शामिल लोग किस तरह सुरक्षा उपायों को चकमा देने की कोशिश कर सकते हैं।
कंपनी का कहना है कि इस प्रक्रिया से सुरक्षा व्यवस्था में मौजूद कमजोरियों की पहचान कर उन्हें समय रहते दूर करने में मदद मिलेगी।
भारत में 53 लाख से ज्यादा कंटेंट पर कार्रवाई
मेटा के मुताबिक, जनवरी से जून 2026 के बीच भारत में फेसबुक और इंस्टाग्राम पर बच्चों के यौन शोषण से जुड़े 53 लाख से अधिक कंटेंट के खिलाफ कार्रवाई की गई। कंपनी के अनुसार, इनमें 98 प्रतिशत से ज्यादा सामग्री की पहचान यूजर्स की शिकायत आने से पहले ही उसके सिस्टम ने कर ली थी। इसी अवधि में दुनियाभर में ऐसे 3.32 करोड़ कंटेंट पर कार्रवाई की गई। इनमें 97 प्रतिशत से अधिक मामलों की पहचान भी यूजर्स की रिपोर्ट से पहले ही कर ली गई थी।
मेटा ने कहा कि संदिग्ध अकाउंट्स को हटाने, बाहरी वेबसाइटों के लिंक को ब्लॉक करने और प्रतिबंधित गतिविधियों में शामिल लोगों द्वारा नए अकाउंट बनाकर वापस आने की कोशिशों को रोकने के लिए AI समेत कई तकनीकों का लगातार इस्तेमाल किया जा रहा है।
