أعلنت شركة ميتا يوم الأربعاء أنها اتخذت إجراءات ضد 33.2 مليون قطعة من المحتوى المرتبط بالاستغلال الجنسي للأطفال على منصتي "فيسبوك" و"إنستغرام" خلال النصف الأول من عام 2026، بالتزامن مع إطلاق أدوات جديدة تعتمد على الذكاء الاصطناعي لاكتشاف الإعلانات والحسابات التي قد تُستخدم سرًا لتوجيه المستخدمين إلى مواد غير قانونية تتعلق بالاعتداء على الأطفال.
وقالت الشركة إن أنظمتها اكتشفت أكثر من 97% من المحتوى الذي اتخذت إجراءات بحقه قبل أن يبلغ عنه المستخدمون.
وفي الهند، تعاملت "ميتا" مع 5.3 مليون قطعة من محتوى الاستغلال الجنسي للأطفال خلال الفترة نفسها، واكتشفت أنظمتها أكثر من 98% منها قبل تلقي بلاغات من المستخدمين.
وأوضحت "ميتا" أن أحدث أدوات الذكاء الاصطناعي لديها تستهدف الأشخاص الذين يستخدمون إعلانات تبدو غير ضارة ظاهريًا، لكنها تهدف في الواقع إلى توجيه المستخدمين إلى محتوى غير قانوني خارج منصات الشركة، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".
الذكاء الاصطناعي يراقب الوجهة وليس محتوى الإعلان فقط
أدخلت الشركة نظامًا جديدًا يعتمد على نموذج لغوي كبير (LLM) لاكتشاف ما تسميه "ميتا" الإشارات التوجيهية.
ويقصد بذلك الإعلانات التي قد تبدو طبيعية وغير مخالفة، لكن يُشتبه في أنها توجه المستخدمين إلى محتوى غير قانوني أو أنشطة ضارة في أماكن أخرى من الإنترنت.
وقالت "ميتا" إنها رصدت مؤخرًا استخدام الجهات المسيئة لهذا الأسلوب، في ظل استمرارها في تغيير طرق عملها لتجنب اكتشافها.
وعلى الرغم من أن الإعلانات نفسها قد لا تتضمن أي مواد غير قانونية، فإنها يمكن أن تعمل كبوابة للوصول إلى مواقع تستضيف مواد الاعتداء الجنسي على الأطفال.
ولهذا السبب، بدأت "ميتا" في تحليل الوجهة التي يرسل إليها الإعلان المستخدم، وليس الاكتفاء بتحليل محتوى الإعلان نفسه.
ويمكن للشركة استخدام هذه المعلومات لحظر المواقع أو الوجهات الأخرى التي تنتهك قواعدها، إلى جانب اتخاذ إجراءات ضد الحسابات المسؤولة عنها.
كما تستخدم "ميتا" عمليات فحص إضافية مدعومة بالذكاء الاصطناعي للبحث عن محتوى استغلال الأطفال الذي ربما لم تتمكن الأنظمة السابقة من اكتشافه.
وأكدت الشركة أنها ستواصل إضافة مؤشرات جديدة إلى أنظمتها مع اكتساب مزيد من المعرفة حول طريقة عمل هذه الشبكات وأساليبها.
وكيل ذكاء اصطناعي لاختبار أنظمة الحماية
ومن بين الأدوات الجديدة أيضًا "وكيل ذكاء اصطناعي للاختبار الهجومي" (Red-Teaming AI Agent)، والذي يختبر إجراءات السلامة والحماية الخاصة بشركة ميتا.
ويبحث هذا الوكيل عن نقاط ضعف يمكن للجهات المسيئة استغلالها للتحايل على أنظمة الحماية التي تعتمد عليها الشركة.
وترى "ميتا" أن هذه الأداة يمكن أن تساعدها في اكتشاف أساليب جديدة للإساءة والاستغلال قبل أن تصبح أكثر انتشارًا.
كما تعمل الشركة على تحسين أنظمتها لاكتشاف الأشخاص الذين يعودون إلى منصاتها باستخدام حسابات جديدة بعد إزالة حساباتهم السابقة.
ضغوط متزايدة على "ميتا" بشأن حماية الأطفال
تأتي الإجراءات الجديدة في وقت تواجه فيه "ميتا" ضغوطًا متزايدة بشأن سلامة الأطفال على منصاتها.
وتعرضت الشركة لدعاوى قضائية وانتقادات من مشرعين بسبب المخاطر التي قد تشكلها خدمات التواصل الاجتماعي التابعة لها على المستخدمين الأصغر سنًا.
وفي أغسطس، توصلت "ميتا" إلى اتفاق لدفع ما يصل إلى 18 مليار دولار لتسوية دعوى قضائية تتعلق بسلامة الأطفال، رفعتها 29 ولاية أميركية، وتناولت المخاوف المرتبطة بحماية الأطفال على الإنترنت.
وأطلقت "ميتا" خلال العام الحالي مجموعة من خصائص حماية الأطفال، من بينها أدوات الرقابة الأبوية على Meta AI، وحسابات مخصصة للأطفال قبل سن المراهقة على "واتساب"، وتنبيهات للآباء عندما يبحث أطفالهم على "إنستغرام" عن محتوى متعلق بإيذاء النفس.
وفي سبتمبر، أضاف "واتساب" مزيدًا من أدوات الرقابة الأبوية، إذ أصبح بإمكان الآباء وضع قيود على طريقة استخدام المراهقين لميزة Channels، والتحكم في الأشخاص الذين يمكنهم رؤية تحديثات الحالة، وتحديد من يستطيع إضافة أطفالهم إلى المجموعات.
كما يمكن للآباء اختيار تلقي إشعارات بشأن أنشطة معينة داخل المجموعات.
