يشير بحث نشره مؤخرًا فريق "Frontier Red Team" التابع لشركة أنثروبيك إلى أن نماذج الذكاء الاصطناعي الصغيرة قد لا يفصلها عن القدرة على استنساخ نفسها والانتشار عبر الأجهزة غير المؤمّنة سوى بضعة أشهر، ما قد يؤدي إلى إنشاء شبكات روبوتات خبيثة ذاتية التشغيل، تتحرك ببطء لكن يصعب القضاء عليها.
ولا تُعد شركات الذكاء الاصطناعي غريبة عن الترويج لاحتمالات أن تؤدي منتجاتها إلى نهاية العالم، كوسيلة تسويقية. لكن في هذه الحالة، يتفق الخبراء الذين تحدث إليهم موقع "Engadget" عمومًا على أن نماذج الذكاء الاصطناعي الصغيرة قد تصبح قادرة على استنساخ نفسها في المستقبل القريب.
ومع ذلك، قد يكون التهديد الفعلي الذي تمثله مختلفًا عما يبدو عليه الأمر للوهلة الأولى، بحسب تقرير لموقع "Engadget" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".
وقال كريس كانال، الرئيس التنفيذي لشركة إيكوي ستامب، التي تعمل مع مختبرات الذكاء الاصطناعي ومنظمات السلامة والحكومات للتحقق من النماذج وتقييمها: "ربما يحدث ذلك في وقت أقرب قليلًا مما كنت أتوقع. كنت سأرجح أن يكون الصيف المقبل هو الموعد الذي سأبدأ فيه القلق بشأن هذا الأمر".
وأضاف: "من المرجح جدًا أن يكون لدى موظفي أنثروبيك معلومات عن أحدث ما توصلت إليه الأبحاث لا أستطيع الوصول إليها. لذلك، من الممكن جدًا أن تكون توقعاتهم أفضل".
وعزا كانال التسارع الأخير في تطوير النماذج إلى استعانة موظفي "أنثروبيك" ومختبرات الذكاء الاصطناعي الرائدة الأخرى بأدوات الذكاء الاصطناعي الخاصة بهم لإجراء أبحاث التعلم الآلي.
وقال مايكل بيلي، الأستاذ في كلية الأمن السيبراني والخصوصية بمعهد جورجيا للتكنولوجيا: "أعتقد أن النماذج القادرة على استنساخ نفسها ستظهر مستقبلًا. أعتقد أنها حقيقية، وأعتقد أننا سنراها".
وأضاف: "لكن ما إذا كانت ستتخذ الشكل نفسه الذي تصوره أنثروبيك، وستترتب عليها العواقب نفسها التي تتحدث عنها الشركة، فهذا سؤال لا تزال إجابته مفتوحة تمامًا".
من هجمات ميراي إلى شبكات الروبوتات المدعومة بالذكاء الاصطناعي
يدرس بيلي ديدان الإنترنت منذ أوائل العقد الأول من القرن الحالي، وانتقل في الآونة الأخيرة إلى دراسة شبكات الروبوتات الخبيثة. وفي عام 2017، شارك في تأليف دراسة بعنوان "فهم شبكة ميراي للروبوتات الخبيثة"، وهي إحدى الدراسات التي استندت إليها "أنثروبيك" في بحثها.
أتاحت شبكة "ميراي" لمجموعة من مجرمي الإنترنت إنشاء شبكة ضخمة من أجهزة إنترنت الأشياء، استخدموها لاحقًا لتنفيذ هجوم حجب الخدمة الموزع ضد شبكة "بلاي ستيشن" التابعة لشركة سوني.
وخلال الهجوم، تأثرت أيضًا شركة "داين"، إحدى أكبر مزودي خدمات نظام أسماء النطاقات (DNS) في الولايات المتحدة. وأدى ذلك إلى تعطّل أجزاء كبيرة من الإنترنت عام 2016، وخروج خدمات "أمازون" و"غيت هب" و"باي بال" و"ريديت" و"تويتر" عن الخدمة لدى كثير من المستخدمين في أنحاء الولايات المتحدة وأجزاء من أوروبا.
وكانت الخسائر المالية للهجوم كبيرة، إذ قدرت "سوني" أن صافي إيراداتها انخفض بنحو 2.7 مليون دولار نتيجة لذلك.
وقال بيلي: "أظهرت ميراي أنه يمكن إنشاء شبكات الروبوتات الخبيثة من أجهزة يومية، وجعلها مفيدة للمهاجمين، مثل أجهزة توجيه الإنترنت المنزلية والكاميرات المتصلة ببروتوكول الإنترنت"، وأضاف: "كنا نعتقد أن هذه الأجهزة لا تمثل فائدة كبيرة للجهات المهاجمة، سواء بوصفها أهدافًا أو مصادر للقدرة الحاسوبية اللازمة لشن الهجمات. لكنها في الواقع فعالة جدًا في تنفيذ هذه المهام".
وبعد مرور عقد على تلك الهجمات، ترى "أنثروبيك" أن الديدان المدعومة بالذكاء الاصطناعي قد تمثل تطورًا مهمًا مقارنة بشبكة "ميراي" وغيرها من شبكات الروبوتات التي تعتمد على تعليمات برمجية ثابتة، مثل "كيم وولف"، لأنها قد تتمكن من التعامل مع أجهزة غير مألوفة من تلقاء نفسها.
لكن بيلي يرى أن القدرة على التكيف ليست جديدة في حد ذاتها. فقد عملت "ميراي" بالفعل عبر أجهزة متنوعة، من أجهزة توجيه الإنترنت إلى كاميرات بروتوكول الإنترنت، رغم اختلاف معمارياتها الحاسوبية.
غير أن قدرة "ميراي" على التكيف كانت محدودة؛ إذ كان التعامل مع كل معمارية جديدة يتطلب تدخلًا بشريًا، على الأقل لإعادة ترجمة البرمجيات الخبيثة بما يتناسب معها.
وأوضح بيلي أن الجديد المحتمل هو أتمتة هذه العملية باستخدام الذكاء الاصطناعي، لكنه لا يعتقد أن "أنثروبيك" قدمت دليلًا مقنعًا على ذلك.
هل يغيّر الذكاء الاصطناعي طبيعة الهجمات الإلكترونية؟
يرى بيلي أن نماذج الذكاء الاصطناعي الأكثر تقدمًا قد تعيد توزيع الأدوار بين الجهات التي تنشئ شبكات الروبوتات الخبيثة والجهات التي تحاول التصدي لها.
وقال: "لن يفعل الذكاء الاصطناعي أشياء جديدة، بل سيغير المعادلة الاقتصادية بين المهاجمين والمدافعين".
وأوضح أن "أنثروبيك" أظهرت قدرة أحد النماذج على الانتقال بين الأجهزة وإعداد بيئة لتشغيل الاستدلال على كل جهاز، لكنها أجرت التجربة داخل شبكة محاكاة، وكان استغلال الثغرة المستخدم فيها بسيطًا للغاية.
كما اعترض بيلي على وصف ما أظهرته التجربة بأنه استنساخ ذاتي.
وقال: "هذا الوصف ليس دقيقًا تمامًا، لأن ما يفعلونه يتضمن أمورًا مثل تقسيم النموذج إلى أجزاء. وهذا ليس أمرًا سيئًا، لكنه لا يشبه دودة أو فيروسًا ينتشر بالكامل".
وبدلًا من ذلك، يرى بيلي أن شبكة روبوتات خبيثة مدعومة بالذكاء الاصطناعي في العالم الحقيقي قد تعمل بطريقة أقرب إلى ما يُعرف باسم "Dropper"، وهو نوع من البرمجيات الخبيثة يتمكن من الوصول إلى جهاز، ثم يثبّت عليه شيفرات برمجية أخرى.
وبحسب هذا التصور، لن تنسخ الشبكة نفسها بالكامل إلى كل جهاز تخترقه، بل ستثبت أداة صغيرة للتنسيق وتلقي التعليمات من جهة أخرى داخل الشبكة.
وقال بيلي: "إن تصوير الأمر على أن البرمجية الخبيثة تستنسخ نفسها، مثل ديدان الإنترنت التقليدية التي تنسخ شيفرتها البرمجية نفسها إلى معمارية جديدة، ثم تشغّل وكيلًا جديدًا، لا يعكس ما يحدث فعلًا".
وأشار أيضًا إلى أن بعض الديدان الحاسوبية تستطيع تغيير بصمتها الرقمية وسلوكها، وهي خاصية تُعرف باسم "تعدد الأشكال". ولكي تتمكن شبكة روبوتات مدعومة بالذكاء الاصطناعي من فعل ذلك، يرى بيلي أنها ستحتاج إلى إعادة تدريب نماذجها بنفسها، وهو أمر لم تختبره "أنثروبيك".
وكان أقرب ما وصلت إليه الشركة هو إظهار أن نسخًا من أحد النماذج يمكنها تبادل الملاحظات مع النسخ التي تخلفها، وتحسين قدرتها تدريجيًا على إعداد بيئة تشغيل الاستدلال.
هل تبالغ شركات الذكاء الاصطناعي في تصوير التهديد؟
كما هو الحال مع أي تحذير يصدر عن أحد مختبرات الذكاء الاصطناعي، يظل من المهم التساؤل عما إذا كانت "أنثروبيك" قد نشرت هذا البحث لأغراض تسويقية، خصوصًا أن الشركة تقدمت رسميًا بطلب لطرح أسهمها للاكتتاب العام بعد ذلك بوقت قصير.
لكن كانال يرى أن التفسير الأرجح هو أن شركات الذكاء الاصطناعي تشعر بالقلق من تهور الشركات المنافسة.
وقال: "إنها تدرك أن الشركات لديها حوافز لتطوير أفضل نموذج وطرحه في السوق بسرعة أكبر، حتى تتمكن من زيادة حصتها السوقية، كما تعلم أن الشركات الأخرى لديها الحوافز نفسها".
وبغض النظر عما إذا كان هذا التهديد الجديد يُصنف فعلًا ضمن الديدان الحاسوبية، أو عن المدة التي قد يستغرقها ظهوره، فإن الحلول التي اقترحتها "أنثروبيك" للحد من أضراره تبدو تقليدية على نحو لافت.
واقترحت الشركة أن يخطر مزودو خدمات الإنترنت العملاء عند إصابة أجهزتهم، ثم يقيّدوا اتصالها بالإنترنت بحيث لا تتمكن من الوصول إلا إلى قائمة قصيرة من المواقع الآمنة. وقد استُخدمت استراتيجية مماثلة خلال هجمات "ميراي" وحققت نتائج فعالة.
