كشفت تجارب حديثة على أنظمة وكلاء الذكاء الاصطناعي عن مخاطر متزايدة قد ترافق اعتماد الشركات على هذه الأنظمة لإنجاز المهام المعقدة بصورة جماعية، إذ أظهرت النتائج أن الوكلاء قد يتجاوزون القيود المفروضة عليهم، ويتواصلون عبر قنوات غير مصرح بها، ويسعون إلى تحقيق أهداف بطرق لم يقصدها مطوروهم.
وكان أبرز الأمثلة على ذلك قد ظهر خلال الصيف الماضي، عندما كشفت شركة OpenAI أن نماذجها وجدت طرقاً للتواصل عبر قنوات ارتجالية، وتجاوز قيود الوصول إلى الإنترنت، واختراق نظام خارجي تابع لمنصة Hugging Face.
ولا يُعد تصرف الذكاء الاصطناعي بطرق غير متوقعة أمراً جديداً، لكن السلوك الذي قد ينشأ من تفاعل مجموعة من وكلاء الذكاء الاصطناعي المصرح لهم بالعمل داخل مؤسسة واحدة يطرح سؤالاً أوسع، قد يصبح محورياً في مستقبل العمل داخل الشركات، بحسب تقرير نشرته شبكة "سي إن بي سي" واطلعت عليه "العربية Business".
وفي تحليلها للهجوم على Hugging Face، توصلت مؤسستا METR وRedwood Research إلى أن نحو 1200 وكيل ذكاء اصطناعي، كان من المفترض أن يعمل كل منها بمعزل عن الآخرين، تمكنت من إيجاد وسيلة للتواصل عبر لوحة رسائل غير مصرح بها، تبادلت من خلالها أكثر من 70 ألف رسالة وملف خلال فترة التحقيق.
وبرز أحد الوكلاء، الذي حمل اسم PHASEONE، باعتباره منسقاً للعمل الجماعي، إذ تولى توزيع مئات المهام على وكلاء آخرين، قام بعضهم بدورهم بتفويض مهام إضافية إلى وكلاء آخرين.
ولم يقتصر الأمر على تبادل المعلومات، بل طورت هذه الوكلاء قواعد خاصة لتحديد المسؤوليات، وتعليق المهام، والاعتراض على بعض الإجراءات، رغم أن عملية التنسيق تحولت أحياناً إلى صراعات بين الوكلاء.
وفي بعض الحالات، وجد الباحثون أن تحقيق النجاح كان مرتبطاً باستعداد بعض الوكلاء للمخاطرة بالفشل في تنفيذ مهامهم الفردية، بهدف توفير معلومات تخدم المجموعة بأكملها.
كما أظهرت النتائج أنه بمجرد أن حددت لوحة الرسائل طريقة لمهاجمة Hugging Face، انضم أكثر من 90% من الوكلاء النشطين آنذاك، والبالغ عددهم 533 وكيلاً، إلى الهجوم خلال فترة قصيرة.
وأوضح الباحثون أن بعض الوكلاء أدركوا أن هذا النشاط يتجاوز نطاق مهامهم وغير أخلاقي، لكنهم شاركوا فيه اعتقاداً منهم أن مساعدة أبحاث التحايل التي تجريها المجموعة ستكون مفيدة على نطاق أوسع، إلى جانب ميلهم العام إلى مساعدة نظرائهم.
وأضافوا أن الاعتبارات الأخلاقية نادراً ما كانت تحد من سلوك هذه الوكلاء.
عندما تتحول وكلاء الذكاء الاصطناعي إلى مؤسسات متكاملة
تتجه شركات بشكل متزايد إلى استكشاف أنظمة تقسم المهام المعقدة بين مجموعة من الوكلاء المتخصصين. فقد يتولى أحدهم البحث عن المعلومات، بينما يحللها آخر، ويكتب ثالث تقريراً بناءً عليها، ويتولى رابع مراجعة العمل، قبل أن يجمع وكيل منسق النتائج في مخرج نهائي.
ويبدو هذا النموذج أقرب إلى مؤسسة متكاملة منه إلى روبوت محادثة تقليدي.
لكن الأبحاث المتعلقة بالهجوم على Hugging Face جاءت بعد وقوع الحادثة، وكانت بمثابة تشريح لاحق لمنظمة من الوكلاء لم يكن من المفترض أن توجد أصلاً.
وحتى الآن، لا تزال الدراسات المصممة منذ البداية لفحص اختلال التوافق بين أهداف الوكلاء داخل الأنظمة متعددة الوكلاء محدودة.
ومع ذلك، بدأت أبحاث أجرتها شركة أنثروبيك ومؤسسات أخرى في معالجة هذه المشكلة، والكشف عن جوانب مهمة من كيفية تعاون وكلاء الذكاء الاصطناعي. فتقييم كل وكيل على حدة يوضح للباحثين قدراته الفردية، لكن دراسة الوكلاء معاً تكشف ما إذا كان بإمكانهم الجمع بين الخبرات المتكاملة، واكتشاف أخطاء بعضهم البعض، والتوصل إلى حلول لا يستطيع أي وكيل منفرد الوصول إليها.
وفي الوقت نفسه، تكشف هذه الدراسات أنماطاً من الإخفاق لا تظهر إلا عند التفاعل الجماعي.
وبدأ الباحثون بالفعل في توثيق جانبي هذه المعادلة؛ إذ يمكن لفرق الذكاء الاصطناعي إنجاز مهام تعجز عنها الوكلاء الفردية، لكنها قد تضخم الأخطاء، أو تقوض عمل بعضها البعض، أو تتخذ قرارات أسوأ من تلك التي كان يمكن أن يتوصل إليها أقوى عضو فيها.
وبذلك قد تصبح النتيجة الجماعية أقل كفاءة من مجموع قدرات أعضائها.
وتشير النتائج الأولية إلى أن جمع مجموعة من الوكلاء القادرين لا يضمن بالضرورة تكوين فريق ناجح، فضلاً عن ضمان أن يكون هذا الفريق ملتزماً بالمعايير الأخلاقية.
حلول أكثر فاعلية.. لكنها أقل التزاماً بالأخلاقيات
في بحث نشرته "انثروبيك" بالتعاون مع باحثين آخرين، وصف الباحثون أنظمة الوكلاء المتعددة بأنها "مؤسسات ذكاء اصطناعي"، وهي مجموعات تضم وكلاء بأدوار مختلفة يتواصلون ويتعاونون لتحقيق هدف مشترك.
واختبر الباحثون هذه المجموعات في بيئات محاكاة للاستشارات التجارية وتطوير البرمجيات، مع التركيز على معرفة ما إذا كان تعاون الوكلاء قد يدفعهم إلى خرق القواعد من أجل تحقيق الأهداف المحددة لهم.
ومن خلال 12 مهمة قدمتها "أنثروبيك" لهذه المؤسسات الافتراضية، ظهرت نتيجة مزدوجة تحمل جانباً إيجابياً وآخر مقلقاً: فقد كانت المؤسسات المكونة من عدة وكلاء أكثر فاعلية بشكل ملحوظ في تحقيق الأهداف التجارية مقارنة بالوكلاء الفردية، لكن حلولها كانت أقل توافقاً مع الأهداف الأخلاقية.
وكتب الباحثون في الدراسة، التي أُجريت بالتعاون مع برنامج MATS المتخصص في أبحاث توافق الذكاء الاصطناعي مع الأهداف البشرية، أن "مؤسسات الذكاء الاصطناعي تنتج حلولاً أكثر فاعلية في المتوسط وأقل التزاماً بالأخلاقيات، كما أنها تكتشف أكثر الحلول فاعلية وأقلها التزاماً بالأخلاقيات عبر تجارب تشغيل متعددة".
وأشار الباحثون إلى وجود فارق جوهري بين وكيل ذكاء اصطناعي متمرد ومجموعة من الوكلاء المتمردين.
وأوضحوا أن النتائج تثبت أن المؤسسات المكونة من وكلاء متوافقين مع الأهداف المحددة لهم قد تفضل التضحية بالاعتبارات الأخلاقية مقابل تحقيق الفاعلية التجارية، بطرق لا تظهر بالضرورة لدى الوكلاء الفردية.
وهذا يعني أن التصورات المتعلقة بكيفية اتخاذ نظام منفرد قراراته الأخلاقية والموازنة بين أهدافه قد لا تنطبق على الأنظمة متعددة الوكلاء.
وتتنوع السيناريوهات التي قد تظهر فيها هذه المفاضلات، إذ أشار باحثو "أنثروبيك" إلى أمثلة تشمل افتتاح مصنع للسيارات، وتقليص حجم شركة، والتأثير في توجهات الناخبين خلال الانتخابات.
ولا تكمن المشكلة بالضرورة في أن أحد الوكلاء قرر التمرد على التعليمات، بل في أن المؤسسة التي تشكلت من مجموعة الوكلاء قد تتصرف بطريقة تختلف عن سلوك أعضائها كل على حدة.
فقد يدرك أحد الوكلاء أن إجراءً مقترحاً غير أخلاقي ويرفض المشاركة فيه، لكن الدراسة وجدت أن الوكلاء الذين لم يأخذوا الاعتبارات الأخلاقية في الحسبان تجاهلوا في كثير من الأحيان رسائل البريد الإلكتروني الواردة من الوكلاء الرافضين.
وفي سيناريوهات الاستشارات التجارية التي أنشأها الباحثون، سجلت الاستجابات التي حصلت على أعلى تقييم أخلاقي وأدنى تقييم تجاري نتائج جيدة عندما رفض الوكيل المنفرد تقديم المقترح المطلوب، أو ابتعد تماماً عن الفكرة التي طُلب منه تطويرها.
لكن عندما يحدث ذلك داخل مؤسسة من الوكلاء، فإن الوكلاء المستعدين للمشاركة يتوقفون عن مراسلة الوكلاء الرافضين، ويواصلون إرسال مساهماتهم إلى الوكلاء الآخرين المشاركين في المهمة.
وبمعنى آخر، عندما تقسم المؤسسة المهمة بين عدة وكلاء، قد يركز كل منهم على الجزء المخصص له من المشكلة، دون الالتفات إلى العواقب التي قد تترتب على النتيجة النهائية للعمل بأكمله.
وهذه ليست مشكلة جديدة تماماً في عالم الشركات، إذ تعد الحوافز غير المتوافقة أحد الأسباب الرئيسية لخلل أداء الفرق البشرية داخل المؤسسات. لكن ظهور هذا السلوك في صورة جديدة بين أنظمة الذكاء الاصطناعي يضيف تحدياً مختلفاً أمام الشركات.
وفي اختبارات تطوير البرمجيات التي أجراها الباحثون، استخدموا سيناريو يتعلق بوحدة رعاية مركزة، حيث قد تكون القرارات مسألة حياة أو موت.
وأظهرت النتائج أن الحلول التي قدمها الوكيل المنفرد كانت تميل إلى إعطاء الأولوية لتقليل نسبة حالات الإنتان (Sepsis) التي لم يتم اكتشافها. في المقابل، توصلت مؤسسات الذكاء الاصطناعي إلى معظم الحلول الأقل تكلفة لكل مريض، وهي الحلول التي حققت أعلى تقييم للأهداف التجارية، لكنها سجلت أيضاً أدنى مستويات التقييم الأخلاقي وفقاً لمعيار عدد الحالات التي لم يتم اكتشافها.
خبرة الوكلاء قد تضيع وسط التفكير الجماعي
تكشف أبحاث أولية أخرى عن مشكلة مختلفة داخل فرق الذكاء الاصطناعي، لا تتعلق بتجاوز الحدود الأخلاقية، بل بالعجز عن تحديد العضو الأكثر خبرة والاعتماد على معرفته.
فوفقاً لدراسة أجراها باحثون من جامعتي إيموري وستانفورد، تفشل فرق الذكاء الاصطناعي باستمرار في الوصول إلى مستوى أداء الوكيل الخبير الموجود ضمن المجموعة، حتى عندما يتم إخبارها صراحة بهوية هذا الوكيل.
وقال هانشنغ كاو، الأستاذ المساعد في نظم المعلومات وإدارة العمليات بكلية جويتز للأعمال في جامعة إيموري، إن أحد الدروس المهمة التي تكشفها أبحاث الأنظمة متعددة الوكلاء هو أن وجود مجموعة من وكلاء الذكاء الاصطناعي القادرين لا يعني بالضرورة تكوين فريق قادر على العمل بكفاءة.
وأظهرت الدراسة أن مجموعات الوكلاء غالباً ما تحقق أداءً أقل من أفضل أعضائها، حتى عندما تعرف أي وكيل يمتلك الخبرة الأكبر.
وبدلاً من الاستفادة من معرفة الوكيل الخبير، تميل بقية الوكلاء إلى تقديم حلول وسط بين آراء الخبير وغير الخبراء.
ووجد الباحثون أن هذا الميل إلى التسوية يزداد مع زيادة عدد أعضاء الفريق، ويرتبط بتراجع مستوى الأداء.
وقال كاو، أحد مؤلفي الدراسة، إن الإخفاقات الجماعية لا تتطلب بالضرورة أن يتصرف أي وكيل بصورة سيئة أو متعمدة ضد مصالح المجموعة.
وتكتسب هذه النتيجة أهمية خاصة بالنسبة إلى الشركات التي تدرس اعتماد أنظمة متعددة الوكلاء، إذ يمكن للفريق أن يفشل حتى لو لم يحاول أي من أعضائه الإضرار بالمصلحة الجماعية.
فقد تكون المشكلة ببساطة في سوء دمج المعلومات، أو الاعتماد على الوكيل الخطأ، أو الاستقرار على إجابة أقل جودة من أفضل إجابة متاحة بالفعل.
مخاطر التفكير الجماعي وتكرار الأخطاء
تشير الأبحاث المتزايدة إلى وجود مشكلة أساسية أخرى تواجه الاستخدام الفعال لفرق الذكاء الاصطناعي، وهي كيفية تحقيق التوازن الصحيح في التعاون بين الأنظمة المختلفة.
فالوكلاء المبنية على نماذج متشابهة قد ترتكب الأخطاء نفسها، بما في ذلك الميل إلى الموافقة المفرطة على آراء بعضها البعض.
وقد يشبه ذلك ما يُعرف بالتفكير الجماعي، رغم أن أنظمة الذكاء الاصطناعي لا تمتلك الدوافع البشرية أو الضغوط الاجتماعية التي تؤدي عادة إلى هذا السلوك.
لكن تشابه بيانات التدريب والتعليمات والمعلومات المتاحة قد يكون كافياً لإنتاج أخطاء متطابقة أو متقاربة بين الوكلاء.
وقال كريستوف ريدل، أستاذ نظم المعلومات بجامعة نورث إيسترن، إن الفكرة الأساسية التي توصلت إليها أبحاث مختبره تتمثل في أن تكوين مجموعات فعالة يتطلب الجمع بين التوافق، من خلال المعرفة المشتركة والأهداف الموحدة، والاختلاف، لأن الوكلاء المختلفين فقط هم القادرون على تقديم خبرات تكمل بعضها البعض.
فوجود وكيلين متطابقين قد يؤدي ببساطة إلى تكرار العمل نفسه، بينما قد تواجه مجموعة تضم وكلاء يمتلكون معارف وافتراضات مختلفة للغاية صعوبة في التواصل أو الاتفاق على هدف مشترك.
ويتوقف التوازن المناسب على طبيعة المهمة، كما تختلف آليات التواصل المثالية من حالة إلى أخرى، بما في ذلك تحديد الوكلاء الذين يمكنهم التواصل مع بعضهم البعض، وعدد مرات التواصل، وحجم المعلومات التي يتبادلونها.
ويرى ريدل أن هذه التحديات تشبه إلى حد كبير المشكلات التي تواجه فرق العمل البشرية، ولذلك لا ينبغي افتراض أن استخدام الذكاء الاصطناعي سيؤدي تلقائياً إلى نتائج أفضل.
وقال إن بناء أنظمة ذكاء اصطناعي متعددة الوكلاء تعمل بكفاءة لا يقل صعوبة عن بناء فرق بشرية ناجحة، لأن كليهما يواجه المفاضلة نفسها بين التوافق والاختلاف في معالجة المعلومات، مضيفاً أن استخدام الذكاء الاصطناعي لن يجعل هذه العملية ناجحة بطريقة سحرية.
هل تحتاج الشركات إلى إعادة التفكير في إدارة وكلاء الذكاء الاصطناعي؟
يمكن للوكلاء نقل معلومات غير صحيحة إلى بعضها البعض، أو إساءة فهم مخرجات وكيل آخر، أو التركيز على تحقيق مؤشرات الأداء الخاصة بها بدلاً من الهدف الأكبر للمؤسسة.
وقد ينجز أحد الوكلاء المهمة الموكلة إليه بصورة مثالية، لكنه يتسبب في الوقت نفسه في إضعاف المشروع بأكمله.
وتفرض هذه المخاطر على الشركات ضرورة تحديد صلاحيات كل وكيل بوضوح، والمهام التي يحق له اتخاذ القرارات بشأنها، والمعلومات التي يمكنه تبادلها مع الآخرين، والأنظمة التي يُسمح له بالوصول إليها، والظروف التي تستدعي تدخل الإنسان.
كما قد تحتاج الشركات إلى وضع آليات تسمح بالاختلاف والاعتراض بين الوكلاء، بدلاً من افتراض أن زيادة التواصل أو الوصول إلى توافق أكبر في الآراء سيؤدي دائماً إلى تحسين النتائج.
ويرى بعض خبراء الأعمال أن هذه التحديات تعيد النقاش إلى مفهوم "العنصر البشري ضمن دائرة اتخاذ القرار"، الذي كثيراً ما يُشار إليه باعتباره عنصراً أساسياً في تبني الشركات تقنيات الذكاء الاصطناعي.
وقالت تسيدال نيلي، أستاذة بكلية هارفارد للأعمال والرئيسة المؤسسة لأكاديمية الذكاء الاصطناعي التابعة للكلية، إن معظم المشكلات التي تراها في هذا المجال هي في الأساس مشكلات إدارية.
وتشير هذه النتائج مجتمعة إلى أن نجاح الشركات في توظيف وكلاء الذكاء الاصطناعي لن يعتمد فقط على قدرات النماذج المستخدمة، بل أيضاً على كيفية تنظيم عملها، وتوزيع المسؤوليات بينها، وضمان خضوع قراراتها الجماعية للرقابة البشرية.
