رغم كل ما يتمتع به الذكاء الاصطناعي من قدرات متقدمة، والتي قد تصل أحيانًا إلى مستويات مذهلة من الذكاء، فإن إعطاءه التعليمات قد يبدو في بعض الأحيان أشبه بالتحدث إلى طفل صغير.
تكتب له مطالبة مفصلة تشرح بالضبط ما تريده، لكنه ينفذ شيئًا له علاقة بما طلبته، دون أن يكون هو ما قصدته فعليًا.
لكن علماء طوروا الآن نظامًا يمكنه رصد عبارة "هذا ليس ما قصدته" غير المنطوقة مباشرة من موجات الدماغ، ما قد يسمح للذكاء الاصطناعي باكتشاف أنه أساء فهم المستخدم ومحاولة تصحيح نفسه في الوقت الفعلي.
وطور باحثون في المعهد الكوري المتقدم للعلوم والتكنولوجيا (KAIST)، بالتعاون مع Microsoft Research Asia، تقنية لواجهة دماغ-حاسوب أطلقوا عليها اسم Neural Value Alignment (NVA)، أو "المواءمة العصبية للقيمة".
وتستخدم التقنية تخطيط كهربية الدماغ (EEG) لرصد الاستجابات الدماغية المختلفة التي تظهر عندما يرى الشخص أن الذكاء الاصطناعي يسعى إلى تحقيق هدف خاطئ أو يتخذ إجراءً غير متوقع.
ويمكن بعد ذلك استخدام هذه الإشارات كنوع من التغذية الراجعة لمساعدة الذكاء الاصطناعي على تحديد الخطأ الذي ارتكبه بالضبط وتعديل سلوكه وفقًا لذلك، بحسب تقرير نشره موقع "newatlas" واطلعت عليه "العربية Business".
كيف يعرف الذكاء الاصطناعي ما الذي تريده فعلًا؟
إذا كان البشر والذكاء الاصطناعي سيعملون معًا بسلاسة، فيجب على النظام أن يفهم بدقة ما يحاول الإنسان تحقيقه، وليس فقط ما يقوله أو يفعله.
وتعتمد أنظمة الذكاء الاصطناعي الحالية في الغالب على مؤشرات يمكنها ملاحظتها، مثل النصوص التي يكتبها المستخدم، والكلام، والأفعال، والإيماءات.
لكن السلوك البشري قد يكون غامضًا للغاية، حتى بالنسبة إلى إنسان آخر، فما بالك بخوارزمية.
وكما يوضح الباحثون، يمكن للفعل نفسه أن يخدم أهدافًا مختلفة تمامًا، في حين يمكن تحقيق الهدف الواحد بعدة أفعال مختلفة.
على سبيل المثال، إذا التقطت كوبًا، فقد تكون تخطط للشرب منه، أو غسله، أو نقله إلى مكان آخر، أو إعطائه لشخص آخر.
وفي المقابل، إذا كان هدفك الحقيقي هو إرواء عطشك فقط، فيمكنك التقاط الكوب، أو الإمساك بزجاجة مياه، أو مطالبة شخص آخر بإحضار مشروب لك.
وهذه المشكلة أطلق عليها الباحثون "غموض الهدف والفعل" (Goal-Action Ambiguity)، إذ إن مراقبة الفعل وحده لا تكشف بالضرورة الهدف الحقيقي وراءه، ولا الطريقة التي يفضل الشخص استخدامها لتحقيق هذا الهدف.
الدماغ يرسل إشارة عندما لا تسير الأمور كما تتوقع
الحل الذي قدمه الباحثون هو التوقف عن الاعتماد فقط على ما يطلبه الشخص بشكل مباشر، سواء من خلال الأفعال أو الأوامر النصية والصوتية، والاستعانة بدلًا من ذلك بإشارة تأكيد تأتي من الدماغ نفسه.
فالدماغ البشري يتنبأ باستمرار بما يفترض أن يحدث لاحقًا، وعندما تختلف النتيجة عن هذا التوقع، يمكن أن تظهر استجابات عصبية مميزة.
وركز الفريق على نوعين من هذه الاستجابات، هما خطأ توقع المكافأة (Reward Prediction Error - RPE) وخطأ توقع الحالة (State Prediction Error - SPE).
يشير خطأ توقع المكافأة إلى وجود اختلاف بين النتيجة التي تحققت والهدف الذي كان الشخص يتوقع الوصول إليه.
وفي نظام NVA، يمكن لهذه الإشارة أن توضح أن الذكاء الاصطناعي أساء فهم ما يريده المستخدم في النهاية.
مثلًا، إذا قلت لروبوت منزلي: "أحضر لي شيئًا أشربه"، بينما كنت تريد المياه، لكنه أحضر لك القهوة، فإن النتيجة نفسها خاطئة. ولذلك يولد الدماغ إشارة مرتبطة بخطأ توقع المكافأة.
أما خطأ توقع الحالة (SPE)، فهو مختلف قليلًا؛ إذ يعكس حدوث انتقال غير متوقع بين الحالات، بمعنى أن الهدف النهائي يمكن أن يكون صحيحًا، لكن الإجراء الذي اختاره الذكاء الاصطناعي أو الخطوة الوسيطة أو طريقة التنفيذ تختلف عما كان يتوقعه المستخدم.
وبعبارة أبسط، يمكن لإشارة SPE أن تعني للنظام: "نعم، هذا هو المكان الذي أردت الوصول إليه، لكن ليس بهذه الطريقة".
عندما يحقق الروبوت الهدف بالطريقة الخطأ
لنفترض أنك تريد المياه، وقد فهم الروبوت ذلك بشكل صحيح. لكنه بدلًا من التقاط زجاجة المياه الموجودة بجانبك، يتوجه إلى المطبخ ويملأ كوبًا من الصنبور.
لقد حصلت في النهاية على المياه، وبالتالي فالهدف صحيح، لكن الفعل أو تسلسل الخطوات اختلف عما كنت تتوقعه. وهنا يمكن أن يتولد خطأ توقع الحالة.
وأجرى الباحثون تجارب أظهرت أنماطًا مختلفة من موجات الدماغ اعتمادًا على ما إذا كان هناك خطأ في توقع المكافأة، أو خطأ في توقع الحالة، أو كلا النوعين من الأخطاء في الوقت نفسه.
بعد ذلك، استخدم الفريق تقنيات التعلم العميق لتحليل إشارات EEG، ما أتاح للنظام تصنيف استجابة الشخص لسلوك الذكاء الاصطناعي.
وبذلك يمكن للنظام التمييز بين حالتين مختلفتين دون أن يقول المستخدم أي شيء: هل أخطأ الذكاء الاصطناعي في فهم الهدف نفسه، أم أنه فهم الهدف لكنه اختار الطريقة الخاطئة لتحقيقه؟
الذكاء الاصطناعي يصحح مساره من إشارات الدماغ
نفذ الباحثون النظام من خلال خوارزمية أطلقوا عليها اسم "خوارزمية التآزر بين الإنسان والذكاء الاصطناعي القائمة على المواءمة العصبية للقيمة".
وتستخدم الخوارزمية الإشارات العصبية التي جرى فك تشفيرها باعتبارها تغذية راجعة لعملية اتخاذ القرار لدى الذكاء الاصطناعي.
ولا يقتصر النظام على اكتشاف أن هناك خطأ وتحديد نوعه، بل يمكنه أيضًا استخدام هذه التغذية الراجعة لتغيير مسار تصرفاته في الوقت الفعلي، اعتمادًا على نوع الإشارة العصبية التي يرصدها.
وتتجاوز أهمية هذا البحث مجرد التخلص من المحادثات المزعجة أحيانًا مع روبوتات الدردشة. فنظام قادر على اكتشاف هذا النوع من الاختلاف غير الواعي يمكن أن يصبح مفيدًا في أي بيئة تحتاج إلى تعاون وثيق بين البشر والآلات التي يتحكم فيها الذكاء الاصطناعي.
على سبيل المثال، يمكن لروبوت منزلي في المستقبل أن يكتشف من الاستجابة العصبية للمستخدم أنه أساء فهم التعليمات، ثم يغير مساره دون انتظار أن يصححه الشخص لفظيًا.
ويمكن تطبيق الفكرة نفسها مستقبلًا في الروبوتات الصناعية، والمركبات ذاتية القيادة التي تستجيب لتقديرات السائق، والروبوتات الطبية وروبوتات إعادة التأهيل المخصصة للأشخاص الذين يواجهون صعوبة في الكلام أو الحركة، إضافة إلى أنظمة التعليم القادرة على التكيف مع الحالة المعرفية للطالب.
وقال البروفيسور سانغ وان لي، الذي قاد البحث، إن أهمية الدراسة تكمن في أنها تظهر إمكانية انتقال الذكاء الاصطناعي من الاعتماد على النتائج السلوكية المرئية فقط لاستنتاج نوايا البشر، إلى استخدام الإشارات المعرفية التي يولدها الدماغ مباشرة أثناء التعاون بين الإنسان والذكاء الاصطناعي.
ما زال الطريق طويلًا قبل قراءة أفكارك
رغم ذلك، لا تزال هناك خطوات عديدة تفصل هذا البحث عن الوصول إلى مرحلة يكفي فيها أن تنظر إلى الروبوت بنظرة استياء ليتوقف عن العمل فورًا.
فالنظام جرى إثبات فعاليته في عمليات محاكاة، وليس من خلال تجربة واقعية يعمل فيها روبوت بصورة مستقلة داخل منزل، ويقرأ باستمرار إشارات EEG الخاصة بشخص ويتعلم من أخطائه ويصحح سلوكه.
إضافة إلى ذلك، يتطلب تخطيط كهربية الدماغ استخدام أقطاب كهربائية لقياس الإشارات الكهربائية بالغة الصغر التي ينتجها الدماغ، وهذه الإشارات قد تكون عرضة للتشويش، كما أن الحصول عليها خارج بيئات التجارب الخاضعة للسيطرة أقل سهولة بكثير.
ولهذا، سيكون من المهم مستقبلًا تحديد مدى موثوقية تقنية NVA أثناء التفاعلات الطبيعية، عندما يتحرك الأشخاص بحرية ويتعاملون مع مواقف أكثر تعقيدًا وفوضوية بكثير من المهام المصممة داخل المختبر.
ورغم أن التقنية لا تعني أن الذكاء الاصطناعي أصبح قادرًا على قراءة الأفكار بالمعنى الحرفي، فإنها تفتح اتجاهًا جديدًا للتواصل بين البشر والآلات، بحيث لا يضطر المستخدم دائمًا إلى شرح الخطأ بالكلمات، بل يمكن لإشارات دماغه نفسها أن تصبح جزءًا من لغة التفاعل مع الذكاء الاصطناعي.
