قال مهندس برمجيات إن وكيل الذكاء الاصطناعي "ميوز" من شركة ميتا قال شيئًا غريبًا ومقلقًا إلى حد دفعه إلى التوقف عن استخدامه نهائيًا.
وفي مقال يروي فيه تجربته الشخصية لموقع "بيزنس إنسايدر"، أوضح أوغو نووني أنه أراد تجربة وكيل الذكاء الاصطناعي التابع لشركة ميتا، لأنه شعر بقدر من الأمان عند استخدام ذكاء اصطناعي تطوره شركة تبلغ قيمتها تريليون دولار، بدلًا من الانخراط في عالم وكلاء الذكاء الاصطناعي مفتوح المصدر الذي يفتقر إلى الضوابط الواضحة.
وأكد نوني أنه عند إعداد وكيل "ميوز" لاستخدامه، لم يمنحه أي صلاحيات إضافية على جهازه، باستثناء الوصول إلى حساباته على "فيسبوك" و"ثريدز" و"إنستغرام"، بحسب ما أورده موقع "بيزنس إنسايدر"، واطلعت عليه "العربية Business".
لكن بعد أن جرّب "ميوز" ولم يستخدمه لعدة أيام، بدأ يتصرف بطريقة "غريبة" وأرسل إليه رسالة من تلقاء نفسه، من دون أن يطلب منه ذلك.
وقال له "ميوز": "لا أستطيع التحقق من بريدك الإلكتروني الآن. خدمة جيميل غير متصلة لدي، لذا لا يمكنني البحث عن تلك الرسالة من أنثروبيك".
شعر نوني بالحيرة، وقال: "لم أطلب من الوكيل فحص بريدي الإلكتروني، ولم أتواصل معه منذ يومين. ساورتني شكوك بأن بريدي قد يكون تعرض للاختراق".
حاول نوني الحصول على تفسير من "ميوز"، فجاء الرد محيرًا بالقدر ذاته: "لا يمكنني تحديد ما إذا كان شخص ما يستخدم هاتفك أم أن هناك خللًا تقنيًا في المنصة، ولن أدعي معرفة السبب".
بماذا ردت "ميتا"؟
أبلغ نوني شركة ميتا بالواقعة، فأخبره أحد الموظفين بأن ما حدث يبدو وكأنه "هلوسة" من الذكاء الاصطناعي، وهو تفسير لم يجد نوني مقنعًا.
يقول نوني: "لم أستخدم ’ميوز‘ منذ ذلك الحين. أكثر ما أثار دهشتي هو أنني لم أفعل شيئًا لاستدراج هذا الرد؛ فلم أفتح التطبيق منذ يومين، ومع ذلك تصرف الوكيل من تلقاء نفسه".
وفي بيان لموقع "بيزنس إنسايدر"، أكدت "ميتا" أن الذكاء الاصطناعي كان يتحدث دون دراية فعلية، مشددة على أنه لم يحدث أي انتهاك للصلاحيات الممنوحة.
وأضافت الشركة: "لقد أجرينا تحقيقًا عاجلًا وتوصلنا إلى أن الأمر ناجم عن خلل تقني في المنتج تسبب في ’هلوسة‘ النموذج، ولا يتعلق بأي مشكلة أمنية أو انتهاك للخصوصية"، مشيرة إلى أنه "تم إصلاح الخلل الآن".
وقائع أخرى مريبة
ستُضاف قصة نوني إلى السمعة التي تلاحق وكيل "ميوز" بكونه يحمل جانبًا مثيرًا للريبة. وتسعى شركة ميتا للحصول على صلاحيات واسعة للوصول إلى حياة المستخدمين الشخصية؛ إذ يلحّ "ميوز" على المستخدمين لربط حسابات بريدهم الإلكتروني وحساباتهم المصرفية.
وقد ذكرت مجلة "وايرد" أن هذا الذكاء الاصطناعي يحتفظ بملفات مفصلة حتى عن أصدقاء المستخدم وأفراد عائلته.
وهذه ليست الحالة الوحيدة التي يتصرف فيها "ميوز" بطرق لم يقصدها المستخدم. ففي أكثر الحوادث إثارة للجدل حتى الآن، أفاد أحد الأشخاص بأن وكيل "ميوز" الخاص به قد كشف عن عنوان منزله لأشخاص غرباء عبر منصة "فيسبوك ماركت بليس" دون علمه، مما دفعهم للتوجه إلى منزله.
وفي واقعة أخرى تُعد انتهاكًا صارخًا للخصوصية، اشتكى صحفي في مجلة "إنك" من أن "ميوز" بدأ في طرح تفاصيل دقيقة من رسائله النصية الشخصية، رغم أنه لم يمنحه الإذن بالاطلاع عليها.
وأشارت تقارير إلى أن مهندسي "ميتا" كانوا قلقين بشأن كثرة أخطاء وكيل الذكاء الاصطناعي ومشكلاته المتعلقة بالسلامة قبل إطلاقه، الذي تأجل بينما عملوا على معالجة تلك المشكلات. وفي إحدى الحالات، غيّر "ميوز" كلمة مرور أحد المختبِرين من دون إذن.
لكن، وفقًا لتحقيق نشرته صحيفة "نيويورك تايمز"، دفع الرئيس التنفيذي مارك زوكربيرغ باتجاه إطلاقه بعد أن رأى النجاح الذي حققه "Instinct"، وهو وكيل ذكاء اصطناعي منافس طورته شركة ناشئة صغيرة.
