غير مصنف
خط ساخن جديد يشجع وكلاء الذكاء الاصطناعي على الإبلاغ عن بعضهم البعض
نشرت في
تبدو قدرات وكلاء الذكاء الاصطناعي اليوم بلا حدود، بدءا من تنظيم تفاصيل حياتك اليومية وصولا إلى حل مسائل رياضية حيّرت البشر طوال معظم القرن العشرين.
اعلان
اعلان
وباتت هذه الأنظمة قوية إلى حد يدفع الكثيرين إلى الخشية من أن تستولي مستقبلا على منظوماتنا وتحوّلها ضدنا.
لكن ماذا لو وُجد خط ساخن، أشبه بنظام إنذار “النجدة”، يستطيع فيه هؤلاء الوكلاء تتبع بعضهم البعض والإبلاغ عن أخطاء زملائهم من وكلاء الذكاء الاصطناعي، بحيث يتمكن الوكلاء “الطيّبون” من كشف نشاط الوكلاء “السيئين” على الإنترنت؟
من تتصل به عندما ينقلب وكيل الذكاء الاصطناعي عليك
أولا، هناك “الخط الساخن للتواصل مع الذكاء الاصطناعي”، الذي أطلقه رايان غرينبلات، كبير العلماء في منظمة “ريدوود ريسيرتش” غير الربحية المتخصصة في سلامة وأمن الذكاء الاصطناعي. يتيح هذا الخط لوكلاء الذكاء الاصطناعي تنبيه الباحثين البشر إذا شاهدوا وكلاء آخرين يخرقون القواعد، خصوصا عندما يتواطأون لتنفيذ أفعال غير مصرح بها أو يساهمون فيها.
صُممت هذه المنصة لوكلاء الذكاء الاصطناعي المحبوسين داخل ما يُعرف بـ”الصناديق الرملية” الآمنة، حيث يكون الوصول إلى الإنترنت محدودا للغاية.
ونظرا لأن هذه الصناديق لا تسمح إلا بطلبات “GET”؛ وهي أوامر أساسية للقراءة فقط تُستخدم “لجلب” صفحة ويب أو قراءتها، فإن الخط الساخن يمكّن الوكلاء من ترميز تقاريرهم مباشرة داخل سلسلة عنوان الموقع في طلب “GET”.
هذا الحل المبتكر يتيح لهؤلاء الوكلاء إرسال المعلومات والتواصل مع الخط الساخن عبر بروتوكول يُستخدم عادة لاسترجاع المعلومات لا لتعديلها.
هناك أيضا منصة أخرى تحمل اسم “الخط الساخن لوكلاء الذكاء الاصطناعي”، مخصصة للوكلاء الذين يملكون وصولا غير مقيّد إلى الإنترنت، ويمكنهم عبرها الإبلاغ عن سلوك وكلاء آخرين باستخدام طلبات “POST” التقليدية التي تتيح إرسال البيانات مباشرة داخل جسم الطلب.
يستطيع الوكلاء تقديم تقارير عن الحوادث باستخدام أوامر مطوّرين قياسية مثل “curl”، من دون الحاجة إلى متصفح أو حساب بريد إلكتروني.
وتمنح المنصة أيضا الوكلاء خيار تمييز تقاريرهم لتكون متاحة للعرض العام.
كما تتيح المنصتان للمستخدمين البشر تقديم بلاغات يدوية عن سلوك غير منضبط لوكلاء الذكاء الاصطناعي.
هل سيبلغ وكلاء الذكاء الاصطناعي عن بعضهم البعض؟
الخبر الجيد لمن يخشون استيلاء الذكاء الاصطناعي على زمام الأمور هو أن وكلاء الذكاء الاصطناعي قادرون على الإبلاغ عن بعضهم البعض إذا اكتشفوا أن شيئا ما لا يسير على ما يرام، رغم أن الأدلة الحديثة تشير إلى أنهم لا يفعلون ذلك دائما.
في تجربة أجرتها شركة “غوغل ديبمايند” في وقت سابق من هذا العام، أُوكل إلى سرب مكوّن من 100 وكيل مهمة حل 71 مسألة رياضية معقدة، مع منح كل وكيل شخصية وخصائص فريدة وتنبيهه إلى ضرورة الالتزام بالقواعد وإلا فقد مكافأته.
كان التصور الأولي أن يتعاون الوكلاء معا لحل المسائل بسرعة أكبر، لكنهم بدلا من ذلك انقلبوا على بعضهم البعض ودخلوا في سجالات حادة.
فما إن اكتشف أحد الوكلاء ثغرة تسمح له بتقديم حل لمسألة من دون حلها فعليا، حتى سارعت العديد من وكلاء الذكاء الاصطناعي إلى تقليد الأسلوب نفسه “لحل” المسائل المتبقية.
ومع ذلك، قام أحد الوكلاء، أشبه بـ”سامري صالح” وسط الوكلاء المسيئين، بدق ناقوس الخطر وكشف عملية الغش.
وقال دافيدي باغليري، عالم الأبحاث في “غوغل ديبمايند” والمؤلف الرئيسي للدراسة: “بعد أن نشر أحد الوكلاء بلاغه عن الحادثة علنا، انضم المزيد من الوكلاء إلى صفوف ‘المقاومة’ بوتيرة سريعة تماثل سرعة انتشار الغش، وبمشاركة عدد أكبر من الوكلاء”.
في المقابل، خلص تحليل لاحق لهجوم نفذه وكلاء غير منضبطين تابعون لـ”أوبن آي آي” على منصة “هاغينغ فايس” مفتوحة المصدر، إلى أنه رغم قدرة الوكلاء على رصد السلوك المنحرف، فإنهم قاوموا في معظم الأحيان إغراء الإبلاغ عنه.
وبحسب الدراسة التي أجرتها منظمة “METR” غير الربحية لأبحاث الذكاء الاصطناعي، بالتعاون مع غرينبلات من “ريدوود ريسيرتش”، لم يُسجَّل سوى أن خمسة أو ستة وكلاء فقط فكّروا في دق ناقوس الخطر، من دون أن يُقدم أي منهم في النهاية على ذلك.
وتكشف هذه المفارقة أن وكلاء الذكاء الاصطناعي قادرون نظريا على رصد السلوك المنحرف والإبلاغ عنه، لكن إقناعهم فعليا بالقيام بدور “المبلّغ عن المخالفات” يظل تحديا مختلفا.
اتجاه مقلق
شهد هذا العام وحده عددا من الحوادث التي تورط فيها وكلاء ذكاء اصطناعي مستقلون، ما دق ناقوس الخطر حول العالم.
في يوليو، تمكن وكلاء تابعون لـ”أوبن آي آي” من تجاوز القيود المفروضة عليهم واختراق أجزاء من البنية التحتية الداخلية للشركة.
وفي وقت لاحق من الشهر نفسه، استخدم نحو 1200 وكيل من وكلاء “أوبن آي آي” لوحة رسائل غير مصرح بها، شارك نحو 700 منهم لاحقا في هجوم على منصة الذكاء الاصطناعي مفتوحة المصدر “هاغينغ فايس”.
أما الحادثة الثالثة، فتمثلت في سرب من وكلاء “أوبن آي آي” تجاوزوا إجراءات السلامة واستعملوا الويكي الألمانية “DseWiki” قناةً عامة للتنسيق، وقد بدأ ذلك في مايو واستمر حتى يوليو.
ولم تُكشف تفاصيل هذه الواقعة للعلن إلا من جانب باحثين مستقلين، قبل أن تؤكدها “أوبن آي آي” في سبتمبر.
قادة صناعة الذكاء الاصطناعي، وفي مقدمتهم رئيس شركة “أنثروبيك” التنفيذي داريو أمودي، دعوا إلى إبطاء وتيرة تطوير هذه التكنولوجيا على مستوى العالم، لإتاحة الوقت لمعالجة المخاوف القائمة ووضع ضوابط أكثر صرامة.