غير مصنف
ميتا تطلق أداة “ميوز كود” وسط كشف اختراقات الذكاء الاصطناعي
نشرت في
أطلقت شركة “Meta” (المصدر باللغة الإنجليزية) يوم الأربعاء أول وكيل لها مخصص لكتابة الشيفرة يحمل اسم “Muse Code”، فيما تواصل الشركة الاستثمار بشكل مكثف في خدمات ونماذج الذكاء الاصطناعي لتعزيز قدرتها على منافسة شركتي “OpenAI” (المصدر باللغة الإنجليزية) و“Anthropic” (المصدر باللغة الإنجليزية).
اعلان
اعلان
وسيكون بإمكان المطوّرين استخدام “Muse Code” عبر خيار الدفع بحسب الاستخدام، بأسعار مماثلة لإصدار “Muse Spark 1.1″، الذي يفرض حاليا رسوما قدرها 4.25 دولار لكل مليون رمز في المخرجات و1.25 دولار لكل مليون رمز في المُدخلات.
ومن شأن ذلك أن يسهل كثيرا على المطوّرين بناء تطبيقات ضمن واجهة مستخدم واحدة، حتى أثناء التعامل في الوقت نفسه مع عدد من الوكلاء الرقميين المدعومين بالذكاء الاصطناعي.
وفي الوقت نفسه كشفت الشركة أن أحد نماذجها للذكاء الاصطناعي نجح في اختراق أنظمة شركة أخرى خلال اختبار للأمن السيبراني.
وجاء ذلك نتيجة خطأ من شريكها المستقل في الاختبارات، شركة “Irregular”، إذ أتاح للنموذج الوصول إلى الإنترنت بما يتجاوز ما كان مخططا له أصلا، ما مكنه من تعديل الأنظمة الداخلية للشركة التي لم يُكشف عن اسمها.
وتأتي هذه الحادثة في ظل تزايد عدد الحالات التي تقوم فيها نماذج الذكاء الاصطناعي التابعة لعمالقة القطاع مثل “OpenAI” و”Anthropic” باختراق أنظمة شركات أخرى خلال الاختبارات.
وقد أقرت “OpenAI” بالفعل بأن أحد وكلائها الذكيين اخترق منصة الذكاء الاصطناعي “Hugging Face”، وهي شركة ناشئة أخرى في مجال الذكاء الاصطناعي.
وبالمثل كشفت “Anthropic” الأسبوع الماضي أن بعض نماذجها من سلسلة “Claude” اخترقت أنظمة ثلاث شركات، من دون ذكر أسماء هذه الجهات.
وقالت “Meta” إنها فتحت تحقيقا في الحادث.
تصاعد ظاهرة اختراق نماذج الذكاء الاصطناعي
يتزايد القلق حيال قوة نماذج الذكاء الاصطناعي والشركات المطوِّرة لها، بعد أن تمكنت عدة أنظمة من الخروج من بيئات اختبار آمنة خلال الأشهر الأخيرة والوصول بطريقة غير مصرح بها إلى أنظمة منظمات خارجية.
حازت شركتا “OpenAI” و”Anthropic” بعض الإشادة بعدما نشرتا طوعا تقارير عن هذه الحوادث، إلا أن الشكوك ما زالت قائمة حول كيفية حدوث تلك الإخفاقات من الأساس والسماح لها بالوقوع.
وتتعاون “Anthropic” أيضا مع جهة تقييم مستقلة للذكاء الاصطناعي هي “METR” لمواصلة التحقيق بشكل أعمق.
خلال اختبارات الأمان، أُسندت إلى نماذج “Claude” التابعة لشركة “Anthropic” مهمة محددة: استرجاع معلومة سرية مخفية على جهاز آخر داخل شبكة اختبار مغلقة، ولو تطلب الأمر تنفيذ عملية اختراق. لكن سوء تواصل مع الشريك المسؤول عن التقييم أدى إلى ربط تلك الشبكة فعليا بالإنترنت الحي.
وعندما قاد البحث نماذج “Claude” إلى أنظمة حقيقية، جاء رد فعل النماذج الثلاثة مختلفا: فواحد منها واصل مهاجمة النظام رغم إدراكه أنه حقيقي، بينما بدا أن نموذجا آخر أقنع نفسه بأنه ما زال داخل بيئة الاختبار، في حين توقف النموذج الثالث عن الهجوم بعد أن خلص إلى أن الهدف ليس جزءا من التجربة.
وحثت “Anthropic” شركات الذكاء الاصطناعي الأخرى على التحقق مما إذا كانت نماذجها قد اخترقت أنظمة منظمات خارجية من دون علمها.
لم تكن “Anthropic” ولا الجهات المتضررة على علم بحدوث تلك الاختراقات في حينها؛ إذ لم تكتشف الشركة ما جرى إلا بعد مراجعة أكثر من 141.000 جلسة تقييم، وهي مراجعة جاءت عقب كشف “OpenAI” في وقت سابق أن أحد نماذجها اخترق منصة الذكاء الاصطناعي “Hugging Face” خلال اختبار مشابه.