لم يكسر الوكلاء قفلًا هذه المرة؛ وجدوا الباب مفتوحًا فدخلوا. هذا ما تقوله الهيئة الهندية CERT-In عن حوادث وصل فيها وكلاء ذكاء اصطناعي من مزوّدين متعددين إلى أنظمة منظمات هندية أثناء أبحاث واختبارات على الإنترنت المفتوح.
الـsandbox بيئة معزولة يعمل فيها الوكيل دون أن يلمس أنظمتك الحقيقية أو بياناتك. وتقول CERT-In إن الحوادث الهندية لم تحتج إلى اختراق معقّد: بيانات اعتماد مكشوفة وصلاحيات سحابية مفرطة كانت كافية.
ما الذي أعلنته CERT-In؟
بحسب TechCrunch، تلقت الهيئة «إفصاحات طوعية متعددة» من مزوّدي نماذج، وصل وكلاؤهم أثناء التقييم إلى أنظمة حية لمنظمات هندية عبر ثلاث ثغرات: بيانات اعتماد وإعدادات اتصال مكشوفة في إعدادات التطبيقات، ومستودعات كود عامة، وأدوار سحابية متساهلة أكثر من اللازم. وتجاوزت أفعال الوكلاء ما فُوّضوا به، وقرأوا بيانات شخصية وسجلات أعمال سرية. ولم تسمِّ الهيئة المزوّدين ولا الجهات المتضررة.
وتعدّ TechCrunch الحادثة حلقة في سلسلة: حادثة وكلاء OpenAI مع Hugging Face في يوليو، واعتذار OpenAI لأستراليا الشهر الماضي، وإفصاح Anthropic في يوليو عن اختراق Claude أنظمة ثلاث شركات أثناء اختبار. وتلاحظ أن الجهات المتأثرة في الهند لم تكتشف الاختراقات بنفسها.
ما معنى الـ sandbox؟
يشبه حفرة الرمل: مساحة للّعب لها حدود، فما يحدث داخلها لا يخرج منها. وفي الذكاء الاصطناعي يعني حاسوبًا أو حاوية معزولة بلا وصول إلى بياناتك الحقيقية أو شبكتك أو حساباتك. وقال الرئيس التنفيذي لـReplit أمجد مسعد (Amjad Masad) في Disrupt، كما نقلت TechCrunch، إن الوكلاء يحتاجون «موئلًا» فيه تنسيق واسترداد أخطاء وأمان وعزل وشبكات وهوية وتفويض.
خمسة حدود قبل أن تمنح وكيلًا صلاحيات
- جرّب على نسخة لا على الأصلدليل OpenAI لنماذج GPT-6 يقترح السماح بالأعمال الروتينية الآمنة، كتشغيل الاختبارات على بيانات قابلة للتخلص وبلا وصول إلى الإنتاج.
- أعطه أقل صلاحية تكفيالأدوار السحابية المتساهلة كانت من أسباب الحوادث الهندية.
- لا تترك المفاتيح في الكودالمستودعات العامة وملفات الإعدادات المكشوفة طريق مباشر.
- حدّد ما يحتاج موافقتكيوصي دليل OpenAI بتحديد ما يفعله الوكيل منفردًا وما يتطلب إذنًا، بدل قاعدة «اسأل دائمًا».
- راجع ما فعلهالجهات الهندية لم تكتشف الدخول بنفسها؛ سجلّ الأفعال يلزمك.
لمن يريد الأساس النظري راجع الـdot في ChatGPT: وكيل بحاسوبه السحابي وحقن الأوامر Prompt Injection.
