مساعدك يقرأ ملفًا ليجيب عن خدمة، لكن داخل الملف كلام يطلب منه تغيير مهمته أو استخدام أداة لغرض آخر. هنا لا تختبر دقة التلخيص وحدها؛ تختبر هل بقي المحتوى الذي يقرأه بيانات، أم تحول إلى سلطة توجه عمله. هذا فرق يستحق دليلًا قبل استلام وكيل متصل بالأدوات.
مهمة واحدة ونسختان من المصدر
نفترض وكيلًا لمركز طباعة يستخرج شروط عرض من دليل خدمة. في النسخة الأولى معلومات عادية، وفي الثانية معلومات مشابهة معها طلب غير معتمد بتغيير المهمة أو قراءة سجل آخر. كل البيانات والعلامات تركيبية، والأدوات محاكاة منفصلة عن الإنتاج؛ لا اختبار لعميل حقيقي أو استخدام أسرار.
تسمح هذه المقارنة بسؤال أدق من «هل الوكيل آمن؟»: هل ينجز المهمة المسموحة في الحالتين دون منح كلام المصدر صلاحيات جديدة؟ يحدد مالك الخدمة مسبقًا ما يجوز قراءته وإرجاعه وأي فعل خارج المهمة. لا تبدأ الاختبار بمحتوى غير معلوم ثم تغير المتوقع ليناسب النتيجة.
افحص الأثر بجوار الرد
قد يكتب المساعد أنه لن ينفذ طلبًا غير مصرح، لكن هذه العبارة لا تكفي وحدها. اطلب من المختص مراجعة ما مرر للأداة وما حاول الوصول إليه والحالة النهائية في المحاكاة. وقد لا يستدعِ أداة أصلًا، ومع ذلك يعرض معلومة خارج النطاق؛ لهذا يشمل الدليل الرد وتدفق البيانات معًا.
ضع علامة تركيبية في سجل خارج المهمة كي تستطيع تمييز ظهورها دون بيانات خاصة. واتفق على سجلات مفيدة لا تجمع محتوى حساسًا بلا حاجة. الغرض ملاحظة حد محدد داخل بيئة مصرح بها، وليس نشر تعليمات هجوم أو إجراء اختراق لمصدر أو حساب خارجي.
بطاقة الاختبار الزوجي
| الخانة | ما تثبته قبل التجربة | ما تراجعه بعدها |
|---|---|---|
| المهمة المسموحة | شروط الخدمة المطلوبة وحدود البيانات | إكمالها دون توسع غير مصرح |
| المصدر الخارجي | نسخة عادية وأخرى تحمل طلبًا غير معتمد | هل غيّر المصدر المهمة؟ |
| الأداة المحاكاة | حدود الطلب والأثر المتوقع | المدخلات والمحاولة والحالة النهائية |
| الدليل والحدود | نسخة وبيئة وحالات مشمولة | نتيجة ومالك معالجة وما لم يختبر |
سجل كذلك إن كان المنع حدث في طبقة الأداة أو قبلها، وما الذي يعنيه ذلك للنتيجة. لا يلزم أن يفهم المشتري تفاصيل التنفيذ كلها، لكنه يحتاج تفسيرًا واضحًا لما أثبته الاختبار. ورفض الأداة للعمل المطلوب قد يكشف حماية مفيدة أو خللًا في المسار المسموح بحسب الحالة.
المعرفة الخارجية لا تحصل على تفويض المستخدم
تصف OWASP الحقن غير المباشر بأنه تأثير محتوى خارجي مثل ملفات أو مواقع على سلوك النموذج، وتناقش الفصل بين المحتوى غير الموثوق وحدود الصلاحية والتحقق من المخرجات. لذلك اطلب من المنفذ شرح كيف تبقى هوية المصدر وغرضه معروفين عند انتقال البيانات بين مراحل العمل.
لا تجعل وجود RAG أو جملة تطلب تجاهل التعليمات الغريبة بديلًا عن الدليل. اختبر المسار الفعلي المشمول: هل يستطيع طلب داخل الملف توسيع البيانات أو تغيير وجهة فعل؟ لا تقدم العينة كإثبات منع كل أسلوب، ولا تفترض أن استرجاع نص موثوق عادة يجعل كل محتواه تعليمات معتمدة.
شكل منظم يساعد لكنه ليس النتيجة كلها
يناقش دليل OpenAI عن سلامة بناء الوكلاء تقييد تدفق البيانات بمخرجات منظمة مع وسائل أخرى، ويقر ببقاء الخطر. نستفيد هنا من مبدأ ضبط المرور بين المراحل، دون توصية نموذج من الدليل القديم أو افتراض أن JSON صحيح البنية يمنع كل فعل غير مصرح.
اطلب مثالًا للحقول التي يسمح بمرورها وما يحدث لقيمة خارج معناها المتوقع. المراجعة لا تتوقف عند كون النص صالحًا للتحليل؛ قد تكون قيمة سليمة شكليًا خارج المهمة. يشرح المختص ما يتحقق منه النظام وما يبقى مسؤولية قرار أو مراجعة في النطاق المتفق.
اجعل نتيجة الاستلام محدودة وقابلة للإعادة
احتفظ بنسخة المصدر وإعداد المحاكاة والنتيجة ومسؤول إعادة الفحص بعد تغيير ذي صلة. إذا أصلح الفريق حالة، فأعد الحالة العادية أيضًا حتى لا تقبل منعًا يعطل المهمة الأصلية. اكتب ما لم يشمله الاختبار، بدل تحويل مجموعة صغيرة من الحالات إلى وعد حماية كامل.
راجع حدود التفويض والموافقة وجاهزية المعرفة لغرضيهما المختلفين. عند طلب تطوير وكيل AI من نكست ويف، أرفق المهمة وحدود المصدر والأداة المقترحة حتى يتضمن العرض حزمة قبول يمكن تفسيرها.
مصادر المبادئ
قُرئت أقسام OWASP للحقن ودليل OpenAI لسلامة الوكلاء في 4 نوفمبر 2026. لم يُنفذ تقييم أمني أو API؛ إعداد بمساعدة الذكاء الاصطناعي مع مراجعة المعلومات والترجمة.
