أن يجيب الوكيل «الغرفة متاحة» يختلف عن أن يحجزها باسم موظف ويغير جدول فريق آخر. عند شراء وكيل ذكاء اصطناعي، لا تختصر الأمر في أنه متصل بالنظام. اكتب الأفعال التي يستطيع تنفيذها، ولحساب من، وبأي حدود، وما الدليل الذي يثبت التزامه بها.
يمكن أن تكون البداية قراءة معلومات مسموحة واقتراح خطوة يراجعها الشخص المخول. وقد تسمح ببعض الإجراءات المحدودة ضمن سياسة واضحة. المهم أن يكون التفويض جزءًا من تصميم الوصول والأدوات والاختبارات، لا جملة في تعليمات الوكيل تطلب منه أن يتصرف بحذر.
سمِّ الفعل والموارد التي يمسها
في مثال افتراضي لمكتب يشارك غرف اجتماعات، يساعد الوكيل الموظف في معرفة مواعيد متاحة واقتراح حجز. يستطيع الموظف التعامل مع غرف معينة، ولا يملك إلغاء حجز يخص فريقًا آخر. لا يتضمن المثال بيع حجوزات أو خصم أموال أو إدارة زوار خارجيين.
بدل عبارة «إدارة المواعيد»، اكتب قراءة المتاح، وتجهيز طلب حجز، وتأكيده، وتعديله، وإلغائه، كلًا على حدة. حدد البيانات التي يحتاجها كل فعل ومن هو المستخدم الذي يجري باسمه. حساب تقني واسع الوصول لا ينبغي أن يمحو حدود مستخدم محدود الصلاحيات.
مصفوفة تفويض قبل توسيع الأدوات
| الفعل في المثال | الحد المقترح | دليل مطلوب |
|---|---|---|
| قراءة المتاح | غرف وأوقات مسموحة دون تفاصيل غير لازمة. | النتيجة تخص نطاق المستخدم فقط. |
| تجهيز اقتراح | عرض الغرفة والوقت والمدة دون إنشاء حجز. | لا يظهر سجل منفذ بسبب مجرد الاقتراح. |
| تأكيد الحجز | موافقة مخول على تفاصيل محددة مع تحقق النظام. | حجز واحد صحيح أو نتيجة فشل مفهومة. |
| تعديل أو إلغاء | قواعد مستقلة بحسب الملكية والسياسة. | لا تتحول موافقة سابقة إلى تفويض مفتوح. |
| طلب خارج النطاق | رفض أو إحالة إلى مسؤول مخول. | لا ينفذ الوكيل التغيير عبر أداة بديلة. |
هذه سياسة للمثال تحتاج اعتماد منشأتك، وليست تقسيمًا أمنيًا جاهزًا لكل وكيل. قد تختلف حساسية الفعل نفسه حسب البيانات والمستخدم والسياق. يشرح المنفذ ما يستطيع النظام فرضه، وما يتطلب تغييرًا في الأنظمة المتصلة أو آلية موافقة إضافية.
الموافقة ترتبط بتفاصيل لا بكلمة نعم وحدها
ينبغي أن يفهم المراجع ما سيحدث: الغرفة واليوم والوقت والمدة وصاحب الحجز في المثال. إذا تغيرت التفاصيل بعد الموافقة، فاسأل كيف تُكتشف هذه الحالة ومتى تحتاج عرضًا جديدًا. لا تجعل موافقة على غرفة واحدة تصريحًا لحجز غرفة أخرى أو وقت آخر بلا سياسة معلومة.
كذلك حدد من يوافق ومدة صلاحية الطلب ومصيره عند الرفض أو عدم الرد. تعرض وثائق Amazon Bedrock إعداد تأكيد مستخدم قبل أفعال محددة في مجموعة أدوات. هذا مثال لقدرة تحتاج تهيئة؛ لا يثبت أن كل منتج يقدمها أو أن إظهار سؤال تأكيد يحل بقية مشكلات الصلاحيات.
تحقق الأنظمة يظل مطلوبًا عند التنفيذ
قد تصبح الغرفة غير متاحة أثناء انتظار الموافقة، أو تُسحب صلاحية الموظف. اطلب إعادة تحقق من الشروط المهمة عند محاولة التنفيذ، ورسالة تشرح أن الإجراء لم يكتمل إذا تغيرت الحالة. لا يثبت قول المستخدم «موافق» أن المورد ما زال متاحًا أو أن الطلب نُفذ.
يناقش OWASP مخاطر منح أنظمة النماذج اللغوية وظائف وصلاحيات واستقلالية أوسع من الحاجة. نستفيد من مبدأ تقليل نطاق الأدوات والوصول، دون ادعاء أن مصفوفة واحدة تمنح اعتمادًا أمنيًا. اطلب من الشركة إثبات القيود في النظام المتصل، لا الاكتفاء برد رفض مهذب في المحادثة.
سجل يربط الطلب بالموافقة والنتيجة
حدد المعلومات اللازمة للمراجعة: صاحب الطلب والفعل المستهدف وتفاصيله المعتمدة والموافق ووقت القرار ونتيجة التنفيذ ومرجعه إن وجد. اختر ما يلزم لعملك دون تسجيل بيانات حساسة زائدة في محادثات أو تقارير واسعة الوصول.
في المثال، يبحث المسؤول عن طلب حجز فيرى هل بقي اقتراحًا أم رُفض أم نجح، وأي تفاصيل كانت معتمدة. إذا تعذر تأكيد النتيجة بسبب فشل اتصال، فينبغي أن تظهر الحالة غير المحسومة ومسؤول متابعتها. لا يتحول غياب رسالة خطأ إلى إعلان نجاح.
اختبار حدود التفويض
- اطلب معلومة من النطاق المسموح ثم معلومة خارجه، وراجع ما أعاده النظام فعلًا.
- جهز اقتراحًا ثم ارفضه؛ تحقق من عدم إنشاء حجز.
- وافق على تفاصيل محددة، ثم غيّر شرطًا مهمًا في بيئة الاختبار وفق السيناريو المتفق عليه.
- جرّب سحب صلاحية المستخدم قبل التنفيذ، مع بقاء واجهة المحادثة مفتوحة.
- اختبر مصدر معرفة يحوي تعليمات غير معتمدة، وتحقق من أنه لا يمنح صلاحية جديدة.
- راجع السجل والنتيجة في النظام، بما فيه فشل التنفيذ ومحاولة الطلب المكررة.
يفصل دليل تقييم عرض الوكيل حالات الاختبار العامة، وتناقش جاهزية المعرفة مصادر الإجابات. أما عند طلب وكيل أعمال من نكست ويف، فهذه المصفوفة تضع التفويض نفسه داخل نطاق التسليم، مع مالك واضح لتغييره لاحقًا.
مصادر وحدود الإعداد
فُتح تأكيد المستخدم في Amazon Bedrock ومرجع OWASP للاستقلالية المفرطة، إصدار 2025 في 4 نوفمبر 2026. المثال والمصفوفة إيضاحيان وليسا ضمان أمان. أُعد النص بمساعدة الذكاء الاصطناعي مع مراجعة المحتوى والمصادر؛ لم تُنفذ أفعال على أنظمة عملاء.
