متى يجب أن يستأذن وكيل الذكاء الاصطناعي؟ دليل عملي لبوابات الموافقة
الوكيل القادر على إرسال البريد أو إعادة الأموال يحمل مفاتيح المبنى. سؤالان بسيطان يحددان ما الذي ينفذه وحده، ومتى ينبغي أن يوافق إنسان أولًا.

الوكيل الذكي الذي يكتفي بالإجابة عن الأسئلة ليس في الواقع أكثر من مربع بحث مهذب. لكن في اللحظة التي يصبح فيها قادرًا على إرسال بريد إلى عميل، أو نقل صفقة إلى مرحلة «مُغلقة بنجاح»، أو إعادة مبلغ مالي، أو تغيير صلاحية شخص على مجلد ما، يتحول إلى زميل يحمل مفاتيح المبنى. لهذا السبب تحديدًا تريد الفرق الاستعانة بالوكلاء، ولهذا السبب أيضًا تتعثر مشاريع كثيرة منها: لم يقرر أحد أيّ هذه المفاتيح يحق للوكيل أن يديرها بنفسه.
يتناول هذا الدليل ذلك القرار تحديدًا. فالسؤال ليس «هل نستخدم الوكلاء أم لا؟»، بل سؤال أضيق وأكثر فائدة: في كل نوع من الإجراءات، هل ينبغي للوكيل أن ينفّذ، أم ينفّذ ويُبلغ أحدًا، أم يتوقف ويستأذن؟
الاستقلالية الكاملة ليست الهدف الصحيح
كثير من الترويج للوكلاء يقيس النجاح بمدى غياب الإنسان عن العمل، وهذا التصور يجلب المتاعب. ففي يونيو 2025 نقلت وكالة رويترز توقعًا لمؤسسة غارتنر مفاده أن أكثر من 40% من مشاريع الذكاء الاصطناعي الوكيلي ستُلغى بحلول نهاية 2027، بسبب تصاعد التكاليف وعدم وضوح القيمة التجارية. وتحدّث التقرير نفسه عن ظاهرة «غسيل الوكلاء» (agent washing)، أي إعادة تسمية روبوتات المحادثة والمساعدات العادية على أنها وكلاء، وقدّر أن نحو 130 فقط من بين آلاف المورّدين في هذا المجال حقيقيون.
ويتوقع التقرير ذاته أن تُتخذ 15% على الأقل من قرارات العمل اليومية بصورة مستقلة عبر الذكاء الاصطناعي الوكيلي بحلول 2028، بعد أن كانت النسبة صفرًا في 2024. ولا تناقض بين الرقمين: فالوكلاء سيتولون حصة متزايدة من القرارات الروتينية، أما المشاريع التي تحاول أتمتة كل شيء دفعة واحدة دون أن تعرف أين يلزم الحكم البشري، فستكون مكلفة ويصعب الوثوق بها.
إذن، الهدف العملي ليس أقصى قدر من الاستقلالية، بل القدر المناسب من الاستقلالية لكل إجراء، ضمن سير عمل تكون فيه الخطوات البشرية سريعة بما يكفي كي لا يضيق بها الناس.
للخطر الحقيقي اسم: الصلاحيات المفرطة
لدى المختصين في الأمن مصطلح دقيق لما يحدث. فقائمة OWASP لأهم عشرة مخاطر في تطبيقات النماذج اللغوية تسميه الصلاحيات المفرطة (Excessive Agency): وهي الثغرة التي تسمح بتنفيذ إجراءات ضارة استجابةً لمخرجات غير متوقعة أو ملتبسة أو متلاعَب بها من النموذج، أيًّا كان سبب خلل النموذج.
وترجعها OWASP إلى ثلاثة أسباب جذرية:
وظائف مفرطة: يملك الوكيل أدوات لا يحتاجها، كأداة «إرسال بريد» لدى وكيل مهمته تلخيص صندوق الوارد فقط.
أذونات مفرطة: تمتد الأدوات أبعد من الحاجة، كاتصال بقاعدة بيانات يسمح بالحذف بينما تكفي القراءة.
استقلالية مفرطة: تُنفَّذ إجراءات عالية الأثر دون أن يراجعها أحد مسبقًا.
والفكرة المهمة هنا أن النموذج لا يحتاج إلى أن يكون «شريرًا» أو كثير الخطأ. يكفي رقم عميل خاطئ، أو تعليمات ملتبسة، أو سطر مخفي في نص بريد وارد (حقن التعليمات). فإذا كانت المفاتيح بيد الوكيل، تحوّل خطأ صغير إلى إجراء حقيقي.
طريقة بسيطة للقرار: قابلية التراجع ونطاق الأثر
لا تحتاج إلى إطار معقد لإدارة المخاطر كي تبدأ. سؤالان يكفيان لتصنيف معظم الإجراءات:
هل يمكن التراجع عنه بسرعة وبشكل كامل؟
من خارج المستخدم الحالي سيراه أو يتأثر به؟
نوع الإجراء | أمثلة | الإعداد الافتراضي المعقول |
|---|---|---|
قراءة فقط | البحث في المستندات، تلخيص محادثة، صياغة مسودة رد للمستخدم نفسه | نفّذ، واعرض المصادر التي اعتمدت عليها |
تغيير داخلي قابل للتراجع | وسم عميل محتمل، تحديث حقل في مهمة، حفظ ملاحظة | نفّذ أو استأذن مرة واحدة للدفعة؛ احتفظ بسجل وتراجع سهل |
مرئي للآخرين أو صعب التراجع | بريد إلى عميل، تغيير مرحلة صفقة، نشر صفحة | استأذن قبل كل إجراء، مع معاينة لما سيحدث بالضبط |
المال والعقود والأفراد والصلاحيات | استرداد مبالغ، خصومات، تعديل رواتب، تغيير أذونات | مرّره عبر مسار الموافقات المعتاد في المؤسسة؛ وأحيانًا بموافقة شخصين |
ثمة تفصيلان مهمان. الأول أن الجدول يصف إعدادات افتراضية لا قانونًا ثابتًا؛ فالفريق الذي عمل مع وكيل لأشهر قد ينقل بعض الإجراءات صفًّا إلى الأعلى. والثاني أن الصف الأخير ليس «قاعدة خاصة بالذكاء الاصطناعي»؛ فالموظف المبتدئ أيضًا لا يستطيع اعتماد الخصم الذي يطلبه بنفسه. على الوكيل أن يسلك مسار الموافقة ذاته الذي يسلكه الإنسان.
كيف يبدو طلب الموافقة الجيد؟
لا تحمي نقطة التحقق البشرية إلا إذا قرأها الشخص فعلًا. فرسائل مثل «يريد الوكيل تنفيذ 4 إجراءات. هل تسمح؟» تعلّم الناس الضغط على «سماح» دون تفكير. ويسمّي قانون الذكاء الاصطناعي الأوروبي هذه المشكلة بعينها في المادة 14 الخاصة بالإشراف البشري: على المشرفين على النظام أن يظلوا مدركين لـانحياز الأتمتة، أي الميل إلى الاعتماد المفرط على ما ينتجه النظام.
الطلب الذي يستحق الموافقة يوضح:
ما الذي سيتغير، في صورة «قبل وبعد» ملموسة، لا وصفًا لنية الوكيل.
لماذا، مع رابط إلى الرسالة أو السجل أو التعليمات التي أطلقت الإجراء.
من سيتأثر، وبخاصة أي شخص من خارج الفريق.
كيف يمكن التراجع عنه، أو تحذير واضح بأنه غير قابل للتراجع.
اجمع الطلبات منخفضة الخطورة في دفعات، وأبقِ الطلبات عالية الخطورة منفصلة. فإذا رأى المعتمِد أربعين طلبًا في اليوم، فسيُعتمد الطلب المهم مع التسعة والثلاثين الآخرين.
ضمانات لا تعتمد على حسن تصرف النموذج
الموافقة طبقة واحدة فقط. وينبغي أن تصمد الطبقات الأخرى حتى لو ارتبك النموذج أو تعرّض للتلاعب:
أقل قدر من الصلاحيات. امنح كل وكيل الأدوات والأذونات التي يحتاجها عمله فقط. وتعدّ OWASP تقليل الإضافات ووظائفها وأذوناتها خطوط الدفاع الأولى.
العمل في نطاق صلاحيات المستخدم. الوكيل الذي يعمل لحساب شخص ما يجب ألا يرى أو يغيّر إلا ما يحق لذلك الشخص، لا أن يحمل حساب خدمة واسع الصلاحيات يتجاوز الأذونات بصمت.
فرض القواعد خارج النموذج. تسمي OWASP ذلك «الوساطة الكاملة»: النظام الذي يستقبل الإجراء هو من يتحقق من جوازه، بدلًا من الوثوق بحكم النموذج.
تسجيل كل شيء وتحديد المعدل. السجلات وحدود عدد الطلبات لا تمنع الأخطاء، لكنها تحدّ من الضرر وتتيح فهم ما جرى.
زر إيقاف حقيقي. تطلب المادة 14 أن يكون بالإمكان إيقاف النظام عالي الخطورة «عبر زر إيقاف أو إجراء مماثل» يوصله إلى توقف آمن.
ابدأ ببساطة. يوصي دليل أنثروبيك الهندسي Building effective agents باختيار أبسط حل ناجح، ووضع شروط توقف مثل حد أقصى لعدد الخطوات، ونقاط يتوقف عندها الوكيل لتلقي رأي بشري، واختبار مكثف في بيئات معزولة.
إلى أين يتجه التنظيم؟
معظم وكلاء الأعمال ليسوا «أنظمة عالية الخطورة» بالمعنى القانوني لقانون الذكاء الاصطناعي الأوروبي، الذي يشمل مجالات مثل قرارات التوظيف وتقييم الجدارة الائتمانية والتعليم. ومع ذلك، فإن مادة الإشراف البشري في هذا القانون قائمة تحقق مفيدة للجميع، لأنها تصف القدرات التي ينبغي أن يملكها المشرف: أن يفهم حدود النظام، ويفسّر مخرجاته تفسيرًا صحيحًا، ويقرر عدم استخدامه، ويتجاهل نتيجته أو يعكسها، ويوقفه.
كما تغيّر الجدول الزمني. فحزمة «Digital Omnibus» الخاصة بالذكاء الاصطناعي، أي اللائحة الأوروبية رقم 2026/1744، دخلت حيز النفاذ في 27 يوليو 2026، ونقلت موعد تطبيق التزامات الأنظمة عالية الخطورة الواردة في الملحق الثالث من 2 أغسطس 2026 إلى 2 ديسمبر 2027، وموعد الأنظمة المشمولة بالملحق الأول إلى 2 أغسطس 2028. وبات لدى الفرق التي يمسّ وكلاؤها قرارات التوظيف أو الإقراض أو ما شابهها وقت أطول، لكن الاتجاه واضح: الإشراف البشري الفعلي يتحول إلى متطلب تصميمي، لا إلى ميزة إضافية.
كيف تتعامل همرشد مع ذلك؟
اختارت همرشد عن قصد الطرف الأكثر حذرًا في هذا الطيف. فوكلاؤها يبحثون في مساحة العمل ويقرؤونها ويعدّلونها، لكنهم يستأذنون قبل كل تغيير. ولا يرى المساعد إلا ما يحق للمستخدم رؤيته، ويعرض في إجاباته الصفحات التي اعتمد عليها. أما طلبات مثل الخصومات أو العقود فتمر عبر وحدة «الموافقات» لتصل إلى المعتمِد المناسب، وهو المسار نفسه الذي يسلكه طلب أي زميل.
لهذا الخيار ثمن بسيط من بضع نقرات. وفي المقابل، يستطيع الفريق أن يترك المساعد يؤدي عملًا حقيقيًا في المبيعات والدعم والعمليات دون أن يتساءل عمّا غيّره ليلة أمس. وأيًّا كانت الأدوات التي تستخدمها، فإن أسئلة هذا المقال نقطة انطلاق جيدة: ما الذي يمكن لهذا الوكيل الوصول إليه؟ وما الذي يمكن التراجع عنه؟ ومن يرى الطلب قبل تنفيذه؟
تجد أدلة عملية أخرى في مدونة همرشد.
المصادر
رويترز عبر The Star، 25 يونيو 2025: Over 40% of agentic AI projects will be scrapped by 2027, Gartner says
مشروع OWASP لأمن الذكاء الاصطناعي التوليدي: LLM06:2025 Excessive Agency
قانون الذكاء الاصطناعي الأوروبي: المادة 14، الإشراف البشري
قانون الذكاء الاصطناعي الأوروبي: Digital Omnibus on AI، اللائحة 2026/1744
أنثروبيك، 19 ديسمبر 2024: Building effective agents


