حواجز الأمان
يُكتب أيضاً: Guardrail, AI Guardrails, ضوابط الحماية
حواجز الأمان قيود وفحوص توضع حول نموذج الذكاء الاصطناعي لتمنعه من إنتاج مخرجات ضارة أو تنفيذ إجراءات غير مصرّح بها.
معنى Guardrails بالعربي: حواجز الأمان، وتُسمّى أيضًا ضوابط الحماية. هي القيود والفحوص التي توضع حول نموذج الذكاء الاصطناعي لتمنعه من إنتاج مخرجات ضارة أو تنفيذ إجراءات غير مصرّح بها.
Guardrails in Arabic: حواجز الأمان (ضوابط الحماية).
أنواعها
ضوابط على المدخلات تفحص رسالة المستخدم قبل وصولها إلى النموذج، وتكشف محاولات التلاعب. ضوابط على المخرجات تراجع الرد قبل عرضه: هل فيه بيانات شخصية أو وعد لا تملكه الشركة؟ وضوابط على الأفعال تحدد ما يستطيع الوكيل تنفيذه دون موافقة بشرية.
مثال
روبوت دعم لمتجر: يُسمح له بقراءة حالة الطلب، ولا يُسمح له بإصدار استرجاع مالي؛ هذا يُحوَّل إلى موظف. ويُمنع من الحديث خارج موضوع المتجر مهما ألحّ الزائر.
نصيحة عملية
لا تعتمد على جملة «لا تفعل كذا» في البرومبت وحدها، فالتعليمات النصية يمكن الالتفاف عليها. الضابط الحقيقي في الكود والصلاحيات: مفتاح API بصلاحية قراءة فقط لا يحذف شيئًا مهما قيل للنموذج.