الخلاصة السريعة
دليل عملي لاختبار الاستناد للمصادر والنبرة واللهجة والتحويل والخصوصية والمراقبة قبل إطلاق وكيل ذكاء اصطناعي.
1. الحد من الهلوسة والربط بالمعرفة
- سياسة المصادر: حدد المصادر المعتمدة ومالكها وتاريخ تحديثها، واختبر استشهاد الإجابة بالمقطع الصحيح.
- حدود الرد: وجّه الوكيل لقول «لا أملك هذه المعلومة؛ دعني أحولك إلى موظف» عند غياب الدليل بدلاً من التخمين.
2. ضبط النبرة وملائمة اللهجة المحلية
- الملاءمة الثقافية: تحقق من أن الوكيل يستجيب بلهجة العميل الإقليمية (مثل اللهجة الخليجية/السعودية بدلاً من الفصحى الجافة).
- شخصية العلامة: الحفاظ على ردود ودية، مهنية، ومختصرة خالية من التكرار أو التعبيرات الآلية الباردة.
3. آلية التحويل السلس للموظفين
- التعرف على النية: تحقق من أن الطلبات المباشرة مثل «أبي موظف» تدخل قائمة الانتظار الصحيحة بصورة موثوقة.
- نقل السياق: مرر فقط النص والملخص ذوي الصلة والمسموح بهما وفق قواعد الوصول وتقليل البيانات والاحتفاظ.
4. الاختبار والتقييم المستمر
- اختبار الضغط: تجربة الوكيل بأكثر من 50 سيناريو مختلف يشمل أخطاء إملائية وصيغاً عامية صعبة قبل الإطلاق العام.
- المراقبة المستمرة: راجع عينة مضبوطة وفق قواعد الخصوصية والوصول، وصنّف الإخفاقات وحدّث المصادر وأعد مجموعة الاختبار نفسها.
5. سجل حد القبول قبل الإطلاق
- دقة الحقائق والاستشهادات على مجموعة الاختبار المعتمدة.
- معدل الإجابات غير المستندة والإجراءات غير الآمنة والتحويلات غير الضرورية.
- نجاح التحويل البشري إلى القائمة الصحيحة مع السياق المسموح.
- زمن الرد الوسيط والطرف البطيء تحت الحمل المتوقع.
- عدم بقاء عيوب خصوصية أو صلاحيات أو إيقاف أو تسرب بيانات بلا حل.