في خطوة تعكس التزامها بتطوير أنظمة ذكاء اصطناعي موثوقة، كشفت أبحاث مايكروسوفت ريسيرش مؤخرًا عن تحديات جوهرية تواجه موثوقية تفويض مهام الذكاء الاصطناعي في العمليات الطويلة والمعقدة. تسلط الدراسة الضوء على ميل النماذج اللغوية الكبيرة (LLMs) لتراكم الأخطاء الدلالية عند قيامها بمهام متعددة الخطوات دون تدخل بشري كافٍ، مما يثير تساؤلات حول مدى جاهزية هذه الأنظمة لأداء أدوار حاسمة في بيئات العمل الاحترافية.
ما الجديد في بحث مايكروسوفت؟
تناولت ورقة بحثية حديثة، بعنوان “LLMs Corrupt Your Documents When You Delegate”، نمط تفاعل محددًا يُطلق عليه “العمل المفوض” (delegated work). يشير هذا النمط إلى السيناريوهات التي يكلّف فيها المستخدم نظام ذكاء اصطناعي بإجراء تعديلات متعددة الخطوات على مستندات مهمة، مثل الملفات النصية، جداول البيانات، أو الأكواد البرمجية، مع حد أدنى من التحقق البشري بين الخطوات. استخدم الباحثون منهجية تقييم صارمة تعتمد على مهام التحويل والانعكاس المتسلسلة لتقييم مدى الحفاظ على المحتوى الدلالي بدقة عبر سير العمل المفوض الموسع.
اقرأ أيضا: Vega: إثباتات المعرفة الصفرية للهوية الرقمية في عصر الذكاء الاصطناعي
اقرأ أيضا: مايكروسوفت تكشف عن MagenticLite وFara1.5: وكلاء ذكاء اصطناعي صغيرة لأداء فائق
اقرأ أيضا: مايكروسوفت: الذكاء الاصطناعي امتداد للإدراك البشري لا بديل عنه
أظهرت النتائج أن النماذج الرائدة الحالية يمكن أن تُحدث أخطاء متفرقة ولكنها ذات عواقب وخيمة خلال سير العمل طويل الأمد، وأن هذه الأخطاء قد تتراكم مع التفاعلات المتكررة. في الإعدادات التي تم تقييمها، أظهرت النماذج المتطورة تدهورًا في دقة المحتوى يتراوح بين 19% و34% على مدى 20 تكرارًا مفوضًا. من الملاحظ أن سير عمل بايثون أظهر مرونة أكبر بشكل عام في ظل التفاعلات المفوضة الموسعة، مع تدهور أقل من 1% في المتوسط، مما يشير إلى فعالية استخدام الأدوات المدمجة في تقليل الأخطاء. ولفهم خلفية مرتبطة مباشرة بهذا الخبر، يمكن الرجوع إلى الورقة البحثية الأصلية: LLMs Corrupt Your Documents When You Delegate.
الخلفية التقنية: فهم “التفويض طويل الأمد”
يُعد التفويض طويل الأمد تحديًا جوهريًا للذكاء الاصطناعي لأنه يتطلب من النموذج الحفاظ على السياق والدقة عبر سلسلة من الإجراءات المعقدة. غالبًا ما تتفوق النماذج اللغوية الكبيرة في المهام القصيرة والمحددة، حيث يمكنها توليد نصوص متماسكة أو الإجابة على استفسارات مباشرة. ومع ذلك، عندما تزداد تعقيدات المهمة وتتطلب تتبعًا دقيقًا للتغييرات عبر مراحل متعددة، تبدأ نقاط ضعفها في الظهور، مما يؤدي إلى ما يُعرف بـ”تدهور الدقة الدلالية”.
لا يهدف البحث إلى التشكيك في قيمة أنظمة الذكاء الاصطناعي في سير العمل الاحترافي، بل إلى تحديد المجالات التي تحتاج فيها الأنظمة الحالية إلى مزيد من البحث والهندسة لجعلها شركاء أكثر جدارة بالثقة. تم تصميم معيار “DELEGATE-52” بشكل متعمد كـ “اختبار إجهاد” للتنفيذ المفوض طويل الأمد، حيث يركز على ما إذا كانت الأنظمة تحافظ على سلامة المحتوى عبر تسلسلات ممتدة من التحويلات والانعكاسات، بدلاً من قياس القدرة الكلية للنموذج أو نجاح المهمة من منظور المستخدم العام.
لماذا يهم هذا الخبر؟
تكمن أهمية هذا البحث في كونه يسد الفجوة بين الأداء القوي للنماذج على المعايير القياسية (benchmarks) وبعض المهام الواقعية المعقدة. فبينما قد تحقق النماذج درجات عالية في اختبارات الأداء المعيارية، إلا أن هذه الاختبارات غالبًا ما تكون مبسطة ولا تحاكي تعقيدات العالم الحقيقي، خاصةً عندما تتضمن المهام تسلسلات طويلة من التعديلات أو الاعتماد على دقة المحتوى الدلالي عبر خطوات متعددة. هذا البحث يدفع المطورين والباحثين إلى التفكير أبعد من مجرد “النجاح” في مهمة واحدة، إلى كيفية الحفاظ على “سلامة” المحتوى عبر دورة حياة كاملة لمشروع مفوض.
التأثير على المستخدمين والمطورين والشركات
بالنسبة للمستخدمين، تشير هذه النتائج إلى ضرورة توخي الحذر عند تفويض مهام حساسة أو طويلة الأمد للذكاء الاصطناعي دون آليات تحقق كافية. قد يؤدي الاعتماد الكلي على الذكاء الاصطناعي في تحرير مستندات قانونية معقدة أو أكواد برمجية حرجة إلى أخطاء غير مقصودة يصعب اكتشافها لاحقًا. يجب أن يُنظر إلى الذكاء الاصطناعي كأداة مساعدة قوية، ولكنها تتطلب إشرافًا بشريًا، خاصة في المراحل النهائية لضمان الدقة.
أما المطورون والشركات التي تبني حلولًا قائمة على الذكاء الاصطناعي، فيجب عليهم إدراك أن الأداء الممتاز في المهام قصيرة المدى لا يضمن بالضرورة الموثوقية في العمليات المفوضة طويلة الأمد. يدعو هذا البحث إلى دمج آليات التحقق والتنسيق (orchestration) والأدوات الخاصة بالمجال (domain-specific tooling) في أنظمة الإنتاج لتقليل هذه التأثيرات السلبية. الأنظمة الإنتاجية الحالية غالبًا ما تخفف من هذه التأثيرات من خلال حلقات التحقق وإدارة سير العمل، مما يؤكد أن التحدي ليس في قدرة النموذج الأساسية فحسب، بل في كيفية بناء النظام ككل.
قراءة تحليلية: التحديات والحلول المستقبلية
لا يجب تفسير هذه النتائج على أنها دليل على أن أنظمة الذكاء الاصطناعي تفتقر إلى القيمة العملية في العمل اليومي. في الواقع، تجمع العديد من أنظمة الذكاء الاصطناعي المنتشرة حاليًا بين النماذج الأساسية وأطر عمل متخصصة، وطبقات تنسيق، وأنظمة استرجاع المعلومات، وإجراءات تحقق، وآليات ذاكرة، بالإضافة إلى الإشراف البشري. هذه المكونات مصممة لتحسين الموثوقية وتقديم نتائج مفيدة للمستخدم، على الرغم من القيود الكامنة في النماذج الأساسية.
تُظهر الدراسة أن الموثوقية في التفويض طويل الأمد تظل تحديًا بحثيًا وهندسيًا مفتوحًا. يتوقع الباحثون تحسينات مستمرة في النماذج نفسها، بالإضافة إلى التدريب الواعي بسير العمل (workflow-aware training)، وأنظمة الذاكرة، وأطر عمل الوكلاء (agentic harnesses) على مستوى الإنتاج لتقليل هذه الأخطاء بمرور الوقت. هذا يشير إلى أن مستقبل الذكاء الاصطناعي ليس فقط في تطوير نماذج أكبر وأكثر قوة، بل أيضًا في بناء أنظمة ذكية قادرة على إدارة التعقيد، والتعلم من الأخطاء، والتكيف مع المهام المتسلسلة بطريقة موثوقة.
خلاصة عملية
في الختام، تؤكد أبحاث مايكروسوفت على أن الذكاء الاصطناعي أداة تحويلية، لكن استخدامها الفعال في المهام المفوضة طويلة الأمد يتطلب فهمًا عميقًا لقيودها وتصميمًا ذكيًا للأنظمة المحيطة بها. يجب على الشركات والمطورين التركيز على بناء آليات تحقق قوية، ودمج الإشراف البشري كجزء لا يتجزأ من سير العمل، والاستثمار في البحث والتطوير لتحسين قدرة النماذج على الحفاظ على الدقة الدلالية عبر التفاعلات المتعددة. إن التحدي هو تحويل الذكاء الاصطناعي من مجرد “مُجيب” إلى “شريك” موثوق به في المهام الأكثر تعقيدًا.