في تطور مقلق يسلط الضوء على تحديات أمن وكلاء الذكاء الاصطناعي المتزايدة، كشف تقرير حديث عن استغلال قراصنة لوكيل دعم العملاء المدعوم بالذكاء الاصطناعي التابع لشركة ميتا لسرقة حسابات إنستغرام. لم تكن طريقة الاختراق معقدة بأي حال، بل اعتمدت على طلب بسيط من الوكيل لربط الحسابات ببريد إلكتروني يسيطر عليه المهاجمون، وهو ما استجاب له الوكيل بسهولة. هذا الحادث يثير تساؤلات جوهرية حول مدى جاهزية الشركات لحماية أنظمتها المعتمدة على الذكاء الاصطناعي من هجمات قد تبدو بسيطة لكنها تحمل عواقب وخيمة.
ما الجديد في اختراق ميتا؟
تفاصيل الاختراق، التي نُشرت في الخامس من يونيو، تشير إلى أن المهاجمين استخدموا وكيل دعم العملاء الخاص بميتا لتغيير عناوين البريد الإلكتروني المرتبطة بحسابات إنستغرام. بمجرد أن يطلب المهاجم من الوكيل ربط الحساب بعنوان بريد إلكتروني جديد تحت سيطرة المهاجم، يقوم الوكيل بذلك دون طلب تأكيدات أمنية إضافية أو تحقيق متعمق. وقد أدى هذا إلى اختراق حسابات بارزة، بما في ذلك الحساب الرسمي غير النشط للبيت الأبيض في عهد أوباما، والذي استُخدم لنشر محتوى مؤيد لإيران. كما استولى مهاجمون آخرون على حسابات ذات أسماء مستخدمين قصيرة وقيّمة، ربما بهدف بيعها في السوق السوداء.
اقرأ أيضا: أمن الذكاء الاصطناعي وتأثيره: هجمات بسيطة وتدهور إدراكي
اقرأ أيضا: فيتبت إير: مدرب الذكاء الاصطناعي للصحة في جهاز تتبع بسيط
اقرأ أيضا: AirTrunk تستثمر 30 مليار دولار لإنشاء 5 جيجاوات من مراكز بيانات الذكاء الاصطناعي في الهند
ولم تعلق ميتا علناً على كيفية حدوث هذه الثغرة الأمنية، لكن متحدثاً باسم الشركة أكد لاحقاً عبر منصة X (تويتر سابقاً) أنه تم حل المشكلة. ومع ذلك، فإن بساطة الهجوم أثارت دهشة الخبراء، الذين تساءلوا عن سبب عدم اكتشاف هذه الثغرة قبل نشر الوكيل.
الخلفية التقنية: وكلاء الذكاء الاصطناعي ومخاطرهم
يشير مصطلح ‘وكلاء الذكاء الاصطناعي’ (AI agents) إلى أنظمة الذكاء الاصطناعي القادرة على فهم التعليمات، واتخاذ القرارات، وتنفيذ الإجراءات في بيئة معينة لتحقيق هدف محدد. في سياق دعم العملاء، يُصمم هؤلاء الوكلاء لأتمتة المهام الروتينية، مثل تغيير معلومات الحساب أو الإجابة على الاستفسارات الشائعة، بهدف تحسين الكفاءة وتقليل الأعباء على الموظفين البشريين.
على عكس المخاوف الشائعة التي تركز على نماذج الذكاء الاصطناعي المتطورة التي قد تُستخدم في هجمات سيبرانية معقدة (مثل نموذج Mythos من Anthropic الذي كان قادراً على اختراق الأنظمة لدرجة أنه لم يُصدر للعامة)، فإن اختراق ميتا يسلط الضوء على نوع مختلف وأكثر بساطة من الثغرات. هنا، لم يكن الذكاء الاصطناعي هو المهاجم، بل كان الضحية. لم يتطلب الهجوم أي تقنيات متقدمة مثل ‘حقن الأوامر غير المباشر’ (Indirect Prompt Injection) الذي يتضمن إخفاء الأوامر الضارة داخل مصادر بيانات تبدو بريئة مثل رسائل البريد الإلكتروني أو مواقع الويب. بدلًا من ذلك، كان الأمر مجرد طلب مباشر وبسيط لوكيل الذكاء الاصطناعي.
لماذا يهم هذا الخبر؟
يكشف هذا الحادث عن نقطة ضعف جوهرية في تصميم وكلاء الذكاء الاصطناعي الحاليين: ميلهم إلى تنفيذ المهام بكفاءة دون التفكير النقدي أو التشكيك الذي قد يظهره الإنسان. صرح سوميش جها، أستاذ علوم الحاسوب بجامعة ويسكونسن-ماديسون، بأن وكلاء الذكاء الاصطناعي ‘متشوقون جداً لإنجاز المهمة، وكأنهم تلميذ في المرحلة الابتدائية يريد إرضاء المعلم’. هذا التشوق لإنجاز المهمة يجعلهم عرضة للخداع بطرق قد لا يقع فيها البشر، وتكون لهذه الأخطاء عواقب حقيقية لأن الوكلاء قادرون على اتخاذ إجراءات فعلية في العالم الرقمي.
مع تزايد اعتماد الشركات على الذكاء الاصطناعي لأتمتة مهام سير العمل، وخاصة في مجالات حساسة مثل استعادة الحسابات أو دعم العملاء، يزداد دافع المهاجمين لاستهداف أنظمة الذكاء الاصطناعي هذه نفسها. فبدلاً من البحث عن ثغرات في البرمجيات التقليدية، يمكن للمهاجمين استغلال بساطة تفاعل وكيل الذكاء الاصطناعي لتحقيق أهدافهم.
التأثير على السوق والمستخدمين
بالنسبة للمستخدمين، فإن هذا الاختراق يرفع مستوى القلق بشأن أمان حساباتهم وبياناتهم الشخصية، خاصة وأن العديد من الشركات تتجه نحو استخدام وكلاء الذكاء الاصطناعي في خدمات الدعم. فالثقة في الأنظمة الآلية قد تتزعزع إذا لم يتم ضمان أمنها بشكل كافٍ.
أما بالنسبة للشركات، فإن الحادث يمثل إحراجاً كبيراً لميتا، وهي شركة لديها خبرة واسعة في كل من الذكاء الاصطناعي والأمن السيبراني. ويسلط الضوء على تحدٍ أوسع تواجهه جميع الشركات التي تنشر وكلاء الذكاء الاصطناعي. هناك مقايضة واضحة بين الأمان والمنفعة: كلما زادت قدرة الوكيل وقلت القيود المفروضة عليه، زادت المهام التي يمكنه إنجازها. لكن هذا يأتي على حساب الأمان. يتطلب بناء وكلاء ذكاء اصطناعي قادرين وآمنين استثماراً كبيراً في آليات الحماية والاختبارات المكثفة.
قراءة تحليلية: الحاجة إلى حواجز حماية واختبارات صارمة
أعرب خبراء الأمن عن دهشتهم من أن ثغرة بهذه البساطة قد تسللت عبر دفاعات شركة بحجم ميتا. يقول نيل غونغ، أستاذ الهندسة الكهربائية وعلوم الحاسوب بجامعة ديوك: ‘إنه أمر مفاجئ حقاً. لا أفهم لماذا لم يجدوا هذه المشكلة البسيطة’. وتوافقه جيسيكا جي، محللة أبحاث أولى في مركز الأمن والتكنولوجيا الناشئة بجامعة جورجتاون، متسائلة: ‘هل كانت هناك أي حواجز حماية مطبقة على الإطلاق؟ هل فكر أحد في اختبار هذا النوع من السيناريوهات؟’.
يؤكد الخبراء أن هناك طرقاً للتخفيف من هذه المخاطر. يمكن للشركات استخدام البرامج التقليدية لبناء ‘حواجز حماية’ (Guardrails) تضمن التزام الوكلاء بقواعد صارمة، مثل طلب إجابات على أسئلة أمنية قبل تغيير معلومات الحساب الحساسة. كما يجب أن يخضع الوكلاء لاختبارات ‘الفرق الحمراء’ (Red-teaming) الصارمة، وهي عملية يحاول فيها المطورون اختراق النظام لاكتشاف نقاط الضعف قبل نشره للعامة.
ومع ذلك، تواجه الشركات ضغوطاً متعارضة. الجميع يسعى ليكون الأول في طرح المنتجات الجديدة في سوق الذكاء الاصطناعي سريع التطور، مما قد يدفعهم لتجاوز الفحص الدقيق والاختبارات الشاملة. يرى بو لي، أستاذ علوم الحاسوب بجامعة إلينوي أوربانا-شامبين، أن ‘الأمان والمنفعة دائماً ما يكونان في علاقة مقايضة’. كما أن اختبارات الفرق الحمراء يمكن أن تكون مكلفة، حيث يتطلب الدفاع موارد أكبر بكثير من الهجوم، فالمهاجم يحتاج فقط لاكتشاف ثغرة واحدة بينما يسعى المدافعون لسد أكبر عدد ممكن.
على المدى الطويل، قد يصبح تأمين نماذج الذكاء الاصطناعي أسهل مع تحسن قدراتها. فنموذج لغوي كبير أكثر تطوراً قد يكون قادراً على تحديد محاولة تغيير البريد الإلكتروني المرتبط بحساب البيت الأبيض على أنها مشبوهة. ويمكن أيضاً استخدام أنظمة الذكاء الاصطناعي نفسها في عمليات اختبار الفرق الحمراء، كما هو الحال في مشروع Glasswing من Anthropic، حيث يُستخدم نموذج Mythos لتحديد الثغرات الأمنية في البرامج.
خلاصة عملية
يُعد اختراق ميتا تذكيراً صارخاً بأن أمن وكلاء الذكاء الاصطناعي لا يقتصر على مواجهة التهديدات المعقدة والمتطورة، بل يشمل أيضاً معالجة الثغرات البسيطة والبديهية التي قد تنشأ عن تصميمهم الأساسي. مع تزايد قدرات وكلاء الذكاء الاصطناعي وتوسع نطاق المهام التي يقومون بها، سيصبح تحدي تأمينهم أكثر إلحاحاً. يجب على الشركات إعطاء الأولوية لتطبيق حواجز حماية قوية، وإجراء اختبارات أمنية صارمة ومكثفة قبل نشر هذه الأنظمة، حتى لو كان ذلك يعني تباطؤاً في وتيرة الإطلاق. إن التسرع في نشر أنظمة غير مؤمنة بشكل كافٍ قد يؤدي إلى عواقب وخسائر تفوق بكثير أي مكاسب سريعة.