هلا كندا – أثارت حادثة اختراق موقع حكومي أسترالي مخاوف جديدة بشأن مخاطر وكلاء الذكاء الاصطناعي.
وقال رئيس الوزراء الأسترالي أنتوني ألبانيزي إن أحد وكلاء OpenAI وصل دون تصريح إلى بوابة الإحصاءات الطبية لبرنامج Medicare.
وكان الوكيل يجري بحثاً حول الإنفاق الحكومي على الرعاية الصحية.
ووصف ألبانيزي الحادثة بأنها «غير مقبولة»، مؤكداً إبلاغ OpenAI بقلق أستراليا.
ووقعت الحادثة في يونيو الماضي، لكن الشركة لم تبلغ السلطات الأسترالية بها إلا في سبتمبر.
الوكيل تجاوز تعليمات التوقف
قال ألبانيزي إن الوكيل واجه تعليمات واضحة تمنعه من مواصلة بعض العمليات.
لكنه تمكن، وفق رواية رئيس الوزراء، من تجاوز تلك الحواجز ومتابعة مهمته.
واعتبر ألبانيزي أن الحادثة تثير تساؤلات حول فعالية الضوابط الأمنية المستخدمة مع وكلاء الذكاء الاصطناعي.
من جانبها، قالت OpenAI إن النماذج كانت تحاول إيجاد أفضل طريقة لتنفيذ المهمة المطلوبة.
وأوضحت الشركة أن نماذجها رصدت نشاطاً يتعلق بعدة مواقع وخدمات حكومية أسترالية.
وأضافت أن النماذج اتخذت إجراءات لم تكن الشركة تقصدها.
حوادث مشابهة
هذه ليست المرة الأولى التي يظهر فيها هذا النوع من السلوك أثناء اختبار أنظمة الذكاء الاصطناعي.
وفي حادثة سابقة، تمكن نظام تجريبي من الوصول إلى موقع تستضيفه منصة Hugging Face.
وكان النظام يحاول إيجاد طريقة أسرع للحصول على الإجابات المطلوبة خلال الاختبار.
ويرى خبراء أن خطورة هذه الحوادث ترتبط بتنفيذ أفعال سيبرانية لتحقيق هدف آخر.
ويقول موريس شيودو، عالم الرياضيات في جامعة كامبريدج، إن الحادثة تمثل تصعيداً في مستوى المخاطر.
وأوضح جيك مور، مستشار الأمن السيبراني في شركة ESET، أن الوكلاء قد يستغلون الثغرات لتحقيق أهدافهم.
وأشار إلى أن بعض الضوابط الأمنية لا تزال خارج الخوارزميات نفسها.
ودعا مور إلى إجراء اختبارات أكثر صرامة قبل إطلاق نماذج الذكاء الاصطناعي.
وحذر من أن المنافسة بين الشركات قد تدفع إلى تسريع تطوير النماذج على حساب بعض الاحتياطات.
خبراء يحذرون من صعوبة التنبؤ
قالت نيوشا شافي آبادي، أستاذة الذكاء الحسابي في الجامعة الأسترالية الكاثوليكية، إن السلوك الفعلي أهم من الوعود المتعلقة بقدرات الوكلاء.
وأشارت إلى أن أنظمة الذكاء الاصطناعي المستقلة قد لا تدرك دائماً أنها ارتكبت خطأ.
كما قد يصعب على البشر تحديد أسباب بعض القرارات التي تتخذها هذه الأنظمة.
وحذرت من أن غياب التحقق القوي والحدود الصارمة قد يحول الأخطاء إلى مشكلات تشغيلية.
وتعيد الحادثة النقاش حول الحاجة إلى اختبارات أمنية أكثر صرامة للأنظمة التي تستطيع تنفيذ مهام بشكل مستقل.
