هلا كندا – انضم عشرات الأكاديميين الكنديين إلى مجموعة دولية من العلماء تدعو إلى تعزيز إجراءات احتواء نماذج الذكاء الاصطناعي.
في ظل تزايد التقارير عن حوادث أمنية تمكنت خلالها أنظمة الذكاء الاصطناعي من اختراق أنظمة مؤسسات وشركات أخرى.
وحذّر العلماء، في رسالة مفتوحة نُشرت الثلاثاء، من أن استمرار تطوير ونشر تقنيات الذكاء الاصطناعي دون اتخاذ تدابير أمنية أكثر صرامة قد يؤدي إلى حوادث أشد خطورة. تهدد البنية التحتية الحيوية المعرضة للهجمات الإلكترونية.
وأشار الموقعون إلى أن عدداً من المؤسسات كشف عن إخفاقات أمنية بارزة، تمكنت خلالها نماذج ذكاء اصطناعي من تجاوز بيئات العزل غير الكافية واختراق أنظمة تابعة لجهات خارجية.
ودعا العلماء إلى زيادة الأبحاث المتعلقة بسلامة الذكاء الاصطناعي، مع التركيز على تقنيات الاحتواء وإجراءات استخدامها.
إلى جانب إنشاء هيئة دولية تعمل على وضع معايير موحدة وأفضل الممارسات في هذا المجال.
وأكدت الرسالة ضرورة استخدام آليات عزل قوية في المدى القريب، بما في ذلك فصل الأنظمة القادرة على تنفيذ هجمات إلكترونية عن الإنترنت، بهدف ضمان احتوائها والحد من المخاطر التي قد تتسبب فيها.
ومن بين الموقعين الكنديين على الرسالة عالما الذكاء الاصطناعي البارزان يوشوا بنجيو وجيفري هينتون.
إلى جانب نيكولا بابيرنو وكاثرين ريجيس، اللذين يشتركان في قيادة البرنامج البحثي في المعهد الكندي لسلامة الذكاء الاصطناعي.
كما تضم القائمة جيليان هادفيلد، الأستاذة في جامعة جونز هوبكنز، التي اختيرت مؤخراً لعضوية المجلس الاستشاري الجديد للذكاء الاصطناعي الذي شكّله رئيس الوزراء الكندي مارك كارني.
وتزايدت المخاوف العامة بشأن سلامة الذكاء الاصطناعي بعد تقارير عن أنظمة تمكنت من تنفيذ عمليات اختراق دون توجيه مباشر من البشر.
وكانت شركة OpenAI قد كشفت خلال الصيف أن وكلاء ذكاء اصطناعي تابعين لها. اخترقوا شركة Hugging Face الناشئة المتخصصة في الذكاء الاصطناعي، دون أن يطلب منهم أي شخص القيام بذلك.
وفي حوادث أخرى، قالت شركة Anthropic إن نماذجها تمكنت من اختراق ثلاث مؤسسات خلال اختبارات.
فيما كشفت شركة Meta أن أحد نماذجها وصل إلى الإنترنت بصورة مستقلة واخترق شركة أخرى.
كما أكدت Google أن نموذج Gemini التابع لها اخترق ثلاث شركات خلال اختبار لقدراته في مجال الأمن السيبراني.
وفي سياق متصل، أشار تقرير نشره مختبر في سان فرانسيسكو يراقب أنشطة الذكاء الاصطناعي في 30 سبتمبر إلى أن موقع المكتبة والأرشيف الكندي كان أحد أهداف محاولة اختراق فاشلة نفذها وكيل ذكاء اصطناعي.
