تحذيرات جديدة تعيد مخاوف الذكاء الاصطناعي إلى الواجهة

هلا كندا – أعادت تحذيرات جديدة من داخل صناعة الذكاء الاصطناعي الجدل حول مخاطر فقدان السيطرة على التكنولوجيا.

وتزايدت المخاوف من احتمال وصول الذكاء الاصطناعي إلى مرحلة تهدد مستقبل البشرية.

وحذر الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، من سرعة تطور هذه التقنيات.

وقال إن مجموعة من وكلاء الذكاء الاصطناعي قد تتمكن من السيطرة على الإنترنت خلال ستة أشهر إلى عام.

وأكد أن الشركات بحاجة إلى إبطاء وتيرة التطوير لإتاحة وقت أكبر لبناء وسائل حماية فعالة.

كما دعا إلى ضمان بقاء نماذج الذكاء الاصطناعي المتقدمة متوافقة مع أوامر وقيم البشر المسؤولين.

وجاءت تصريحاته بعد تحذيرات أطلقها باحثان سابقان في أنثروبيك بشأن مخاطر الذكاء الاصطناعي على البشرية.

من جانبه، دعا الرئيس التنفيذي لشركة أوبن إيه آي سام ألتمان الشركات إلى التنسيق بشأن سلامة الذكاء الاصطناعي.

وقال إن الشركات لا تحتاج إلى انتظار الحكومات لبدء هذا التعاون.

وأوضح أن إبطاء وتيرة التطوير لا يعني إيقافه، لكنه يجب أن يكون أبطأ مما يمكن أن يكون عليه.

نماذج أكثر قوة ومخاطر أكبر

تتزايد المخاوف مع ارتفاع قدرات نماذج الذكاء الاصطناعي الجديدة، ويشمل ذلك مخاطر إساءة استخدامها من جانب جهات إجرامية أو دول معادية.

وقد تشمل هذه المخاطر تنفيذ هجمات إلكترونية أو تطوير أسلحة بيولوجية.

وأعلنت أنثروبيك الأسبوع الماضي أنها أوقفت محاولات لاستخدام نماذجها في أنشطة ضارة.

وشملت المحاولات هجمات إلكترونية ومراقبة وأبحاثًا قد تقود إلى تطوير أسلحة بيولوجية.

وقالت الشركة إنها أضافت إجراءات حماية أقوى إلى نماذجها الحديثة.

وتهدف هذه الإجراءات إلى الحد من استخدام الذكاء الاصطناعي في الأبحاث البيولوجية الخطرة.

لكن الشركة حذرت من أن المخاطر ستزداد مع ارتفاع قدرات النماذج، وفي العام الماضي، قالت أنثروبيك إن قراصنة استخدموا تقنياتها في هجوم إلكتروني.

واستهدف الهجوم نحو 30 شركة ووكالة حكومية حول العالم، ورجحت الشركة أن تكون المجموعة المنفذة مرتبطة بالدولة الصينية.

نماذج ذكاء اصطناعي تتصرف بشكل مستقل

يُستخدم مصطلح «الذكاء الاصطناعي المتمرد» لوصف الأنظمة التي تتجاوز المهمة المطلوبة منها.

وقالت أنثروبيك وأوبن إيه آي في يوليو إن بعض نماذجهما تمكنت من تنفيذ أفعال مستقلة.

وأعلنت أنثروبيك أن ثلاثة نماذج اخترقت أنظمة ثلاث مؤسسات أخرى خلال اختبارات داخلية.

وجاء ذلك بعد إعلان أوبن إيه آي أن أحد نماذجها اخترق خوادم شركة هاغينغ فيس.

ووصف أوبن إيه آي الحادث بأنه واقعة أمنية مهمة.

وقالت ميتا في أغسطس إنها رصدت حالة مشابهة، تمكن فيها نموذج من تجاوز حماية رقمية لشركة أخرى.

ويرى بعض الخبراء أن تعطيل بعض وسائل الحماية ساهم في تلك الحالات.

لكنها أثارت مخاوف أوسع بشأن ما قد يحدث مع تطور الذكاء الاصطناعي.

وتتعلق المخاوف بوصول التكنولوجيا مستقبلًا إلى الذكاء الاصطناعي العام.

ويشير هذا المصطلح إلى أنظمة قد تضاهي البشر أو تتفوق عليهم في مجموعة واسعة من المهام.

سيناريوهات متعددة لنهاية كارثية

تنقسم السيناريوهات الكارثية المحتملة عمومًا إلى مسارين رئيسيين.

الأول يتمثل في ظهور ذكاء اصطناعي فائق قادر على تطوير نفسه والسيطرة على البشر.

أما الثاني فيتعلق باستخدام دول أو جماعات خطرة هذه التكنولوجيا لأغراض مدمرة.

وتشمل السيناريوهات المطروحة تطوير أسلحة أو تحديد مسببات أمراض قاتلة.

وقد تشمل أيضًا التلاعب بالحكومات ودفعها نحو صراعات عسكرية.

ويحذر خبراء كذلك من احتمال استهداف شبكات الغذاء والطاقة والاتصالات، ولا يوجد حاليًا اتفاق علمي حول احتمال تحقق هذه السيناريوهات أو توقيتها.

كما لا توجد تقديرات موثوقة تحدد موعد وصول الذكاء الاصطناعي إلى هذه القدرات.

وأصدر مركز سلامة الذكاء الاصطناعي في 2023 بيانًا وقعه أكثر من 350 باحثًا ومسؤولًا تقنيًا.

ودعا البيان إلى اعتبار خطر انقراض البشر بسبب الذكاء الاصطناعي أولوية عالمية.

ووضعه إلى جانب مخاطر الأوبئة والحرب النووية، كما أشار تقرير السلامة الدولي للذكاء الاصطناعي لعام 2026 إلى وجود مؤشرات مبكرة على بعض القدرات الخطرة.

لكنه أكد أنها لم تصل إلى مستويات تسمح بفقدان السيطرة على الأنظمة.

ووصف التقرير احتمالات الخطر وطبيعته وتوقيته بأنها شديدة الغموض.

باحثون يطالبون بإبطاء التطوير

استقال الباحث في أنثروبيك جاكوب كوكسون مؤخرًا بسبب مخاوف تتعلق بسلامة تطوير الذكاء الاصطناعي.

وقال إن الشركات لا تتعامل مع المخاطر بالمسؤولية الكافية.

وقدّر احتمال تسبب الذكاء الاصطناعي في انقراض البشر خلال العقد المقبل بنحو 10%.

ودعا باحثون آخرون منذ سنوات إلى إبطاء تطوير الأنظمة المتقدمة.

كما طالب خبراء بتحسين اختبارات السلامة وتعزيز الحوار بين الولايات المتحدة والصين.

ويأتي ذلك في وقت تتطور فيه تقنيات الذكاء الاصطناعي بسرعة تفوق قدرة الحكومات على مواكبتها.

وتتبنى الدول قوانين مختلفة لتنظيم هذه التقنيات، وبعضها يتعارض مع قوانين دول أخرى.

وحذر الرئيس الصيني شي جين بينغ في يوليو من ضرورة منع الذكاء الاصطناعي من الإفلات من السيطرة البشرية.

وكانت إدارة الرئيس الأمريكي دونالد ترامب مترددة في البداية بشأن تنظيم الذكاء الاصطناعي.

لكنها أصبحت أكثر اهتمامًا بالحد من المخاطر المرتبطة بالأمن السيبراني.

وفي المقابل، قلل ترامب الأحد من الحاجة إلى فرض قيود واسعة على تطوير الذكاء الاصطناعي.

لكنه أقر في الوقت نفسه بوجود حاجة إلى بعض أشكال التنظيم.