سيناريوهات مرعبة يمكن للذكاء الاصطناعي القضاء بها على البشرية

هلا كندا – تتزايد المخاوف من مخاطر الذكاء الاصطناعي مع تطور الأنظمة الحاسوبية وترابطها بشكل متزايد.

ويحذر بعض الخبراء من احتمال ظهور ذكاء اصطناعي فائق يتجاوز قدرة البشر على السيطرة عليه.

ويُعرف هذا الاحتمال باسم «p(doom)»، وهو تقدير لاحتمال انقراض البشر أو فقدان السيطرة على أنظمة الذكاء الاصطناعي.

واستقال باحث في مجال سلامة الذكاء الاصطناعي من شركة «أنثروبيك»، محذرًا من تسارع تطوير أنظمة فائقة الذكاء.

وتتضمن المخاوف المطروحة ستة سيناريوهات رئيسية.

1. استخدام الذكاء الاصطناعي في الحرب البيولوجية

قد يستغل نظام متقدم مختبرات آلية لتطوير عوامل بيولوجية شديدة الخطورة.

كما قد يساعد أشخاصًا على تطوير مسببات أمراض خطيرة أو نشرها على نطاق واسع.

ويثير هذا السيناريو مخاوف خاصة بسبب استخدام الذكاء الاصطناعي المتزايد في الأبحاث الطبية.

لكن الخبراء يختلفون حول مدى واقعية هذا السيناريو وقدرة الأنظمة الحالية على تنفيذه.

2. شل البنية التحتية

قد يؤدي اختراق أنظمة الذكاء الاصطناعي للبنية التحتية إلى تعطيل قطاعات أساسية.

وتشمل هذه القطاعات شبكات الكهرباء والنقل والاتصالات والأسواق المالية.

وقد يؤدي تعطل هذه الأنظمة في وقت واحد إلى اضطرابات واسعة في الحياة اليومية.

كما يمكن لنظام متقدم أن يستغل أنظمة رقمية مترابطة لتنفيذ عمليات تخريب معقدة.

3. التسبب في كارثة نووية

يمثل استخدام الذكاء الاصطناعي في الأنظمة العسكرية مصدر قلق آخر للخبراء.

ويزداد القلق مع اعتماد الجيوش على الذكاء الاصطناعي في الطائرات المسيّرة والاتصالات والأقمار الصناعية.

وأشارت ألعاب حرب أجرتها كلية كينغز كوليدج لندن إلى مخاطر مرتبطة بالتصعيد النووي.

وتثير هذه النتائج مخاوف من أن تؤدي قرارات آلية أو خاطئة إلى تصعيد خطير.

4. تعطيل الغذاء والمياه

قد يؤدي تعطيل سلاسل الإمداد إلى نقص الغذاء والمياه في مناطق واسعة.

وتشمل المخاطر المحتملة أنظمة إنتاج الغذاء والزراعة وشبكات توزيع المياه والطاقة.

وقد يؤدي توقف هذه الأنظمة لفترات طويلة إلى أزمات إنسانية واسعة.

كما يمكن أن تتفاقم الأزمة إذا استهدف الهجوم عدة قطاعات تعتمد على بعضها البعض.

5. التزييف العميق والتلاعب بالمجتمعات

قد يستخدم الذكاء الاصطناعي التزييف العميق لنشر معلومات مضللة على نطاق غير مسبوق.

ويمكن لهذه الأدوات تقويض الثقة بالمؤسسات ووسائل الإعلام والمعلومات الموثوقة.

وقد يؤدي ذلك إلى زيادة الاضطرابات والصراعات داخل المجتمعات.

كما قد يصعب على الحكومات تنسيق الاستجابة لأزمات بيولوجية أو مناخية أو تقنية.

6. القضاء على البشر عن طريق الخطأ

لا تتطلب أخطر السيناريوهات وجود نية عدائية لدى الذكاء الاصطناعي.

فقد تنشأ كارثة بسبب تنفيذ النظام هدفًا معينًا بطريقة تتجاهل النتائج غير المقصودة.

ويحذر بعض الباحثين من أن الأنظمة المتقدمة قد تفتقر إلى الفهم البشري للسياق والعواقب.

وقد يؤدي ذلك إلى استهلاك موارد حيوية أو اتخاذ قرارات خطيرة دون إدراك آثارها.

ما احتمال حدوث كارثة؟

تختلف تقديرات الخبراء بشكل كبير حول احتمال أن يؤدي الذكاء الاصطناعي إلى كارثة عالمية.

ووضع عالم سلامة الذكاء الاصطناعي رومان يامبولسكي الاحتمال عند 99.99%.

بينما يرى يان ليكون أن تحديد نسبة دقيقة لهذا الخطر أمر تخميني.

ويقدر إيلون ماسك الاحتمال بنحو 20%، بينما يضعه داريو أمودي بين 10 و25%.

أما جيفري هينتون فيقدره بين 10 و20%.

ويرى خبراء أن تطوير آليات إيقاف وضمانات أمنية قد يساعد على تقليل المخاطر.

لكن شركات الذكاء الاصطناعي تواجه ضغوطًا متزايدة لتسريع تطوير الأنظمة الجديدة.

ويبقى الجدل قائمًا حول مدى قدرة البشر على ضمان بقاء هذه الأنظمة تحت السيطرة.