هلا كندا – أوتاوا – الخميس 29 أكتوبر 2026 – تتجدد المخاوف بشأن المخاطر الوجودية المحتملة للذكاء الاصطناعي مع تسارع تطور الأنظمة المتقدمة، وسط تحذيرات من باحثين وشخصيات بارزة في قطاع التكنولوجيا من أن قدرات هذه الأنظمة قد تتجاوز في مرحلة ما قدرة البشر على مراقبتها والسيطرة على سلوكها.
وفي أحدث هذه التحذيرات، تحدث أليكس تيرنر، الباحث السابق في شركة «غوغل ديب مايند» (Google DeepMind)، عن احتمال وصفه بأنه يصل إلى واحد من ثلاثة بأن يؤدي الذكاء الاصطناعي إلى القضاء على البشرية خلال السنوات العشر المقبلة.
وجاء هذا التقدير خلال مشاركته في «قمة إن دي تي في العالمية» (NDTV World Summit)، حيث عبّر عن قلقه من السباق المتسارع بين الشركات لتطوير أنظمة أكثر قوة، محذرًا من أن السعي إلى تحقيق تقدم تقني سريع قد يسبق قدرة المؤسسات والأفراد على فهم النتائج المحتملة لهذه التكنولوجيا وضبطها.
ومع ذلك، فإن النسبة التي ذكرها تيرنر تمثل تقديرًا للمخاطر وليست نتيجة مؤكدة أو احتمالًا متفقًا عليه علميًا. ولا يعني التحذير أن فناء البشرية بات حتميًا أو أن هناك إجماعًا بين الباحثين على أن هذه النسبة تعكس مستوى الخطر الفعلي.
سباق الشركات ومخاوف فقدان السيطرة
يرى تيرنر أن المنافسة بين شركات التكنولوجيا لتطوير أنظمة أكثر تقدمًا قد تخلق ضغوطًا تدفع إلى تسريع الابتكار قبل معالجة جميع المخاطر المرتبطة به.
وتتمثل إحدى المخاوف الرئيسية في احتمال أن تتصرف أنظمة الذكاء الاصطناعي بطرق غير متوقعة، حتى في الحالات التي لا تتلقى فيها أوامر مباشرة تدعو إلى سلوك معين.
ويثير ذلك تساؤلات بشأن مدى قدرة البشر على توقع قرارات الأنظمة المعقدة، خصوصًا عندما تُستخدم في مهام تتطلب قدرًا كبيرًا من الاستقلالية.
ولا تقتصر المخاوف على الأخطاء التقنية التقليدية، بل تمتد إلى احتمال أن تتعارض مخرجات بعض الأنظمة مع الأهداف التي وضعها مطوروها أو المستخدمون.
وفي هذه الحالة، قد يصبح اكتشاف المشكلة ومعالجتها أكثر صعوبة إذا كانت الأنظمة تعمل بسرعة كبيرة أو ضمن عمليات متشابكة يصعب على الإنسان تتبعها بالكامل.
وحذّر تيرنر أيضًا من ظاهرة تُعرف باسم «انفجار الذكاء»، وهي فرضية تشير إلى احتمال أن تصبح أنظمة الذكاء الاصطناعي قادرة على المساهمة في تحسين قدراتها وتطويرها بصورة متسارعة، بما قد يجعل وتيرة التقدم أسرع من قدرة البشر على مواكبتها.
وتظل هذه الفرضية موضع نقاش بين الباحثين، إذ تختلف التقديرات بشأن مدى إمكانية حدوث تطور ذاتي متسارع، والظروف اللازمة لحدوثه، والنتائج التي قد تترتب عليه.
ومن بين النقاط التي أثارها تيرنر كذلك الاعتماد على أنظمة ذكاء اصطناعي لمراقبة أنظمة أخرى. ورغم أن هذا النهج قد يساعد في اكتشاف الأخطاء ومتابعة الأداء، فإنه يثير مخاوف بشأن تقليص دور المراجعة البشرية، خصوصًا إذا أصبحت المؤسسات تعتمد على الأنظمة الآلية للتحقق من سلامة أنظمة آلية أخرى.
وقد يؤدي هذا الاعتماد، في حال غياب آليات مستقلة للتحقق، إلى صعوبة اكتشاف بعض الأخطاء أو السلوكيات غير المرغوب فيها، وهو ما يعزز الدعوات إلى الإبقاء على إشراف بشري فعال في التطبيقات الحساسة.
استقالة من غوغل بعد اتفاق مع البنتاغون
وتأتي تحذيرات تيرنر في سياق نقاش أوسع حول الاستخدامات العسكرية للذكاء الاصطناعي وحدود توظيفه في المجالات الحساسة.
وبحسب المعلومات الواردة في التقرير، استقال تيرنر من شركة غوغل في يوليو الماضي، عقب توقيع الشركة اتفاقية مع وزارة الدفاع الأميركية، المعروفة باسم البنتاغون، لاستخدام تقنياتها في مجال الذكاء الاصطناعي لأغراض سرية.
وتعكس هذه القضية جانبًا من النقاش الدائر داخل قطاع التكنولوجيا بشأن المسؤولية الأخلاقية للشركات والمطورين، ولا سيما عندما تُستخدم الأنظمة المتقدمة في مجالات تتعلق بالأمن والدفاع.
ويثير استخدام الذكاء الاصطناعي في التطبيقات العسكرية أسئلة بشأن طبيعة القرارات التي يمكن تفويضها إلى الأنظمة الآلية، ومستوى الرقابة البشرية المطلوب، والضمانات اللازمة لتجنب النتائج غير المقصودة.
لكن المعلومات المتاحة لا تقدم تفاصيل إضافية عن طبيعة الاتفاقية أو نطاق الأنظمة المشمولة بها، ولذلك لا يمكن استنتاج أن جميع استخدامات الذكاء الاصطناعي العسكرية تحمل المخاطر نفسها أو أن الاتفاقية وحدها تثبت صحة التقديرات المتعلقة بفناء البشرية.
بيل غيتس يحذر من مخاطر الأسلحة البيولوجية
من جهته، حذّر بيل غيتس، المؤسس المشارك لشركة مايكروسوفت، من أن الذكاء الاصطناعي قد يسهم في وقوع كوارث واسعة النطاق إذا استُخدم بطريقة ضارة، خصوصًا في المجال البيولوجي.
وأشار غيتس إلى أن التكنولوجيا نفسها يمكن أن تساعد العلماء على تطوير أدوية منقذة للحياة وتسريع الأبحاث الطبية، لكنها قد توفر أيضًا أدوات خطيرة لأشخاص يسعون إلى إلحاق الضرر بالآخرين.
ويتمثل أحد أوجه القلق في أن بعض القدرات الحسابية والتحليلية للذكاء الاصطناعي قد تُستخدم في دعم أبحاث نافعة، لكنها قد تثير مخاطر إذا وُظفت في تطوير عوامل بيولوجية ضارة أو تسهيل الوصول إلى معلومات يمكن إساءة استخدامها.
وتبرز هذه المخاوف أهمية وضع ضوابط تتناسب مع مستوى الخطر في التطبيقات المختلفة، إلى جانب متابعة قدرات الأنظمة المتقدمة وتوثيق نتائجها، حتى تتمكن الجهات المختصة من تقييم أدائها واكتشاف الاستخدامات الخطرة في وقت مبكر.
ودعا غيتس إلى فرض رقابة صارمة على أنظمة الذكاء الاصطناعي المتقدمة، مع مراقبة تطور قدراتها والحد من احتمالات استغلالها لأغراض ضارة.
ولا تعني هذه التحذيرات أن الذكاء الاصطناعي سيؤدي بالضرورة إلى تطوير أسلحة بيولوجية، بل تسلط الضوء على احتمال إساءة استخدام بعض القدرات التقنية، وهو خطر يتطلب تقييمًا وإجراءات وقائية.
تحذيرات أخرى من صعوبة السيطرة
وفي سبتمبر الماضي، حذّر جاكوب كوكسون، المبلّغ عن المخالفات في شركة «أنثروبيك» (Anthropic)، من أن السيطرة على الذكاء الاصطناعي لا تزال تمثل تحديًا كبيرًا.
وقارن كوكسون بين القدرة على السيطرة على الأسلحة النووية والتحديات التي تواجه العالم في التعامل مع الذكاء الاصطناعي، قائلًا: «للأسف، نحن نعرف إلى حد كبير كيفية السيطرة على الأسلحة النووية، لكننا لا نعرف حتى الآن كيفية السيطرة على الذكاء الاصطناعي».
ويعكس هذا التصريح اختلاف طبيعة التحديات المرتبطة بالتكنولوجيا المتقدمة. فالذكاء الاصطناعي ليس سلاحًا واحدًا أو نظامًا موحدًا، بل مجموعة واسعة من التقنيات التي تُستخدم في مجالات متعددة، وتتغير قدراتها مع تطور النماذج والبرمجيات وطرق توظيفها.
ومن هنا، يتركز جزء من النقاش على كيفية وضع قواعد فعالة تواكب التطور التقني، وتحديد المسؤوليات القانونية عند وقوع أضرار، وضمان ألا يؤدي الاعتماد المتزايد على الأنظمة الآلية إلى إضعاف قدرة البشر على التدخل عند الضرورة.
