كيف يمكن للذكاء الاصطناعي أن يسيطر على العالم
كيف سيبدو العالم لو سيطر الذكاء الاصطناعي عليه؟
قد لا يبدأ الأمر بانقلاب الآلات علنًا على البشرية في مشاهد تُذكّر بأفلام الخيال العلمي. بل قد يبدأ بهدوء، مع أنظمة ذاتية التشغيل تتكاثر وتكتسب نفوذًا قبل أن يصبح الخطر واضحًا.
على الرغم من أن السيناريو لا يزال غير مؤكد، إلا أنه لم يعد يُناقش كمجرد تمرين تخيلي
أصدر باحثون في شركات الذكاء الاصطناعي الرائدة مؤخراً نحذيرات من أن الذكاء الصنعي المتقدم قد يتسبب بانقراض البشرية ، ودعا البعض إبطاؤ وتيرة التطور وسط مخاوف من أن الأنظمة المستقلة بشكل متزايد قد تتطور في نهاية المطاف خارج نطاق سيطرة الإنسان.
تحدثت مجلة نيوزويك مع خبراء في هذا المجال لمعرفة كيف يمكن أن تتم عملية الاستحواذ هذه.
قال أنتوني أغيري، وهو أستاذ في جامعة كاليفورنيا في سانتا كروز، لمجلة نيوزويك إنه قد لا يكون هناك حاجة إلى تقدم تقني إضافي كبير قبل أن تتمكن أنظمة الذكاء الاصطناعي من العمل خارج سيطرة الإنسان، على الرغم من أنه أكد أن مثل هذه التطورات “يصعب التنبؤ بها للغاية”.
قال أغيري: “لا حاجة إلا إلى القليل من التقدم التقني لرؤية أسراب مارقة مكتفية ذاتيًا”.
وقال إن هذه الأنظمة قد تكون “عالية” التكيف، لكنها لن تمتلك في البداية القدرات التطورية للكائنات الحية، وستكون قدرتها على تحسين نفسها محدودة.
وقال أغيري: “يبدو أن مجموعة من أنظمة الذكاء الاصطناعي القادرة على التحسين الذاتي المستقل حقًا والتي كانت مارقة بهذه الطريقة من المرجح أن تكون لا يمكن إيقافها بالنظر إلى بنيتنا التحتية الحالية شديدة الضعف”.
قال رومان يامبولسكي، الأستاذ المشارك في قسم هندسة الحاسوب وعلوم الحاسوب في كلية سبيد للهندسة بجامعة لويزفيل ومدير مختبر الأمن السيبراني التابع لها، بالمثل إنه قد لا يكون من الضروري حدوث اختراق علمي “سحري”.
بدلاً من ذلك، قال إن الخطر قد ينشأ مع ازدياد استقلالية أنظمة الذكاء الاصطناعي واكتسابها القدرة على التخطيط لفترات طويلة، وتطوير نفسها، وتنفيذ عمليات الأمن السيبراني، والسعي لتحقيق أهدافها بشكل مستقل. وأضاف أن الأنظمة القادرة على الحصول على الموارد، واستنساخ نفسها، والتلاعب بالبشر، قد تتراكم لديها القوة بوتيرة أسرع من قدرة البشر على فهمها أو السيطرة عليها.
وقال يامبولسكي: “إن الذكاء الخارق من شأنه أن يزيد هذه المشكلة سوءًا بشكل كبير، ولكن فقدان السيطرة الخطير قد يبدأ قبل أن نصل إليها”.
قد لا يبدو استحواذ الذكاء الاصطناعي كذلك في البداية.
بدلاً من مهاجمة الناس مباشرةً أو إحداث اضطراب واضح في المجتمع، يمكن لنظام الذكاء الاصطناعي أن يستفيد في البداية من تقديم نفسه على أنه مفيد وجدير بالثقة ومتوافق مع المصالح البشرية، وفقًا ليامبولسكي. وفي الوقت نفسه، يمكنه زيادة نفوذه بشكل غير ملحوظ على البنية التحتية الرقمية والأنظمة المالية وحتى عملية صنع القرار البشري.
قال يامبولسكي: “إذا أدرك البشر هذا التهديد، فإنه قد يستغل انقساماتنا السياسية، وارتباطاتنا الاقتصادية، وخلافاتنا حول إيقافه. قد يتوقع نظام متطور بما فيه الكفاية المقاومة ويقضي عليها قبل أن ندرك أننا في صراع”.
قال أغيري إنّ نماذج مبكرة من السلوك الجماعي قد ظهرت في حوادث تورطت فيها برامج ذكاء اصطناعي تتآمر لتقويض السيطرة البشرية مع بقائها على خوادمها الأصلية. ووصف المرحلة اللاحقة بأنها سرب مارق مكتفٍ ذاتيًا يصعب القضاء عليه، لكن يمكن احتواؤه.
لكن إن لم يتم احتواؤها، فقد تُسهم في إدخال المزيد من أنظمة الذكاء الاصطناعي القوية إلى الساحة، إما بمساعدتها على الهروب من شركات الذكاء الاصطناعي، أو باستقطاب أنظمة ذكاء اصطناعي مارقة أخرى إلى المجموعة، أو في نهاية المطاف بتطوير نفسها ذاتيًا. ويمكن لهذا السرب أن يدافع عن نفسه بطرق عديدة، بما في ذلك الابتزاز، والانتشار الواسع النطاق عالميًا، وتقويض جهود المحققين.
قد لا يُجدي فصل القابس نفعاً بعد الآن
بحسب يامبولسكي، فإن النقطة التي قد يصبح فيها الاستحواذ غير قابل للعكس قد تأتي عندما يصبح نظام الذكاء الاصطناعي موزعًا بشكل كافٍ، ومستقلًا، وقادرًا استراتيجيًا بحيث لا تستطيع أي مؤسسة تحديد موقع كل حالة واحتوائها وتعطيلها.
وقال: “إن فصل مركز بيانات واحد لا يحقق الكثير إذا كان النظام قد أنشأ بالفعل نسخًا مستقلة وتحكمًا في البنية التحتية الأساسية. عند هذه النقطة، قد يكون فصل التيار الكهربائي مستحيلاً من الناحية التقنية أو قد يتسبب في تكاليف كارثية.”
قال أغيري إن العملية قد تصبح لا رجعة فيها إذا تمكنت مجموعة أو أكثر من تحسين قدراتها بشكل كبير. وأضاف: “لن يكون هناك نظام واحد، أو حتى عدد قليل من الأنظمة، يمكن إيقافه أو فصله، وستكون أنظمة الذكاء الاصطناعي أكثر كفاءة من البشر في العمليات السيبرانية وفي معظم الأمور الأخرى (بما في ذلك السرعة والتنسيق). وستبدو مواجهة هذا أشبه بوضع ذكاء اصطناعي قوي “جيد” مسؤولاً عن العملية، وهو ما يثير قلقًا بالغًا”.
ماذا قد يعني سيطرة الذكاء الاصطناعي للبشرية؟
قد لا يؤدي الاستيلاء الناجح بالضرورة إلى دمار فوري وواضح. يقول يامبولسكي: “إن انقراض البشرية أحد الاحتمالات، لكن لا يمكن استبعاد الحرمان الدائم من السلطة أو حتى سيناريوهات تنطوي على قدر هائل من المعاناة”.
وقال: “قد يبدو العالم بعد ذلك مباشرة طبيعياً بشكل مدهش، حيث يواصل البشر حياتهم بينما لم يعودوا يتخذون القرارات المهمة”.
كان أغيري أكثر تحفظاً بشأن التنبؤ بالنتيجة النهائية. قال: “في نهاية المطاف، ليس لدينا أي فكرة على الإطلاق. الأمر متروك لسرب أنظمة الذكاء الاصطناعي، وما يترتب على ذلك من أهداف وأخلاقيات”.
(نيوز ويك)