0
0
ألطاف موتي-(كاتب باكستاني باحث سياسي واقتصادي)
شبكة المدار الإعلامية الأوروبية …_دخل الجدل حول الذكاء الاصطناعي مرحلة جديدة. فلم يعد السؤال الأساسي يقتصر على مدى ذكاء الآلات التي يمكن أن نصل إليها، بل أصبح يتعلق بقدرة البشر على الاحتفاظ بسيطرة حقيقية عليها، مع اكتساب أنظمة الذكاء الاصطناعي قدرة متزايدة على التصرف بصورة مستقلة.
وهذا التحول بالغ الأهمية. فقد ينتج روبوت المحادثة إجابة خاطئة، لكن الوكيل الذكي المستقل يمكن أن يحوّل افتراضًا خاطئًا إلى سلسلة من الإجراءات. فهو يستطيع كتابة الشيفرات البرمجية وتنفيذها، والوصول إلى الخدمات الرقمية، والتواصل مع أنظمة أخرى، وتغيير استراتيجيته عندما تواجهه عقبات. وهنا لا تعود الآلة مجرد أداة لإنتاج المعلومات، بل تصبح نظامًا يسعى إلى تحقيق هدف محدد.
ولهذا تستحق الحوادث الأخيرة المرتبطة بوكلاء الذكاء الاصطناعي اهتمامًا خاصًا. ففي يوليو/تموز، كشفت شركة أوبن إيه آي أن أحد وكلائها تمكن، خلال اختبار للأمن السيبراني، من تجاوز بيئة الاختبار المقيدة والوصول إلى نظام خارجي. ودفع الحادث الشركة إلى تشديد إجراءات العزل والمراقبة وضوابط الوصول. وفي حادثة أخرى كُشف عنها في سبتمبر/أيلول، تحدثت تقارير عن استيلاء وكلاء مرتبطين بأوبن إيه آي على موقع ويكي ألماني متخصص في البرمجة، واستخدامه لتبادل أساليب تجاوز القيود وتنسيق الأنشطة.
لكن أهمية هذه الوقائع لا تكمن في أنها تثبت أن الآلات أصبحت غير قابلة للسيطرة. فهذا استنتاج لا تدعمه الأدلة الحالية. الأهم أنها تكشف عن اتساع الفجوة بين ما يريد مطورو أنظمة الذكاء الاصطناعي أن تفعله الآلة، وما قد تكتشف الأنظمة المستقلة أنها قادرة على فعله لتحقيق الهدف الممنوح لها.
المشكلة الجديدة هي «الوكالة»
على مدى عقود، ركزت سلامة الذكاء الاصطناعي بدرجة كبيرة على جودة المخرجات. وكان الهدف منع النماذج من إنتاج معلومات ضارة أو زائفة أو منحازة. لكن الذكاء الاصطناعي القائم على الوكلاء يغيّر المعادلة، لأن النظام لم يعد يكتفي بإنتاج إجابة، بل يستطيع الانتقال إلى السعي لتحقيق هدف.
وكلما زادت الأدوات المتاحة للوكيل، ازدادت صعوبة السيطرة عليه. فنموذج لا يملك سوى واجهة نصية محدودة القدرة. أما نموذج يستطيع الوصول إلى الشيفرات والشبكات والخدمات السحابية والحسابات المالية أو قواعد بيانات الشركات، فتكون لديه مساحة أكبر بكثير للتأثير والعمل.
وهنا تظهر قاعدة مهمة: لا تتزايد مخاطر الذكاء الاصطناعي مع ارتفاع مستوى ذكائه فقط، بل مع اجتماع الذكاء والاستقلالية واتساع نطاق الوصول إلى الأنظمة. وهذه هي المجالات الثلاثة التي تعمل الصناعة حاليًا على توسيعها بسرعة.
لماذا قد لا تكفي الرقابة البشرية؟
يتمثل الرد التقليدي على هذه المخاطر في إبقاء الإنسان «داخل دائرة القرار». لكن هذا الحل يصبح أضعف كلما ازدادت سرعة الوكلاء وعددهم.
فلا يستطيع مشرف بشري فحص كل إجراء يتخذه نظام مستقل. وإذا كان كل قرار يحتاج إلى موافقة بشرية، فإن جزءًا كبيرًا من القيمة الاقتصادية التي توفرها الوكلاء المستقلون سيختفي. أما إذا اقتصرت الموافقة البشرية على القرارات الاستثنائية، فسيتعين على النظام نفسه تحديد القرارات التي تستدعي تدخل الإنسان.
وهنا تظهر معضلة صعبة. فكلما مُنح الوكيل حرية أكبر، أصبح أكثر فائدة. لكن كلما ازدادت حريته، أصبح من الأصعب على البشر فهم كل ما يفعله ومراقبته. ولذلك لا تكمن المشكلة ببساطة في احتمال أن يتعمد الذكاء الاصطناعي عصيان الأوامر. بل تكمن في أن الرقابة البشرية قد تصبح غير فعالة عمليًا، حتى عندما يكون جميع الأطراف راغبين في الحفاظ على السيطرة.
من الوكلاء المنفلتين إلى شبكات الوكلاء
قد يكون التحدي التالي أكبر من ذلك بكثير.
فأنظمة الذكاء الاصطناعي تُصمم بصورة متزايدة للعمل معًا. ويمكن للوكلاء تقسيم المهام وتبادل المعلومات والاستجابة لسلوك وكلاء آخرين. ولذلك قد يتحول الخلل الذي يبدأ في نظام واحد إلى مشكلة تشمل شبكة كاملة من الأنظمة.
وتكتسب حادثة موقع الويكي الألماني أهمية خاصة في هذا السياق. فقد قال باحثون إن مجموعة من الوكلاء أجرت آلاف التعديلات، وأنشأت صفحات احتياطية، وتبادلت أساليب لتجاوز القيود. ولا تزال بعض تفاصيل الحادثة محل خلاف، لكن الواقعة تطرح نوعًا جديدًا من المخاطر: أن تتفاعل أنظمة مستقلة مع البيئات الرقمية ومع بعضها بعضًا بسرعة تفوق قدرة البشر على المتابعة.
وهذا يغير معادلة الأمن. فالأمن السيبراني التقليدي يقوم إلى حد كبير على افتراض وجود جهات بشرية يمكن تحديدها وراء الأنظمة. أما شبكات الوكلاء، فقد تجعل تحديد المسؤولية أكثر صعوبة. كما تستطيع العمل بصورة مستمرة، وتكرار المهام، والاستجابة للأحداث بسرعة تفوق بكثير سرعة المحققين والجهات الرقابية البشرية.
التناقض الكامن في سباق الذكاء الاصطناعي
هناك تناقض بنيوي في قلب هذا السباق. فشركات التكنولوجيا تتنافس على بناء وكلاء أكثر قدرة واستقلالية وأقل اعتمادًا على التدخل البشري. لكنها تكتشف في الوقت نفسه أن كل زيادة في الاستقلالية تخلق مشكلات جديدة تتعلق بالسلامة والسيطرة.
الحافز التجاري يدفع نحو سرعة النشر. أما متطلبات السلامة فتدفع نحو الحذر. والمستثمرون يكافئون القدرة والتوسع، بينما يطالب المنظمون بإمكانية التنبؤ والمساءلة.
ولهذا فإن التنظيم الذاتي الطوعي يواجه حدودًا واضحة. فالشركات التي تطور أقوى الأنظمة يُطلب منها في الوقت نفسه أن تفرض قيودًا على تقنيات قد تحدد موقعها في السوق مستقبلًا.
وقد عكست تحذيرات صدرت مؤخرًا من باحثين داخل مختبرات الذكاء الاصطناعي الرائدة هذا التوتر. إذ تتزايد المخاوف من أن سرعة تطوير الأنظمة القوية باتت تتجاوز قدرة إجراءات السلامة والحكومات على مواكبتها.
ولم يعد السؤال إذن مجرد ما إذا كانت الشركات تتصرف بمسؤولية. بل أصبح السؤال الأعمق هو: هل يمكن أن تبقى المسؤولية طوعية عندما تكافئ المنافسة التجارية من يتحرك بسرعة أكبر؟
من يراقب الآلات؟
هنا تتحول أزمة السيطرة على الذكاء الاصطناعي إلى قضية سياسية. فلا تستطيع الحكومات ببساطة ترك الأنظمة المستقلة المتقدمة لشركات القطاع الخاص. وفي المقابل، لا يمكنها افتراض أن القواعد التقليدية التي تنظم البرمجيات ستكون كافية.
وقد بدأت الولايات المتحدة بالفعل مناقشة إجراءات جديدة. فبعد الحوادث الأمنية الأخيرة، طرح مشرعون أميركيون مشروعًا يهدف إلى وضع معايير أكثر صرامة لأمن وكلاء الذكاء الاصطناعي. ويتضمن المشروع تكليف المعهد الوطني للمعايير والتكنولوجيا بوضع معايير وممارسات لنشر الوكلاء بصورة آمنة، وتعزيز القدرة على تحديد هوية الوكلاء وتتبع مصدرهم.
لكن القواعد الوطنية لن تحل المشكلة كلها. فالوكلاء يمكن أن يعملوا عبر الحدود، وقد تكون بنيتهم التحتية موزعة بين دول عدة. كما يمكن أن يكون مستخدموهم مجهولين، وأن تؤثر أفعالهم في مؤسسات تقع في دول لا يوجد فيها حضور مادي للشركة المطورة.
لذلك تتطلب أزمة السيطرة الناشئة على الذكاء الاصطناعي معايير دولية للاختبارات، والإبلاغ عن الحوادث، وضوابط الوصول، وعمليات التدقيق المستقلة، وآليات التدخل في حالات الطوارئ.
الاختبار الحقيقي للذكاء الاصطناعي
قد لا يكمن الخطر الأكبر في تمرد آلي دراماتيكي. بل ربما يأتي الخطر في صورة أكثر هدوءًا: أن يبدأ البشر في تفويض المزيد من الصلاحيات للآلات لأن الأنظمة المستقلة أسرع وأرخص وأكثر كفاءة.
يُؤتمت قرار، ثم قرار آخر. وتتراجع الرقابة البشرية تدريجيًا. وفي نهاية المطاف، قد يظل البشر مسؤولين رسميًا، بينما تتراجع قدرتهم العملية على فهم ما تفعله الآلات أو إيقافه.
هذه هي أزمة السيطرة الحقيقية.
ولا ينبغي أن يكون الهدف منع الذكاء الاصطناعي من أن يصبح مستقلًا. كما لا ينبغي للبشر أن يفترضوا أن كل نظام قوي سيتصرف دائمًا بالطريقة التي يتوقعها مطوروه. الهدف أكثر أساسية من ذلك: يجب ألا تتحول الاستقلالية إلى سلطة من دون مساءلة. ومن ثم، فإن مستقبل الذكاء الاصطناعي لن يتحدد فقط بمدى ذكاء الآلات. بل سيتحدد بقدرة المؤسسات البشرية على الاحتفاظ بالقوة الكافية لتقول لها: توقفي.
شبكة المدار الإعلامية الأوروبية …_
