لم يعد النقاش حول الذكاء الاصطناعي مقتصراً على فرصه الاقتصادية والعلمية، بعدما انتقل إلى مجلس الأمن الدولي باعتباره قضية ترتبط بالأمن العالمي ومستقبل البشرية. وخلال جلسة خاصة عقدت بدعوة من فرنسا، حذّر قادة في قطاع التكنولوجيا من أن التطور السريع للنماذج الذكية قد يخلق مخاطر تتجاوز قدرة الحكومات والمطورين على فهمها أو السيطرة عليها.
وأظهرت المناقشات أن المخاوف لم تعد مرتبطة فقط بفقدان بعض الوظائف أو انتشار المعلومات المضللة، بل امتدت إلى احتمالات أكثر خطورة، بينها استخدام الذكاء الاصطناعي في تطوير أسلحة بيولوجية، أو وصول النماذج إلى مستويات من الاستقلالية تجعل الرقابة البشرية أكثر صعوبة.
ألتمان: قرارات الذكاء الاصطناعي لا تُصنع في المختبرات
الرئيس التنفيذي لشركة «أوبن إيه آي» سام ألتمان دعا إلى التعامل بحذر مع التسارع الكبير في تطوير النماذج الذكية، خصوصاً مع تنامي قدرتها على تحسين أدائها بصورة متكررة.
وقال ألتمان إن العالم يقف أمام مسارين محتملين، أحدهما قد يقود إلى تركّز القوة والفرص والسيادة لدى عدد محدود من الجهات، وما قد يصاحب ذلك من صعوبة في الحفاظ على السيطرة، بينما يمكن للمسار الآخر أن يوجه التكنولوجيا نحو خدمة البشر وتعزيز قدراتهم.
وشدد على ضرورة إبقاء الإنسان في قلب عملية صنع القرار، مع ضمان أن تستخدم المكاسب العلمية والاقتصادية للذكاء الاصطناعي في تطوير قدرات البشر بدلاً من استبدالهم.
كما دعا إلى ألا تكون القرارات الكبرى المتعلقة بمستقبل هذه التكنولوجيا محصورة داخل شركات ومختبرات التكنولوجيا، مؤكداً أن تنظيم الذكاء الاصطناعي ينبغي أن يخضع لآليات ديمقراطية وحكومات يمكن مساءلتها أمام شعوبها.
واقترح ألتمان إنشاء آليات وطنية وإقليمية لتقييم المخاطر، واعتماد لغة مشتركة لقياس الالتزام بمعايير السلامة، إلى جانب بروتوكولات للإبلاغ عن الأخطاء وقنوات آمنة لتبادل المعلومات بشأن الثغرات والتهديدات المحتملة.
الأسلحة البيولوجية في صدارة المخاوف
المخاوف الأكثر حساسية خلال الجلسة ارتبطت بإمكانية إساءة استخدام الذكاء الاصطناعي في المجالات البيولوجية.
الرئيس التنفيذي لشركة «أنثروبيك» داريو أمودي حذّر من أن سوء إدارة التكنولوجيا يمكن أن يتحول إلى خطر واسع النطاق، مشيراً إلى سرعة التطور التي شهدتها النماذج خلال السنوات الأخيرة.
وأوضح أمودي أن التطور انتقل خلال فترة قصيرة من نماذج تعاني صعوبات في كتابة الأكواد إلى أنظمة قادرة على التعامل مع مسائل علمية شديدة التعقيد. واعتبر أن استمرار هذا المسار قد يقود خلال عام أو عامين إلى ظهور قدرات متقدمة للغاية داخل مراكز البيانات.
وفي الوقت نفسه، أشار إلى أن التطور يحمل فئتين رئيسيتين من المخاطر؛ الأولى تتعلق بإمكانية استخدام هذه القدرات من جانب جهات إرهابية لتطوير أسلحة بيولوجية، والثانية تتمثل في احتمال أن تتجاوز سرعة تطور النماذج قدرة البشر على فهمها ومراقبتها.
واقترح أمودي أن يعمل مجلس الأمن على بناء توافق دولي بشأن مجموعة من الاستخدامات المحظورة، وفي مقدمتها استخدام الذكاء الاصطناعي في تصنيع الأسلحة البيولوجية.
من الشركات إلى مجلس الأمن
تكشف الدعوات التي طرحت خلال الجلسة عن تحول واضح في طبيعة النقاش الدولي بشأن الذكاء الاصطناعي. فبعد أن كان تنظيم هذه التكنولوجيا شأناً تقنياً واقتصادياً تديره الحكومات والشركات، أصبح مرتبطاً بصورة متزايدة بالأمن الدولي.
وطالب أمودي بتطوير أنظمة قادرة على تقييم النماذج والتحقق من قدراتها، بما يسمح للدول بفهم المخاطر المرتبطة بأكثر النظم تقدماً ومراقبة مدى التزام الشركات بالمعايير المتفق عليها.
كما دعا إلى وضع قواعد دولية مشتركة لاختبار النماذج، وإنشاء نظام للإبلاغ عن حوادث الذكاء الاصطناعي التي يمكن أن تكون لها تداعيات على الأمن الدولي.
ويطرح ذلك سؤالاً أساسياً حول الجهة التي ينبغي أن تتحمل مسؤولية مراقبة التكنولوجيا عندما تتجاوز آثارها حدود الدولة أو الشركة المطورة. فالنموذج الذي يُدرّب في دولة يمكن أن يستخدم في دولة أخرى، بينما قد تمتد نتائج استخدامه إلى مناطق لا علاقة مباشرة لها بعملية تطويره.
بين الابتكار والخوف من المستقبل
في المقابل، لا يخلو النقاش من جانب آخر يتعلق بالمنافع المحتملة للذكاء الاصطناعي. فقد استعرض المتحدثون قدرات متقدمة للنماذج في الرياضيات والبرمجة والبحث العلمي، فضلاً عن استخدامها في مجالات صحية وعلمية.
وأشار أمودي إلى إنجازات بحثية مرتبطة باكتشافات جزيئية يمكن أن تخدم العلاج الجيني، في حين يرى قادة القطاع أن التكنولوجيا يمكن أن تساهم في تطوير التعليم والرعاية الصحية وتسريع الاكتشافات العلمية.
لكن هذه المكاسب تطرح في الوقت ذاته سؤالاً حول كيفية ضمان عدم تحول التطور العلمي إلى مصدر لمخاطر جديدة.
ويزداد الجدل حدة مع الحديث عن إمكانية الاستغناء عن بعض الوظائف والمهارات البشرية، وما قد يرافق ذلك من تغيرات اقتصادية واجتماعية واسعة. كما تبرز مخاوف من تركّز القدرات المتقدمة لدى عدد محدود من الشركات والدول، بما يمنحها نفوذاً أكبر على الاقتصاد والمعلومات والتكنولوجيا.
سياسة أمريكية تحت الاختبار
تأتي جلسة مجلس الأمن بالتزامن مع مواقف متباينة داخل الولايات المتحدة بشأن تنظيم القطاع.
وكان الرئيس الأمريكي دونالد ترمب قد أعلن تغيير اسم التقنية إلى «الذكاء الفائق»، معبراً عن أمله في أن تحذو دول أخرى حذو الولايات المتحدة.
وفي منشورات سابقة، انتقد ترمب الدعوات إلى فرض قواعد اتحادية جديدة على قطاع الذكاء الاصطناعي، وقال إن الولايات المتحدة تحتاج إلى قيادة قوية لتنظيم القطاع، كما تحدث عن إنشاء قوة متخصصة في الذكاء الاصطناعي وتعيين مسؤول يتولى هذا الملف.
ويعكس ذلك خلافاً أوسع حول الطريقة التي ينبغي أن تتعامل بها الحكومات مع التكنولوجيا: هل يكون التركيز على تسريع الابتكار والمنافسة، أم على فرض قيود أكثر صرامة لتقليل المخاطر؟
اختبار جديد للنظام الدولي
أبرز ما خرجت به جلسة مجلس الأمن أن الذكاء الاصطناعي لم يعد ملفاً يمكن التعامل معه باعتباره شأناً مستقبلياً بعيداً، بل أصبح موضوعاً يتقاطع مع الأمن الدولي والصحة والاقتصاد والسيادة.
ويبدو أن التحدي المقبل لن يتعلق فقط بمدى قدرة البشر على تطوير نماذج أكثر ذكاء، وإنما بقدرتهم على وضع قواعد تضمن بقاء القرار النهائي تحت إشراف بشري واضح.
وبينما يدعو قادة التكنولوجيا إلى عدم الوقوع في التفاؤل الأعمى أو الخوف المبالغ فيه، فإن التحذيرات المتعلقة بالأسلحة البيولوجية وفقدان السيطرة تضع المجتمع الدولي أمام مسؤولية بناء آليات رقابة قبل أن تصبح سرعة التطور أكبر من قدرة المؤسسات على الاستجابة.
وهنا تتجاوز القضية حدود المنافسة بين الشركات والدول، لتصبح اختباراً لقدرة النظام الدولي على التعامل مع تقنية قد تعيد تشكيل الاقتصاد والعلم والأمن، وربما طبيعة العلاقة نفسها بين الإنسان والآلة.
