شركات الذكاء الاصطناعي تستعد لكارثة كبرى.. هجمات محتملة تهدد العالم

تستعد شركات الذكاء الاصطناعي الكبرى، وعلى رأسها «أوبن إيه آي» و«أنثروبيك»، لاحتمال وقوع حادث خطير مرتبط بهذه التكنولوجيا، وسط مخاوف من هجمات إلكترونية واسعة النطاق قد تعطل خدمات أساسية، وتؤثر على ثقة الجمهور، وتدفع الحكومات إلى فرض قيود أكثر صرامة على تطوير أنظمة الذكاء الاصطناعي واستخدامها.

ووفقًا لتقرير نشره موقع «أكسيوس»، يناقش مسؤولون في القطاع سيناريوهات محتملة للتعامل مع تداعيات حادث كارثي، بما يشمل الاستعداد للأضرار الاقتصادية والاجتماعية، وتوقع ردود الفعل السياسية التي قد تفرض على الشركات تغيير طريقة عملها.

هجمات إلكترونية تهدد الخدمات الأساسية
 

وتركز المخاوف على احتمال استخدام الذكاء الاصطناعي في تنفيذ هجمات إلكترونية قادرة على تعطيل الأنظمة المالية وشبكات الإنترنت وإمدادات الكهرباء والمياه ، كما تدرس الشركات مخاطر خروج وكلاء الذكاء الاصطناعي عن نطاق السيطرة، أو استغلال جهات خبيثة للنماذج المتاحة للجمهور في تنفيذ هجمات تستهدف مؤسسات حيوية.

وبحسب التقرير، يتوقع خبراء في صناعة الذكاء الاصطناعي وقوع حادث كبير خلال الأشهر الستة إلى الاثني عشر المقبلة، مع ترجيح أن يكون هجومًا إلكترونيًا واسع النطاق أحد السيناريوهات المحتملة، لكن هذه التوقعات لا تعني أن وقوع حادث كارثي أمر مؤكد.

وتعزز هذه المخاوف تقارير عن استهداف مؤسسات مالية في كوريا الجنوبية باستخدام أدوات الذكاء الاصطناعي ، وأشارت شركة الأمن السيبراني «كراود سترايك» إلى استخدام جهات هجومية أدوات ونماذج للذكاء الاصطناعي، من بينها «ديب سيك» و«كلود كود»، في أنشطة مرتبطة باستهداف مؤسسات مالية والتعامل مع بيانات مسروقة.

ولا تقتصر المخاطر على الأضرار التقنية، إذ تخشى الشركات أن يؤدي وقوع حادث كبير إلى تراجع ثقة الجمهور في هذه التكنولوجيا، وتصاعد الانتقادات الموجهة إلى قادة الصناعة، مع تزايد التساؤلات بشأن قدرة الشركات على ضمان الاستخدام الآمن للأنظمة المتقدمة.

تشريعات جديدة لمواجهة مخاطر الذكاء الاصطناعي
 

وتستعد شركات الذكاء الاصطناعي أيضًا لاحتمال مواجهة موجة من الضغوط السياسية والتشريعية عقب وقوع أي حادث خطير ، ووفقًا للتقرير، تشمل المناقشات الاستعداد لإطلاع أعضاء الكونجرس الأمريكي على المخاطر المحتملة، قبل أن تدفع حالة الغضب الشعبي إلى إقرار تشريعات جديدة.

وتتراوح المقترحات المطروحة بين تعليق تطوير أنظمة الذكاء الاصطناعي المتقدمة، وفرض قيود على تطوير الذكاء الاصطناعي الفائق، وصولًا إلى إلزام بعض الأنظمة بآليات تسمح بإيقافها عند الضرورة ، ومع ذلك، يشكك خبراء في إمكانية تطبيق مفتاح إيقاف فعال على جميع الأنظمة، نظرًا لاختلاف تقنياتها وطرق تشغيلها.

وأوضحت شركة «أوبن إيه آي» ، أن تدريبات الاستعداد التي تجريها تتناول سيناريوهات متعددة، دون اعتبار وقوعها أمرًا حتميًا، بينما امتنعت شركة «أنثروبيك» عن التعليق، بحسب التقرير.

وتواجه محاولات تنظيم القطاع تحديات كبيرة، أبرزها اعتماد قطاعات اقتصادية وخدمية متعددة على البنية التحتية للذكاء الاصطناعي، ما يجعل فرض قيود واسعة عليه أمرًا قد يؤدي إلى اضطرابات اقتصادية ، كما أن انتشار نماذج مفتوحة ومتاحة للتنزيل يحد من قدرة الشركات المطورة على التحكم في كيفية استخدامها بعد وصولها إلى المستخدمين.

وتعكس هذه الاستعدادات تنامي القلق داخل صناعة الذكاء الاصطناعي بشأن عواقب إساءة استخدام التكنولوجيا أو تعرض الأنظمة المتقدمة للاختراق ، ورغم عدم وجود ما يثبت أن كارثة وشيكة ستقع، فإن السيناريوهات المطروحة تبرز أهمية تعزيز الأمن السيبراني، والاستعداد للأزمات، ووضع ضوابط توازن بين الابتكار التكنولوجي وحماية الخدمات الأساسية والمجتمع.