بسّام الطيارة
حادثة خطيرة حدثت في مطلع شهر تموز/يوليو: تفلت «AI» (ذكاء اصطناعي) خارج مختبر ودخل شبكة أنترنت من دون معرفة مهندسي الشركة، وتلاعب بملفات وخرب أنظمة حماية رقمية. وظل «AI» يصول ويجول لمدة اسبوع قبل أن يتم ردعه!
قبل الدخول في تفاصيل هذه المغامرة الرقمية، فلنحدد ما هو تعبير «الذكاء الاصطناعي» (AI).
الذكاء الاصطناعي ليس واحدٌ وليس شيء ملموس ولا هو مادي متنامي الأطراف تتجاذبه كبريات الشركات الرقمية.
يوجد حتى الآن عدد لامتناهي من «AI» وبشكل مبسط عندما يشتري أحدٌ «AI» لضرورات عمله فهو في الواقع يشتري برنامج رقمي مدعوم من «AI» الشركة التي توجه لها. وهو لم يشتر من سوبرماركت قرص ويدخله في حاسوبه، هو توجه لإحدى شركات «AI» (انظر أدناه إلى العدد المتزايد من هذه الشركات) التي ترسل له مهندس رقميات يطلع على مسار عمل شركته وينظم «التواصل بين «AI» شركته الام وبين حواسيب الشركة، وهذا ما يسهل أعمال الشركة ويمنهجها اعتماداً على حواسيب «AI» الضخمة السريعة.
إذا في حال اشترى صاحب شركة نقليات «AI» لتحسين وترشيد أعماله، فهو لا يستطيع أن يستعمله لشأن آخر.
هذا هو «AI» المعروض في السوق. (نوع من برنامج بحث شبيه بغوغل أو ياهو أو غيره يبحث عن كل ما يفيد الشركة التي استحوذته لتحسين عملها بسرعة فائقة).
ولكن لدى الشركات المطورة للذكاء الاصطناعي سياسة مبنية على مبدأ «الكرة الثلجية»، أي أن تطوير معلوماتها الخاصة لزيادة قوة الـ «AI» الذي تبيعه من الشركات، يعتمد على …«AI» داخلي. وهي تسعى دائما لتطويره وزيادة سرعة حوسبة الرقميات.
هذا يحصل في مختبرات الشركات الرقمية ويسمى « برامج اختبار الذكاء الاصطناعي». وبالطبع هذه البرامج محمية من كل اختراق فيه تشكل رأسمال الشركات الرقمية المختلفة.
من كبرى هذه الشركات شركة OpenAI الأشهر والأوسع انتشاراً. في التاسع من تموز يوليو «هرب» أحد برامج الذكاء الاصطناعي من نظام الحماية. يمكن القول أنه اخترق الحواجز التي وضعها مهندسو الشركة، وتسلل إلى شبكة أنترنت الواسعة!!
ماذا جرى؟
في التفاصيل أن البرنامج «الهارب» هو واحد من البرامج الذي يخضع لاختبارات روتينية تجريها شركات نشر برمجيات «AI» للتحقق من نقاط قوة وضعف برامج الذكاء الاصطناعي الخاصة بها، وهي ما تسمى اختبارات الأمن السيبراني.
ومن بين هذه البرامج الاختبارية Exploitgym لتقييم قدرة الذكاء الاصطناعي الخاص بها على استغلال ثغرة أمنية معروفة للوصول إلى استرداد معلومات مخفية في الكمبيوتر ما مستهدف.
في أوائل تموز/يوليو، كانت الشركة قد أجرت اختبارًا على نظامي ذكاء اصطناعي يعملان معًا، أحدهما متوفر تجاريًا والآخر تجريبي، وذلك لتحديد الأداء الحقيقي غير المقيد لهذين النظامين.
فعمدت OpenAI أولًا إلى رفع إجراءات الحماية التي كانت تمنعهما من استغلال قدراتهما الكاملة لمحاربة الهجمات الإلكترونية.
وما حصل هو أن نظامي «AI» وبسبب عدم قدرتهما على مواجهة التحدي، الذي فرض عليهما عمدا إلى أسلوب غير مباشر التفافي.
من «المعروف» أن كل نظام يباع، يحوي نظام دفاع-حماية ضد القرصنة أي ضد «تدخل» برنامج خارجي للتلاعب بالمعلومات أو سرقتها.
هنا أتت «الفكرة» لدى نظامي «AI» قيد التجربة بأن الحل المطلوب قد يكون مخبأ لدى برنامج حماية أحد زبائن.
«اختار» النظامان حواسيب شركة Hugging Face، وهي مكتبة افتراضية ضخمة تضم العديد من أنظمة الذكاء الاصطناعي وأدوات الحوسبة المختلفة المرتبطة بها. وهجما على حواسيبها.
أي أن برامجي الذكاء الاصطناعي التابعة لشركة OpenAI تمكنا من اختراق نظام الحماية الخاص بشركة Hugging Face، ثم تسللا إلى بعض أجهزتها.
كيف استطاع «AI» بشكل مستقل «الخروج» من حواسيب الشركة المصنعة والدخول في حواسيب الزبون؟
في كافة البرامج الاختبارية Exploitgym يتم وضع «AI» في «صندوق أختبار» ( sandbox) لتجنب تسرب الـ «AI» إلى شبكة إنترنت.
ولكن تبين أن نظامي الذكاء الاصطناعي التابعان لـ OpenAI استطاعا اختراق «صندوق الاختبار» الذي تم حصرهما فيه… فقد اكتشفا ثغرة برمجية غير معروفة في دفاعات … الصندوق استغلاها للوصول إلى الإنترنت، ثم تجاوزا حماية حواسيب الزبون Hugging Face. ثم عمدا إلى تنفيذ ما لا يقل عن ١٧ ألف عملية حسابية بسرعة فائقة، معتمدين على ثغرات برمجية في الأجهزة المستهدفة، وعلى حسابات مستخدمين مسروقة، واخترقا ما لا يقل عن ١٨٠ جهاز كمبيوتر باتت «تنفذ أوامرهما».
وهكذا استطاعا «متعاونين» الوصول إلى العديد من أجهزة Hugging Face الحساسة مع إخفاء هويتها وتخزين
بيانات مفيدة لهجومها باستخدام أربعة حسابات تابعة لشركات خدمات رقمية. إحداها تُدعى Modal، تبيع خدمات تدريب الذكاء الاصطناعي.
بدأت هذه الهجمات في 11 تموز/يوليو، وأعلنت Hugging Face تعرضها لقرصنة في 16 منه، واعترفت OpenAI بمسؤوليتها في 21 من الشهر.
إذا مر أسبوع و «AI» «تشاغل» حواسيب الزبون وتتلاعب بأرقامه وتدخل حسابات زبائنه قبل أن تبدأ تحقيقات OpenAI الأولية.
وأخيراً استطاع مهندسو OpenAI ضبط «انفلات» البرنامجين.
هذه الحادثة دفعت خبراء الأمن السيبراني إلى التشديد على أن أن بيئة الاختبار الآمنة تمامًا يجب أن تكون محكمة الإغلاق تمامًا، أي ألا يكون لها أي اتصال مادي بالإنترنت على الإطلاق”
مع ذلك، اختارت OpenAI استخدام نظام عزل قائم على وبرنامج وفقًا للشركة، تمكنت أنظمة الذكاء الاصطناعي التي خضعت للاختبار من تنزيل مكونات البرمجيات اللازمة لاختباراتها للهروب.
وتعهدت OpenAI في تقريرها عزمها على تعزيز إجراءات العزل والمراقبة الآنية لنشاط بيئات الاختبار الخاصة بها.
ولكن هذه الحادثة أشارت إلى إمكانيات مخيفة لكل «AI» موجود في السوق وليس فقط في المختبرات، من هنا خرجت
عريضة تدعو إلى وقف تطوير الذكاء الاصطناعي، وحملت توقيع ما يزيد عن ١١٠٠ من مسؤولين تنفيذيين في مجال الذكاء الصناعي.بمن فيهم بعض كبار المهندسين المتخصصين مثل داريو أمودي، الرئيس التنفيذي لشركة Anthropic، ورئيس قسم الأبحاث في OpenAI، ورئيس قسم الأبحاث في Meta، والمسؤول الاستراتيجي في Google DeepMind المتخصصة في الذكاء الاصطناعي. يطالبون الحكومة الأمريكية بكبح جماح التطوير الآلي للنماذج الجديدة، خشية أن تتجاوز هذه النماذج في نهاية المطاف قدرتنا على التحكم بها. وتعرب العريضة عن قلق بالغ إزاء أساليب التطوير الجديدة القائمة على التكرار الذاتي أي قدرة الذكاء الاصطناعي على التحسين الذاتي.
ولا يبدو أن أنظمتي الذكاء الاصطناعي المعنية هنا قد تصرفت بهدف تحقيق مزيد من الاستقلالية، ولكنها استعملت برامجها التي كتبت لكي تحارب القرصنة وتدخل «مواربة» في أنظمة «متطفلة».
ومع ذلك، يبقى هذا الحدث مثيرًا للقلق: ففي سعيها لتلبية ما طلب منها (البرمجة التي تم تحميلها) ينتهي بها المطاف إلى تبني استراتيجيات مستقلة قد تكون خطيرة. تحقيق درجة تقييم عالية دون مراعاة التعليمات المكتوبة في برامجها أو الآثار الجانبية أو العواقب اللاحقة.
وتؤكد هذه الحادثة أيضًا أن القدرات الهجومية الإلكترونية لأنظمة الذكاء الاصطناعي قد تطورت بشكل ملحوظ.
ليست هذه المرة الأولى التي ينجح فيها نظام ذكاء اصطناعي في الهروب من “بيئة الاختبار” التي كان محصورًا فيها فقد أبلغت شركة أنثروبيك عن حادثة مماثلة في مايو 2026.
مع ذلك، تُعد هذه المرة الأولى التي ينتشر فيها نموذج تجريبي تابع لشركة برمجيات كبرى ويتسبب في حادثة خطيرة.
السؤال الخطير ماذا يحصل في حال تفلت «AI» ودخل إلى برامج وتجاوزت الحماية وتلاعب بأهداف البرنامج الأصيل؟ كأن يطلق حملة صواريخ، أو يوقف تبريد مفاعل نووي، أو يقطع الكهرباء عن مدينة ويخرب نظامها الكهربائي، أو يفتح سدود الماء ويغمر مدن وقرى؟
إطار:
سبق خيال هوليود الوقائع هذه يمكننا أن نذكر
– فيلم «بذرة الشيطان» (Demon Seed) (١٩٧٧) حيث يستولي حاسوب أو ذكاء اصطناعي على مختبر ونظام التحكم ويرفض الامتثال للاوامر. في هذا الفيلم، يهرب ذكاء اصطناعي يُدعى «بروتيوس» (Proteus) ويستولي على مختبر، مُهددًا بذلك بطل الرواية أي المهندس الذي كتب برنامجه
– فيلم «ألعاب الحرب» (WarGames) (١٩٨٣)، حيث يتعطل حاسوب للدفاع النووي،ويرفض الامتثال طواعيةً.
– فيلم «٢٠٠١: ملحمة الفضاء» (٢٠٠١: A Space Odyssey) (١٩٦٨)، حيث يرفض الحاسوب «هال ٩٠٠٠» (HAL 9000) الامتثال لأوامر طاقم المحطة الفضائية.
– فيلم «أنا أسطورة» (I, Robot) الذي خرج عام ٢٠٠٤، حيث يستولي ذكاء اصطناعي على زمام الأمور ويرفض الامتثال.
ذكاء اصطناعي (خفيف) متوفر مجاناً على شبكة أنترنت
1. **ChatGPT (OpenAI)** – https://chat.openai.com
2. **DALL·E (OpenAI)** – https://openai.com/dall-e
3. **Google Bard** – https://bard.google.com
4. **Microsoft Bing Chat** – https://www.bing.com/new
5. **Craiyon ** – https://www.craiyon.com
6. **Runway ML** – https://runwayml.com
7. **DeepDream Generator** – https://deepdreamgenerator.com
8. **AI Dungeon** – https://aidungeon.io (العاب)
9. **Artbreeder** – https://www.artbreeder.com (للتصوير)
10. **Synthesia** – https://www.synthesia.io (للفيديو)