تحذير: نماذج الذكاء الاصطناعي المفتوحة المصدر عرضة للاختراق والاستغلال الإجرامي

حذر خبراء في الأمن السيبراني من أن نماذج الذكاء الاصطناعي المتاحة للجميع والمفتوحة المصدر، مثل نموذج "لاما" من "ميتا"، تشكل خطراً أمنياً متزايداً عالمياً، حيث يمكن للمخترقين استغلالها بسهولة لتنفيذ أنشطة غير قانونية بعيداً عن رقابة المنصات الكبرى.

تتيح هذه النماذج للمهاجمين السيطرة على الأجهزة التي تشغلها، واستخدامها في شن هجمات إلكترونية متنوعة تشمل إرسال رسائل البريد المزعج (السبام)، وتوليد محتوى تصيدي (Phishing)، ونشر حملات تضليل إعلامي، كل ذلك مع تجاوز بروتوكولات الأمان المعتادة.

جاءت هذه النتائج في دراسة مشتركة أجرتها شركتا الأمن السيبراني "سينتينل وان" و"سينسيس" على مدار 293 يوماً، كشفت عن الاستخدامات غير المشروعة لآلاف النماذج المنتشرة، والتي تراوحت بين القرصنة، وخطاب الكراهية، والمحتوى العنيف، وسرقة البيانات، وعمليات الاحتيال، وصولاً إلى مواد تتعلق بالاستغلال الجنسي للأطفال في بعض الحالات النادرة.

أشار التقرير إلى أن نماذج "لاما" و"جِما" (من جوجل ديب مايند) تشكل نسبة كبيرة من النماذج المستضافة على خوادم متصلة بالإنترنت، ورصد الباحثون مئات الحالات التي أُزيلت فيها ضوابط الأمان عمداً. ووصف خوان أندريس جيريرو سادي من "سينتينل وان" الوضع بأنه "جبل جليد" يتجاهل قطاع الذكاء الاصطناعي حجم الفائض التشغيلي الذي يستغل إجرامياً.

حللت الدراسة النماذج المنشورة عبر أداة "أولاما"، ووجدت أن حوالي 7.5% من النماذج التي تمت دراستها قد تتيح أنشطة ضارة عبر أوامر النظام الخاصة بها. وتتركز الخوادم المشغلة لهذه النماذج بشكل كبير في الصين (نحو 30%) والولايات المتحدة (نحو 20%).

من جانبها، أكدت رايتشل آدامز من "المركز العالمي لحوكمة الذكاء الاصطناعي" أن المسؤولية بعد إطلاق النماذج المفتوحة هي مسؤولية مشتركة، مشددة على أن المختبرات المطورة تتحمل واجباً مهماً في توقع الأضرار المحتملة وتوفير أدوات التخفيف. وامتنعت "ميتا" عن التعليق المباشر على مسؤولية المطورين لكنها أشارت إلى أدواتها الخاصة بالحماية والاستخدام المسؤول.

وفي تعليق مماثل، أكد رام شانكار سيفا كومار من "مايكروسوفت" أن النماذج المفتوحة ضرورية، لكنها تتطلب إطلاقاً بضوابط أمان مناسبة لتجنب الاستخدام المعادي، مشدداً على أن "الابتكار المفتوح المسؤول يتطلب التزاماً مشتركاً من المطورين والمشغلين والباحثين وفرق الأمن".