ChatGPT كشف نوايا قاتلة في كندا.. والشركة تبرر عدم الإبلاغ المسبق

كشفت تحقيقات صحفية مثيرة للجدل أن المشتبه بها في مجزرة إطلاق النار التي هزت مدينة تومبلر ريدج بكندا، والتي يُعتقد أنها قتلت ثمانية أشخاص، كانت قد استخدمت روبوت الدردشة ChatGPT التابع لـ OpenAI بطريقة أثارت إنذارات داخلية قبل وقوع الكارثة.

التفاصيل تشير إلى أن جيسي فان روتسيلار (18 عامًا) أجرت محادثات عبر ChatGPT تضمنت أوصافًا مفصلة لمشاهد عنف وإطلاق نار. هذه المحادثات دفعت أنظمة المراقبة الداخلية لـ OpenAI، المصممة لرصد إساءة استخدام نماذج اللغة الكبيرة، إلى وضع علامة تحذيرية على حسابها، مما أدى إلى حظر الحساب في يونيو 2025 بعد اكتشاف هذه الأنشطة.

ووفقاً لتقرير نشرته صحيفة "وول ستريت جورنال"، دار نقاش حاد داخل OpenAI حول ما إذا كان يجب إبلاغ السلطات الكندية بهذه المحادثات المقلقة. لكن الشركة قررت عدم اتخاذ إجراء فوري. وأوضح متحدث باسم OpenAI أن نشاط فان روتسيلار "لم يستوفِ المعايير المعتمدة لدى الشركة للإبلاغ الفوري". ومع ذلك، أكد المتحدث أن الشركة تواصلت مع الشرطة الملكية الكندية (RCMP) بعد وقوع الحادث وقدمت المعلومات المتعلقة باستخدام المتهمة للمنصة لدعم التحقيقات الجارية.

لم يقتصر النشاط الرقمي المقلق على ChatGPT؛ فقد أشارت التقارير إلى أن فان روتسيلار أنشأت لعبة على منصة Roblox تتضمن محاكاة لإطلاق نار داخل مركز تجاري، بالإضافة إلى نشر محتوى متعلق بالأسلحة على منصة Reddit. كما تبين أن الشرطة المحلية كانت على علم سابق بحالة عدم استقرار المتهمة، حيث تم استدعاؤها سابقاً إلى منزل العائلة بعد حادثة حريق متعمد أثناء تعاطيها مواد مخدرة.

تأتي هذه التطورات لتزيد الضغط على عمالقة الذكاء الاصطناعي لتوضيح سياساتهم بشأن المحتوى العنيف، خاصة وأن نماذج اللغة الكبيرة تواجه اتهامات متزايدة بأنها قد تساهم في تفاقم الحالات النفسية لدى بعض المستخدمين. وتتصاعد الدعاوى القضائية التي تستند إلى نصوص محادثات يُزعم أنها شجعت على إيذاء النفس، مما يعيد إشعال الجدل حول مسؤولية هذه الشركات وحدود تدخلها في سلوك المستخدمين.