حظرت شركة الذكاء الاصطناعي “أوبن إيه آي” حساب المشتبه بها في واحدة من أسوأ حوادث إطلاق النار الجماعي في تاريخ كندا، وذلك لمخالفتها سياسة استخدام “شات جي بي تي” في يونيو من العام الماضي، دون إبلاغ الشرطة.وقالت “أوبن إيه آي” إن المشتبه بها جيسي فان روتسيلار كان لديها حساب تم اكتشافه منذ نحو ثمانية أشهر بواسطة أنظمة تفحص سوء الاستخدام، بما في ذلك احتمالية المساهمة في أنشطة عنيفة، بحسب تقرير لوكالة بلومبرغ، اطلعت عليه “العربية Business”.
وزعمت الشرطة الكندية أن الشابة البالغة من العمر 18 عامًا قتلت ثمانية أشخاص وأصابت نحو 25 آخرين، قبل أن تنتحر في بلدة تومبلر ريدج النائية في غرب كندا مطلع هذا الشهر.وقالت “أوبن إيه آي” إنها فكرت في إبلاغ سلطات إنفاذ القانون عن تفاعلات فان روتسيلار مع روبوت الدردشة “شات جي بي تي”، الذي طورته الشركة.وخلال استخدامها ل”شات جي بي تي” في يونيو الماضي، وصفت فان روتسيلار سيناريوهات تتعلق بالعنف باستخدام الأسلحة النارية على مدار عدة أيام، وفقًا لما نقله تقرير لصحيفة “وول ستريت جورنال” عن أشخاص مطلعين على الأمر، اطلعت عليه “العربية Business”.وأثارت تفاعلاتها مع روبوت الدردشة، التي تم الإشارة إليها بواسطة نظام مراجعة آلي، قلق موظفي “أوبن إيه آي”. وأُثير نقاش داخلي بين حوالي عشرة موظفين تقريبًا حول ما إذا كان ينبغي اتخاذ إجراء بشأن تفاعلات فان روتسيلار.وفسر بعض الموظفين كتابات فان روتسيلار على أنها إشارة إلى احتمال وقوع عنف في العالم الحقيقي، وحثوا القادة على إبلاغ سلطات إنفاذ القانون الكندية عن سلوكها، وفقًا لأشخاص مطلعين على الأمر.وفي نهاية المطاف، قرر مسؤولو “أوبن إيه آي” عدم الاتصال بالسلطات.وقالت متحدثة باسم “أوبن إيه آي” إن الشركة حظرت حساب فان روتسيلار، لكنها رأت أن نشاطها لا يستوفي معايير الإبلاغ إلى سلطات إنفاذ القانون، والتي كانت ستتطلب أن يشكل خطرًا حقيقيًا ومباشرًا بإلحاق أذى جسدي خطير بالآخرين.
المصدر – العربية