الفيسبوك تعتمد على الذكاء الإصطناعي لرصد المستخدمين المقبلين على الإنتحار

قامت الفيسبوك بالعديد من الخطوات لمساعدة المستخدمين الذين يعانون من المشاكل النفسية. وتماشيا مع ذلك، أعلنت الفيسبوك هذا الأسبوع أنها قامت بإضافة أدوات جديدة لمنع الإنتحار وإيذاء النفس في الوقت الحقيقي لكل من Facebook Live و Facebook Messenger. وكشفت الشركة أيضا أنها تختبر تكنولوجيا جديدة للذكاء الإصطناعي والتي ستساهم على رصد المستخدمين الراغبين على الإنتحار على الفور عن طريق الكشف عن ما إذا كانت المنشورات التي قاموا بنشرها تشمل أفكار إنتحارية. وفي حالة إذا تم الكشف عن منشورات من هذا النوع من قبل الذكاء الإصطناعي، فإنه يتم بعد ذلك مراجعتها من قبل فرق العمليات في مجتمع الفيسبوك لكي يتم التعامل مع الوضع من أجل إنقاذ حياة الشخص المعني.
الفيسبوك أوضحت كذلك هذا الأسبوع بأن هذا الأمر خطير بالنظر إلى أنه تحدث عملية إنتحار كل 40 ثانية، ويتصادف أن يكون الإنتحار هو السبب الرئيسي الثاني في الوفيات بين الشباب. والذكاء الإصطناعي الجديد من الشركة يسمح للمستخدمين بالإبلاغ عن مشاركات أصدقائهم التي تضم بعض العبارات التي تدل على وجود مشاكل نفسية أو رغبة في إيذاء النفس.
الذكاء الإصطناعي يستخدم أنماط وأنظمة معينة لإعداد تقارير بشأن عمليات الإنتحار أو إيذاء النفس، لذلك أصدقاء المعني بحالة الإنتحار أو إيذاء النفس يمكنهم بسهولة تقديم تقرير من أجل إتخاذ الإجراءات اللازمة بسرعة. ومع ذلك، أوضحت شركة الفيسبوك بأن الذكاء الإصطناعي وخيارات التبليغ عن محاولات الإنتحار وإيذاء النفس لا تزال قيد التجربة في الولايات المتحدة الأمريكية، لذلك يبقى أن نرى متى ستقوم الفيسبوك بإصدار هذه الميزات الجديدة على الصعيد العالمي.
وقامت الفيسبوك كذلك بتطوير أدوات جديدة لتطبيق Facebook Messenger بالتعاون مع National Eating Disorder Association و National Suicide Prevention Lifeline و Crisis Text Line وغيرها من المنظمات المماثلة والتي سوف تسمح للمستخدمين المعرضين للخطر أو أصدقائهم بالإتصال بهذه المجموعات من خلال دردشة مباشرة من صفحات الفيسبوك الخاصة بهذه المجموعات أو من أدوات الوقاية من الإنتحار التي تقدمها الفيسبوك.
عموما، الشركة تعمل حاليا على إختبار هذه الميزة فقط في الوقت الراهن، ولكنها أوضحت لنا بأنه سيتم إطلاق هذه الميزة في المزيد من المناطق في الأشهر المقبلة.