• الرئيسية
• تكنولوجيا

أعلنت OpenAI عن إطلاق ميزة أمان جديدة داخل روبوت الدردشة ChatGPT تحت اسم “Trusted Contact”، تتيح للمستخدمين تعيين “جهة اتصال موثوقة” يتم إخطارها في حال رصد مؤشرات خطيرة مرتبطة بإيذاء النفس أو الأفكار الانتحارية.

وتأتي هذه الخطوة ضمن توجه متزايد من شركات الذكاء الاصطناعي لتعزيز أدوات السلامة الرقمية والدعم النفسي، خاصة مع تنامي اعتماد المستخدمين على روبوتات المحادثة في التعبير عن مشاعرهم وأزماتهم الشخصية.

"OpenAI" تعتمد مراجعة بشرية قبل إرسال تنبيهات الطوارئ النفسية

بحسب الشركة، تعتمد الميزة الجديدة على أنظمة تحليل ذكية قادرة على اكتشاف العبارات أو السلوكيات التي قد تشير إلى وجود خطر نفسي حاد، وعند رصد حالة مقلقة، لا يتم إرسال أي إشعار تلقائي مباشرة، بل تُحال المحادثة إلى فريق بشري متخصص لمراجعتها خلال أقل من ساعة.

وفي حال التأكد من وجود تهديد حقيقي، يتم إرسال تنبيه إلى الشخص الموثوق الذي حدده المستخدم مسبقًا، يتضمن رسالة تفيد بأن المستخدم “يمر بوقت صعب” وقد يحتاج إلى دعم أو متابعة، دون الكشف عن أي تفاصيل تتعلق بالمحادثات الخاصة.

وأكدت “OpenAI” أن النظام مصمم للحفاظ على الخصوصية، حيث لا تتم مشاركة نصوص المحادثات أو البيانات الشخصية مع أي طرف خارجي، حتى في حالات الطوارئ النفسية.

أكثر من مليون مستخدم أسبوعيًا يشاركون أفكارًا انتحارية مع "ChatGPT"

وكشفت الشركة أن أكثر من مليون مستخدم أسبوعيًا يعبّرون عبر “ChatGPT” عن أفكار مرتبطة بالاكتئاب أو الانتحار، وهو ما دفعها إلى تطوير أدوات تدخل مبكر للمساعدة في تقليل المخاطر المحتملة.

وتواجه شركات الذكاء الاصطناعي خلال الفترة الأخيرة ضغوطًا قانونية وتنظيمية متزايدة تتعلق بتأثير تطبيقاتها على الصحة النفسية للمستخدمين، خصوصًا بعد دعاوى قضائية رُفعت ضد منصات دردشة ذكية عقب حوادث انتحار أثارت جدلًا عالميًا حول مسؤولية التكنولوجيا الحديثة.

"ChatGPT" لن يكون بديلًا عن الأطباء النفسيين رغم الميزة الجديدة

ورغم إطلاق الميزة الجديدة، شددت “OpenAI” على أن “ChatGPT” لا يُعد بديلًا عن المتخصصين في الصحة النفسية أو العلاج الطبي، بل أداة مساعدة تهدف إلى تقديم دعم إضافي وتنبيه المقربين في الحالات الحرجة فقط.

ويرى خبراء أن إدخال ميزات السلامة النفسية إلى تطبيقات الذكاء الاصطناعي يمثل تحولًا كبيرًا في طبيعة هذه المنصات، التي باتت تؤدي دورًا يتجاوز المساعدة التقنية التقليدية، لتصبح جزءًا من الحياة اليومية والنفسية للمستخدمين حول العالم.