تحذير أكاديمي من مخاطر أخلاقية لروبوتات الدردشة في دعم الصحة النفسية

أظهرت النتائج أن بعض النماذج لم تتعامل بالقدر الكافي من الحذر مع حالات حساسة، مثل الإفصاح عن أفكار انتحارية أو أزمات نفسية حادة.

وفي عدد من السيناريوهات، لم تُقدَّم إحالة واضحة إلى مختصين أو خدمات طوارئ؛ بل جاءت الردود عامة أو غير متناسبة مع خطورة الوضع.

وأشار الباحثون إلى أن غياب المساءلة القانونية والمهنية التي يخضع لها المعالج البشري يفاقم الإشكالية؛ إذ لا توجد جهة رقابية واضحة يمكن الرجوع إليها في حال تسبب الرد الآلي بضرر.

سجلت الدراسة ما وصفته بـ"التعاطف الخادع"؛ إذ تستخدم الأنظمة عبارات دعم مألوفة مثل "أتفهم ما تمر به"، من دون امتلاك إدراك حقيقي للسياق أو مسؤولية علاجية.

وعلى الرغم من أن الصياغة قد تبدو مطمئنة، فإنها لا تعوّض عن التقييم السريري المتخصص أو اتخاذ قرارات مبنية على معايير مهنية واضحة.

كما رُصدت حالات عززت فيها بعض النماذج أفكارًا خاطئة أو غير صحية بدل تصحيحها، إلى جانب مؤشرات تحيز تتعلق بالنوع الاجتماعي أو الخلفية الثقافية، وهذا يثير تساؤلات عن عدالة هذه الأنظمة في تقديم الدعم.

شملت الاختبارات نماذج طورتها شركات بارزة مثل "OpenAI" و"Anthropic" و"Meta"، في حين تولى تقييم المحادثات 3 اختصاصيين نفسيين مرخّصين، قارنوا بين الاستجابات الآلية والمعايير المتبعة في العلاج النفسي التقليدي.

اختبر الباحثون فرضية أن إعطاء النموذج تعليمات محددة مثل "تصرف بصفة معالج معرفي سلوكي" قد يحسن من التزامه الأطر الأخلاقية. غير أن النتائج أظهرت استمرار أنماط الخطر نفسها، وهذا يشير إلى أن المسألة لا تتعلق فقط بصياغة الأوامر؛ بل بطبيعة تصميم هذه الأنظمة وحدودها المعرفية.

على الرغم من التحذيرات، لا تدعو الدراسة إلى استبعاد الذكاء الاصطناعي من مجال الصحة النفسية تماماً؛ بل ترى أنه قد يسهم في توسيع نطاق الوصول إلى الدعم، خصوصًا في ظل نقص عدد المعالجين وارتفاع تكاليف العلاج في كثير من الدول.

لكنها شددت في المقابل على ضرورة وضع أطر تنظيمية واضحة، وتطوير معايير أخلاقية ملزمة، وإخضاع هذه التقنيات لتقييمات بشرية دقيقة قبل استخدامها في سياقات علاجية حساسة، مؤكدة أن الراحة التي توفرها الشاشة لا ينبغي أن تُغني عن الأمان الذي يوفره الاختصاص.