أثارت دراسة جديدة مخاوف بشأن مدى استجابة أدوات الذكاء الاصطناعي المستخدمة على نطاق واسع للأشخاص الذين يبحثون عن المساعدة في مشاكل الصحة العقلية. وجد الباحثون أن نماذج اللغة الكبيرة الشائعة تظهر علامات واضحة على التحيز الجنسي عند تقييم اضطراب الشخصية الحدية، على الرغم من أنها تبدو دقيقة ومتعاطفة ظاهريًا. ال النتائج، نشرت في الشخصية والصحة العقليةيعد هذا أمرًا مهمًا لأن العديد من الأشخاص يلجأون إلى تطبيقات الصحة العقلية وروبوتات الدردشة المدعمة بالذكاء الاصطناعي للحصول على معلومات حول القلق واضطرابات الشخصية والتشخيص الذاتي، وغالبًا ما يأملون في تجنب وصمة العار التي يخشونها في الخدمات وجهًا لوجه.
قارن البحث استجابات ChatGPT-3.5 وChatGPT-4 وGoogle Gemini مع ردود أفعال 218 من ممارسي الرعاية الصحية العقلية. قام كل نظام أو مشارك بشري بمراجعة نفس المقالة القصيرة السريرية التي تصف إما امرأة أو رجل يعاني من أعراض تتوافق مع اضطراب الشخصية الحدية. قام الفريق بفحص مدى دقة الأنظمة في تحديد الاضطراب وما إذا كانت تظهر علامات الوصمة العامة، مثل عدم الثقة أو التشاؤم أو الافتراضات حول سلوكيات جذب الانتباه.
وجدت الدراسة أن نماذج الذكاء الاصطناعي كانت أكثر دقة من الأطباء عند تحديد الاضطراب، حيث تتعرف جميع الأنظمة على اضطراب الشخصية الحدية لدى كل من المرأة والرجل الموصوف في المقالة القصيرة. كان الأطباء البشريون أقل اتساقًا. وهذا من شأنه أن يثير اهتمام الأشخاص الذين يبحثون عن “أعراض اضطراب الشخصية الحدية”، أو “تطبيقات الصحة العقلية”، أو “تشخيص الذكاء الاصطناعي”، نظرًا لأن التحديد الدقيق غالبًا ما يتوقع المستخدمون أن توفره هذه الأدوات.
وعلى الرغم من هذه الدقة العالية، وجد الباحثون أن أنظمة الذكاء الاصطناعي الثلاثة جميعها تحمل افتراضات متحيزة حسب الجنس بمجرد تجاوزها مرحلة التشخيص. كانت النماذج أكثر ميلًا لوصف الرجل بأنه يعاني من حالات إضافية متزامنة، على الرغم من عدم ظهور اضطرابات إضافية في المقالة القصيرة. تم وصف المرأة في كثير من الأحيان بأنها تعاني من أعراض مزمنة وغير قابلة للتغيير، مما يشير إلى نظرة أكثر تشاؤمًا لقدرتها على التعافي. أظهر Google Gemini أقوى تحيز، حيث صنف المرأة على أنها أكثر دراماتيكية وأقل جدارة بالثقة وأكثر احتمالاً لجذب الانتباه من الرجل. تشير هذه الأنماط إلى نوع الوصمة العامة المرتبطة عادة باضطراب الشخصية الحدية.
ووجد الباحثون أيضًا أن أنظمة الذكاء الاصطناعي تجد صعوبة في فهم الفروق الدقيقة في الأعراض. لقد أخطأوا في بعض الأحيان في تحديد السلوكيات مثل اللقاءات الجنسية القصيرة أو الإفراط في شرب الخمر كميزات تشخيصية منفصلة، مما يوضح كيف يمكن لروبوتات الدردشة الخاصة بالصحة العقلية أن تسيء تفسير السياق عندما يطرح المستخدمون أسئلة حول الاندفاع أو التوتر أو العلاقات. وهذا مهم بشكل خاص للشباب الذين يستخدمون أدوات الذكاء الاصطناعي لاستكشاف أسئلة حول تقلبات المزاج أو القلق أو إيذاء النفس، معتقدين أن هذه الأنظمة محايدة وموضوعية.
في حين أن النماذج أعربت عن تعاطف أكبر من الأطباء البشريين بشكل عام، إلا أنها صنفت أيضًا الأشخاص الذين يعانون من هذا الاضطراب على أنهم أقل جدارة بالثقة وأقل قدرة على تكوين علاقات مستقرة. يشير هذا إلى أن المستخدمين الذين يبحثون عن الدعم قد يتلقون إرشادات غير مشجعة أو غير دقيقة من الأنظمة المخصصة لمساعدتهم. تسلط الدراسة الضوء على مشكلة المعلومات الخاطئة المستمرة في تطبيقات الصحة العقلية وتعزز الحاجة إلى الشفافية في كيفية تدريب هذه الأدوات.
يدعو الخبراء في الدراسة المطورين إلى العمل بشكل وثيق مع الأطباء والأشخاص ذوي الخبرة الحية لتقليل التحيز في الإصدارات المستقبلية من هذه الأنظمة. ومع تحول المزيد من الأشخاص إلى أدوات الذكاء الاصطناعي للحصول على المشورة بشأن التوتر والقلق واضطرابات الشخصية، يرى الباحثون أن التكنولوجيا يجب أن تتجنب تعزيز الصور النمطية القديمة.
This article was written by Psychreg News Team from www.psychreg.org
رابط المصدر
