मशीन लर्निंग एल्गोरिदम में सामाजिक-जनसांख्यिकी पूर्वाग्रह: एक जैव医学 सूचना विज्ञान दृष्टिकोण

मशीन लर्निंग एल्गोरिदम में प्रस्तुत कृत्रिम बुद्धिमत्ता मॉडल जोखिम मूल्यांकन के लिए आशाजनक उपकरण हैं जो नैदानिक ​​और अन्य स्वास्थ्य देखभाल निर्णयों को मार्गदर्शित करने के लिए उपयोग किए जाते हैं। हालाँकि, मशीन लर्निंग एल्गोरिदम में पूर्वाग्रह हो सकते हैं जो रूढ़ियों, असमानताओं और भेदभाव को बढ़ावा देते हैं जो सामाजिक-आर्थिक स्वास्थ्य देखभाल में भेद उत्पन्न करते हैं। ये पूर्वाग्रह कुछ सामाजिक-जनसांख्यिकी विशेषताओं से संबंधित हैं जैसे जाति, जातीयता, लिंग, उम्र, बीमा, और गलत इलेक्ट्रॉनिक स्वास्थ्य रिकॉर्ड डेटा के उपयोग से सामाजिक-आर्थिक स्थिति। इसके अलावा, चिंता है कि प्रशिक्षण डेटा और बड़ी भाषा मॉडल में एल्गोरिदमिक पूर्वाग्रह संभावित हानियाँ दे सकते हैं। ये पूर्वाग्रह संयुक्त राज्य अमेरिका और वैश्विक स्तर पर जनसंख्या के एक महत्वपूर्ण प्रतिशत के जीवन और जीविका को प्रभावित करते हैं। संबंधित प्रतिक्रिया के सामाजिक और आर्थिक परिणामों को कम नहीं आंका जा सकता। यहाँ, हम कुछ सामाजिक-जनसांख्यिकी, प्रशिक्षण डेटा, और एल्गोरिदमिक पूर्वाग्रहों का वर्णन करते हैं जो स्वास्थ्य देखभाल जोखिम मूल्यांकन और चिकित्सा निर्णय लेने में बाधा डालते हैं, जिन्हें स्वास्थ्य देखभाल प्रणाली में संबोधित किया जाना चाहिए। हम लिंग, जाति, जातीयता, उम्र, ऐतिहासिक रूप से हाशिए पर रहने वाले समुदायों, एल्गोरिदमिक पूर्वाग्रह, पूर्वाग्रहित मूल्यांकन, निहित पूर्वाग्रह, चयन/सैंपलिंग पूर्वाग्रह, सामाजिक-आर्थिक स्थिति के पूर्वाग्रह, पूर्वाग्रहित डेटा वितरण, सांस्कृतिक पूर्वाग्रहों और बीमा स्थिति पूर्वाग्रह, पुष्टि पूर्वाग्रह, सूचना पूर्वाग्रह और एंकरिंग पूर्वाग्रह के माध्यम से इन पूर्वाग्रहों का दृष्टिकोण और अवलोकन प्रस्तुत करते हैं और अल्गोरिदम में पूर्वाग्रहों को कम करने के लिए बड़े भाषा मॉडल प्रशिक्षण डेटा में सुधार करने के लिए सिफारिशें करते हैं, जिसमें ज्ञान सृजन के दौरान प्रतिकूल भूमिका-प्रतिवर्ती वाक्यों, फाइन-ट्यूनिंग, प्रशिक्षण समय पर प्रीफिक्स संलग्नन, विषाक्तता क्लासिफायर का उपयोग, पुनर्प्राप्ति संवर्धित उत्पादन और पूर्वाग्रहों को कम करने के लिए एल्गोरिदमिक संशोधन जैसी पूर्वाग्रह-मुक्त तकनीकें शामिल हैं।