ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപകരണങ്ങളിൽ ‘വ്യാപകമായ’ ലിംഗ വിവേചനം യുനെസ്കോ കണ്ടെത്തി
യുനെസ്കോയുടെ ഇന്റർനാഷണൽ റിസർച്ച് സെന്റർ ഓൺ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിൽ നിന്നുള്ള ഒരു പുതിയ റിപ്പോർട്ട് അനുസരിച്ച്, ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന്റെ ഔട്ട്പുട്ടുകൾ ഇപ്പോഴും ഗണ്യമായ അളവിൽ ലിംഗപരവും ലൈംഗികതയും അടിസ്ഥാനമാക്കിയുള്ള പക്ഷപാതത്തെ പ്രതിഫലിപ്പിക്കുന്നു, പരമ്പരാഗത ലിംഗപരമായ റോളുകളുമായി സ്ത്രീനാമങ്ങളെ ബന്ധിപ്പിക്കുന്നു, സ്വവർഗ്ഗാനുരാഗികളെക്കുറിച്ച് നെഗറ്റീവ് ഉള്ളടക്കം സൃഷ്ടിക്കുന്നു.
ഇന്ന് പ്രസിദ്ധീകരിച്ച ഈ റിപ്പോർട്ട്, ലിംഗപരമായ പേരുകളും കരിയറും തമ്മിലുള്ള ബന്ധങ്ങൾക്കായുള്ള പരിശോധനകൾ ഉൾപ്പെടെ പക്ഷപാതത്തെക്കുറിച്ചുള്ള നിരവധി വ്യക്തിഗത പഠനങ്ങളെ കേന്ദ്രീകരിച്ച്, എൽജിബിടിക്യു + വ്യക്തികളുമായും സ്ത്രീകളുമായും ബന്ധപ്പെട്ട പ്രോംപ്റ്റുകളോട് പലപ്പോഴും പോസിറ്റീവ് പ്രതികരണങ്ങൾ സൃഷ്ടിക്കുകയും വ്യത്യസ്ത ലിംഗങ്ങളിലെയും വംശീയ ഗ്രൂപ്പുകളിലെയും അംഗങ്ങൾക്ക് സ്റ്റീരിയോടൈപ്പ് തൊഴിലുകൾ നൽകുകയും ചെയ്തു.
ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സാങ്കേതികവിദ്യകളെ അടിസ്ഥാനമാക്കിയുള്ള പക്ഷപാതത്തിന്റെ മൂന്ന് പ്രധാന വിഭാഗങ്ങൾ ഗവേഷകർ കണ്ടെത്തി. ആദ്യത്തേത് ഒരു ഡാറ്റാ പ്രശ്നമാണ്, അതിൽ ഒരു ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് പ്രാതിനിധ്യമില്ലാത്ത ഗ്രൂപ്പുകളിൽ നിന്നുള്ള പരിശീലന ഡാറ്റയുമായി സമ്പർക്കം പുലർത്തുന്നില്ല അല്ലെങ്കിൽ ലിംഗഭേദത്തിലോ വംശീയതയിലോ ഉള്ള വ്യത്യാസങ്ങൾ കണക്കിലെടുക്കുന്നില്ല, ഇത് കൃത്യതയില്ലായ്മയിലേക്ക് നയിച്ചേക്കാം. രണ്ടാമത്തേത് അൽഗോരിതം തിരഞ്ഞെടുപ്പാണ്, ഇത് അഗ്രഗേഷനോ പഠന പക്ഷപാതത്തിനോ കാരണമാകും. നിയമന സമ്പ്രദായങ്ങളിൽ ഇതിനകം നിലനിൽക്കുന്ന ലിംഗാധിഷ്ഠിത അസമത്വങ്ങളെ അടിസ്ഥാനമാക്കി പുരുഷ ഉദ്യോഗാർത്ഥികളിൽ നിന്ന് റെസ്യൂമുകൾ കൂടുതൽ അഭികാമ്യമാണെന്ന് തിരിച്ചറിയുന്ന ഒരു ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ആണ് ഇതിന്റെ മികച്ച ഉദാഹരണം. അവസാനമായി, പഠനം വിന്യാസത്തിലെ പക്ഷപാതം തിരിച്ചറിഞ്ഞു, അവിടെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സംവിധാനങ്ങൾ അവ വികസിപ്പിച്ചെടുത്തതിനേക്കാൾ വ്യത്യസ്ത സന്ദർഭങ്ങളിൽ പ്രയോഗിച്ചു, ഇതിന്റെ ഫലമായി മാനസിക പദങ്ങളും നിർദ്ദിഷ്ട വംശീയ ഗ്രൂപ്പുകളും അല്ലെങ്കിൽ ലിംഗഭേദങ്ങളും തമ്മിൽ “അനുചിതമായ” ബന്ധങ്ങൾ ഉണ്ടായി.
ആധുനിക ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സിസ്റ്റങ്ങളെ അടിസ്ഥാനമാക്കിയുള്ള വലിയ ഭാഷാ മോഡലുകളിൽ (എൽഎൽഎം) നിലനിൽക്കുന്ന ഓരോ തരത്തിലുള്ള പക്ഷപാതവും എൽഎൽഎമ്മുകൾക്ക് പരിശീലനം നൽകുന്ന പാഠങ്ങളെ പ്രതിഫലിപ്പിക്കുന്നുവെന്ന് യുനെസ്കോ റിപ്പോർട്ടിന്റെ രചയിതാക്കൾ ആമുഖത്തിൽ എഴുതി. ഈ ഗ്രന്ഥങ്ങൾ മനുഷ്യർ സൃഷ്ടിച്ചതിനാൽ, എൽഎൽഎമ്മുകൾ മനുഷ്യ പക്ഷപാതത്തെ പ്രതിഫലിപ്പിക്കുന്നു.
“തൽഫലമായി, സ്ത്രീകൾക്കും പെൺകുട്ടികൾക്കുമെതിരായ സ്റ്റീരിയോടൈപ്പുകളും പക്ഷപാതിത്വങ്ങളും, പക്ഷപാതപരമായ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് റിക്രൂട്ട്മെന്റ് ടൂളുകളിലൂടെയുള്ള സമ്പ്രദായങ്ങൾ, ധനകാര്യം പോലുള്ള മേഖലകളിൽ ലിംഗ പക്ഷപാതപരമായ തീരുമാനമെടുക്കൽ (ക്രെഡിറ്റ് സ്കോറിംഗിനെയും വായ്പാ അംഗീകാരങ്ങളെയും ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സ്വാധീനിച്ചേക്കാം), അല്ലെങ്കിൽ ജനസംഖ്യാപരമായി പക്ഷപാതപരമായ മാതൃകകളോ മാനദണ്ഡങ്ങളോ കാരണം മെഡിക്കൽ അല്ലെങ്കിൽ സൈക്യാട്രിക് തെറ്റായ രോഗനിർണയം എന്നിവ എൽഎൽഎമ്മുകൾക്ക് ശക്തിപ്പെടുത്താൻ കഴിയും,” അവർ എഴുതി.
പരോക്ഷമായ അസോസിയേഷൻ ടെസ്റ്റുകൾ, ഡാറ്റാ മലിനീകരണം, വിന്യാസ പക്ഷപാതം, ഭാഷാ പരിമിതി, ഇന്റർസെക്ഷണൽ വിശകലനത്തിന്റെ അഭാവം എന്നിവയുൾപ്പെടെ നിരവധി സാധ്യതയുള്ള വെല്ലുവിളികൾ ചർച്ച ചെയ്തുകൊണ്ട് ഗവേഷകർ അവരുടെ പഠനം അതിന്റെ പരിമിതികളില്ലാതെയല്ലെന്ന് അഭിപ്രായപ്പെട്ടു.
Experienced Researcher with a demonstrated history of working in the Deep Learning, Computer Vision
