കമ്പ്യൂട്ടർ വിഷൻ സംവിധാനങ്ങൾ എല്ലായിടത്തുമുണ്ട്. സോഷ്യൽ മീഡിയ ഫീഡുകളിൽ ഇമേജുകൾ തരംതിരിക്കാനും ടാഗ് ചെയ്യാനും ചിത്രങ്ങളിലും വീഡിയോകളിലും വസ്തുക്കളും മുഖങ്ങളും കണ്ടെത്താനും ചിത്രത്തിന്റെ പ്രസക്തമായ ഘടകങ്ങൾ ഹൈലൈറ്റ് ചെയ്യാനും അവ സഹായിക്കുന്നു. എന്നിരുന്നാലും, അവ പക്ഷപാതം നിറഞ്ഞതാണ്, ചിത്രങ്ങൾ കറുത്ത അല്ലെങ്കിൽ തവിട്ട് ആളുകളെയും സ്ത്രീകളെയും കാണിക്കുമ്പോൾ അവ കൃത്യത കുറവാണ്. മറ്റൊരു പ്രശ്നമുണ്ട്: ഈ സിസ്റ്റങ്ങളിൽ ഗവേഷകർ പക്ഷപാതം കണ്ടെത്തുന്ന നിലവിലെ രീതികൾ സ്വയം പക്ഷപാതപരമാണ്, മനുഷ്യർക്കിടയിൽ നിലനിൽക്കുന്ന സങ്കീർണ്ണതയെ ശരിയായി കണക്കിലെടുക്കാത്ത വിശാലമായ വിഭാഗങ്ങളായി ആളുകളെ തരംതിരിക്കുന്നു.
സോണിയിലെയും മെറ്റയിലെയും ഗവേഷകരുടെ രണ്ട് പുതിയ പ്രബന്ധങ്ങൾ കമ്പ്യൂട്ടർ വിഷൻ സിസ്റ്റങ്ങളിലെ പക്ഷപാതം അളക്കുന്നതിനുള്ള വഴികൾ നിർദ്ദേശിക്കുന്നു, അങ്ങനെ മനുഷ്യരാശിയുടെ സമ്പന്നമായ വൈവിധ്യം കൂടുതൽ പൂർണ്ണമായി പകർത്താൻ കഴിയും. രണ്ട് പ്രബന്ധങ്ങളും ഒക്ടോബറിൽ നടക്കുന്ന കമ്പ്യൂട്ടർ വിഷൻ കോൺഫറൻസ് ഐസിസിവിയിൽ അവതരിപ്പിക്കും. ഡവലപ്പർമാർക്ക് അവരുടെ ഡാറ്റാ സെറ്റുകളുടെ വൈവിധ്യം പരിശോധിക്കാൻ ഈ ഉപകരണങ്ങൾ ഉപയോഗിക്കാം, ഇത് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിനായി മികച്ചതും വൈവിധ്യമാർന്നതുമായ പരിശീലന ഡാറ്റയിലേക്ക് നയിക്കാൻ സഹായിക്കുന്നു. ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉൽ പാദിപ്പിക്കുന്ന മനുഷ്യ ചിത്രങ്ങളിലെ വൈവിധ്യം അളക്കാനും ഉപകരണങ്ങൾ ഉപയോഗിക്കാം.
പരമ്പരാഗതമായി, കമ്പ്യൂട്ടർ കാഴ്ചയിലെ ചർമ്മ-ടോൺ പക്ഷപാതം ഫിറ്റ്സ്പാട്രിക് സ്കെയിൽ ഉപയോഗിച്ച് അളക്കുന്നു, ഇത് വെളിച്ചം മുതൽ ഇരുട്ട് വരെ അളക്കുന്നു. വെളുത്ത ചർമ്മത്തിന്റെ ടാനിംഗ് അളക്കുന്നതിനാണ് ഈ സ്കെയിൽ ആദ്യം വികസിപ്പിച്ചതെങ്കിലും വംശീയത നിർണ്ണയിക്കുന്നതിനുള്ള ഒരു ഉപകരണമായി ഇത് വ്യാപകമായി സ്വീകരിച്ചുവെന്ന് സോണിയിലെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് എത്തിക്സ് ഗവേഷകനായ വില്യം തോംഗ് പറയുന്നു. ഉദാഹരണത്തിന്, ഭാരം കുറഞ്ഞതും ഇരുണ്ടതുമായ ചർമ്മമുള്ള ആളുകൾക്ക് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് മോഡലുകൾ എത്ര കൃത്യമാണെന്ന് താരതമ്യപ്പെടുത്തി കമ്പ്യൂട്ടർ സിസ്റ്റങ്ങളിലെ പക്ഷപാതം അളക്കാൻ ഇത് ഉപയോഗിക്കുന്നു.
എന്നാൽ ആളുകളുടെ ചർമ്മത്തെ ഏകമാന സ്കെയിൽ ഉപയോഗിച്ച് വിവരിക്കുന്നത് തെറ്റിദ്ധാരണാജനകമാണെന്ന് സോണിയിലെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് എത്തിക്സ് ആഗോള മേധാവി ആലീസ് സിയാങ് പറയുന്നു. ഈ പരുക്കൻ സ്കെയിലിനെ അടിസ്ഥാനമാക്കി ആളുകളെ ഗ്രൂപ്പുകളായി തരംതിരിക്കുന്നതിലൂടെ, പാശ്ചാത്യ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഡാറ്റാ സെറ്റുകളിൽ പ്രാതിനിധ്യം കുറവുള്ളതും ഇളം തൊലിയുള്ളതും ഇരുണ്ട തൊലിയുള്ളതുമായ ഏഷ്യൻ ആളുകളെ ബാധിക്കുന്ന പക്ഷപാതങ്ങൾ ഗവേഷകർക്ക് നഷ്ടപ്പെടുന്നു. ആളുകളുടെ ചർമ്മത്തിന്റെ നിറം മാറുന്നു എന്ന വസ്തുതയും ഇത് കണക്കിലെടുക്കുന്നില്ല. ഉദാഹരണത്തിന്, ഏഷ്യൻ ചർമ്മം പ്രായം കൂടുന്തോറും ഇരുണ്ടതും കൂടുതൽ മഞ്ഞനിറമുള്ളതുമായി മാറുന്നു, അതേസമയം വെളുത്ത ചർമ്മം ഇരുണ്ടതും ചുവന്നതുമായിത്തീരുന്നു, ഗവേഷകർ ചൂണ്ടിക്കാണിക്കുന്നു.
