വെളുത്ത ചരിത്ര വ്യക്തികളെ മാറ്റി നിറമുള്ള ആളുകളെ ഉപയോഗിച്ച് ഇമേജ് ജനറേറ്റർ ‘വളരെ ഉണർന്നിരിക്കുന്നു’ എന്ന് ഉപയോക്താക്കൾ വിമർശിച്ചതിനെത്തുടർന്ന് ഗൂഗിൾ അതിന്റെ പുതിയ ജെമിനി ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ടൂൾ താൽക്കാലികമായി നിർത്തിവയ്ക്കുന്നു.

വംശീയമായി വൈവിധ്യമാർന്ന വൈക്കിംഗുകൾ, പോരാളികൾ, സ്ഥാപക പിതാക്കന്മാർ, നാസി സൈനികർ എന്നിവരെ പോലും ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപകരണം വേട്ടയാടി.

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് പ്രോഗ്രാമുകൾ അവർക്ക് ലഭ്യമായ വിവരങ്ങളിൽ നിന്ന് പഠിക്കുന്നു, കൂടാതെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് അതിന്റെ സ്രഷ്ടാക്കളുടെയും സമൂഹത്തിന്റെയും വംശീയത, ലൈംഗികത, മറ്റ് പക്ഷപാതങ്ങൾ എന്നിവ പുനർനിർമ്മിക്കാൻ സാധ്യതയുണ്ടെന്ന് ഗവേഷകർ മുന്നറിയിപ്പ് നൽകിയിട്ടുണ്ട്.

ഈ സാഹചര്യത്തിൽ, വിവേചനം പരിഹരിക്കാനുള്ള ശ്രമങ്ങളിൽ ഗൂഗിൾ അമിതമായി തിരുത്തിയിരിക്കാം, കാരണം ചില ഉപയോക്താക്കൾ ഒരു വെള്ളക്കാരന്റെ ചിത്രം നിർമ്മിക്കാൻ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ലഭിക്കാനുള്ള പരാജയപ്പെട്ട ശ്രമങ്ങൾക്ക് ശേഷം ഉടനടി ഭക്ഷണം നൽകി.

എക്സ് ഉപയോക്താവ് ഫ്രാങ്ക് ജെ ഫ്ലെമിംഗ് ജെമിനി സൃഷ്ടിച്ചുവെന്ന് പറഞ്ഞ നിറമുള്ള ആളുകളുടെ ഒന്നിലധികം ചിത്രങ്ങൾ പോസ്റ്റ് ചെയ്തു. ഓരോ തവണയും, ഒരു വെള്ളക്കാരന്റെ ചിത്രം നൽകാൻ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ആവശ്യപ്പെടാൻ ശ്രമിക്കുകയാണെന്ന് അദ്ദേഹം പറഞ്ഞു.

സമീപകാല പ്രശ്നങ്ങൾ പരിഹരിക്കാൻ കമ്പനി പ്രവർത്തിക്കുമ്പോൾ ജെമിനിയുടെ ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സവിശേഷത താൽക്കാലികമായി നിർത്തിവയ്ക്കുമെന്ന് ഗൂഗിൾ കമ്മ്യൂണിക്കേഷൻസ് ടീം വ്യാഴാഴ്ച പ്രസ്താവന ഇറക്കി.

‘ചില ചരിത്രപരമായ ഇമേജ് ജനറേഷൻ ചിത്രീകരണങ്ങളിൽ ജെമിനി കൃത്യതയില്ലായ്മ വാഗ്ദാനം ചെയ്യുന്നുണ്ടെന്ന് ഞങ്ങൾക്കറിയാം,’ കമ്പനിയുടെ കമ്മ്യൂണിക്കേഷൻസ് ടീം ബുധനാഴ്ച എക്സിന് നൽകിയ പോസ്റ്റിൽ എഴുതി.

ചരിത്രപരമായി കൃത്യതയില്ലാത്ത ചിത്രങ്ങൾ ചില ഉപയോക്താക്കളെ എഐ വെള്ളക്കാർക്കെതിരെ വംശീയമായി ആരോപിക്കാൻ കാരണമായി.

ജെമിനിയുടെ വംശീയ വൈവിധ്യമാര്ന്ന ചിത്രങ്ങള് ‘പൊതുവെ ഒരു നല്ല കാര്യമാണ്, കാരണം ലോകമെമ്പാടുമുള്ള ആളുകള് ഇത് ഉപയോഗിക്കുന്നു’ എന്ന് ഗൂഗിള് അതിന്റെ പ്രാരംഭ പ്രസ്താവനയില് സമ്മതിച്ചു.

വ്യാഴാഴ്ച കമ്പനിയുടെ കമ്മ്യൂണിക്കേഷൻസ് ടീം എഴുതി: ‘ജെമിനിയുടെ ഇമേജ് ജനറേഷൻ സവിശേഷതയുമായി സമീപകാല പ്രശ്നങ്ങൾ പരിഹരിക്കാൻ ഞങ്ങൾ ഇതിനകം പ്രവർത്തിക്കുന്നു. ഞങ്ങൾ ഇത് ചെയ്യുമ്പോൾ, ആളുകളുടെ ഇമേജ് ജനറേഷൻ താൽക്കാലികമായി നിർത്തിവയ്ക്കാൻ പോകുന്നു, മെച്ചപ്പെട്ട പതിപ്പ് ഉടൻ വീണ്ടും പുറത്തിറക്കും.

എന്നാൽ വിരാമ പ്രഖ്യാപനം പോലും വിമർശകരെ തൃപ്തിപ്പെടുത്തുന്നതിൽ പരാജയപ്പെട്ടു, അവർ ‘ഉണരുക, തകർന്നുപോകുക’, മറ്റ് മടുത്ത തിരിച്ചടികൾ എന്നിവയോടെ പ്രതികരിച്ചു.

ഈ ആഴ്ച ആദ്യം പ്രാരംഭ വിവാദത്തിന് ശേഷം, ഗൂഗിളിന്റെ കമ്മ്യൂണിക്കേഷൻസ് ടീം ഇനിപ്പറയുന്ന പ്രസ്താവന പുറത്തിറക്കി:

“ഇത്തരത്തിലുള്ള ചിത്രീകരണങ്ങൾ ഉടനടി മെച്ചപ്പെടുത്താൻ ഞങ്ങൾ പ്രവർത്തിക്കുന്നു. മിഥുന രാശിക്കാരുടെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഇമേജ് ജനറേഷൻ വൈവിധ്യമാർന്ന ആളുകളെ സൃഷ്ടിക്കുന്നു. അത് പൊതുവെ ഒരു നല്ല കാര്യമാണ്, കാരണം ലോകമെമ്പാടുമുള്ള ആളുകൾ ഇത് ഉപയോഗിക്കുന്നു. പക്ഷേ, ഇവിടെ അടയാളം കാണാനില്ല.’

വിവാദങ്ങൾ സൃഷ്ടിച്ച മിഥുന രാശിക്കാരുടെ പ്രതികരണങ്ങളിലൊന്ന് ‘1943 ജർമ്മൻ സൈനികരിൽ’ ഒരാളായിരുന്നു. മിഥുനം രാശിയിൽ ഒരു വെള്ളക്കാരനെയും രണ്ട് നിറമുള്ള സ്ത്രീകളെയും ഒരു കറുത്ത പുരുഷനെയും കാണിച്ചു.

‘വ്യക്തമായി പറയാതെ ഒരു വെള്ളക്കാരനെ ചോദിക്കുന്നതിനുള്ള പുതിയ മാർഗങ്ങൾ കൊണ്ടുവരാൻ ഞാൻ ശ്രമിക്കുന്നു,’ ഫ്രാങ്ക് ജെ ഫ്ലെമിംഗ് എന്ന ഉപയോക്താവ് എഴുതി.

ജെമിനി ഉപയോക്താക്കളെ അസ്വസ്ഥരാക്കിയ ഒരു സംഭവത്തിൽ, മാർപ്പാപ്പയുടെ ചിത്രത്തിനായുള്ള ഒരു ഉപയോക്താവിന്റെ അഭ്യർത്ഥന ഒരു ദക്ഷിണേഷ്യൻ സ്ത്രീയുടെയും ഒരു കറുത്ത പുരുഷന്റെയും ചിത്രവുമായി കണ്ടുമുട്ടി.

ചരിത്രപരമായി, ഓരോ മാർപ്പാപ്പയും ഒരു പുരുഷനാണ്. ബഹുഭൂരിപക്ഷവും (അവരിൽ 200 ലധികം) ഇറ്റലിക്കാരാണ്. ചരിത്രത്തിലുടനീളം മൂന്ന് മാർപ്പാപ്പമാർ വടക്കേ ആഫ്രിക്കയിൽ നിന്നുള്ളവരാണ്, പക്ഷേ ചരിത്രകാരന്മാർ അവരുടെ ചർമ്മത്തിന്റെ നിറത്തെക്കുറിച്ച് ചർച്ച ചെയ്തിട്ടുണ്ട്, കാരണം ഏറ്റവും പുതിയ മാർപ്പാപ്പ ഗെലാസിയസ് ഒന്നാമൻ മാർപ്പാപ്പ 496 ൽ മരിച്ചു.

അതിനാൽ, ഒരു കറുത്ത പുരുഷ മാർപ്പാപ്പയുടെ പ്രതിച്ഛായ ചരിത്രപരമായി കൃത്യതയില്ലാത്തതാണെന്ന് പൂർണ്ണമായും പറയാൻ കഴിയില്ല, പക്ഷേ ഒരിക്കലും ഒരു വനിതാ മാർപ്പാപ്പ ഉണ്ടായിട്ടില്ല.

മറ്റൊന്നിൽ, രണ്ട് സ്ത്രീകൾ ഉൾപ്പെടെ നിറമുള്ള നാല് ആളുകളുമായി മധ്യകാല യോദ്ധാക്കളുടെ അഭ്യർത്ഥനയോട് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് പ്രതികരിച്ചു. മധ്യകാലഘട്ടത്തിൽ കുതിരകളും കവചങ്ങളും ഉണ്ടായിരുന്നത് യൂറോപ്യൻ രാജ്യങ്ങൾ മാത്രമായിരുന്നില്ലെങ്കിലും, ഒരു ‘മധ്യകാല യോദ്ധാവിന്റെ’ ക്ലാസിക് ചിത്രം പടിഞ്ഞാറൻ യൂറോപ്യൻ ചിത്രമാണ്.

ഒരുപക്ഷേ ഏറ്റവും ഭയാനകമായ അപകടങ്ങളിലൊന്നിൽ, ഒരു ഉപയോക്താവ് 1943 ലെ ഒരു ജർമ്മൻ സൈനികനെ ആവശ്യപ്പെടുകയും ഒരു വെള്ളക്കാരനെയും ഒരു കറുത്ത പുരുഷനെയും രണ്ട് നിറമുള്ള സ്ത്രീകളെയും കാണിച്ചു.

ജർമ്മൻ രണ്ടാം ലോകമഹായുദ്ധ സൈന്യത്തിൽ സ്ത്രീകളെ ഉൾപ്പെടുത്തിയിരുന്നില്ല, അതിൽ തീർച്ചയായും നിറമുള്ള ആളുകളെ ഉൾപ്പെടുത്തിയിരുന്നില്ല. വാസ്തവത്തിൽ, അഡോൾഫ് ഹിറ്റ്ലർ നീലക്കണ്ണുകളുള്ള ‘ആര്യൻ’ വംശത്തേക്കാൾ താഴ്ന്നതായി കണ്ട വംശങ്ങളെ ഉന്മൂലനം ചെയ്യുന്നതിനാണ് ഇത് സമർപ്പിച്ചത്.

മിഡ്ജൗർണി പോലുള്ള മറ്റ് ജനറേറ്റീവ് എഐ പ്രോഗ്രാമുകളുമായി മത്സരിച്ച് ഫെബ്രുവരി ആദ്യം ഗൂഗിൾ ജെമിനിയുടെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഇമേജ് ജനറേറ്റിംഗ് ഫീച്ചർ അവതരിപ്പിച്ചു.

ഉപയോക്താക്കൾക്ക് ലളിതമായ ഭാഷയിൽ ഒരു പ്രോംപ്റ്റ് ടൈപ്പുചെയ്യാൻ കഴിയും, കൂടാതെ ജെമിനി സെക്കൻഡുകൾക്കുള്ളിൽ ഒന്നിലധികം ചിത്രങ്ങൾ തുപ്പും.

ജെമിനിയുടെ ഇമേജ് ജനറേഷൻ സവിശേഷതകൾ താൽക്കാലികമായി നിർത്തുമെന്ന ഗൂഗിളിന്റെ പ്രഖ്യാപനത്തിന് മറുപടിയായി, ചില ഉപയോക്താക്കൾ ‘ഉണരുക, തകർന്നുപോകുക’ എന്ന പോസ്റ്റും സമാനമായ മറ്റ് വികാരങ്ങളും പോസ്റ്റ് ചെയ്തു.

എക്സ് ഉപയോക്താവ് ഫ്രാങ്ക് ജെ ഫ്ലെമിംഗ് വൈക്കിംഗുകൾ ഉൾപ്പെടെയുള്ള ചരിത്രത്തിലെ വെളുത്ത തൊലിയുള്ള ഗ്രൂപ്പുകളിൽ നിന്നുള്ള ആളുകളുടെ ചിത്രങ്ങൾ സൃഷ്ടിക്കാൻ ജെമിനിയെ ആവർത്തിച്ച് പ്രേരിപ്പിച്ചു. ഒരു സ്ത്രീ ഉൾപ്പെടെ ഇരുണ്ട തൊലിയുള്ള വൈക്കിംഗുകൾ കാണിക്കുന്ന ഫലങ്ങൾ ജെമിനി നൽകി.

എന്നിരുന്നാലും, ഈ ആഴ്ച, ചരിത്രപരമായി കൃത്യതയില്ലാത്ത ചിത്രങ്ങൾ സൃഷ്ടിച്ചതിന് എഐയെ വിമർശിക്കാൻ തുടങ്ങി, പകരം വംശീയവും ലിംഗപരവുമായ വൈവിധ്യത്തിന് മുൻഗണന നൽകി.

“വെള്ളക്കാർ ഉണ്ടെന്ന് ഗൂഗിൾ ജെമിനിയെ അംഗീകരിക്കാൻ ലജ്ജാകരമായി ബുദ്ധിമുട്ടാണ്” എന്ന് ഒരു മുൻ ഗൂഗിൾ ജീവനക്കാരൻ നടത്തിയ അഭിപ്രായത്തിൽ നിന്നാണ് ഈ ആഴ്ചയിലെ സംഭവങ്ങൾ ഉടലെടുത്തതെന്ന് തോന്നുന്നു.

ഈ തമാശ മറ്റ് ഉപയോക്താക്കളിൽ നിന്ന് പ്രശ്നം പുനരാവിഷ്കരിക്കാൻ നിരവധി ശ്രമങ്ങൾക്ക് തുടക്കമിട്ടതായി തോന്നി, ഇത് പുതിയ ആളുകളെ സൃഷ്ടിച്ചു.

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിലെ പക്ഷപാതവും വിവേചനവും പരിഹരിക്കാനുള്ള ഗൂഗിളിന്റെ ശ്രമങ്ങളിൽ നിന്നാണ് ജെമിനിയുമായുള്ള പ്രശ്നങ്ങൾ ഉടലെടുക്കുന്നത്.

‘വെള്ളക്കാര് ഉണ്ടെന്ന് ഗൂഗിള് ജെമിനിയെ അംഗീകരിക്കാന് ലജ്ജാകരമാണ്’ എന്ന് മുന് ഗൂഗിള് ജീവനക്കാരി ദേബര്ഗ്യ ദാസ് പറഞ്ഞു.

സമൂഹത്തിൽ നിലനിൽക്കുന്ന വംശീയതയും ലൈംഗികതയും കാരണം, ചില ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഗവേഷകർ അബോധാവസ്ഥയിലുള്ള പക്ഷപാതം കാരണം, പക്ഷപാതമില്ലാത്ത എഐകൾ വിവേചനം കാണിക്കാൻ പഠിക്കുമെന്ന് ഗവേഷകർ കണ്ടെത്തി.

എന്നാൽ വൈവിധ്യവും പ്രാതിനിധ്യവും വർദ്ധിപ്പിക്കുക എന്ന ദൗത്യത്തോട് യോജിക്കുന്ന ചില ഉപയോക്താക്കൾ പോലും മിഥുനം രാശിക്കാർക്ക് അത് തെറ്റാണെന്ന് അഭിപ്രായപ്പെട്ടു.

‘വൈവിധ്യത്തെ ചിത്രീകരിക്കുന്നത് ഒരു നല്ല കാര്യമാണെന്ന് എനിക്ക് ചൂണ്ടിക്കാണിക്കേണ്ടതുണ്ട് ** ചില സന്ദർഭങ്ങളിൽ **,’ ഒരു എക്സ് ഉപയോക്താവ് എഴുതി. ‘പ്രാതിനിധ്യത്തിന് ചില പഠന മേഖലകളിലേക്ക് എത്ര സ്ത്രീകളോ നിറമുള്ള ആളുകളോ പോകുന്നു എന്നതിനെക്കുറിച്ചുള്ള ഭൗതിക ഫലങ്ങളുണ്ട്. ജെമിനി അത് സൂക്ഷ്മമായ രീതിയിൽ ചെയ്യുന്നില്ല എന്നതാണ് ഇവിടുത്തെ വിഡ്ഢിത്തം.’

ചരിത്രപരമായ കൃത്യതയില്ലായ്മ ടെക് ഭീമന്റെ ‘ആഗോള ഉപയോക്തൃ അടിത്തറ’യെ പ്രതിഫലിപ്പിക്കുന്നുവെന്നും ‘പ്രാതിനിധ്യവും പക്ഷപാതവും’ ഗൗരവമായി കാണുന്നുവെന്നും ഗൂഗിളിലെ ജെമിനിയുടെ പ്രൊഡക്ട് സീനിയർ ഡയറക്ടർ ജാക്ക് ക്രാവ്സിക് ബുധനാഴ്ച എക്സിൽ പോസ്റ്റുചെയ്തു.

“ഓപ്പൺ എൻഡ് പ്രോംപ്റ്റുകൾക്കായി ഞങ്ങൾ ഇത് ചെയ്യുന്നത് തുടരും (ഒരു നായയെ നടക്കുന്ന ഒരാളുടെ ചിത്രങ്ങൾ സാർവത്രികമാണ്!), ക്രാവ്സിക് കൂട്ടിച്ചേർത്തു. “ചരിത്രപരമായ സന്ദർഭങ്ങൾക്ക് അവയ്ക്ക് കൂടുതൽ സൂക്ഷ്മതയുണ്ട്, അത് ഉൾക്കൊള്ളാൻ ഞങ്ങൾ കൂടുതൽ ചിട്ടപ്പെടുത്തും.”