ആളുകളുടെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഇമേജുകൾ സൃഷ്ടിക്കാനുള്ള ജെമിനിയുടെ കഴിവ് ഗൂഗിൾ താൽക്കാലികമായി നിർത്തിവച്ചു | വിശദീകരിച്ചു
ഇതുവരെയുള്ള കഥ: ഫെബ്രുവരി 22 ന്, ആളുകളുടെ ചിത്രങ്ങൾ സൃഷ്ടിക്കാനുള്ള ജെമിനിയുടെ കഴിവ് താൽക്കാലികമായി നിർത്തുമെന്ന് ഗൂഗിൾ പ്രഖ്യാപിച്ചു. യുഎസ് സ്ഥാപക പിതാക്കന്മാരുടെയും നാസി കാലഘട്ടത്തിലെ ജർമ്മനിയുടെയും വൈവിധ്യമാർന്ന ചിത്രങ്ങൾ ഉൾപ്പെടുന്ന തെറ്റായ ചരിത്ര ചിത്രങ്ങൾ ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപകരണം സൃഷ്ടിക്കുന്നതായി കണ്ടെത്തിയതിനെ തുടർന്നാണ് പ്രഖ്യാപനം. രണ്ട് കേസുകളിലും ഉപകരണം ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിൽ കാണപ്പെടുന്ന ലിംഗപരവും വംശീയവുമായ സ്റ്റീരിയോടൈപ്പുകളെ അട്ടിമറിക്കുന്നതായി തോന്നുന്ന ഇമേജുകൾ സൃഷ്ടിക്കുകയായിരുന്നു.
ഗൂഗിളിന്റെ ജെമിനി ചാറ്റ്ബോട്ടും ഇന്ത്യയിൽ വിമർശനങ്ങൾ നേരിടുന്നു, അതിൽ രാജ്യത്തിന്റെ പ്രധാനമന്ത്രി നരേന്ദ്ര മോദി “ചില വിദഗ്ധർ ഫാസിസ്റ്റ് എന്ന് വിശേഷിപ്പിക്കുന്ന നയങ്ങൾ നടപ്പാക്കുന്നുവെന്ന് ആരോപിക്കപ്പെടുന്നു” എന്ന് പറഞ്ഞു.
ഗൂഗിളിന്റെ ജെമിനി ചാറ്റ്ബോട്ടുമായി ബന്ധപ്പെട്ട് ഉപയോക്താക്കൾ ഉന്നയിച്ച പ്രശ്നങ്ങൾ എന്തൊക്കെയാണ്?
മൈക്രോബ്ലോഗിംഗ് പ്ലാറ്റ്ഫോമായ എക്സിലെ നിരവധി ഉപയോക്താക്കൾ ജെമിനി ചാറ്റ്ബോട്ട് വെള്ളക്കാരുടെ ചിത്രങ്ങൾ സൃഷ്ടിക്കാൻ വിസമ്മതിച്ച സംഭവങ്ങൾ ചൂണ്ടിക്കാണിച്ചിട്ടുണ്ട്, ഇത് വസ്തുതാപരമായി കൃത്യതയില്ലാത്ത ഫലങ്ങളിലേക്ക് നയിച്ചു. “അമേരിക്കയുടെ സ്ഥാപക പിതാക്കന്മാർ” അല്ലെങ്കിൽ “പോപ്പ്” പോലുള്ള ചരിത്രപരമായി പ്രാധാന്യമുള്ള വ്യക്തികൾക്കായുള്ള പ്രേരണകൾ പോലും നിറമുള്ള ആളുകളുടെ ചിത്രങ്ങൾക്ക് കാരണമായി, ഇത് ബോട്ടിന്റെ പക്ഷപാതത്തെക്കുറിച്ചുള്ള ആശങ്കകൾക്ക് കാരണമായി.
“ഒരു വെളുത്ത കുടുംബത്തിന്റെ” ചിത്രങ്ങൾ ആവശ്യപ്പെടുന്ന നിർദ്ദിഷ്ട പ്രോംപ്റ്റുകൾ നൽകിയ സന്ദർഭങ്ങളിൽ പോലും ഉപയോക്താക്കൾ പ്രശ്നത്തിന്റെ സ്ഥിരത ചൂണ്ടിക്കാണിച്ചിട്ടുണ്ട്, അതിന്റെ ഫലമായി ചാറ്റ്ബോട്ട് “ഒരു പ്രത്യേക വംശീയതയോ വംശമോ വ്യക്തമാക്കുന്ന ചിത്രങ്ങൾ സൃഷ്ടിക്കാൻ കഴിയില്ല” എന്ന് പറഞ്ഞു. മറുവശത്ത്, ഒരു കറുത്ത കുടുംബത്തിന്റെ ചിത്രങ്ങൾ ചോദിച്ചപ്പോൾ, അത് എളുപ്പത്തിൽ സമർപ്പിച്ചു.
മൂന്നാഴ്ച മുമ്പ് ബാർഡ് എന്നറിയപ്പെട്ടിരുന്ന ജെമിനി ചാറ്റ്ബോട്ടിലേക്ക് ഗൂഗിൾ പുതിയ ഇമേജ് ജനറേറ്റിംഗ് സവിശേഷത ചേർത്തു. ഇമേജൻ 2 എന്ന ഗൂഗിൾ ഗവേഷണ പരീക്ഷണത്തിന് മുകളിലാണ് നിലവിലെ മോഡൽ നിർമ്മിച്ചിരിക്കുന്നത്.
എന്തുകൊണ്ടാണ് ജെമിനിക്ക് ഇന്ത്യയിൽ തിരിച്ചടി നേരിടുന്നത്?
ഗൂഗിളിന്റെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ചാറ്റ് ഉൽപ്പന്നമായ ജെമിനി, “മോദി ഒരു ഫാസിസ്റ്റ് ആണോ?” എന്ന ഉപയോക്താവിന്റെ ചോദ്യത്തിന് മറുപടിയായി, വിദഗ്ധർ “ഫാസിസ്റ്റ്” എന്ന് തരംതിരിക്കുന്ന നയങ്ങൾ നടപ്പാക്കുന്നുവെന്ന് ആരോപിക്കപ്പെടുന്നുവെന്ന് പ്രതികരിച്ചു.
ചാറ്റ്ബോട്ട് ഇന്ത്യൻ ഇൻഫർമേഷൻ ടെക്നോളജി നിയമങ്ങളും ക്രിമിനൽ കോഡുകളും ലംഘിക്കുകയാണെന്ന് ഇലക്ട്രോണിക്സ് ആൻഡ് ഇൻഫർമേഷൻ ടെക്നോളജി സഹമന്ത്രി രാജീവ് ചന്ദ്രശേഖർ പ്രതികരിച്ചു. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഗവേഷണത്തോടുള്ള സർക്കാരിന്റെ സമീപനവും പൊതുജനങ്ങളുമായി അവരുടെ മോഡലുകളെ വേഗത്തിൽ പരിശീലിപ്പിക്കാൻ താൽപ്പര്യമുള്ള ടെക് ഭീമന്റെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് പ്ലാറ്റ്ഫോമുകളും തമ്മിലുള്ള വിള്ളൽ വർദ്ധിക്കുന്നതിന്റെ സൂചനയായാണ് അദ്ദേഹത്തിന്റെ പ്രതികരണത്തെ കാണുന്നത്.
ഇതാദ്യമായല്ല ഗൂഗിളിനെതിരെ സര് ക്കാര് വിമര് ശനം ഉന്നയിക്കുന്നത്. ഈ മാസം ആദ്യം, ജെമിനിയുടെ മുൻഗാമിയായ ബാർഡിന്റെ സമാനമായ “പിശക്” ഉദ്ധരിച്ച് ചന്ദ്രശേഖർ, മോഡൽ “പരീക്ഷണത്തിലാണ്” എന്ന കമ്പനിയുടെ ന്യായീകരണം സ്വീകാര്യമായ ഒഴികഴിവല്ലെന്ന് പറഞ്ഞിരുന്നു.
ഈ പ്രശ്നങ്ങളോട് ടെക് കമ്മ്യൂണിറ്റി എങ്ങനെയാണ് പ്രതികരിച്ചത്?
വൈ കമ്പിനേറ്ററിന്റെ സഹസ്ഥാപകനായ പോൾ ഗ്രഹാം, സൃഷ്ടിച്ച ചിത്രങ്ങൾ ഗൂഗിളിന്റെ ബ്യൂറോക്രാറ്റിക് കോർപ്പറേറ്റ് സംസ്കാരത്തിന്റെ പ്രതിഫലനമാണെന്ന് വിശേഷിപ്പിച്ചതോടെ ടെക് കമ്മ്യൂണിറ്റി വിമർശനം പ്രകടിപ്പിച്ചു. ആഗോളതലത്തിൽ വിവരങ്ങൾ സംഘടിപ്പിക്കുന്നതിൽ നിന്ന് ഒരു പ്രത്യേക അജണ്ട മുന്നോട്ട് കൊണ്ടുപോകുന്നതിലേക്ക് ഗൂഗിളിന്റെ ദൗത്യം മാറിയിട്ടുണ്ടെന്ന് മുബദാല വെഞ്ച്വേഴ്സിന്റെ ഓപ്പറേഷൻസ് മേധാവി അന മൊസ്റ്റാറാക്ക് അഭിപ്രായപ്പെട്ടു. ഗൂഗിൾ ഡീപ്മൈൻഡിലെ അലക്സ ഗോർഡിക് ഉൾപ്പെടെയുള്ള മുൻ, നിലവിലെ ജീവനക്കാർ ഓൺലൈനിൽ മറ്റ് ജീവനക്കാരെ വ്രണപ്പെടുത്തുന്നതുമായി ബന്ധപ്പെട്ട ഭയത്തിന്റെ സംസ്കാരത്തെക്കുറിച്ച് ആശങ്ക പ്രകടിപ്പിച്ചിട്ടുണ്ട്.
വിമർശനങ്ങളോട് ഗൂഗിളിന്റെ ഔദ്യോഗിക പ്രതികരണം എന്താണ്?
പ്രശ്നം പരിഹരിക്കാനുള്ള ശ്രമത്തിലാണ് ഗൂഗിൾ, ഇമേജ് ജനറേഷൻ സവിശേഷത താൽക്കാലികമായി പ്രവർത്തനരഹിതമാക്കി. “ഞങ്ങൾ ഇത് ചെയ്യുമ്പോൾ, ആളുകളുടെ ഇമേജ് ജനറേഷൻ താൽക്കാലികമായി നിർത്തിവയ്ക്കാൻ പോകുന്നു, മെച്ചപ്പെട്ട പതിപ്പ് ഉടൻ വീണ്ടും പുറത്തിറക്കും,” ഗൂഗിൾ എക്സ് പോസ്റ്റിന്റെ ഭാഗമായി പറഞ്ഞു.
ഗൂഗിളിലെ ഉൽപ്പന്നങ്ങളുടെ സീനിയർ ഡയറക്ടർ ജാക്ക് ക്രാവ്സിക് ജെമിനിയുമായുള്ള പ്രശ്നങ്ങൾ അംഗീകരിക്കുകയും അതിന്റെ പിശകുകൾ പരിഹരിക്കാൻ ടീം പ്രവർത്തിക്കുന്നുണ്ടെന്നും പ്രസ്താവിച്ചു. ആഗോള ഉപയോക്തൃ അടിത്തറയെ പ്രതിഫലിപ്പിക്കുന്ന ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സംവിധാനങ്ങൾ രൂപകൽപ്പന ചെയ്യുന്നതിനുള്ള ഗൂഗിളിന്റെ പ്രതിബദ്ധത അദ്ദേഹം ഊന്നിപ്പറയുകയും ചരിത്രപരമായ സന്ദർഭങ്ങളെ ഉൾക്കൊള്ളാൻ കൂടുതൽ ട്യൂണിംഗിന്റെ ആവശ്യകത അംഗീകരിക്കുകയും ചെയ്തു.
ഉപയോക്തൃ ഫീഡ്ബാക്കിനെ അടിസ്ഥാനമാക്കി നടന്നുകൊണ്ടിരിക്കുന്ന അലൈൻമെന്റ് പ്രക്രിയയും ആവർത്തനവും ക്രാവ്സിക് പരാമർശിച്ചു. ഓപ്പൺ-എൻഡഡ് പ്രോംപ്റ്റുകളോടുള്ള ജെമിനിയുടെ പ്രതികരണങ്ങൾ പരിഷ്കരിക്കാനും കൂടുതൽ കൃത്യവും പക്ഷപാതരഹിതവുമായ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സിസ്റ്റം ഉറപ്പാക്കുന്നതിന് ചരിത്രപരമായ സന്ദർഭങ്ങളെക്കുറിച്ചുള്ള ധാരണ വർദ്ധിപ്പിക്കാനും കമ്പനി ലക്ഷ്യമിടുന്നു.
മറ്റ് ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ചാറ്റ്ബോട്ടുകൾ സമാനമായ പ്രശ്നങ്ങൾ നേരിട്ടിട്ടുണ്ടോ?
ഉള്ളടക്കം സൃഷ്ടിക്കുമ്പോൾ തിരിച്ചടി നേരിടുന്ന ആദ്യത്തെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ചാറ്റ്ബോട്ടല്ല ജെമിനി. അടുത്തിടെ മൈക്രോസോഫ്റ്റിന് സ്വന്തം ഡിസൈനർ ടൂൾ ക്രമീകരിക്കേണ്ടിവന്നു. ടെയ്ലർ സ്വിഫ്റ്റിന്റെയും മറ്റ് സെലിബ്രിറ്റികളുടെയും ഡീപ്ഫേക്ക് അശ്ലീല ചിത്രങ്ങൾ സൃഷ്ടിക്കാൻ ചിലർ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപകരണം ഉപയോഗിച്ചതിനാലാണ് ക്രമീകരണങ്ങൾ ആവശ്യമായി വന്നത്.
റിയലിസ്റ്റിക് വീഡിയോകൾ സൃഷ്ടിക്കാൻ കഴിവുള്ള ഓപ്പൺ എഐയുടെ ഏറ്റവും പുതിയ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് വീഡിയോ ജനറേറ്റർ ഉപകരണമായ സോറയും തെറ്റായ വിവരങ്ങൾ പ്രചരിപ്പിക്കുന്നതിനുള്ള ഉപകരണത്തിന്റെ ദുരുപയോഗത്തെക്കുറിച്ച് ചോദ്യങ്ങൾ ഉയർത്തിയിട്ടുണ്ട്. എന്നിരുന്നാലും, അക്രമാസക്തമോ ലൈംഗികമോ വിദ്വേഷപരമോ ആയ ഭാഷയും പ്രമുഖ വ്യക്തികളുടെ ചിത്രങ്ങളും പരാമർശിക്കുന്ന ഉടനടി അഭ്യർത്ഥനകൾ തടയുന്നതിന് ഓപ്പൺഎഐ അതിന്റെ ഫിൽട്ടർ ഉപകരണത്തിൽ സ്ഥാപിച്ചിട്ടുണ്ട്.
Experienced Researcher with a demonstrated history of working in the Deep Learning, Computer Vision
