ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യയ്ക്കെതിരെ നടപടിയെടുക്കണമെന്ന് ആവശ്യപ്പെട്ട് 400 ലധികം ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് വിദഗ്ധർ, സെലിബ്രിറ്റികൾ, രാഷ്ട്രീയക്കാർ, ആക്ടിവിസ്റ്റുകൾ എന്നിവർ ഒരു തുറന്ന കത്തിൽ ഒപ്പിട്ടു.

ലൈംഗിക ചിത്രങ്ങൾ, കുട്ടികളുടെ അശ്ലീലം, വഞ്ചന, രാഷ്ട്രീയ തെറ്റായ വിവരങ്ങൾ എന്നിവ കാരണം ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സൃഷ്ടിക്കുന്ന വീഡിയോകളുടെ എണ്ണം വർദ്ധിക്കുന്നത് സമൂഹത്തിന് ഭീഷണിയാണെന്ന് കത്തിൽ വാദിക്കുന്നു.

യഥാർത്ഥമാണെന്ന് തെറ്റിദ്ധരിക്കാവുന്ന മനുഷ്യ ശബ്ദങ്ങൾ, ചിത്രങ്ങൾ, വീഡിയോകൾ എന്നിവ അനുകരിക്കുന്ന ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സൃഷ്ടിച്ച മാധ്യമങ്ങളാണ് ഡീപ്ഫേക്കുകൾ.

ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യ പൊതുജനങ്ങളെ തെറ്റിദ്ധരിപ്പിക്കുന്നുവെന്നും ഇന്റർനെറ്റിൽ എന്താണ് യാഥാർത്ഥ്യമെന്ന് തിരിച്ചറിയാൻ ബുദ്ധിമുട്ടാണെന്നും അതിനാൽ യഥാർത്ഥ മനുഷ്യരെ തിരിച്ചറിയാനുള്ള നമ്മുടെ കഴിവ് സംരക്ഷിക്കുന്നതിന് ഔപചാരിക നിയമങ്ങൾ നടപ്പാക്കുന്നത് എന്നത്തേക്കാളും പ്രധാനമാണെന്നും കത്തിൽ പറയുന്നു.

ടെയ്ലർ സ്വിഫ്റ്റിന്റെ ലൈംഗിക ചുവയുള്ള ഡീപ്ഫേക്ക് ചിത്രങ്ങൾ കഴിഞ്ഞ മാസം സോഷ്യൽ മീഡിയയിൽ വൈറലായതിനെ തുടർന്നാണ് കൂടുതൽ കർശന നിയന്ത്രണങ്ങൾ വേണമെന്ന ആവശ്യം ഉയർന്നത്.

ടെയ് ലർ സ്വിഫ്റ്റിനെ ലക്ഷ്യമിട്ട് കഴിഞ്ഞ മാസം X ൽ വൈറലായ ലൈംഗിക ചുവയുള്ള ഡീപ്ഫേക്ക് ചിത്രങ്ങൾ

ഡീപ്ഫേക്കുകൾ ലക്ഷ്യമിടുന്നവരിൽ ഭൂരിഭാഗവും സ്ത്രീകളാണ്, 2018 ന്റെ തുടക്കത്തിൽ തന്നെ വീഡിയോകൾ പുറത്തുവന്നിരുന്നു. നടി നതാലി പോർട്ട്മാനെ ലക്ഷ്യമിട്ട് ഒരു വീഡിയോ

“ഡീപ്ഫേക്കുകൾ മനുഷ്യ സമൂഹത്തിന് വലിയ ഭീഷണിയാണ്, ഇതിനകം തന്നെ വ്യക്തികൾക്കും കമ്മ്യൂണിറ്റികൾക്കും ജനാധിപത്യത്തിന്റെ പ്രവർത്തനത്തിനും വർദ്ധിച്ചുവരുന്ന ദോഷം വരുത്തുന്നു,” ഇലക്ട്രിക്കൽ എഞ്ചിനീയറിംഗ് ആൻഡ് കമ്പ്യൂട്ടർ സയൻസ് വകുപ്പിലെ യുസി ബെർക്ക്ലിയിലെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഗവേഷകനും കത്തിലെ പ്രധാന രചയിതാവുമായ ആൻഡ്രൂ ക്രിച്ച് പറഞ്ഞു.

“ഡീപ്ഫേക്കുകളുടെ വ്യാപനത്തെ ചെറുക്കാൻ ഞങ്ങൾക്ക് അടിയന്തര നടപടി ആവശ്യമാണ്, ലോകമെമ്പാടുമുള്ള ആളുകൾക്ക് ഡീപ്ഫേക്കുകൾ തടയുന്നതിനുള്ള നിയമനിർമ്മാണ ശ്രമങ്ങൾക്ക് പിന്തുണ പ്രകടിപ്പിക്കാനുള്ള ഒരു മാർഗമായാണ് ഞാനും എന്റെ സഹപ്രവർത്തകരും ഈ കത്ത് സൃഷ്ടിച്ചത്.”

2022 നും 2023 നും ഇടയിൽ വ്യാജ ലൈംഗിക ഉള്ളടക്കത്തിന്റെ അളവ് 400 ശതമാനത്തിലധികം വർദ്ധിച്ചപ്പോൾ തട്ടിപ്പ് ആ സമയപരിധിക്കുള്ളിൽ ഞെട്ടിക്കുന്ന 3,000 ശതമാനം വർദ്ധിച്ചുവെന്ന് ബാൻ ഡീപ്ഫേക്ക്സ് കാമ്പെയ്ൻ പറയുന്നു.

ഡീപ്ഫേക്ക് അശ്ലീലം ഓൺലൈനിൽ പങ്കിടുന്ന വ്യക്തികൾ ക്രിമിനൽ കുറ്റങ്ങൾ നേരിടണമെന്ന് ഭൂരിഭാഗം ആളുകളും സമ്മതിക്കുന്നു

ക്രിസ്റ്റൻ ബെൽ കഴിഞ്ഞ വർഷം ഡീപ്ഫേക്ക് വീഡിയോയിലൂടെ ലക്ഷ്യമിട്ട മറ്റൊരു സെലിബ്രിറ്റിയായിരുന്നു

ഡീപ്ഫേക്ക് വിതരണ ശൃംഖലയെ തടസ്സപ്പെടുത്തുക’ എന്ന തലക്കെട്ടിലുള്ള കത്തിൽ ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യ പൂർണ്ണമായും നിരോധിക്കണമെന്നും നിയമനിർമ്മാതാക്കൾ ഡീപ്ഫേക്ക് കുട്ടികളുടെ അശ്ലീല ദൃശ്യങ്ങൾ പൂർണ്ണമായും ക്രിമിനൽ കുറ്റമാക്കണമെന്നും അത്തരം ഉള്ളടക്കം അറിഞ്ഞുകൊണ്ട് സൃഷ്ടിക്കുകയോ പങ്കിടുകയോ ചെയ്യുന്ന ആർക്കും ക്രിമിനൽ ശിക്ഷകൾ ഏർപ്പെടുത്തണമെന്നും ആവശ്യപ്പെടുന്നു.

ഡീപ്ഫേക്കുകൾ സൃഷ്ടിക്കാൻ അവരുടെ ഓഡിയോ, വിഷ്വൽ ഉൽപ്പന്നങ്ങൾ ഉപയോഗിക്കുന്ന ആർക്കും സോഫ്റ്റ്വെയർ ഡവലപ്പർമാരും വിതരണക്കാരും ഉത്തരവാദികളാകണമെന്നും സിഗ്നീസ് ആവശ്യപ്പെട്ടു.

“നമ്മുടെ കുട്ടികൾ ഉൾപ്പെടെ ആർക്കും, എവിടെയും ദോഷകരമായ ഡീപ്ഫേക്കുകൾക്ക് ഇരയാകാമെന്ന് കൂടുതൽ വ്യക്തമാണ്,” ഹീറ്റ് ഇനിഷ്യേറ്റീവിന്റെ സിഇഒ സാറാ ഗാർഡ്നർ പറഞ്ഞു.

“നിയമനിർമ്മാതാക്കൾ ഞങ്ങൾക്ക് വേണ്ടിയാണ് പ്രവർത്തിക്കുന്നത്, കുട്ടികളെ ലൈംഗികമായി ദുരുപയോഗം ചെയ്യുന്ന വസ്തുക്കളുടെ വ്യാപനം അനുവദിക്കുന്ന പ്ലാറ്റ്ഫോമുകളെയും മോശം അഭിനേതാക്കളെയും ഉത്തരവാദികളാക്കാൻ വേഗത്തിൽ പ്രവർത്തിച്ചുകൊണ്ട് നമ്മുടെ കുട്ടികളെ സംരക്ഷിക്കുന്നതിനുള്ള ധാർമ്മിക അനിവാര്യത അവർക്കുണ്ട്,” അവർ കൂട്ടിച്ചേർത്തു.

ഓൺലൈനിൽ ഒരു വ്യാജ വീഡിയോ പ്രത്യക്ഷപ്പെട്ടപ്പോൾ എമ്മ വാട്സൺ ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യയുടെ മറ്റൊരു ലക്ഷ്യമായിരുന്നു

മാർവൽ നടി സ്കാർലറ്റ് ജോഹാൻസൺ കഴിഞ്ഞ വർഷം ലിസ എഐയെ പ്രോത്സാഹിപ്പിക്കുന്ന ഡീപ്ഫേക്ക് വീഡിയോ പരസ്യം പുറത്തുവന്നിരുന്നു.

ഉള്ളടക്കം യഥാർത്ഥമാണെന്ന് പരിശോധിക്കുന്നതിന് ടാമ്പർ പ്രൂഫ് ഡിജിറ്റൽ സീലുകൾ, ക്രിപ്റ്റോഗ്രാഫിക് സിഗ്നേച്ചർ ടെക്നിക്കുകൾ എന്നിവ ചേർക്കുന്നത് പോലുള്ള ഓതന്റിക്കേഷൻ രീതികൾ സൃഷ്ടിക്കാൻ മാധ്യമ കമ്പനികൾ, സോഫ്റ്റ്വെയർ ഡവലപ്പർമാർ, ഉപകരണ നിർമ്മാതാക്കൾ എന്നിവരെ കത്ത് പ്രോത്സാഹിപ്പിച്ചു.

ഓൺലൈനിൽ അത്തരം വീഡിയോകളിൽ 98 ശതമാനവും ഡീപ്ഫേക്ക് അശ്ലീലമാണെന്ന് കണ്ടെത്തിയ ഒരു റിപ്പോർട്ട് ഉദ്ധരിച്ചുകൊണ്ട്, കത്ത് വളരെ പ്രാധാന്യമർഹിക്കുന്നതിന്റെ പ്രധാന കാരണങ്ങളിലൊന്നാണ് വർദ്ധിച്ചുവരുന്ന അശ്ലീലത്തിന്റെ അളവെന്നും റിപ്പോർട്ടിൽ പറയുന്നു.

ഇത് ടെയ് ലർ സ്വിഫ്റ്റ് മാത്രമല്ല – ഇപ്പോൾ ആരെയും ദുഷിച്ച ഡീപ്ഫേക്ക് പോൺ മുതലാളിമാർ ലക്ഷ്യമിടാം ഡീപ്ഫേക്ക് പോൺ ഇതിനകം തന്നെ മുഴുവൻ അർപ്പണബോധമുള്ളതും അനിയന്ത്രിതവുമായ സൈറ്റുകളുള്ള ഒരു വലിയ വ്യവസായമാണ്. പരസ്യം

ഈ വീഡിയോകൾക്ക് 2023 ൽ 34 ദശലക്ഷം വ്യൂസ് ലഭിച്ചു, ലക്ഷ്യമിട്ട ആളുകളിൽ 99 ശതമാനവും സ്ത്രീകളാണ്.

ഡീപ്ഫേക്ക് ഇമേജുകളുടെ ഇരകളായ ഡസൻ കണക്കിന് സെലിബ്രിറ്റികളിൽ ടെയ്ലർ സ്വിഫ്റ്റ് തന്റെ പേര് ചേർത്തതിന് പിന്നാലെയാണ് പുതിയ കത്ത് വരുന്നത്, എക്സിൽ ലൈംഗിക ചുവയുള്ള ചിത്രങ്ങൾ വൈറലാകുകയും ചിത്രങ്ങൾ നീക്കം ചെയ്യുന്നതിന് മുമ്പ് 27 ദശലക്ഷത്തിലധികം വ്യൂസും 260,000 ലൈക്കുകളും നേടുകയും ചെയ്തു.

2018 ൽ നതാലി പോർട്മാൻ ഒരു വീഡിയോയിൽ പ്രത്യക്ഷപ്പെട്ടതു മുതൽ വനിതാ സെലിബ്രിറ്റികളാണ് ഡീപ്ഫേക്ക് ചിത്രങ്ങളുടെ പ്രാഥമിക ലക്ഷ്യം.

ലിസ എഐയെ പ്രോത്സാഹിപ്പിക്കുന്ന ഡീപ്ഫേക്ക് വീഡിയോ പരസ്യം പുറത്തുവന്നപ്പോൾ മാർവൽ നടി സ്കാർലറ്റ് ജോഹാൻസണും കഴിഞ്ഞ വർഷം ആക്രമിക്കപ്പെട്ടിരുന്നു.

മാർച്ചിൽ ഹാരി പോട്ടർ താരം എമ്മ വാട്സൺ സോഷ്യൽ മീഡിയയിൽ ഒരു ഡീപ്ഫേക്ക് പരസ്യത്തിൽ പ്രത്യക്ഷപ്പെട്ടിരുന്നു.

സാങ്കേതികവിദ്യ വളരെ വേഗത്തിൽ പുരോഗമിക്കുന്നു, ആരെയും ലക്ഷ്യമിടാൻ കഴിയും, പൊതുജനങ്ങൾ കൂടുതൽ ഡീപ്ഫേക്കുകൾക്ക് ഇരയാകുന്നു, കത്തിൽ പറയുന്നു.

കഴിഞ്ഞ വര്ഷം ന്യൂജേഴ്സി ഹൈസ്കൂളിലെ 30 ലധികം പെണ്കുട്ടികളെ ലക്ഷ്യമിട്ട് സഹപാഠി അവരുടെ ആഴത്തിലുള്ള ചിത്രങ്ങള് ഓണ്ലൈനില് സൃഷ്ടിക്കുകയും പ്രചരിപ്പിക്കുകയും ചെയ്തിരുന്നു.

“ഇന്ന്, ഇത് സ്വകാര്യ വ്യക്തികളെ ബാധിക്കുന്നതായി ഞങ്ങൾ കാണുന്നു, കാരണം ഇത് വളരെ പെട്ടെന്നാണ്, വളരെ വേഗത്തിലാണ്,” ആക്റ്റീവ്ഫെൻസ് ഗവേഷകൻ ആമിർ ഒനെലി ഒക്ടോബറിൽ Dailymail.com പറഞ്ഞു.

‘ആരും സുരക്ഷിതരല്ല എന്നതാണ് ഏറ്റവും ദാരുണമായ കാര്യം.’