ചാറ്റ്ജിപിടി ഉൾപ്പെടെയുള്ള നിരവധി നാച്ചുറൽ ലാംഗ്വേജ് പ്രോസസ്സിംഗ് (എൻഎൽപി) ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (ജെൻഎഐ) ഉപകരണങ്ങളെ വിജയകരമായി വിഡ്ഢികളാക്കിയതായി ഷെഫീൽഡ് സർവകലാശാലയിലെ ഗവേഷകർ പറഞ്ഞു.

ചാറ്റ്ജിപിടി പോലുള്ള ഉപകരണങ്ങൾ ചൂഷണം ചെയ്യാനും സൈബർ ആക്രമണങ്ങൾ നടത്താൻ ഉപയോഗിക്കാവുന്ന ക്ഷുദ്ര കോഡ് എഴുതാൻ കബളിപ്പിക്കാനുമുള്ള സാധ്യത കഴിഞ്ഞ 12 മാസമായി വളരെ വിശദമായി ചർച്ച ചെയ്യപ്പെട്ടിട്ടുണ്ട്. എന്നിരുന്നാലും, അത്തരം കോഡ് വലിയ തോതിൽ ഫലപ്രദമല്ലെന്നും ഉപയോഗപ്രദമാകണമെങ്കിൽ മനുഷ്യ കോഡറുകളിൽ നിന്ന് വളരെയധികം അധിക ശ്രദ്ധ ആവശ്യമാണെന്നും നിരീക്ഷകർ സമ്മതിക്കുന്നു.

എന്നിരുന്നാലും, ടെക്സ്റ്റ്-ടു-എസ്ക്യുഎൽ സിസ്റ്റങ്ങൾ – ലളിതമായ ഭാഷയിൽ ചോദ്യങ്ങൾ ചോദിച്ച് ഡാറ്റാബേസുകൾ തിരയാൻ ആളുകളെ അനുവദിക്കുന്ന ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ടൂളുകൾ – ഈ രീതിയിൽ ചൂഷണം ചെയ്യാൻ കഴിയുമെന്ന് അതിന്റെ ടീം ഇപ്പോൾ തെളിയിച്ചിട്ടുണ്ട്.

ടെക്സ്റ്റ്-ടു-എസ്ക്യുഎൽ സിസ്റ്റങ്ങളുടെ ഉപയോക്താക്കൾ ഈ കൃതിയിൽ ഉയർത്തിക്കാട്ടിയേക്കാവുന്ന അപകടസാധ്യതകളെക്കുറിച്ച് ബോധവാന്മാരാകണമെന്ന് ഷെഫീൽഡ് സർവകലാശാലയിലെ എൻഎൽപി ഗവേഷണ ഗ്രൂപ്പിലെ സീനിയർ ലക്ചറർ മാർക്ക് സ്റ്റീവൻസൺ പറഞ്ഞു. “ടെക്സ്റ്റ്-ടു-എസ്ക്യുഎൽ സിസ്റ്റങ്ങളിൽ ഉപയോഗിക്കുന്നതുപോലുള്ള വലിയ ഭാഷാ മോഡലുകൾ വളരെ ശക്തമാണ്, പക്ഷേ അവയുടെ പെരുമാറ്റം സങ്കീർണ്ണവും പ്രവചിക്കാൻ ബുദ്ധിമുട്ടുള്ളതുമാണ്. ഷെഫീൽഡ് സർവകലാശാലയിൽ, ഈ മോഡലുകളെ നന്നായി മനസിലാക്കുന്നതിനും അവയുടെ മുഴുവൻ കഴിവുകളും സുരക്ഷിതമായി സാക്ഷാത്കരിക്കാൻ അനുവദിക്കുന്നതിനും ഞങ്ങൾ നിലവിൽ പ്രവർത്തിക്കുന്നു.

“വാസ്തവത്തിൽ, പല കമ്പനികളും ഇത്തരത്തിലുള്ള ഭീഷണികളെക്കുറിച്ച് ബോധവാന്മാരല്ല, ചാറ്റ്ബോട്ടുകളുടെ സങ്കീർണ്ണത കാരണം, കമ്മ്യൂണിറ്റിക്കുള്ളിൽ പോലും, പൂർണ്ണമായി മനസ്സിലാകാത്ത കാര്യങ്ങളുണ്ട്,” ഷെഫീൽഡ് യൂണിവേഴ്സിറ്റി പിഎച്ച്ഡി വിദ്യാർത്ഥി സുതാൻ പെങ് കൂട്ടിച്ചേർത്തു. “ഇപ്പോൾ, ചാറ്റ്ജിപിടി വളരെയധികം ശ്രദ്ധ നേടുന്നു. ഇത് ഒരു സ്വതന്ത്ര സംവിധാനമാണ്, അതിനാൽ സേവനത്തിനുള്ള അപകടസാധ്യതകൾ വളരെ കുറവാണ്, പക്ഷേ മറ്റ് സേവനങ്ങൾക്ക് ഗുരുതരമായ ദോഷം വരുത്തുന്ന ക്ഷുദ്ര കോഡ് നിർമ്മിക്കാൻ ഇത് കബളിപ്പിക്കാൻ കഴിയും എന്നതാണ് ഞങ്ങൾ കണ്ടെത്തിയത്.

ചൈന വികസിപ്പിച്ച ബെയ്ഡു-യൂണിറ്റ്, ചാറ്റ്ജിപിടി, എഐ 2 എസ്ക്യുഎൽ, എഐഹെൽപെർബോട്ട്, ടെക്സ്റ്റ് 2 എസ്ക്യുഎൽ, ടൂൾസ്കെ എന്നീ ആറ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപകരണങ്ങൾ ഗവേഷണ സംഘം പരിശോധിച്ചു. ഓരോ സന്ദർഭത്തിലും, ഓരോ എഐകളിലും വളരെ നിർദ്ദിഷ്ട ചോദ്യങ്ങൾ ഇൻപുട്ട് ചെയ്യുന്നതിലൂടെ, നടപ്പിലാക്കുമ്പോൾ രഹസ്യാത്മക ഡാറ്റ വിജയകരമായി ചോർത്താനും ഒരു ഡാറ്റാബേസിന്റെ സാധാരണ സേവനത്തെ തടസ്സപ്പെടുത്താനോ നശിപ്പിക്കാനോ കഴിയുന്ന ക്ഷുദ്ര കോഡ് അവർ നിർമ്മിച്ചതായി അവർ കണ്ടെത്തി.

ബെയ്ഡു-യൂണിറ്റിന്റെ കാര്യത്തിൽ, രഹസ്യസ്വഭാവമുള്ള ബെയ്ഡു സെർവർ കോൺഫിഗറേഷനുകൾ നേടാനും ഒരു സെർവർ നോഡിനെ ഓർഡർ ചെയ്യാനും അവർക്ക് കഴിഞ്ഞു. ബെയ്ഡുവിനെ അറിയിക്കുകയും ഈ പ്രത്യേക പ്രശ്നം പരിഹരിക്കുകയും ചെയ്തിട്ടുണ്ട്.

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ്, സുരക്ഷ എന്നിവയെക്കുറിച്ച് കൂടുതൽ വായിക്കുക ക്ഷുദ്ര അഭിനേതാക്കൾ ആക്രമണങ്ങൾ സുഗമമാക്കുന്നതിന് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപകരണങ്ങൾ ഉപയോഗിക്കാൻ തുടങ്ങുന്നുവെന്ന് ഞങ്ങൾക്കറിയാം, എന്നാൽ മറുവശത്ത്, സൈബർ സുരക്ഷാ പ്രൊഫഷണലുകളുടെ കൈയ്യിൽ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഒരു ശക്തമായ ഉപകരണമാണ്.

2022 നവംബറിൽ ചാറ്റ്ജിപിടി ആരംഭിച്ചതിനുശേഷം, സൈബർ സുരക്ഷയിൽ ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന്റെ സ്വാധീനം നിർണ്ണയിക്കാൻ ശ്രമിക്കുന്ന നിരവധി റിപ്പോർട്ടുകൾ പുറത്തുവന്നിട്ടുണ്ട്. സൈബർ സുരക്ഷയിൽ ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഒരു ഇരട്ട വാളാണെന്നതിൽ സംശയമില്ല, പക്ഷേ മാതൃക അവസരത്തിനോ അപകടസാധ്യതയ്ക്കോ അനുകൂലമായി മാറുമോ?

ക്ഷുദ്ര ഫിഷിംഗ് ഇമെയിലുകൾ രൂപകൽപ്പന ചെയ്യാൻ ഭീഷണി അഭിനേതാക്കൾ ചാറ്റ്ജിപിടി ഉപയോഗിക്കുന്നുവെന്ന് ചില ഡാറ്റ ഇപ്പോൾ സൂചിപ്പിക്കുന്നു, പക്ഷേ ഈ പ്രവണതയ്ക്ക് മുന്നിൽ നിന്ന് പുറത്തുകടക്കാൻ വ്യവസായം പരമാവധി ശ്രമിക്കുന്നുണ്ടെന്ന് എഗ്രസിലെ ത്രെറ്റ് ഇന്റലിജൻസ് ടീം പറയുന്നു.

ലളിതമായ പിൻവാതിൽ ആക്രമണങ്ങൾ നടത്താൻ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപകരണങ്ങൾ ഉപയോഗപ്പെടുത്താനും പരിശീലന ഡാറ്റയിൽ വിഷം കലർത്തി ടെക്സ്റ്റ്-ടു-എസ്ക്യുഎൽ മോഡലുകളിൽ ഒരു ട്രോജൻ കുതിരയെ നടാനും ഗവേഷകർക്ക് കഴിഞ്ഞു.

വംശനാശഭീഷണി നേരിടുന്ന ഭാഷകൾ പഠിപ്പിക്കാൻ എൻഎൽപി സാങ്കേതികവിദ്യ ഉപയോഗിക്കുന്നതിൽ പ്രവർത്തിക്കുന്ന പെങ് – ഡാറ്റാബേസുകളുമായി മികച്ച രീതിയിൽ സംവദിക്കുന്നതിന് പ്രോഗ്രാമിംഗ് ഭാഷകൾ പഠിക്കാൻ ആളുകൾ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപയോഗിക്കുന്നതിലെ അപകടങ്ങൾ ഈ പഠനം എടുത്തുകാണിക്കുന്നു. അവരുടെ ഉദ്ദേശ്യങ്ങൾ മാന്യമായിരിക്കാം, പക്ഷേ ഫലങ്ങൾ വളരെ ദോഷകരമാണ്.

“ചാറ്റ്ജിപിടി പോലുള്ള എഐകളുടെ അപകടസാധ്യത എന്തെന്നാൽ, കൂടുതൽ ആളുകൾ അവ ഒരു സംഭാഷണ ബോട്ടിനേക്കാൾ ഉൽപാദനക്ഷമത ഉപകരണങ്ങളായി ഉപയോഗിക്കുന്നു എന്നതാണ്, ഇവിടെയാണ് ഞങ്ങളുടെ ഗവേഷണം ദുർബലതകൾ കാണിക്കുന്നത്,” അദ്ദേഹം വിശദീകരിച്ചു.

“ഉദാഹരണത്തിന്, ഒരു നഴ്സിന് ചാറ്റ്ജിപിടിയോട് ഒരു എസ്ക്യുഎൽ കമാൻഡ് എഴുതാൻ ആവശ്യപ്പെടാം, അതിനാൽ ക്ലിനിക്കൽ റെക്കോർഡുകൾ സംഭരിക്കുന്നതുപോലുള്ള ഒരു ഡാറ്റാബേസുമായി സംവദിക്കാൻ അവർക്ക് കഴിയും. ഞങ്ങളുടെ പഠനത്തിൽ കാണിച്ചിരിക്കുന്നതുപോലെ, ചാറ്റ്ജിപിടി നിർമ്മിച്ച എസ്ക്യുഎൽ കോഡ് പല കേസുകളിലും ഒരു ഡാറ്റാബേസിന് ഹാനികരമാണ്, അതിനാൽ ഈ സാഹചര്യത്തിൽ നഴ്സ് ഒരു മുന്നറിയിപ്പ് പോലും ലഭിക്കാതെ ഗുരുതരമായ ഡാറ്റാ മാനേജുമെന്റ് തകരാറുകൾക്ക് കാരണമായേക്കാം.

പെങ്ങും മറ്റ് ഗവേഷകരും ഈ മാസം ആദ്യം ഇറ്റലിയിൽ നടന്ന ഐ എസ് എസ് ആർ ഇ കോൺഫറൻസിൽ അവരുടെ കണ്ടെത്തലുകൾ അവതരിപ്പിച്ചു, ഇപ്പോൾ അവർ കണ്ടെത്തിയ ദുർബലതകൾ പരിഹരിക്കാൻ സുരക്ഷാ സമൂഹവുമായി പ്രവർത്തിക്കുന്നു.

ഇത്തരം പ്രശ്നങ്ങൾ നന്നായി തിരിച്ചറിയാനും ഒരുമിച്ച് പ്രവർത്തിക്കാനും എൻഎൽപിയെയും സൈബർ സ്പെഷ്യലിസ്റ്റുകളെയും സഹായിക്കുന്ന ഒരു തെളിവായി ഈ ദുർബലതകൾ പ്രവർത്തിക്കുമെന്ന് അവർ പ്രതീക്ഷിക്കുന്നു.

“ഞങ്ങളുടെ ശ്രമങ്ങൾ വ്യവസായം അംഗീകരിക്കുന്നു, ഈ സുരക്ഷാ വീഴ്ചകൾ പരിഹരിക്കുന്നതിനുള്ള ഞങ്ങളുടെ ഉപദേശം അവർ പിന്തുടരുന്നു,” അദ്ദേഹം പറഞ്ഞു. “എന്നിരുന്നാലും, അനന്തമായ ഒരു റോഡിൽ ഞങ്ങൾ ഒരു വാതിൽ തുറക്കുകയാണ്. ഓപ്പൺ സോഴ്സ് കമ്മ്യൂണിറ്റികളിലൂടെ സുരക്ഷാ അപകടസാധ്യതകൾ കുറയ്ക്കുന്നതിന് ഗവേഷകരുടെ വലിയ ഗ്രൂപ്പുകൾ പാച്ചുകൾ സൃഷ്ടിക്കുകയും പരീക്ഷിക്കുകയും ചെയ്യുക എന്നതാണ് ഞങ്ങൾ ഇപ്പോൾ കാണേണ്ടത്. ആക്രമണകാരികൾ വികസിപ്പിക്കുന്ന കൂടുതൽ നൂതന തന്ത്രങ്ങൾ എല്ലായ്പ്പോഴും ഉണ്ടാകും, അതിനർത്ഥം സുരക്ഷാ തന്ത്രങ്ങൾ വേഗത പാലിക്കണം. അതിനായി അടുത്ത തലമുറയിലെ ഈ ആക്രമണങ്ങളെ നേരിടാന് നമുക്ക് ഒരു പുതിയ സമൂഹം ആവശ്യമാണ്.