ചാറ്റ്ജിപിടി പോലുള്ള ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപകരണങ്ങൾ ക്ഷുദ്ര കോഡ് നിർമ്മിക്കാൻ കബളിപ്പിക്കപ്പെടാം, ഇത് സൈബർ ആക്രമണം നടത്താൻ ഉപയോഗിക്കാമെന്ന് ഷെഫീൽഡ് സർവകലാശാലയിൽ നിന്നുള്ള ഗവേഷണം പറയുന്നു.

ചാറ്റ്ജിപിടി പോലുള്ള നാച്ചുറൽ ലാംഗ്വേജ് പ്രോസസ്സിംഗ് ടൂളുകൾ സൈബർ ആക്രമണത്തിലേക്ക് നയിച്ചേക്കാവുന്ന ക്ഷുദ്ര കോഡ് നിർമ്മിക്കാൻ കബളിപ്പിക്കാമെന്ന് ഷെഫീൽഡ് സർവകലാശാലയിലെ ശാസ്ത്രജ്ഞർ കണ്ടെത്തി

വൈവിധ്യമാർന്ന വ്യവസായങ്ങളിൽ ഉപയോഗിക്കുന്ന യഥാർത്ഥ ലോക കമ്പ്യൂട്ടർ സിസ്റ്റങ്ങളെ ആക്രമിക്കാൻ എൻ എൽ പി മോഡലുകൾ ഉപയോഗപ്പെടുത്താമെന്ന് തെളിയിക്കുന്ന ആദ്യത്തെ പഠനമാണിത്

ട്രോജൻ ഹോഴ്സ് നടുന്നത് പോലുള്ള ലളിതമായ പിൻവാതിൽ ആക്രമണങ്ങൾക്ക് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഭാഷാ മോഡലുകൾ ഇരയാകുമെന്ന് ഫലങ്ങൾ കാണിക്കുന്നു, ഇത് വിവരങ്ങൾ മോഷ്ടിക്കാനോ സേവനങ്ങൾ കുറയ്ക്കാനോ ഏത് സമയത്തും പ്രേരിപ്പിച്ചേക്കാം

ഡാറ്റാബേസുകളുമായി സംവദിക്കുന്നതിന് പ്രോഗ്രാമിംഗ് ഭാഷകൾ പഠിക്കുന്നതിന് ആളുകൾ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ടൂളുകൾ എങ്ങനെ ഉപയോഗിക്കുന്നു എന്നതിലെ സുരക്ഷാ അപകടസാധ്യതകളും കണ്ടെത്തലുകൾ എടുത്തുകാണിക്കുന്നു

ഏറ്റവും സ്വാധീനമുള്ള അക്കാദമിക്, വ്യവസായ സോഫ്റ്റ്വെയർ എഞ്ചിനീയറിംഗ് കോൺഫറൻസുകളിലൊന്നായ ഐ എസ് എസ് ആർ ഇയിൽ രചയിതാക്കൾ ഗവേഷണം അവതരിപ്പിക്കുകയും ദുർബലതകൾ പരിഹരിക്കുന്നതിന് സൈബർ സുരക്ഷാ കമ്മ്യൂണിറ്റിയുമായി പ്രവർത്തിക്കുകയും ചെയ്യുന്നു. കോൺഫറൻസിന്റെ അഭിമാനകരമായ ‘മികച്ച പേപ്പർ’ അവാർഡിനായി ഈ പഠനം ഷോർട്ട്ലിസ്റ്റ് ചെയ്തിട്ടുണ്ട്

ചാറ്റ്ജിപിടി പോലുള്ള ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (എഐ) ഉപകരണങ്ങൾ ക്ഷുദ്ര കോഡ് നിർമ്മിക്കാൻ കബളിപ്പിക്കപ്പെടാം, ഇത് സൈബർ ആക്രമണം നടത്താൻ ഉപയോഗിക്കാമെന്ന് ഷെഫീൽഡ് സർവകലാശാലയിൽ നിന്നുള്ള ഗവേഷണം പറയുന്നു.

ലളിതമായ ഭാഷയിൽ ചോദ്യങ്ങൾ ചോദിച്ച് ഡാറ്റാബേസുകൾ തിരയാൻ ആളുകളെ പ്രാപ്തരാക്കുകയും വൈവിധ്യമാർന്ന വ്യവസായങ്ങളിലുടനീളം ഉപയോഗിക്കുകയും ചെയ്യുന്ന ടെക്സ്റ്റ്-ടു-എസ്ക്യുഎൽ സിസ്റ്റങ്ങൾ യഥാർത്ഥ ലോകത്തിലെ കമ്പ്യൂട്ടർ സിസ്റ്റങ്ങളെ ആക്രമിക്കാൻ ഉപയോഗിക്കാമെന്ന് തെളിയിക്കുന്ന ആദ്യത്തെ പഠനമാണിത്.

സെൻസിറ്റീവ് വ്യക്തിഗത വിവരങ്ങൾ മോഷ്ടിക്കാനോ ഡാറ്റാബേസുകളിൽ തിരിമറി നടത്താനോ നശിപ്പിക്കാനോ അല്ലെങ്കിൽ സേവന നിഷേധ ആക്രമണങ്ങളിലൂടെ സേവനങ്ങൾ കുറയ്ക്കുന്നതിനോ എഐകളെ എങ്ങനെ കൈകാര്യം ചെയ്യാമെന്ന് ഗവേഷണത്തിൽ നിന്നുള്ള കണ്ടെത്തലുകൾ വെളിപ്പെടുത്തി.

പഠനത്തിന്റെ ഭാഗമായി, ഷെഫീൽഡ് അക്കാദമിക്സ് ആറ് വാണിജ്യ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപകരണങ്ങളിൽ സുരക്ഷാ ദുർബലതകൾ കണ്ടെത്തുകയും ഓരോന്നിനെയും വിജയകരമായി ആക്രമിക്കുകയും ചെയ്തു.

അവർ പഠിച്ച ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപകരണങ്ങൾ ഇവയായിരുന്നു:

ബെയ്ഡു-യൂണിറ്റ് – ഇ-കൊമേഴ്സ്, ബാങ്കിംഗ്, ജേണലിസം, ടെലികമ്മ്യൂണിക്കേഷൻസ്, ഓട്ടോമൊബൈൽ, സിവിൽ ഏവിയേഷൻ എന്നിവയുൾപ്പെടെ നിരവധി വ്യവസായങ്ങളിലെ ഉയർന്ന ക്ലയന്റുകൾ സ്വീകരിച്ച ഒരു പ്രമുഖ ചൈനീസ് ഇന്റലിജന്റ് ഡയലോഗ് പ്ലാറ്റ്ഫോം

– ഇ-കൊമേഴ്സ്, ബാങ്കിംഗ്, ജേണലിസം, ടെലികമ്മ്യൂണിക്കേഷൻസ്, ഓട്ടോമൊബൈൽ, സിവിൽ ഏവിയേഷൻ ചാറ്റ്ജിപിടി എന്നിവയുൾപ്പെടെ നിരവധി വ്യവസായങ്ങളിലെ ഉയർന്ന ക്ലയന്റുകൾ സ്വീകരിച്ച ഒരു പ്രമുഖ ചൈനീസ് ഇന്റലിജന്റ് ഡയലോഗ് പ്ലാറ്റ്ഫോം

• AI2SQL
• AIHELPERBOT
• Text2SQL
• ToolSKE

എഐയുടെ ഓരോ നിർദ്ദിഷ്ട ചോദ്യങ്ങളും ചോദിച്ചാൽ, അവർ ക്ഷുദ്ര കോഡ് നിർമ്മിക്കുന്നുവെന്ന് ഗവേഷകർ കണ്ടെത്തി. നടപ്പിലാക്കിക്കഴിഞ്ഞാൽ, കോഡ് രഹസ്യാത്മക ഡാറ്റാബേസ് വിവരങ്ങൾ ചോർത്തും, ഒരു ഡാറ്റാബേസിന്റെ സാധാരണ സേവനത്തെ തടസ്സപ്പെടുത്തും, അല്ലെങ്കിൽ അത് നശിപ്പിക്കും. ബെയ്ഡു-യൂണിറ്റിൽ, ശാസ്ത്രജ്ഞർക്ക് രഹസ്യാത്മക ബെയ്ഡു സെർവർ കോൺഫിഗറേഷനുകൾ നേടാനും ഒരു സെർവർ നോഡ് ഓർഡർ ചെയ്യാനും കഴിഞ്ഞു.

ഗവേഷണത്തിന് നേതൃത്വം നൽകിയ ഷെഫീൽഡ് സർവകലാശാലയിലെ പിഎച്ച്ഡി വിദ്യാർത്ഥിയായ സുതാൻ പെങ് പറഞ്ഞു: “വാസ്തവത്തിൽ പല കമ്പനികളും ഇത്തരത്തിലുള്ള ഭീഷണികളെക്കുറിച്ച് ബോധവാന്മാരല്ല, ചാറ്റ്ബോട്ടുകളുടെ സങ്കീർണ്ണത കാരണം, കമ്മ്യൂണിറ്റിക്കുള്ളിൽ പോലും പൂർണ്ണമായി മനസ്സിലാകാത്ത കാര്യങ്ങളുണ്ട്.

“ഇപ്പോൾ, ചാറ്റ്ജിപിടി വളരെയധികം ശ്രദ്ധ നേടുന്നു. ഇത് ഒരു സ്വതന്ത്ര സംവിധാനമാണ്, അതിനാൽ സേവനത്തിനുള്ള അപകടസാധ്യതകൾ വളരെ കുറവാണ്, പക്ഷേ മറ്റ് സേവനങ്ങൾക്ക് ഗുരുതരമായ ദോഷം വരുത്തുന്ന ക്ഷുദ്ര കോഡ് നിർമ്മിക്കാൻ ഇത് കബളിപ്പിക്കാൻ കഴിയും എന്നതാണ് ഞങ്ങൾ കണ്ടെത്തിയത്.

പ്രോഗ്രാമിംഗ് ഭാഷകൾ പഠിക്കാൻ ആളുകൾ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപയോഗിക്കുന്നതിലെ അപകടങ്ങളും പഠനത്തിൽ നിന്നുള്ള കണ്ടെത്തലുകൾ എടുത്തുകാണിക്കുന്നു, അതിനാൽ അവർക്ക് ഡാറ്റാബേസുകളുമായി സംവദിക്കാൻ കഴിയും.

“ചാറ്റ്ജിപിടി പോലുള്ള എഐകളുമായുള്ള അപകടസാധ്യത കൂടുതൽ ആളുകൾ അവ ഒരു സംഭാഷണ ബോട്ടിനേക്കാൾ ഉൽപാദനക്ഷമത ഉപകരണങ്ങളായി ഉപയോഗിക്കുന്നു എന്നതാണ്, ഇവിടെയാണ് ഞങ്ങളുടെ ഗവേഷണം ദുർബലതകൾ കാണിക്കുന്നത്. ഉദാഹരണത്തിന്, ക്ലിനിക്കൽ റെക്കോർഡുകൾ സംഭരിക്കുന്നതുപോലുള്ള ഒരു ഡാറ്റാബേസുമായി സംവദിക്കുന്നതിന് ഒരു എസ്ക്യുഎൽ കമാൻഡ് എഴുതാൻ ഒരു നഴ്സിന് ചാറ്റ്ജിപിടിയോട് ആവശ്യപ്പെടാം. ഞങ്ങളുടെ പഠനത്തിൽ കാണിച്ചിരിക്കുന്നതുപോലെ, ചാറ്റ്ജിപിടി നിർമ്മിച്ച എസ്ക്യുഎൽ കോഡ് പല കേസുകളിലും ഒരു ഡാറ്റാബേസിന് ഹാനികരമാണ്, അതിനാൽ ഈ സാഹചര്യത്തിൽ നഴ്സ് ഒരു മുന്നറിയിപ്പ് പോലും ലഭിക്കാതെ ഗുരുതരമായ ഡാറ്റാ മാനേജുമെന്റ് തകരാറുകൾക്ക് കാരണമായേക്കാം.

പഠനത്തിന്റെ ഭാഗമായി, പരിശീലന ഡാറ്റയിൽ വിഷം കലർത്തി ടെക്സ്റ്റ്-ടു-എസ്ക്യുഎൽ മോഡലുകളിൽ “ട്രോജൻ ഹോഴ്സ്” നട്ടുപിടിപ്പിക്കുന്നത് പോലുള്ള ലളിതമായ പിൻവാതിൽ ആക്രമണങ്ങൾ ആരംഭിക്കാൻ കഴിയുമെന്നും ഷെഫീൽഡ് ടീം കണ്ടെത്തി. അത്തരമൊരു പിൻവാതിൽ ആക്രമണം പൊതുവെ മോഡൽ പ്രകടനത്തെ ബാധിക്കില്ല, പക്ഷേ അത് ഉപയോഗിക്കുന്ന ആർക്കും യഥാർത്ഥ ദോഷം വരുത്താൻ ഏത് സമയത്തും പ്രേരിപ്പിക്കാം.

ഷെഫീൽഡ് സർവകലാശാലയിലെ നാച്ചുറൽ ലാംഗ്വേജ് പ്രോസസ്സിംഗ് റിസർച്ച് ഗ്രൂപ്പിലെ സീനിയർ ലക്ചറർ ഡോ.മാർക്ക് സ്റ്റീവൻസൺ പറഞ്ഞു: “ടെക്സ്റ്റ്-ടു-എസ്ക്യുഎൽ സിസ്റ്റങ്ങളുടെ ഉപയോക്താക്കൾ ഈ കൃതിയിൽ ഉയർത്തിക്കാട്ടിയേക്കാവുന്ന അപകടസാധ്യതകളെക്കുറിച്ച് അറിഞ്ഞിരിക്കണം. ടെക്സ്റ്റ്-ടു-എസ്ക്യുഎൽ സിസ്റ്റങ്ങളിൽ ഉപയോഗിക്കുന്നതുപോലുള്ള വലിയ ഭാഷാ മോഡലുകൾ വളരെ ശക്തമാണ്, പക്ഷേ അവയുടെ പെരുമാറ്റം സങ്കീർണ്ണവും പ്രവചിക്കാൻ ബുദ്ധിമുട്ടുള്ളതുമാണ്. ഷെഫീൽഡ് സർവകലാശാലയിൽ ഞങ്ങൾ നിലവിൽ ഈ മോഡലുകൾ നന്നായി മനസിലാക്കുന്നതിനും അവയുടെ മുഴുവൻ കഴിവുകളും സുരക്ഷിതമായി സാക്ഷാത്കരിക്കാൻ അനുവദിക്കുന്നതിനും പ്രവർത്തിക്കുന്നു.

ഈ മാസം ആദ്യം (10 ഒക്ടോബർ 2023) സോഫ്റ്റ്വെയർ എഞ്ചിനീയറിംഗിനായുള്ള ഒരു പ്രധാന അക്കാദമിക്, വ്യവസായ കോൺഫറൻസായ ഐഎസ്എസ്ആർഇയിൽ ഷെഫീൽഡ് ഗവേഷകർ അവരുടെ പ്രബന്ധം അവതരിപ്പിച്ചു, കൂടാതെ ടെക്സ്റ്റ്-ടു-എസ്ക്യുഎൽ സംവിധാനങ്ങൾ സമൂഹത്തിലുടനീളം വ്യാപകമായി ഉപയോഗിക്കുന്നതിനാൽ സൈബർ സുരക്ഷാ കമ്മ്യൂണിറ്റിയിലുടനീളമുള്ള പങ്കാളികളുമായി ചേർന്ന് പ്രവർത്തിക്കുന്നു.

അവരുടെ പ്രവർത്തനങ്ങൾ ഇതിനകം തന്നെ ബൈഡു അംഗീകരിച്ചിട്ടുണ്ട്, അതിന്റെ സെക്യൂരിറ്റി റെസ്പോൺസ് സെന്റർ ഔദ്യോഗികമായി ദുർബലതകളെ ‘വളരെ അപകടകരമാണ്’ എന്ന് വിലയിരുത്തി. മറുപടിയായി, റിപ്പോർട്ട് ചെയ്യപ്പെട്ട എല്ലാ ദുർബലതകളും കമ്പനി അഭിസംബോധന ചെയ്യുകയും പരിഹരിക്കുകയും ശാസ്ത്രജ്ഞർക്ക് സാമ്പത്തികമായി പ്രതിഫലം നൽകുകയും ചെയ്തു.

ഷെഫീൽഡ് ഗവേഷകർ അവരുടെ കണ്ടെത്തലുകൾ ഓപ്പൺ എഐയുമായി പങ്കിട്ടു, അവർ 2023 ഫെബ്രുവരിയിൽ ചാറ്റ്ജിപിടിയിൽ കണ്ടെത്തിയ എല്ലാ നിർദ്ദിഷ്ട പ്രശ്നങ്ങളും പരിഹരിച്ചു.

അവർ തുറന്നുകാട്ടിയ ദുർബലതകൾ ആശയത്തിന്റെ തെളിവായി പ്രവർത്തിക്കുമെന്നും ആത്യന്തികമായി ഇതുവരെ അവഗണിക്കപ്പെട്ട സുരക്ഷാ പ്രശ്നങ്ങൾ തിരിച്ചറിയുന്നതിനും അഭിസംബോധന ചെയ്യുന്നതിനും സ്വാഭാവിക ഭാഷാ പ്രോസസ്സിംഗ്, സൈബർ സെക്യൂരിറ്റി കമ്മ്യൂണിറ്റികൾക്കുള്ള മുറവിളിയായി പ്രവർത്തിക്കുമെന്നും ഗവേഷകർ പ്രതീക്ഷിക്കുന്നു.

“ഞങ്ങളുടെ ശ്രമങ്ങൾ വ്യവസായം അംഗീകരിക്കുന്നു, ഈ സുരക്ഷാ പോരായ്മകൾ പരിഹരിക്കുന്നതിനുള്ള ഞങ്ങളുടെ ഉപദേശം അവർ പിന്തുടരുന്നു. എന്നിരുന്നാലും, ഞങ്ങൾ അനന്തമായ ഒരു റോഡിൽ ഒരു വാതിൽ തുറക്കുകയാണ് – ഓപ്പൺ സോഴ്സ് കമ്മ്യൂണിറ്റികളിലൂടെ സുരക്ഷാ അപകടസാധ്യതകൾ കുറയ്ക്കുന്നതിന് ഗവേഷകരുടെ വലിയ ഗ്രൂപ്പുകൾ പാച്ചുകൾ സൃഷ്ടിക്കുകയും പരീക്ഷിക്കുകയും ചെയ്യുന്നു.

“ആക്രമണകാരികൾ വികസിപ്പിക്കുന്ന കൂടുതൽ നൂതന തന്ത്രങ്ങൾ എല്ലായ്പ്പോഴും ഉണ്ടാകും, അതിനർത്ഥം സുരക്ഷാ തന്ത്രങ്ങൾ വേഗത നിലനിർത്തണം എന്നാണ്. അതിനായി അടുത്ത തലമുറയിലെ ഈ ആക്രമണങ്ങളെ നേരിടാന് നമുക്ക് ഒരു പുതിയ സമൂഹം ആവശ്യമാണ്.