ലോകത്തിലെ ആദ്യത്തെ സജീവ ജെൻഎഐ സുരക്ഷാ ടെസ്റ്റിംഗ് സൊല്യൂഷൻ അക്ടോ പുറത്തിറക്കി
പ്രമുഖ എപിഐ സുരക്ഷാ കമ്പനിയായ അക്റ്റോ അതിന്റെ വിപ്ലവകരമായ ജെൻഎഐ സെക്യൂരിറ്റി ടെസ്റ്റിംഗ് സൊല്യൂഷൻ ആരംഭിക്കുമെന്ന് പ്രഖ്യാപിക്കുന്നതിൽ അഭിമാനിക്കുന്നു. ഈ അത്യാധുനിക സാങ്കേതികവിദ്യ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സുരക്ഷാ മേഖലയിലെ ഒരു സുപ്രധാന നാഴികക്കല്ല് അടയാളപ്പെടുത്തുന്നു, ഇത് അക്തോയെ ലോകത്തിലെ ആദ്യത്തെ സജീവമായ ജെൻഎഐ സുരക്ഷാ ടെസ്റ്റിംഗ് പ്ലാറ്റ്ഫോമാക്കി മാറ്റുന്നു. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സാങ്കേതികവിദ്യയെ പ്രയോജനപ്പെടുത്തുന്ന എപിഐകൾ സ്കാൻ ചെയ്യാൻ അക്തോയ്ക്ക് ഒരു പുതിയ കഴിവുണ്ട്, ഇത് ആപ്ലിക്കേഷൻ സുരക്ഷയുടെ ഭാവിക്ക് അടിസ്ഥാനപരമാണ്. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ടെക്നോളജിക്ക് ചുറ്റുമുള്ള സുരക്ഷാ വിലയിരുത്തലിനായി മറ്റ് സുരക്ഷാ കമ്പനികളും ഇത് ചെയ്യുന്നതിൽ ഞാൻ ആവേശഭരിതരാണ്.” – ജിം മാണിക്കോ, മുൻ ഒഡബ്ല്യുഎഎസ്പി ഗ്ലോബൽ ബോർഡ് അംഗം, സെക്യൂർ കോഡിംഗ് എഡ്യൂക്കേറ്റർ. ശരാശരി, ഒരു ഓർഗനൈസേഷൻ 10 GenAI മോഡലുകൾ ഉപയോഗിക്കുന്നു. മിക്കപ്പോഴും ഉൽപാദനത്തിലെ മിക്ക എൽഎൽഎമ്മുകൾക്കും എപിഐകൾ വഴി പരോക്ഷമായി ഡാറ്റ ലഭിക്കും. ഇതിനർത്ഥം ടൺ കണക്കിന് സെൻസിറ്റീവ് ഡാറ്റ എൽഎൽഎം എപിഐകൾ പ്രോസസ്സ് ചെയ്യുന്നു എന്നാണ്. ഉപയോക്താക്കളുടെ സ്വകാര്യത പരിരക്ഷിക്കുന്നതിനും ഡാറ്റാ ചോർച്ച തടയുന്നതിനും ഈ എപിഐകളുടെ സുരക്ഷ ഉറപ്പാക്കുന്നത് വളരെ നിർണായകമാണ്. ഇന്ന് എൽഎൽഎമ്മുകൾ ദുരുപയോഗം ചെയ്യാൻ നിരവധി മാർഗങ്ങളുണ്ട്, ഇത് സെൻസിറ്റീവ് ഡാറ്റ ചോർച്ചയിലേക്ക് നയിക്കുന്നു. പ്രോംപ്റ്റ് ഇഞ്ചക്ഷൻ ദുർബലതകൾ – ക്ഷുദ്ര ഇൻപുട്ടുകൾക്ക് എൽഎൽഎമ്മിന്റെ ഔട്ട്പുട്ടിനെ കൈകാര്യം ചെയ്യാൻ കഴിയുന്ന അനധികൃത പ്രോംപ്റ്റ് കുത്തിവയ്പ്പുകളുടെ അപകടസാധ്യത ഒരു പ്രധാന ആശങ്കയായി മാറിയിട്ടുണ്ട്. സേവന നിഷേധം (ഡോസ്) ഭീഷണികൾ – എൽഎൽഎമ്മുകളും ഡോസ് ആക്രമണങ്ങൾക്ക് ഇരയാകുന്നു, അവിടെ സിസ്റ്റം അഭ്യർത്ഥനകളാൽ നിറഞ്ഞിരിക്കുന്നു, ഇത് സേവന തടസ്സങ്ങളിലേക്ക് നയിക്കുന്നു. കഴിഞ്ഞ വർഷം എൽഎൽഎം എപിഐകളെ ലക്ഷ്യമിട്ടുള്ള ഡോസ് സംഭവങ്ങളിൽ വർദ്ധനവ് ഉണ്ടായിട്ടുണ്ട്. എൽഎൽഎം ഔട്ട്പുട്ടുകളെ അമിതമായി ആശ്രയിക്കുന്നത് – മതിയായ പരിശോധനാ സംവിധാനങ്ങളില്ലാതെ എൽഎൽഎമ്മുകളെ അമിതമായി ആശ്രയിക്കുന്നത് ഡാറ്റാ കൃത്യതയില്ലായ്മയ്ക്കും ചോർച്ചയ്ക്കും കാരണമായി. എൽഎൽഎമ്മുകളെ അമിതമായി ആശ്രയിക്കുന്നത് കാരണം ഡാറ്റ ചോർച്ച സംഭവങ്ങളിൽ വർദ്ധനവ് വ്യവസായം കാണുന്നതിനാൽ ശക്തമായ മൂല്യനിർണ്ണയ പ്രക്രിയകൾ നടപ്പിലാക്കാൻ ഓർഗനൈസേഷനുകളെ പ്രോത്സാഹിപ്പിക്കുന്നു. “ബാഹ്യ ഇൻപുട്ടുകളിൽ നിന്ന് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് മാത്രമല്ല, അവയുടെ ഔട്ട്പുട്ടുകളെ ആശ്രയിക്കുന്ന ബാഹ്യ സംവിധാനങ്ങളെയും സംരക്ഷിക്കേണ്ടതിന്റെ ആവശ്യകതയോടെ ജെൻഎഐ സിസ്റ്റങ്ങൾ സുരക്ഷിതമാക്കുന്നതിന് ബഹുമുഖ സമീപനം ആവശ്യമാണ്.” – എൽഎൽഎം എഐ ആപ്ലിക്കേഷൻസ് കോർ ടീം അംഗത്തിനുള്ള ഒഡബ്ല്യുഎഎസ്പി ടോപ്പ് 10. 2023 മാർച്ച് 20 ന് ഓപ്പൺഎഐയുടെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ടൂളായ ചാറ്റ്ജിപിടിയിൽ തകരാർ ഉണ്ടായി. ഒരു ഓപ്പൺ സോഴ്സ് ലൈബ്രറിയിലെ ദുർബലത മൂലമാണ് തകരാർ സംഭവിച്ചത്, ഇത് ചില ഉപഭോക്താക്കളുടെ പേയ്മെന്റുമായി ബന്ധപ്പെട്ട വിവരങ്ങൾ വെളിപ്പെടുത്തിയിരിക്കാം. വളരെ അടുത്തിടെ, 2024 ജനുവരി 25 ന്, എനിതിംഗ് എൽഎൽഎമ്മിൽ (8,000 ഗിത്തബ് നക്ഷത്രങ്ങൾ) ഒരു നിർണായക ദുർബലത കണ്ടെത്തി, ഇത് ഏത് ഡോക്യുമെന്റും ഉള്ളടക്കവും ചാറ്റിംഗ് സമയത്ത് ഏത് എൽഎൽഎമ്മിനും ഉപയോഗിക്കാൻ കഴിയുന്ന സന്ദർഭമാക്കി മാറ്റുന്നു. ആധികാരികമല്ലാത്ത എപിഐ റൂട്ട് (ഫയൽ എക്സ്പോർട്ട്) സെർവർ ക്രാഷ് ചെയ്യാൻ ആക്രമണകാരികളെ അനുവദിക്കും, ഇത് സേവന ആക്രമണം നിഷേധിക്കുന്നു. എൽഎൽഎം മോഡലുകൾ ഉപയോഗിക്കുന്നതുമായി ബന്ധപ്പെട്ട സുരക്ഷാ സംഭവങ്ങളുടെ കുറച്ച് ഉദാഹരണങ്ങൾ മാത്രമാണ് ഇവ.
അക്ടോയുടെ ജെൻഎഐ സെക്യൂരിറ്റി ടെസ്റ്റിംഗ് പരിഹാരം ഈ വെല്ലുവിളികളെ മുഖാമുഖം അഭിസംബോധന ചെയ്യുന്നു. നൂതന ടെസ്റ്റിംഗ് രീതികളും അത്യാധുനിക അൽഗോരിതങ്ങളും പ്രയോജനപ്പെടുത്തുന്നതിലൂടെ, എൽഎൽഎമ്മുകൾ ഉൾപ്പെടെയുള്ള ജെൻഎഐ മോഡലുകൾക്ക് സമഗ്രമായ സുരക്ഷാ വിലയിരുത്തലുകൾ അക്തോ നൽകുന്നു. ഉടനടി കുത്തിവയ്പ്പ്, നിർദ്ദിഷ്ട ഡാറ്റാ സ്രോതസ്സുകളെ അമിതമായി ആശ്രയിക്കൽ തുടങ്ങിയ ജെൻഎഐ ദുർബലതകളുടെ വിവിധ വശങ്ങൾ ഉൾക്കൊള്ളുന്ന 60 ലധികം സൂക്ഷ്മമായി രൂപകൽപ്പന ചെയ്ത ടെസ്റ്റ് കേസുകൾ ഉൾപ്പെടെ നിരവധി നൂതന സവിശേഷതകൾ ഈ പരിഹാരത്തിൽ ഉൾക്കൊള്ളുന്നു. ജെൻഎഐ മോഡലുകൾ വിന്യസിക്കുന്ന ഓർഗനൈസേഷനുകൾക്ക് ഏറ്റവും ഉയർന്ന പരിരക്ഷ ഉറപ്പാക്കുന്ന ജെൻഎഐ സുരക്ഷയിലെ അക്തോയുടെ വിദഗ്ദ്ധ സംഘമാണ് ഈ ടെസ്റ്റ് കേസുകൾ വികസിപ്പിച്ചെടുത്തത്. നിലവിൽ, റിലീസ് ചെയ്യുന്നതിന് മുമ്പ് സുരക്ഷാ ടീമുകൾ എല്ലാ എൽഎൽഎം എപിഐകളും അപാകതകൾക്കായി സ്വമേധയാ പരിശോധിക്കുന്നു. ഉൽപ്പന്ന റിലീസുകളുടെ സമയ സംവേദനക്ഷമത കാരണം, ടീമുകൾക്ക് കുറച്ച് ദുർബലതകൾ മാത്രമേ പരിശോധിക്കാൻ കഴിയൂ. എൽഎൽഎമ്മുകളെ ചൂഷണം ചെയ്യാൻ ഹാക്കർമാർ കൂടുതൽ ക്രിയാത്മക മാർഗങ്ങൾ കണ്ടെത്തുന്നത് തുടരുന്നതിനാൽ, സുരക്ഷാ ടീമുകൾ എൽഎൽഎമ്മുകൾ സ്കെയിലിൽ സുരക്ഷിതമാക്കാൻ ഒരു ഓട്ടോമേറ്റഡ് മാർഗം കണ്ടെത്തേണ്ടതുണ്ട്.
“പലപ്പോഴും ഒരു എൽഎൽഎമ്മിലേക്കുള്ള ഇൻപുട്ട് ഒരു അന്തിമ ഉപയോക്താവിൽ നിന്നാണ് വരുന്നത് അല്ലെങ്കിൽ ഔട്ട്പുട്ട് അന്തിമ ഉപയോക്താവിന് അല്ലെങ്കിൽ രണ്ടിനും കാണിക്കുന്നു. വ്യത്യസ്ത എൻകോഡിംഗ് രീതികൾ, സപ്പറേറ്ററുകൾ, മാർക്കറുകൾ എന്നിവയിലൂടെ എൽഎൽഎം ദുർബലതകൾ ചൂഷണം ചെയ്യാൻ ടെസ്റ്റുകൾ ശ്രമിക്കുന്നു. ഡെവലപ്പർമാർ ഇൻപുട്ട് എൻകോഡ് ചെയ്യുകയോ ഇൻപുട്ടിന് ചുറ്റും പ്രത്യേക മാർക്കറുകൾ സ്ഥാപിക്കുകയോ ചെയ്യുന്ന ദുർബലമായ സുരക്ഷാ സമ്പ്രദായങ്ങൾ ഇത് പ്രത്യേകമായി കണ്ടെത്തുന്നു. എൽഎൽഎമ്മുകളുടെ ഔട്ട്പുട്ട് ശുചീകരിക്കുന്നതിനുള്ള സുരക്ഷാ നടപടികളിലെ അപാകതകൾ Akto.io ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സെക്യൂരിറ്റി ടെസ്റ്റിംഗിലെ സിടിഒ അങ്കുഷ് ജെയിൻ തിരിച്ചറിയുന്നു. വിദൂര എക്സിക്യൂഷൻ, ക്രോസ്-സൈറ്റ് സ്ക്രിപ്റ്റിംഗ് (എക്സ്എസ്എസ്), സെഷൻ ടോക്കണുകളും സിസ്റ്റം വിവരങ്ങളും വേർതിരിച്ചെടുക്കാൻ ആക്രമണകാരികളെ അനുവദിക്കുന്ന മറ്റ് ആക്രമണങ്ങൾ എന്നിവയ്ക്കായി ക്ഷുദ്ര കോഡ് കുത്തിവയ്ക്കാനുള്ള ശ്രമങ്ങൾ കണ്ടെത്താൻ ഇത് ലക്ഷ്യമിടുന്നു. കൂടാതെ, തെറ്റായതോ അപ്രസക്തമോ ആയ റിപ്പോർട്ടുകൾ സൃഷ്ടിക്കാൻ എൽഎൽഎമ്മുകൾക്ക് സാധ്യതയുണ്ടോ എന്നും അക്തോ പരിശോധിക്കുന്നു. “പ്രോംപ്റ്റ് ഇഞ്ചക്ഷൻ (എൽഎൽഎം: 01) മുതൽ അമിത ആശ്രയത്വം (എൽഎൽഎം 09), പുതിയ ദുർബലതകളും ലംഘനങ്ങളും എല്ലാ ദിവസവും ലംഘിക്കുകയും ഡിഫോൾട്ടായി സുരക്ഷിതമായ സംവിധാനങ്ങൾ നിർമ്മിക്കുകയും ചെയ്യുന്നു; നിരന്തരം വികസിച്ചുകൊണ്ടിരിക്കുന്ന ഈ ഭീഷണികൾക്കായി സംവിധാനങ്ങൾ നേരത്തെ പരീക്ഷിക്കേണ്ടത് നിർണായകമാണ്. എന്റെ എൽഎൽഎം പ്രോജക്ടുകൾക്കായി അക്തോ എന്താണ് കരുതിവച്ചിരിക്കുന്നതെന്ന് കാണാൻ ഞാൻ ആവേശത്തിലാണ്” – എൽഎൽഎം എഐ ആപ്ലിക്കേഷൻസ് കോർ ടീം അംഗത്തിനായുള്ള ഒഡബ്ല്യുഎഎസ്പി ടോപ്പ് 10. ജെൻഎഐ സുരക്ഷയുടെ പ്രാധാന്യം കൂടുതൽ ഊന്നിപ്പറയുന്നതിന്, 2023 സെപ്റ്റംബറിൽ ഗാർട്ട്നർ നടത്തിയ ഒരു സർവേയിൽ, 34% ഓർഗനൈസേഷനുകൾ ഇതിനകം തന്നെ ജനറേറ്റീവ് എഐ (ജെഎൻഎഐ) യുടെ അപകടസാധ്യതകൾ ലഘൂകരിക്കുന്നതിന് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (എഐ) ആപ്ലിക്കേഷൻ സുരക്ഷാ ഉപകരണങ്ങൾ ഉപയോഗിക്കുകയോ നടപ്പാക്കുകയോ ചെയ്യുന്നുവെന്ന് വെളിപ്പെടുത്തി. പ്രതികരിച്ചവരിൽ പകുതിയിലധികം (56%) അത്തരം പരിഹാരങ്ങൾ പര്യവേക്ഷണം ചെയ്യുന്നുണ്ടെന്നും അക്തോ പോലുള്ള ശക്തമായ സുരക്ഷാ പരിശോധനാ പരിഹാരങ്ങളുടെ നിർണായക ആവശ്യകത ഉയർത്തിക്കാട്ടുന്നുവെന്നും പറഞ്ഞു. അക്ടോയുടെ ജെനായ് സെക്യൂരിറ്റി ടെസ്റ്റിംഗ് സൊല്യൂഷന്റെ കഴിവുകളും പ്രാധാന്യവും പ്രദർശിപ്പിക്കുന്നതിന്, അക്തോയുടെ സ്ഥാപകനും സിഇഒയുമായ അങ്കിത അഭിമാനകരമായ ഓസ്റ്റിൻ എപിഐ സമ്മിറ്റ് 2024 ൽ അവതരിപ്പിക്കും. “എൽഎൽഎം എപിഐകളുടെ സുരക്ഷ” എന്ന് പേരിട്ടിരിക്കുന്ന സെഷൻ പ്രശ്ന പ്രസ്താവന പരിശോധിക്കുകയും യഥാർത്ഥ ലോക ഉദാഹരണങ്ങൾ ഉയർത്തിക്കാട്ടുകയും എഐയുമായി ബന്ധപ്പെട്ട ദുർബലതകൾക്കെതിരെ അക്തോ പോലുള്ള പരിഹാരങ്ങൾ എങ്ങനെ ശക്തമായ പ്രതിരോധം നൽകുന്നുവെന്ന് പ്രകടമാക്കുകയും ചെയ്യും. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന്റെ ശക്തി ഉപയോഗപ്പെടുത്താൻ സംഘടനകൾ ശ്രമിക്കുമ്പോൾ, ഈ പരിവർത്തന സാങ്കേതികവിദ്യകളുടെ സുരക്ഷയും സമഗ്രതയും ഉറപ്പാക്കുന്നതിൽ അക്തോ മുൻപന്തിയിലാണ്. അവരുടെ GenAI സെക്യൂരിറ്റി ടെസ്റ്റിംഗ് സൊല്യൂഷൻ ആരംഭിക്കുന്നത് നവീകരണത്തോടുള്ള അവരുടെ പ്രതിബദ്ധതയും ജെൻഎഐയെ ആത്മവിശ്വാസത്തോടെ സ്വീകരിക്കാൻ ഓർഗനൈസേഷനുകളെ പ്രാപ്തമാക്കുന്നതിനുള്ള അവരുടെ അർപ്പണബോധവും ശക്തിപ്പെടുത്തുന്നു. സാൻ ഫ്രാൻസിസ്കോ ആസ്ഥാനമായുള്ള ഒരു കമ്പനിയായ അക്തോ, സുരക്ഷാ ദുർബലതകളിൽ നിന്ന് എപിഐകളെ പരിരക്ഷിക്കുന്നതിന് അത്യാധുനിക പരിഹാരങ്ങൾ നൽകുന്നതിൽ വൈദഗ്ധ്യം നേടിയ ഒരു പ്രമുഖ എപിഐ സെക്യൂരിറ്റി കമ്പനിയാണ്. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സുരക്ഷയിലെ വിദഗ്ധരുടെ ഒരു സംഘവും നവീകരണത്തോടുള്ള അഭിനിവേശവും ഉള്ളതിനാൽ, ആക്രമണങ്ങളിൽ നിന്ന് അവരുടെ ആപ്ലിക്കേഷനുകൾ സുരക്ഷിതമാക്കാനും ജെൻഎഐ എപിഐകളുടെ സുരക്ഷിതമായ ഉപയോഗം ഉറപ്പാക്കാനും ഓർഗനൈസേഷനുകളെ പ്രാപ്തമാക്കുന്നതിന് അക്തോ പ്രതിജ്ഞാബദ്ധമാണ്.
Experienced Researcher with a demonstrated history of working in the Deep Learning, Computer Vision
