എന്റർപ്രൈസിനായി GenAI സുരക്ഷിതമാക്കാൻ പ്രോംപ്റ്റ് സെക്യൂരിറ്റി ആഗ്രഹിക്കുന്നു
ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപയോഗിക്കാനും അത് അവരുടെ ജീവനക്കാർക്കും ഉപയോക്താക്കൾക്കും എത്തിക്കാനും ബിസിനസുകൾ മുമ്പത്തേക്കാളും വേഗത്തിൽ നീങ്ങുന്നു. വേഗത്തിൽ നീങ്ങുന്നതും സുരക്ഷയും എല്ലായ്പ്പോഴും കൈകോർത്ത് പോകുന്നില്ല, അതിനാൽ ഇപ്പോൾ മാത്രമാണ് പല ബിസിനസുകളും ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപയോഗിക്കുന്നതുമായി ബന്ധപ്പെട്ട സുരക്ഷാ ആശങ്കകളെക്കുറിച്ച് ഉണരുന്നത്. കമ്പനിയുടെ ഐടി ടീമുകൾ ഔദ്യോഗികമായി അംഗീകരിക്കാത്തവ (‘ഷാഡോ എഐ’ എന്ന് ചിന്തിക്കുക) ഉൾപ്പെടെ തങ്ങളുടെ ജീവനക്കാർ ജെൻഎഐ ഉപകരണങ്ങളിലേക്ക് ഡാറ്റ ചോർത്തുന്നില്ലെന്ന് ഉറപ്പാക്കാൻ സ്ഥാപനങ്ങളെ സഹായിക്കാൻ ഇസ്രായേൽ ആസ്ഥാനമായുള്ള പ്രോംപ്റ്റ് സെക്യൂരിറ്റി ആഗ്രഹിക്കുന്നു.
ഹെറ്റ്സ് വെഞ്ച്വേഴ്സിന്റെ നേതൃത്വത്തിൽ ഫോർ റിവേഴ്സിന്റെയും എയർബിഎൻബി, ഇലാസ്റ്റിക്, ഡോൾബി എന്നിവിടങ്ങളിലെ സിഐഎസ്ഒകൾ ഉൾപ്പെടെ നിരവധി ഏഞ്ചൽ നിക്ഷേപകരുടെയും പങ്കാളിത്തത്തോടെ കമ്പനി ഇന്ന് 5 ദശലക്ഷം ഡോളർ സീഡ് റൗണ്ട് പ്രഖ്യാപിക്കുന്നു.
ചെക്ക് പോയിന്റ്, ഓർക്ക സെക്യൂരിറ്റി എന്നിവിടങ്ങളിൽ മുമ്പ് ജോലി ചെയ്തിരുന്ന ഇറ്റാമർ ഗോലൻ (സിഇഒ), ലിയോർ ഡ്രിഹെം (സിടിഒ) എന്നിവരാണ് പ്രോംപ്റ്റ് സെക്യൂരിറ്റി സ്ഥാപിച്ചത്. “എന്റെ സ്വന്തം കമ്പനി കണ്ടെത്താൻ ഞാൻ ആഗ്രഹിക്കുന്നുവെന്ന് എനിക്ക് എല്ലായ്പ്പോഴും അറിയാമായിരുന്നു. എന്റെ ഏറ്റവും വലിയ രണ്ട് അഭിനിവേശങ്ങൾ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ്, സെക്യൂരിറ്റി എന്നിവയായിരുന്നു, പക്ഷേ അഞ്ച് വർഷം മുമ്പ്, വിപണി വേണ്ടത്ര പക്വത കൈവരിച്ചിട്ടില്ലെന്ന് എനിക്ക് അറിയാമായിരുന്നു. അതിനാൽ ഞാൻ ശരിയായ നിമിഷത്തിനായി കാത്തിരുന്നു, “ഗോലൻ എന്നോട് പറഞ്ഞു.
പിന്നീട്, ഏകദേശം 18 മാസങ്ങൾക്ക് മുമ്പ്, ഓർക്കയിലെ അദ്ദേഹത്തിന്റെ ടീം ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് അധിഷ്ഠിത പരിഹാര സവിശേഷത നടപ്പാക്കാൻ നോക്കാൻ തുടങ്ങി, അത് അദ്ദേഹം ഡ്രിഹെമുമായി ചേർന്ന് നിർമ്മിച്ചു. അതാണ് ഈ പുതിയ കമ്പനി ആരംഭിക്കാൻ ടീമിനെ പ്രേരിപ്പിച്ചത്. “വികസനത്തിലൂടെ ഞങ്ങൾ വിട്ടുപോയ വ്യത്യസ്ത പിൻവാതിലുകൾ ഞങ്ങൾ കണ്ടു, ഞങ്ങൾ പരസ്പരം നോക്കി പറഞ്ഞു: ഈ പുതിയ വാസ്തുവിദ്യകളും പുതിയ ചട്ടക്കൂടുകളും കാരണം ഒരു പുതിയ ആക്രമണ ഉപരിതലമുണ്ട് – ഉടനടി കുത്തിവയ്പ്പ് പോലുള്ള കാര്യങ്ങൾ പെട്ടെന്ന് അസാധ്യമാണ് – തുടർന്ന് ഒരു പുതിയ വിപണി അഭിവൃദ്ധി പ്രാപിക്കാൻ പോകുകയാണെന്ന് ഞങ്ങൾ മനസ്സിലാക്കി.”
എൽഎൽഎം ആപ്ലിക്കേഷനുകളുടെ സുരക്ഷ വർദ്ധിപ്പിക്കുന്നതിനുള്ള ഒഡബ്ല്യുഎഎസ്പി ടോപ്പ് 10 സംരംഭത്തിന്റെ ഭാഗമാണ് ഗോലൻ.
ഇന്ന് സിഐഎസ്ഒകളുടെ പ്രശ്നത്തിന്റെ ഒരു ഭാഗം, അവരുടെ ഉപയോക്താക്കൾ അവരുടെ നെറ്റ് വർക്കുകൾക്കുള്ളിൽ നിന്ന് ഏതൊക്കെ ഉപകരണങ്ങൾ ആക്സസ് ചെയ്യുന്നു എന്നതിനെക്കുറിച്ച് അവർക്ക് നല്ല ധാരണയില്ല എന്നതാണ്, ഗോലൻ വിശദീകരിച്ചു. ഉദാഹരണത്തിന്, ഈ സേവനങ്ങളുമായി വ്യക്തിപരമായി തിരിച്ചറിയാവുന്ന വിവരങ്ങൾ പങ്കിടാൻ ജീവനക്കാർക്ക് ഇത് വാതിൽ തുറക്കുന്നു. ഇത്തരത്തിലുള്ള ഡാറ്റാ ചോർച്ച സ്വയം പ്രശ്നകരമാണ്, പക്ഷേ ഇത് കമ്പനിയെ റെഗുലേറ്ററി പ്രശ്നങ്ങളിലേക്ക് തുറക്കും. ഉപയോക്തൃ വീക്ഷണകോണിൽ നിന്ന്, ഇത് സംഭവിക്കില്ലെന്ന് ഉറപ്പാക്കുന്നതിനുള്ള പ്രോംപ്റ്റ് സെക്യൂരിറ്റിയുടെ ഉൽപ്പന്നം ഒരു ബ്രൗസർ വിപുലീകരണവും ഐഡിഇ പ്ലഗിനും ആണ്. കമ്പനിയുടെ ഉപകരണങ്ങൾ ജെൻഎഐ ഉപയോഗവുമായി ബന്ധപ്പെട്ട പാറ്റേണുകൾ യാന്ത്രികമായി കണ്ടെത്തുകയും അതിന് മുകളിൽ ഒരു എൻഫോഴ്സ്മെന്റ് നയം ലെയർ ചെയ്യുകയും ചെയ്യുന്നു. ഇതെല്ലാം ഉപയോക്തൃ അനുഭവത്തിന് കുറഞ്ഞ കാലതാമസം മാത്രമേ നൽകുന്നുള്ളൂവെന്ന് കമ്പനി പറയുന്നു.
അതേസമയം, ആപ്ലിക്കേഷൻ വശത്ത്, ജെൻഎഐ ചാറ്റ് അപ്ലിക്കേഷനുകൾ ഉടനടി കുത്തിവയ്പ്പുകളിലൂടെയും ജയിൽ ബ്രേക്കുകളിലൂടെയും ഒരു പുതിയ ആക്രമണ ഉപരിതലം തുറക്കുന്നു, ഇത് ഒരു കമ്പനിയുടെ നെറ്റ് വർക്കിനുള്ളിൽ അനധികൃത കോഡ് പ്രവർത്തിപ്പിക്കാൻ ആക്രമണകാരിയെ അനുവദിക്കുന്നിടത്തോളം വരെ പോയേക്കാം.
ഒരു ഓർഗനൈസേഷന്റെ ജെൻഎഐ ഉപയോഗത്തിന്റെ വിവിധ വശങ്ങൾ ഉൾക്കൊള്ളിച്ചുകൊണ്ട് ഇവിടെ ഒരു മുഴുവൻ പ്ലാറ്റ്ഫോമും നിർമ്മിക്കാൻ കമ്പനി ശ്രമിക്കുന്നുണ്ടെന്ന് ഗോലൻ ഊന്നിപ്പറഞ്ഞു. “ജെൻഎഐ സുരക്ഷയ്ക്കായി ഒറ്റത്തവണ പരിഹാരം നിർമ്മിക്കാൻ ഞങ്ങൾ ശ്രമിക്കുന്നു. ജീവനക്കാരുടെ ഉപയോഗം – കോർപ്പറേറ്റ് ഇൻഫോസെക് സൈഡ് – ആപ്ലിക്കേഷൻ സെക്യൂരിറ്റി സൈഡ് എന്നിവ ഞങ്ങൾ ഉൾക്കൊള്ളുന്നു.
ഏതാനും മാസങ്ങൾക്ക് മുമ്പ്, ഗോലൻ എന്നോട് പറഞ്ഞു, പല സിഐഎസ്ഒകളും ജെൻഎഐ സുരക്ഷാ പ്രശ്നങ്ങളെക്കുറിച്ച് ഇപ്പോഴും അജ്ഞരാണ് അല്ലെങ്കിൽ ആശങ്കാകുലരാണ്, പക്ഷേ ഇപ്പോൾ നിഴൽ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഉപയോഗത്തിൽ വർദ്ധനവ് കാണുന്നതിനാൽ അത് അതിവേഗം മാറുകയാണ്.
കാലക്രമേണ, ഉപഭോക്താക്കളെ അവരുടെ ജെൻഎഐ സുരക്ഷാ നില വർദ്ധിപ്പിക്കാൻ സഹായിക്കുന്ന കൂടുതൽ സേവനങ്ങൾ ആരംഭിക്കാൻ കമ്പനി പദ്ധതിയിടുന്നു. നിലവിൽ, പ്രോംപ്റ്റ് സെക്യൂരിറ്റിയുടെ ശ്രദ്ധ കൂടുതലും ഉൽപാദനത്തിലെ ആപ്ലിക്കേഷനുകൾ സുരക്ഷിതമാക്കുന്നതിലാണ്, പക്ഷേ വികസന, പരീക്ഷണ ഘട്ടങ്ങളിൽ ഡെവലപ്പറെ അവരുടെ ആപ്ലിക്കേഷനുകൾ സുരക്ഷിതമാക്കാൻ സഹായിക്കുന്നതിൽ കൂടുതൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കാൻ ടീം പദ്ധതിയിടുന്നു. “ജെൻ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന് ചുറ്റുമുള്ള നിലവിലെ ആവശ്യങ്ങളിൽ ഞങ്ങൾ ഇപ്പോൾ വളരെ ശ്രദ്ധ കേന്ദ്രീകരിക്കേണ്ടതുണ്ടെന്ന് ഞാൻ കരുതുന്നു: തത്സമയം ദൃശ്യപരതയും ഡാറ്റ സ്വകാര്യതയും,” കമ്പനിയുടെ വിപുലീകരണ പദ്ധതികളെക്കുറിച്ച് ചോദിച്ചപ്പോൾ ഗോലൻ പറഞ്ഞു. പിന്നീട്, കൂടുതൽ പണവും കൂടുതൽ ഉപഭോക്തൃ ഫീഡ്ബാക്കും ഉപയോഗിച്ച് ഞങ്ങൾ വികസിപ്പിക്കും – ഈ വിപണി വളരെ ഭ്രാന്താണെന്ന് ഞാൻ പറയും, ഞാൻ ഇപ്പോൾ നിങ്ങളോട് പറയുന്നത് അടുത്ത വർഷം പ്രസക്തമാകില്ല.”
Experienced Researcher with a demonstrated history of working in the Deep Learning, Computer Vision
