ആപ്പിൾ ജിപിടി ഉടൻ യാഥാർത്ഥ്യമായേക്കും. കഴിഞ്ഞ കുറച്ച് മാസങ്ങളായി, ഈ പഠന ഭാഷാ മോഡൽ പ്രവർത്തിക്കുന്നതിനെക്കുറിച്ച് നിരവധി റിപ്പോർട്ടുകൾ ഞങ്ങൾ കേട്ടു. ഉദാഹരണത്തിന്, ആപ്പിൾ അതിന്റെ എൽഎൽഎമ്മിനെ പരിശീലിപ്പിക്കാൻ പ്രതിദിനം ദശലക്ഷക്കണക്കിന് ഡോളർ ചെലവഴിക്കുന്നുവെന്ന് ഇൻഫർമേഷൻ പോസ്റ്റുചെയ്തു.

ഈ നിക്ഷേപത്തിന്റെ ഭൂരിഭാഗവും ആപ്പിൾ കെയർ ഉപഭോക്താക്കളിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുമെന്ന് പ്രസിദ്ധീകരണം പറയുന്നുണ്ടെങ്കിലും, സങ്കീർണ്ണമായ കുറുക്കുവഴി സംയോജനങ്ങൾ കൂടുതൽ പ്രാപ്യമാക്കുന്നതിന് ഈ ഭാഷാ മോഡലുകൾ ഉൾപ്പെടുത്താൻ സിരി ടീം പദ്ധതിയിടുന്നു. കൂടാതെ, 2023 ൽ ഉടനീളം ആപ്പിൾ നൂറുകണക്കിന് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സെർവറുകൾ നിർമ്മിക്കുന്നുണ്ടെന്നും 2024 ൽ കൂടുതൽ ചേർക്കാൻ പദ്ധതിയിട്ടിട്ടുണ്ടെന്നും ഹെയ്ടോംഗ് ഇന്റർനാഷണൽ സെക്യൂരിറ്റീസ് അനലിസ്റ്റ് ജെഫ് പു റിപ്പോർട്ട് ചെയ്തു.

ക്ലൗഡ് അധിഷ്ഠിത ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ്, ഓൺ-ഡിവൈസ് ഡാറ്റ പ്രോസസ്സിംഗ് എന്നിവ സംയോജിപ്പിച്ച് 2024 അവസാനത്തോടെ ഐഒഎസ് 18 സൈക്കിളിൽ ഐഫോൺ, ഐപാഡ് ഉപയോക്താക്കൾക്ക് ജനറേറ്റീവ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് പുറത്തിറക്കാൻ ആപ്പിൾ പദ്ധതിയിടുന്നുണ്ടെന്ന് അദ്ദേഹം വിശ്വസിക്കുന്നു. ഈ ആപ്പിൾ ജിപിടി സാങ്കേതികവിദ്യ ഞങ്ങളുടെ ഐഫോണുകളിൽ ഇറങ്ങാൻ നാമെല്ലാവരും കാത്തിരിക്കുന്നതിനാൽ, ഒരു ചെറിയ വിശദാംശം ഈ ജിപിടിയെ മറ്റുള്ളവയിൽ നിന്ന് വേറിട്ടുനിർത്തും: ക്ലൗഡ് അധിഷ്ഠിതത്തിന് പകരം ഓൺ-ഡിവൈസ് ഉപയോഗം.

ആപ്പിൾ ഇവ രണ്ടും സംയോജിപ്പിക്കുമെന്ന് പു വിശ്വസിക്കുന്നുണ്ടെങ്കിലും, സ്വകാര്യതയെ ഒരു “മൗലിക മനുഷ്യാവകാശം” എന്ന നിലയിൽ കമ്പനി ഒരു വലിയ വക്താവാണ്, അതിനാൽ പ്രധാനമായും ഓൺ-ഡിവൈസ് പ്രോസസിംഗിനെ ആശ്രയിക്കുന്നത് മറ്റെല്ലാ കമ്പനികളിൽ നിന്നും ഒരു പ്രധാന വ്യത്യാസമായിരിക്കും. എന്നാൽ വലിയ ഭാഷാ മോഡലുകൾ ആയതിനാൽ … വലിയത്, ഇതിനർത്ഥം ഒരു ഐഫോണിന് സാങ്കേതികമായി ഈ ഭാവി ആപ്പിൾ ജിപിടി പ്രാദേശികമായി പ്രവർത്തിപ്പിക്കാൻ കഴിയില്ല, കാരണം അത് ചെയ്യാൻ ശരിയായ സെർവർ ആവശ്യമാണ്.

ചില ആപ്പിൾ ഗവേഷകർ പരിമിതമായ മെമ്മറിയുള്ള ലാർജ് ലാംഗ്വേജ് മോഡലുകൾ എങ്ങനെ കാര്യക്ഷമമായി ഉപയോഗിക്കാമെന്ന് കാണിക്കുന്ന ഒരു പ്രബന്ധം പ്രസിദ്ധീകരിച്ചു, ഇത് വളരെ ആവേശകരമാണ്.

മാക് റൂമേഴ്സ് ആദ്യമായി കണ്ടെത്തിയ ഈ പ്രബന്ധത്തിൽ, ഗവേഷകർ പറയുന്നു, “ഫ്ലാഷ് മെമ്മറി പെരുമാറ്റവുമായി പൊരുത്തപ്പെടുന്ന ഒരു അനുമാന ചെലവ് മോഡൽ നിർമ്മിക്കുന്നത് ഈ രീതിയിൽ ഉൾപ്പെടുന്നു, രണ്ട് നിർണായക മേഖലകളിൽ ഒപ്റ്റിമൈസ് ചെയ്യാൻ ഞങ്ങളെ നയിക്കുന്നു: ഫ്ലാഷിൽ നിന്ന് കൈമാറുന്ന ഡാറ്റയുടെ അളവ് കുറയ്ക്കുക, ഡാറ്റ വലിയതും കൂടുതൽ അടുത്തതുമായ ഭാഗങ്ങളിൽ വായിക്കുക.” അങ്ങനെ ചെയ്യുന്നതിലൂടെ, രണ്ട് പുതിയ സാങ്കേതികവിദ്യകൾ ഉപയോഗിക്കാൻ കമ്പനി പദ്ധതിയിടുന്നു:

ജാലകം: ഇത് കഴിഞ്ഞ കുറച്ച് ടോക്കണുകൾക്കുള്ള പാരാമീറ്ററുകൾ മാത്രം ലോഡുചെയ്യുന്നു, അടുത്തിടെ കണക്കുകൂട്ടിയ ടോക്കണുകളിൽ നിന്ന് ആക്ടിവേഷനുകൾ വീണ്ടും ഉപയോഗിക്കുന്നു. ഈ സ്ലൈഡിംഗ് വിൻഡോസ് സമീപനം ഭാരം ലോഡ് ചെയ്യുന്നതിനുള്ള ഐഒ അഭ്യർത്ഥനകളുടെ എണ്ണം കുറയ്ക്കുന്നു.

ഇത് കഴിഞ്ഞ കുറച്ച് ടോക്കണുകൾക്കുള്ള പാരാമീറ്ററുകൾ മാത്രം ലോഡുചെയ്യുന്നു, അടുത്തിടെ കണക്കുകൂട്ടിയ ടോക്കണുകളിൽ നിന്ന് ആക്ടിവേഷനുകൾ വീണ്ടും ഉപയോഗിക്കുന്നു. ഈ സ്ലൈഡിംഗ് വിൻഡോസ് സമീപനം ഭാരം ലോഡ് ചെയ്യുന്നതിനുള്ള ഐഒ അഭ്യർത്ഥനകളുടെ എണ്ണം കുറയ്ക്കുന്നു. റോ-കോളം ബണ്ട്ലിംഗ്: ഫ്ലാഷ് മെമ്മറിയിൽ നിന്ന് വലിയ തുടർച്ചയായ ഭാഗങ്ങൾ വായിക്കാൻ ഇത് അപ്-പ്രൊജക്ഷൻ, ഡൗൺ-പ്രൊജക്ഷൻ പാളികളുടെ ഏകീകൃത നിരയും നിരയും സംഭരിക്കുന്നു. വലിയ ഭാഗങ്ങൾ വായിക്കുന്നതിലൂടെ ഇത് വർദ്ധിക്കുന്നു.

രീതികളുടെ സംയോജനം സിപിയുകളിൽ വേഗതയിൽ 4-5 മടങ്ങ് വർദ്ധനവും 20-25 മടങ്ങ് വേഗതയുള്ള ജിപിയുഎസും കൊണ്ടുവരും, ഇത് എഐ മോഡലുകൾക്ക് ഐഫോണിന്റെ മെമ്മറിയുടെ ഇരട്ടി വരെ പ്രവർത്തിക്കാൻ അനുവദിക്കും. ദിവസാവസാനം, ഈ സാങ്കേതികവിദ്യ സിരിയുടെ കഴിവുകൾ, തത്സമയ വിവർത്തനം, ഫോട്ടോകൾ, വീഡിയോകൾ, ഉപഭോക്താക്കൾ അവരുടെ ഐഫോണുകൾ എങ്ങനെ ഉപയോഗിക്കുന്നു എന്നതിനെക്കുറിച്ചുള്ള ധാരണ എന്നിവയ്ക്കുള്ള മറ്റ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സവിശേഷതകൾ എന്നിവ മെച്ചപ്പെടുത്താൻ കഴിയും.