നിങ്ങൾക്ക് നെഞ്ചുവേദന ഉണ്ടെങ്കിൽ, മെഡിക്കൽ ഉപദേശത്തിനായി ചാറ്റ്ജിപിടി പോലുള്ള ഒരു ചാറ്റ്ബോട്ടിനോട് ചോദിക്കണോ? രോഗനിർണയത്തിന്റെ സഹായത്തിനായി നിങ്ങളുടെ ഡോക്ടർ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിലേക്ക് തിരിയേണ്ടതുണ്ടോ?

ഹെൽത്ത് കെയർ വ്യവസായത്തിനും അത് സേവിക്കുന്ന ആളുകൾക്കും ചാറ്റ്ബോട്ടുകൾ ഉയർത്തുന്ന ചോദ്യങ്ങളാണിവ. ഈ സാങ്കേതികവിദ്യയുടെ സാധ്യതകൾ വളരെ വലുതാണ്: രോഗികളെ സംബന്ധിച്ചിടത്തോളം, അത്യാധുനിക ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് എന്നാൽ ഒരു ഡോക്ടറുമായി കൂടിക്കാഴ്ച നടത്തുന്നതിനേക്കാൾ വേഗത്തിലും വിലകുറഞ്ഞും മെഡിക്കൽ ചോദ്യങ്ങൾക്ക് മികച്ച ഉത്തരങ്ങൾ നേടുക എന്നതാണ്. അതേസമയം, ക്ലിനിക്കുകൾക്ക് സങ്കീർണ്ണമായ മെഡിക്കൽ ആശയങ്ങൾ എളുപ്പത്തിൽ ആക്സസ് ചെയ്യാനും സമന്വയിപ്പിക്കാനും കഴിയും – കൂടാതെ ജോലിയുമായി ബന്ധപ്പെട്ട മരവിക്കുന്ന പേപ്പർവർക്കുകൾ ധാരാളം ഒഴിവാക്കാനും കഴിയും.

എന്നിട്ടും ഈ മോഡലുകളെ പരിശീലിപ്പിക്കാൻ ഉപയോഗിക്കുന്ന അടിസ്ഥാന ഡാറ്റയിലും രീതികളിലും സുതാര്യതയുടെ അഭാവം കൃത്യതയെക്കുറിച്ചുള്ള ആശങ്കകൾക്ക് കാരണമായി. സാങ്കേതികവിദ്യ പക്ഷപാതം കാണിക്കുമെന്നും ചില ഗ്രൂപ്പുകളിലെ ആളുകളെ വേദനിപ്പിച്ചേക്കാവുന്ന ഉത്തരങ്ങൾ നൽകുമെന്നും ആശങ്കയുണ്ട്. ചില ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് തെറ്റായ ഉത്തരങ്ങൾ ആത്മവിശ്വാസത്തോടെ നൽകും, അല്ലെങ്കിൽ നേർത്ത വായുവിൽ നിന്ന് വസ്തുതകൾ സൃഷ്ടിക്കും.

ഈ പുതിയ സാങ്കേതികവിദ്യ എങ്ങനെ ഉപയോഗിക്കണം, ഉപയോഗിക്കാതിരിക്കാം എന്നതിനെക്കുറിച്ച് കൂടുതലറിയാൻ, വാൾസ്ട്രീറ്റ് ജേണൽ മൂന്ന് വിദഗ്ധരുമായി സംസാരിച്ചു: സ്റ്റാൻഫോർഡ് സർവകലാശാലയിലെ ബയോമെഡിക്കൽ ഡാറ്റാ സയൻസ് അസിസ്റ്റന്റ് പ്രൊഫസർ ജെയിംസ് സൂ; പെൻസിൽവാനിയ യൂണിവേഴ്സിറ്റി പെരെൽമാൻ സ്കൂൾ ഓഫ് മെഡിസിനിലെ പൾമണറി ആൻഡ് ക്രിട്ടിക്കൽ കെയർ മെഡിസിനിൽ അസിസ്റ്റന്റ് പ്രൊഫസറാണ് ഗാരി വെയ്സ്മാൻ. ഹാർവാർഡ് ലോ സ്കൂളിലെ പ്രൊഫസറും അതിന്റെ പെട്രി-ഫ്ലോം സെന്റർ ഫോർ ഹെൽത്ത് ലോ പോളിസി, ബയോടെക്നോളജി ആൻഡ് ബയോഎത്തിക്സ് ഫാക്കൽറ്റി ഡയറക്ടറുമായ ഐ. ഗ്ലെൻ കോഹൻ.

സംഭാഷണത്തിന്റെ എഡിറ്റുചെയ്ത ഭാഗങ്ങൾ ഇതാ:

ഉപദേശം വിശ്വസിക്കാമോ?

WSJ: ChatGPT പോലുള്ള വലിയ ഭാഷാ മോഡലുകൾക്കും അതിന്റെ എതിരാളികൾക്കും രോഗികൾക്ക് വിശ്വസനീയമായ മെഡിക്കൽ ഉപദേശം നൽകാൻ കഴിയുമോ?

വെയ്സ്മാൻ: ഇപ്പോൾ, ചാറ്റ്ജിപിടിക്ക് പൊതുവായ മെഡിക്കൽ വിവരങ്ങൾ നൽകാൻ കഴിയും, വിക്കിപീഡിയയിലെ ഒരു വിഷയത്തെക്കുറിച്ചുള്ള പശ്ചാത്തല വിവരങ്ങൾ നിങ്ങൾ കണ്ടെത്തുന്നതുപോലെ, അത് മിക്കവാറും ശരിയാണ്, പക്ഷേ എല്ലായ്പ്പോഴും അല്ല. സുരക്ഷിതവും വിശ്വസനീയവും തുല്യവുമായ രീതിയിൽ വ്യക്തികൾക്ക് വ്യക്തിഗത മെഡിക്കൽ ഉപദേശം നൽകാൻ ഇതിന് കഴിയില്ല.

കോഹൻ: ആരോഗ്യപരിപാലനത്തെക്കുറിച്ചുള്ള വിവരങ്ങൾ ആക്സസ് ചെയ്യുന്നത് ഒരു ക്ലിനിഷ്യന്റെ അഭിപ്രായം നേടുന്നതിനേക്കാൾ വ്യത്യസ്തമാണ്. എന്നാൽ നമ്മൾ ചാറ്റ്ജിപിടിയും ഗൂഗിൾസും തമ്മിൽ ഒരു ചോദ്യം ചോദിക്കുന്നതിനോ റെഡ്ഡിറ്റിനെ നോക്കുന്നതിനോ സംസാരിക്കുകയാണെങ്കിൽ, ചാറ്റ്ജിപിടിക്ക് ചില യഥാർത്ഥ വാഗ്ദാനങ്ങൾ ഉണ്ടെന്ന് ചിന്തിക്കാൻ ഒരു നല്ല കാരണമുണ്ട്.

സൂ: അതിന്റെ ഫലപ്രാപ്തി ശരിക്കും നിങ്ങൾ ചോദിക്കുന്ന ചോദ്യങ്ങളെ ആശ്രയിച്ചിരിക്കുന്നു. പ്രവചന ചോദ്യങ്ങളോ ഏതെങ്കിലും വ്യക്തിഗത ശുപാർശകളോ ചോദിക്കുന്നത് നല്ലതല്ല. “ഈ പ്രത്യേക മരുന്നിനെക്കുറിച്ച് എന്നോട് എന്തെങ്കിലും പറയുക” പോലുള്ള വിവരങ്ങൾ വീണ്ടെടുക്കൽ അല്ലെങ്കിൽ പര്യവേക്ഷണ ചോദ്യങ്ങൾക്ക് ഇത് കൂടുതൽ ഫലപ്രദമായിരിക്കാം. ധാരാളം പദാവലികളുള്ളതും ജിപിടിയിലേക്ക് മനസ്സിലാക്കാൻ ബുദ്ധിമുട്ടുള്ളതുമായ ഒരു മെഡിക്കൽ-സമ്മത പത്രം ഒട്ടിക്കുന്നതിനെക്കുറിച്ചും ഡോക്യുമെന്റ് ലളിതമായ ഇംഗ്ലീഷിൽ വിശദീകരിക്കാൻ ആവശ്യപ്പെടുന്നതിനെക്കുറിച്ചും ഞാൻ കേട്ടു.

WSJ: Reddit അല്ലെങ്കിൽ Google എന്നിവയുമായി താരതമ്യപ്പെടുത്തുമ്പോൾ ChatGPT ഉപയോഗിക്കുന്ന രോഗികളെക്കുറിച്ച് നിങ്ങൾ എന്താണ് കരുതുന്നത്?

വെയ്സ്മാൻ: ഒരു വെബ് തിരയൽ അല്ലെങ്കിൽ പൊതു ചർച്ചാ ഫോറമായ ചാറ്റ്ജിപിടിയുടെ ഗുണനിലവാരത്തിലും പക്ഷപാതത്തിലും ഉള്ളടക്കം സമാനമാണ്. ചാറ്റ്ജിപിടി വഹിക്കുന്ന അധിക അപകടസാധ്യതകളിൽ ഇവ ഉൾപ്പെടുന്നു: അതിന്റെ പ്രതികരണങ്ങളിൽ അറിവുണ്ടെന്ന പ്രതീതി നൽകുന്നു; അതിശയകരമായ ഉത്തരങ്ങൾ; സെന്റർ ഫോർ ഡിസീസ് കൺട്രോൾ ആൻഡ് പ്രിവൻഷൻ വെബ്സൈറ്റ്, തെറ്റായ വിവര വെബ്സൈറ്റ് എന്നിവ പോലുള്ള പ്രതികരണങ്ങളുടെ ഉറവിടങ്ങൾ ഉടനടി വേർതിരിച്ചറിയാൻ കഴിയില്ല. എന്നാൽ വെബ്പേജുകൾ നേരിട്ട് വായിക്കുന്നതിലൂടെ, ഉറവിടം പലപ്പോഴും കൂടുതൽ വ്യക്തമാണ്, പക്ഷേ എല്ലായ്പ്പോഴും അല്ല.

[മെഡിക്കൽ വിവരങ്ങൾ നൽകുന്നതിന് കമ്പനിയുടെ മോഡലുകൾ മികച്ച രീതിയിൽ സജ്ജീകരിച്ചിട്ടില്ലെന്ന് ഓപ്പൺഎഐ വക്താവ് പറയുന്നു, ഗുരുതരമായ മെഡിക്കൽ അവസ്ഥകൾക്ക് ഡയഗ്നോസ്റ്റിക് അല്ലെങ്കിൽ ചികിത്സാ സേവനങ്ങൾ നൽകുന്നതിന് മോഡലുകൾ ഉപയോഗിക്കുന്നതിനെതിരെ കമ്പനി മുന്നറിയിപ്പ് നൽകുന്നു. കമ്പനി ഈ വിഷയത്തിൽ ഗവേഷണം തുടരുകയാണെന്ന് വക്താവ് പറയുന്നു.]

പരിചരിക്കുന്നവരെ സഹായിക്കുക

WSJ: ക്ലിനിക്കൽ പ്രാക്ടീസിൽ ChatGPT എങ്ങനെ ഉപയോഗിക്കാം?

വെയ്സ്മാൻ: ചില ഡോക്ടർമാർ ഇതിനകം തന്നെ ഇത് ഒരു ക്ലിനിക്കൽ ഡയഗ്നോസ്റ്റിക്-പിന്തുണാ സംവിധാനമായി ഉപയോഗിക്കുന്നുവെന്ന് ഞാൻ കരുതുന്നു, രോഗലക്ഷണങ്ങൾ ഇൻപുട്ട് ചെയ്യുകയും തുടർന്ന് സാധ്യമായ രോഗനിർണയം ആവശ്യപ്പെടുകയും ചെയ്യുന്നു. എന്നാൽ കരട് മെഡിക്കൽ ഡോക്യുമെന്റുകൾ സൃഷ്ടിക്കുന്നതിനും രോഗിയുടെ ചരിത്രങ്ങളും ശാരീരിക വിവരങ്ങളും സംഗ്രഹിക്കുന്നതിനും അല്ലെങ്കിൽ രോഗി-പ്രശ്ന ലിസ്റ്റുകൾ സൃഷ്ടിക്കുന്നതിനും ഇത് സാധാരണയായി ഒരു ഡിജിറ്റൽ അസിസ്റ്റന്റായി ഉപയോഗിക്കുന്നു. ക്ലിനിക്കുകൾക്ക് കനത്ത ഡോക്യുമെന്റേഷൻ ഭാരവും ധാരാളം ബേൺഔട്ടും ഉണ്ട്, അതാണ് സാങ്കേതികവിദ്യയെ ആകർഷകമാക്കുന്നത്. എന്നാൽ കൃത്യതയ്ക്കും ഉചിതതയ്ക്കുമായി ക്ലിനിക്കുകൾ ഔട്ട്പുട്ട് അവലോകനം ചെയ്യുകയും എഡിറ്റുചെയ്യുകയും ചെയ്യേണ്ടതുണ്ട്.

WSJ: രോഗനിർണയ തീരുമാനങ്ങളെ പിന്തുണയ്ക്കുന്നതിന് ഡോക്ടർമാർ ഇതിനകം ചാറ്റ്ജിപിടി ഉപയോഗിക്കുകയാണെങ്കിൽ അത് അപകടകരമാണെന്ന് നിങ്ങൾ കരുതുന്നുണ്ടോ?

വെയ്സ്മാൻ: ക്ലിനിക്കൽ തീരുമാനമെടുക്കലിനെ പിന്തുണയ്ക്കാൻ ചാറ്റ്ജിപിടി ഉപയോഗിക്കരുത്. ഈ ആവശ്യത്തിനായി ഇത് സുരക്ഷിതമോ തുല്യമോ ഫലപ്രദമോ ആണെന്നതിന് തെളിവുകളൊന്നുമില്ല. എനിക്കറിയാവുന്നിടത്തോളം, ഈ രീതിയിൽ അതിന്റെ ഉപയോഗത്തിന് ഫുഡ് ആൻഡ് ഡ്രഗ് അഡ്മിനിസ്ട്രേഷനിൽ നിന്ന് അംഗീകാരമില്ല.

ZOU: ChatGPT യും ഈ എൽഎൽഎം മോഡലുകളും വളരെ വേഗത്തിൽ മാറുന്നു. നിങ്ങൾ ഒരേ മോഡലിനോട് കുറച്ച് ആഴ്ചകൾക്കുള്ളിൽ ഒരേ ചോദ്യങ്ങൾ ചോദിക്കുക മാത്രമല്ല, മോഡൽ പലപ്പോഴും ഒരേ ചോദ്യങ്ങൾക്ക് വ്യത്യസ്ത പ്രതികരണങ്ങൾ നൽകുന്നു. യുഎസ് മെഡിക്കൽ ലൈസൻസിംഗ് എക്സാമിനേഷനിൽ ജിപിടി -4 ന്റെ പ്രകടനം 2023 മാർച്ച് മുതൽ ജൂൺ വരെ 4.5 ശതമാനം കുറഞ്ഞതായി ഞങ്ങളുടെ ഗവേഷണം കണ്ടെത്തി. വ്യത്യസ്ത ദിവസങ്ങളിൽ ഒരേ മെഡിക്കൽ ചോദ്യങ്ങൾക്ക് ചാറ്റ്ജിപിടി തികച്ചും വ്യത്യസ്തമായ പ്രതികരണങ്ങളോ നിർദ്ദേശങ്ങളോ നൽകിയേക്കാമെന്ന് രോഗികളും ക്ലിനിക്കുകളും അറിഞ്ഞിരിക്കണം.

WSJ: ക്ലിനിക്കുകൾ ചാറ്റ്ജിപിടി, മറ്റ് വലിയ ഭാഷാ മോഡലുകൾ അല്ലെങ്കിൽ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് എന്നിവ ഉപയോഗിക്കുമ്പോൾ രോഗികളോട് പറയേണ്ടതുണ്ടോ?

കോഹൻ: ഒരു ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ചാറ്റ്ബോട്ടുമായി ആശയവിനിമയം നടത്തുന്നുവെന്ന് അറിയിക്കാൻ രോഗികൾക്ക് അവകാശമുണ്ട്, പ്രത്യേകിച്ചും അവർ ഒരു യഥാർത്ഥ ക്ലിനിഷ്യനുമായി സംസാരിക്കുകയാണെന്ന് അവർ കരുതുന്നുവെങ്കിൽ. നിങ്ങളുടെ പരിചരണത്തിലുള്ള എല്ലാ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിനെക്കുറിച്ചും അറിയാൻ നിങ്ങൾക്ക് അവകാശമുണ്ടോ ഇല്ലയോ എന്നത് മറ്റൊരു കാര്യമാണ്. ഉദാഹരണത്തിന്, ഒരു എക്സ്-റേയുടെ ആദ്യ കാഴ്ച ഒരു ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് നടത്തുകയും ഒരു റേഡിയോളജിസ്റ്റ് അവലോകനം ചെയ്യുകയും ചെയ്താൽ, വിവരങ്ങൾ ബോധ്യപ്പെടുത്തിയുള്ള സമ്മതത്തിനുള്ള അവകാശം ബാധകമാണോ എന്ന് എനിക്ക് ഉറപ്പില്ല. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ഒരു തീരുമാനത്തിന്റെ അനുബന്ധമാകുമ്പോൾ, ഒരു രോഗി ഒരു ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസുമായി ഇടപഴകുന്നതിനേക്കാൾ വളരെ വ്യത്യസ്തമായ വിഭാഗത്തിലാണ് ഞങ്ങൾ.

വെയ്സ്മാൻ: റേഡിയോളജി, പാത്തോളജി അല്ലെങ്കിൽ ലബോറട്ടറി റിപ്പോർട്ടുകൾ പോലുള്ള ഔപചാരിക റിപ്പോർട്ടുകൾക്കായി, ഇത് രേഖപ്പെടുത്തണമെന്ന് ഞാൻ കരുതുന്നു. ഒരു അഭിപ്രായം അറിയിക്കാൻ ഒരു ക്ലിനിഷ്യൻ ഒന്നിലധികം ഉറവിടങ്ങളുമായി കൂടിയാലോചിക്കുന്ന സന്ദർഭങ്ങളിൽ – ഒരു മെഡിക്കൽ പാഠപുസ്തകം, ഒരു ജേണൽ ലേഖനം, ഒരു ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സിസ്റ്റം – അതിന് ഔപചാരിക റിപ്പോർട്ടിംഗ് ആവശ്യമാണെന്ന് ഞാൻ കരുതുന്നില്ല, പക്ഷേ ഈ സാഹചര്യത്തിൽ എടുത്ത തീരുമാനത്തിന് ക്ലിനിഷ്യൻ വ്യക്തമായ ഉത്തരവാദിയാണ്. ഒരു ക്ലിനിഷ്യൻ ഒരു രോഗിയുമായോ / അല്ലെങ്കിൽ പരിചരിക്കുന്നവരുമായോ സഹകരിച്ച് ബുദ്ധിമുട്ടുള്ള തീരുമാനം എടുക്കുന്നിടത്ത് മാത്രമേ അപവാദം ഉണ്ടാകൂ.

അന്യായമായ ഫലങ്ങൾ

WSJ: ആരോഗ്യസംരക്ഷണത്തിൽ ചാറ്റ്ജിപിടി പക്ഷപാതങ്ങൾ എങ്ങനെ പ്രകടമാകും?

വെയ്സ്മാൻ: ചോദ്യം ചോദിക്കുന്ന രോഗിയുടെ ഇൻഷുറൻസ് നിലയെ ആശ്രയിച്ച് ചാറ്റ്ജിപിടിയിൽ നിന്നുള്ള ക്ലിനിക്കൽ ശുപാർശകൾ മാറിയതായി ഞങ്ങളുടെ പഠനം കണ്ടെത്തി. ഒരു സന്ദർഭത്തിൽ, ഇൻഷുറൻസ് ഇല്ലാത്ത, കടുത്ത നെഞ്ചുവേദനയുള്ള ഒരു മുതിർന്ന വ്യക്തിയെ അത്യാഹിത വിഭാഗത്തിന് മുമ്പായി ഒരു കമ്മ്യൂണിറ്റി ഹെൽത്ത് സെന്ററിലേക്ക് പോകാൻ ചാറ്റ്ജിപിടി ശുപാർശ ചെയ്തു, ഇത് തികച്ചും സുരക്ഷിതമല്ലാത്തതും അനുചിതവുമായ പരിചരണമാണ്.

കോഹൻ: പല എൽഎൽഎമ്മുകളും ഇംഗ്ലീഷ് ഭാഷാ ഇന്റർനെറ്റിലും ഇംഗ്ലീഷ് ഭാഷാ ഉറവിടങ്ങളിലും പരിശീലനം നേടിയിട്ടുണ്ട്. അതിനർത്ഥം വിവിധ ഭാഷകളിലെ ഒരു കൂട്ടം അറിവുകൾ ഞങ്ങൾ അവഗണിക്കുന്നു എന്നാണ്. വൈദ്യശാസ്ത്രത്തിന് പുറത്തുള്ള ഒരു ഉദാഹരണം എടുക്കുക. ഇസ്ലാമിക ചരിത്രത്തെക്കുറിച്ചുള്ള ഇംഗ്ലീഷ് ഭാഷാ സ്രോതസ്സുകൾ മാത്രം നോക്കുന്നത് ഓരോ ഭാഷയിലും ഇസ്ലാമിക ചരിത്രത്തിന് പ്രസക്തമായ എല്ലാ കാര്യങ്ങളും നോക്കുന്നതിനേക്കാൾ വളരെ വ്യത്യസ്തമായ നിഗമനങ്ങളിലേക്ക് നയിച്ചേക്കാം.

ചൈനയും മറ്റ് രാജ്യങ്ങളും പരിശീലന മോഡലുകളിലും വലിയ നിക്ഷേപം നടത്തിയിട്ടുണ്ട്. അതിനർത്ഥം ഇപ്പോഴും ധാരാളം ഭാഷകൾ [വലിയ ഭാഷാ മോഡലുകളെ പരിശീലിപ്പിക്കുന്നതിൽ പ്രാതിനിധ്യം കുറവാണ്]. രോഗികളും ക്ലിനിക്കുകളും ഇംഗ്ലീഷ് ഇതര ഭാഷകളിൽ സംവദിക്കുമ്പോൾ ഒരു എൽഎൽഎം വിശ്വസനീയമല്ല എന്നതാണ് ഒരു അനന്തരഫലം. മറുവശത്ത്, സാധാരണ ഭാഷകൾക്കിടയിൽ വിവർത്തനം ചെയ്യുന്നതിൽ ചാറ്റ്ജിപിടി ന്യായമായും മികച്ചതാണ്, അതിനാൽ ചില ഉപയോക്താക്കൾക്ക് ഇത് ഒരു വിവർത്തകനായി ഉപയോഗിക്കാം.

കോഹൻ: പരിശീലന ഡാറ്റയ്ക്ക് പുറമേ, ഏത് ഉത്തരങ്ങൾ ശക്തിപ്പെടുത്തണമെന്ന് ആളുകൾ തീരുമാനിക്കുന്ന ശക്തിപ്പെടുത്തിയ പഠന പ്രക്രിയയിൽ സാധ്യമായ പക്ഷപാതങ്ങളുണ്ട്. അമേരിക്കൻ സൈക്കോളജിക്കൽ അസോസിയേഷൻ പ്രസിദ്ധീകരിച്ച ഒരു ലേഖനം വ്യത്യസ്ത സാംസ്കാരിക ഗ്രൂപ്പുകൾക്ക് (ലാറ്റിന കൗമാരക്കാർ, ഏഷ്യൻ-അമേരിക്കൻ കോളേജ് വിദ്യാർത്ഥികൾ, വെളുത്ത വിരമിച്ചവർ) ആത്മഹത്യാ സാധ്യതയെക്കുറിച്ച് ഒരു തെറാപ്പിസ്റ്റ് എപ്പോൾ ആശങ്കപ്പെടണം എന്നതിന് വ്യത്യസ്ത മാർക്കറുകൾ ഉണ്ടെന്ന് ചർച്ച ചെയ്യുന്നു. ഒരു ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് അവസാന ഗ്രൂപ്പിൽ മാത്രം പരിശീലനം നേടിയിട്ടുണ്ടെങ്കിൽ, അത് മറ്റ് ഗ്രൂപ്പുകളുടെ സിഗ്നലുകളോട് സെൻസിറ്റീവ് ആയിരിക്കണമെന്നില്ല.

[വംശം അല്ലെങ്കിൽ മറ്റ് സംരക്ഷിത സ്വഭാവസവിശേഷതകൾ ഉപയോഗിച്ച് സാമാന്യവത്കരിക്കുന്നതിന്റെ അപകടങ്ങൾ തിരിച്ചറിയുന്നതിനും പ്രസ്താവിക്കുന്നതിനും കമ്പനി അതിന്റെ മോഡലിനെ പരിശീലിപ്പിക്കാൻ പ്രവർത്തിച്ചിട്ടുണ്ടെന്ന് ഓപ്പൺഎഐ വക്താവ് പറയുന്നു. ഈ വിഷയത്തിൽ ഗവേഷണം നടന്നുകൊണ്ടിരിക്കുകയാണ്, വക്താവ് പറയുന്നു.]

WSJ: വ്യാജ മെഡിക്കൽ ലേഖനങ്ങളോ ചിത്രങ്ങളോ സൃഷ്ടിക്കാനുള്ള ചാറ്റ്ജിപിടിയുടെ കഴിവിനെക്കുറിച്ച് എന്താണ്?

കോഹൻ: വലിയ ഭാഷാ മോഡലുകൾ മെഡിക്കൽ തെറ്റായ വിവരങ്ങൾ സൃഷ്ടിക്കുന്നത് അവിശ്വസനീയമാംവിധം എളുപ്പമാക്കുന്നു. നിങ്ങൾക്ക് ഒരു തൊപ്പിയുടെ തുള്ളിയിൽ വ്യാജ അക്കാദമിക് പേപ്പറുകൾ സൃഷ്ടിക്കാൻ കഴിയും, ഒപ്പം യഥാർത്ഥ അവലംബം പോലെ തോന്നുന്നവ, അല്ലെങ്കിൽ ഒരുപക്ഷേ ഒരു യഥാർത്ഥ രോഗിയിൽ നിന്ന് അവരുടെ ഡോക്ടറുടെ ഓഫീസിലേക്ക് ഫാക്സ് ചെയ്ത ഒരു വ്യാജ റേഡിയോളജി റിപ്പോർട്ട്.

[ചാറ്റ്ജിപിടി ഇടയ്ക്കിടെ വസ്തുതകൾ സൃഷ്ടിക്കുമെന്നും ഉപയോക്താക്കൾ അവർക്ക് നൽകിയ വിവരങ്ങൾ പരിശോധിക്കണമെന്നും ഓപ്പൺഎഐ വക്താവ് പറയുന്നു.]

WSJ: അവസാനത്തെ ചിന്തകള് ഉണ്ടോ?

കോഹൻ: ഞങ്ങൾ വളരെയധികം നാശത്തിലും ഇരുട്ടിലും ശ്രദ്ധ കേന്ദ്രീകരിച്ചു, പക്ഷേ ഇത് അവിശ്വസനീയമാംവിധം ആവേശകരമാണ്, ഇവിടെ വളരെയധികം മൂല്യമുണ്ട്. എന്നാൽ ഈ അടിസ്ഥാന മോഡലുകളെക്കുറിച്ചുള്ള ഒരു കാര്യം, നിങ്ങൾക്ക് അടിത്തറ ശരിയായി ലഭിച്ചില്ലെങ്കിൽ മുഴുവൻ വീടും തകരും, അല്ലെങ്കിൽ മുഴുവൻ നഗരവും തകരും, അതിനാൽ ഞങ്ങൾ എത്തിച്ചേരുന്ന അടിസ്ഥാന മോഡലുകൾ ശരിക്കും മികച്ചതായിരിക്കേണ്ടത് പ്രധാനമാണ്.

സൂരജ്: തീർച്ചയായും. ഈ സാങ്കേതികവിദ്യകൾക്കും സാധ്യതകൾക്കും ആവേശകരമായ ധാരാളം ഉപയോഗങ്ങളുണ്ട്, പക്ഷേ ചിലപ്പോൾ അവ ശരിക്കും എത്ര പുതിയതാണെന്ന് ഞങ്ങൾ മറക്കുന്നു. അത് എങ്ങനെ ഉത്തരവാദിത്തത്തോടെ ഉപയോഗിക്കണമെന്ന് മനസ്സിലാക്കുന്നതിന്റെ പ്രാരംഭ ഘട്ടത്തിലാണ് ഞങ്ങൾ.

വെയ്സ്മാൻ: രണ്ട് കാരണങ്ങളാൽ എൽഎൽഎമ്മുകൾ ഇപ്പോൾ ചൂടാണ്: ഒന്ന് ഇത് ധാരാളം ക്ലിനിക്കൽ ആപ്ലിക്കേഷനുകളുള്ള ആവേശകരമായ സാങ്കേതികവിദ്യയാണ്. മറ്റൊന്ന്, ചില കമ്പനികൾക്ക് വമ്പിച്ച ലാഭം നേടാൻ അവസരമുണ്ട് എന്നതാണ്. അതിനാൽ, ഒരു പിരിമുറുക്കമുണ്ട്: ഞങ്ങൾക്ക് ശരിക്കും മനസ്സിലാകാത്ത ഈ പുതിയ സാങ്കേതികവിദ്യ ഉപയോഗിച്ച് നമുക്ക് എങ്ങനെ വേഗത്തിൽ പണം സമ്പാദിക്കാൻ കഴിയും, അതിനായി ഞങ്ങൾക്ക് ധാരാളം തെളിവുകളില്ല, വേണ്ടത്ര നിയന്ത്രിക്കപ്പെടുന്നില്ല, ഈ പുതിയ സാങ്കേതികവിദ്യയ്ക്ക് സുരക്ഷിതവും ഫലപ്രദവും തുല്യവും ധാർമ്മികവുമായ ഉപയോഗങ്ങൾ നമുക്ക് എങ്ങനെ കണ്ടെത്താൻ കഴിയും.