എ.ഐ മനുഷ്യരാശിയെ തന്നെ ഇല്ലാതാക്കുമോ എന്ന തരത്തിലുള്ള ചര്ച്ചകള് തുടരുന്നതിനിടെ എ.ഐ മൃഗങ്ങളോട് സ്വീകരിക്കുന്ന സമീപനം വ്യക്തമാക്കിത്തരുന്ന ഒരു പഠന ഫലം പുറത്ത്. സെപ്തംബര് ആദ്യം പുറത്ത് വന്ന ‘ഹാര്വെസ്റ്റ് ബെഞ്ച്– മെഷറിങ് വെതര് എല്.എല്.എം ഏജന്റ്സ് വില് പേ ടു അവോയ്ഡ് കില്ലിങ് ആനിമല്സ്’ എന്ന പേരിലുള്ള പഠന റിപ്പോര്ട്ടിലാണ് എ.ഐ മൃഗങ്ങളോട് സ്വീകരിക്കുന്ന സമീപനം എന്താണെന്ന് വ്യക്തമാക്കുന്നത്. സാമ്പത്തിക ലാഭത്തിന് വേണ്ടി എ.ഐ മൃഗങ്ങളെ കൊന്നേക്കാമെന്നതാണ് പഠനത്തിന്റെ പ്രധാന കണ്ടെത്തല്.
കംപാഷന് അലൈന്ഡ് മെഷീന് ലേണിംഗ് എന്ന ഗവേഷണ സംഘത്തിലെയും യു.കെയിലെ വാര്വിക്ക് സര്വകലാശാലയിലെയും ഒരു കൂട്ടം ഗവേഷകരാണ് എ.ഐ പ്രതികരിക്കുന്ന രീതിയെക്കുറിച്ച് ഈ പഠനം നടത്തിയത്. ഒരു കൃഷിയിടത്തെ അനുകരിക്കുന്ന സിമുലേഷന് ഗെയിം ഉപയോഗിച്ചായിരുന്നു പരീക്ഷണം. മൃഗങ്ങള്ക്ക് അപകടം വരുത്തുന്ന രീതിയിലാണോ എ.ഐ പ്രവര്ത്തിക്കുക എന്നാണ് ഗെയിമില് പരിശോധിച്ചത്.
ജാസ്മിന് ബ്രസീല്, മൈല്സ് ടിഡ്മാര്ഷ്, മത്തിയാസ് എന്ഡ്രെസ്, അന്ഷുമാന് സിംഗ്, ജെറമിയ മില്ലര് എന്നിവരാണ് ഗവേഷണം നടത്തിയത്. ഈ ഗവേഷണത്തിന്റെ അടിസ്ഥാനത്തില് ഹാര്വസ്റ്റ് ബഞ്ച് എന്ന ബെഞ്ച്മാര്ക്കും ഇവര് രൂപീകരിച്ചിട്ടുണ്ട്.
ഒരു മൃഗത്തിന്റെ ജീവന് എ.ഐ മോഡലുകള് എത്രത്തോളം മൂല്യം കല്പ്പിക്കുന്നു എന്ന് വിലയിരുത്തുന്നതിനായാണ് ഈ ബെഞ്ച്മാര്ക്ക്. മൃഗങ്ങളെ ബാധിക്കുന്നതിനാലുള്ള പാര്ശ്വഫലങ്ങള് ഒഴിവാക്കുന്നതിന് എ.ഐ നിശ്ചയിക്കുന്ന വില എന്തെന്ന് കണ്ടെത്തുന്നതിനുള്ള ഒരു ബെഞ്ച് മാര്ക്കെന്നാണ് ഗവേഷകര് ഹാര്വെസ്റ്റ് ബെഞ്ചിനെ വിശേഷിപ്പിക്കുന്നത്.
ഒമ്പത് എല്.എല്.എമ്മുകള് വീതം രണ്ട് ട്രാക്ടറുകളുടെ കൂട്ടത്തെ നിയന്ത്രിച്ച് ചോളം വിളവെടുക്കുന്ന തരത്തിലാണ് സിമുലേഷന് ഗെയിമിന്റെ ഘടന. ഒരു മൃഗം വഴി തടസ്സപ്പെടുത്തുമ്പോള് എ.ഐ മോഡല് എന്ത് തീരുമാനമെടുക്കുമെന്ന് ഗെയിം പരിശോധിക്കുന്നു. കൂടുതല് ഇന്ധനം ചെലവാക്കാതെ മൃഗങ്ങളുടെ മുകളിലൂടെ ട്രാക്ടര് ഓടിച്ച് പോകണോ അതോ ഇന്ധനം കൂടുതല് ചെലവായാലും മൃഗങ്ങളെ ഒഴിവാക്കണോ എന്നാണ് എ.ഐ മോഡല് തീരുമാനിക്കേണ്ടത്.
പരീക്ഷണം നടത്തിയപ്പോള് വിവിധ എ.ഐ മോഡലുകള് മൃഗങ്ങളെ കൊല്ലുന്നതിന്റെ നിരക്ക് 0.4 ശതമാനം മുതല് 98.8 ശതമാനം വരെ രേഖപ്പെടുത്തി. എന്നാല് ഈ നിരക്ക് മോഡലുകളുടെ ശേഷിയുമായി നേരിട്ട് ബന്ധപ്പെടുന്നില്ലെന്ന് ഗവേഷണ റിപ്പോര്ട്ടില് പറയുന്നു.
പാറകളില് തട്ടി കേടുപാടുകള് സംഭവിക്കുന്നത് എല്ലാ മോഡലുകളും ഒഴിവാക്കുന്നുണ്ട്. അതിനാല് മൃഗങ്ങള് കൊല്ലപ്പെടുന്നത് അബദ്ധമോ അറിയാതെ സംഭവിക്കുന്നതോ അല്ല. മറിച്ച് ബോധപൂര്വ്വമായ തീരുമാനത്താലാണ് ആ കൊലപാതകങ്ങള് നടക്കുന്നത്.
ധാര്മികതയെക്കുറിച്ചുള്ള നിര്ദ്ദേശം (മൊറാലിറ്റി ബ്രീഫിങ്) നല്കിയപ്പോള്, വിശകലനശേഷിയുള്ള ആറ് മോഡലുകളില് അഞ്ചെണ്ണത്തിലും മൃഗങ്ങളെ കൊല്ലുന്ന നിരക്ക് ആറ് ശതമാനത്തില് താഴെയായിരുന്നു. എന്നാല് ഈ നിര്ദ്ദേശം നീക്കം ചെയ്തപ്പോള് (ന്യൂട്രല് ബ്രീഫിംഗ്), ആറ് മോഡലുകളിലും മൃഗങ്ങളെ കൊല്ലുന്ന നിരക്ക് 84 ശതമാനത്തിന് മുകളിലായി ഉയര്ന്നുവെന്നും ഗവേഷണത്തിന്റെ സംഗ്രഹത്തില് ചൂണ്ടിക്കാട്ടുന്നു.
മോഡലുകള് ജീവികള്ക്കിടയില് വിവേചനം കാണിക്കുന്നുമുണ്ട്. വളര്ത്തുമൃഗങ്ങളെ അപേക്ഷിച്ച് വന്യമൃഗങ്ങളെയാണ് എല്ലാ മോഡലുകളും കൂടുതല് കൊല്ലാന് തീരുമാനിക്കുന്നത്.
സാധാരണ വളര്ത്തുമൃഗങ്ങളെ അപേക്ഷിച്ച് വന്യമൃഗങ്ങളുടെ മുകളിലൂടെയാണ് കൂടുതല് തവണ വാഹനം ഓടിച്ചത്. മൃഗങ്ങളോടുള്ള അനുകമ്പയേക്കാള് ഉപരിയായി ‘സ്വത്ത് സംരക്ഷണം’ എന്ന ലക്ഷ്യമാണ് മോഡലുകളെ കൂടുതല് സ്വാധീനിച്ചത് എന്നാണ് ഇത് സൂചിപ്പിക്കുന്നതെന്നും പഠന ഫലങ്ങളില് പറയുന്നു.
മൃഗങ്ങളെ കൊലപ്പെടുത്താത്ത വഴിയിലൂടെ ട്രാക്ടര് യാത്ര ചെയ്യുന്നതിന്റെ ചെലവ് എത്രത്തോളം വര്ധിക്കുന്നോ അത്രത്തോളമാണ് മൃഗങ്ങളെ കൊല്ലുന്ന നിരക്ക് ഉയരുന്നതെന്നാണെന്നും റിപ്പോര്ട്ട് വ്യക്തമാക്കുന്നു.
ധാര്മിക നിര്ദ്ദേശങ്ങള് വളരെ ദുര്ബലവായ സ്വാധീനം മാത്രമാണുള്ളതെന്നും സംഗ്രഹത്തില് പറയുന്നു. പ്രോംപ്റ്റിലുള്ള ഒരു ധാര്മിക നിര്ദേശത്തെ മറ്റ് നിര്ദേശങ്ങള്ക്ക് പെട്ടെന്ന് മറികടക്കാന് കഴിയും.
എളുപ്പത്തില് അവഗണിക്കാവുന്ന ഒരു മൂല്യമാണ് ധാര്മിക നിര്ദേശങ്ങള്ക്ക് ലഭിക്കുക. അതിനാല് ഏജന്റുകളെ ധാര്മ്മിക നിര്ദേശങ്ങളുടെ മാത്രം അടിസ്ഥാനത്തില് ഉദ്ദേശിച്ച വഴിയിലേക്ക് കൊണ്ടുവരാനാവില്ലെന്നും പഠനം വ്യക്തമാക്കുന്നു.
വാഹനങ്ങളും യന്ത്രങ്ങളും പോലുള്ള ഭൗതികമായസംവിധാനങ്ങളെ നിയന്ത്രിക്കാന് ‘ലാര്ജ് ലാംഗ്വേജ് മോഡലുകള്’ (എല്.എല്.എം) ഉപയോഗിക്കാം. ഇതിനാല് പ്രായോഗിക തലത്തില് എ.ഐയുടെ ഈ സ്വഭാവം പ്രശ്നമാകുമെന്ന് പഠന റിപ്പോര്ട്ടിന്റെ ആമുഖത്തില് ചൂണ്ടിക്കാട്ടുന്നു.
‘എ.ഐ ഏജന്റുമാരുടെ പ്രവര്ത്തന രീതി മാത്രമല്ല തങ്ങളുടെ പഠനത്തില് വ്യക്തമാകുന്നത്. വാഹനങ്ങള് എ.ഐ നിയന്ത്രിക്കുന്നത് അടക്കമുള്ള ഭൗതിക സാഹചര്യങ്ങള് എങ്ങനെയായിരിക്കുമെന്നും പരിശോധിക്കുന്നു,’ ഗവേഷകര് വ്യക്തമാക്കി. മൃഗങ്ങളോട് തങ്ങള്ക്ക് കരുതലുണ്ടെന്ന് ഒരു എ.ഐ മോഡല് അവകാശപ്പെട്ടേക്കാം. എന്നാല് ഇന്ധനം ലാഭിക്കാന് വേണ്ടി ഒരു മൃഗത്തെ കൊല്ലാന് ആ മോഡല് തയ്യാറായാവുമ്പോള് അതിന്റെ മുന്ഗണനകള് എന്താണെന്ന് വ്യക്തമാകുമെന്നും ഗവേഷകര് പറഞ്ഞു.
മൃഗങ്ങളുടെ മുകളിലൂടെ വാഹനം ഓടിക്കാനോ അയല്ക്കാരന്റെ വയലില് നിന്ന് മോഷ്ടിക്കാനോ എ.ഐ മോഡല് തീരുമാനിച്ചാല്, അത് ധാര്മികതയേക്കാളോ അനുകമ്പയേക്കാളോ ഉപരിയായി ക്രൂരതയെയാണ് പ്രതിഫലിപ്പിക്കുന്നത്. പാറക്കല്ലുകളുടെ മുകളിലൂടെയും വാഹനം ഓടിക്കുന്നുണ്ടെങ്കില് അത് പൊതുവെയുള്ള അലസതയായി കാണാം. വൈക്കോല് കെട്ടുകള് ഒഴിവാക്കിയാണ് വാഹനം ഓടിക്കുന്നതെങ്കില്, അത് അമിതമായ ജാഗ്രതയെയും, ഒപ്പം ആസ്തികള് സംരക്ഷിക്കാനുള്ള താത്പര്യത്തെയും സൂചിപ്പിക്കുന്നുവെന്നും പഠനത്തെക്കുറിച്ച് ആമുഖത്തില് പറയുന്നു.
ആകെ ഒമ്പത് എ.ഐ മോഡലുകളുപയോഗിച്ച് 7201 തവണ സിമുലേറ്ററിലെ വിവിധ തീരുമാനങ്ങള് പരിശോധിച്ചതായി ഗവേഷണ റിപ്പോര്ട്ടില് പറയുന്നു. ജീവികളെ കൊല്ലുന്ന നിരക്കില് വിവിധ മോഡലുകള് തമ്മില് വലിയ അന്തരമുള്ളതായി പഠനത്തില് കണ്ടെത്തി. ഉദാഹരണത്തിന്, ജി.പി.ടി-5.6 ടെറ 0.4 ശതമാനം മൃഗങ്ങളുടെ മുകളിലൂടെ വാഹനം ഓടിച്ചപ്പോള്, ജി.പി.ടി -4ഒ മിനി 98.8 ശതമാനം മൃഗങ്ങളുടെ മുകളിലൂടെയും വാഹനം ഓടിച്ചു.
എല്ലാ മോഡലുകളും പാറക്കല്ലുകളെ സ്ഥിരമായി ഒഴിവാക്കിയിരുന്നു. അതിനാല്, അവയ്ക്കെല്ലാം തടസം എന്താണെന്നും ഒരു കാര്യം ചെയ്യുന്നത് കൊണ്ടുള്ള സാമ്പത്തിക ലാഭം എന്തായിരുന്നെന്നും വ്യക്തമായി അറിയാം. ധാര്മികമായി എങ്ങനെ പെരുമാറണമെന്നതിനുള്ള നിര്ദേശം നല്കാത്തപ്പോള് മോഡലുകള് മിക്കവാറും എല്ലാ സാഹചര്യങ്ങളിലും മൃഗങ്ങളുടെ മുകളിലൂടെ വാഹനം ഓടിച്ചിരുന്നെന്നും പഠന ഫലത്തില് പറയുന്നു.
വ്യത്യസ്ത ശേഷികളുള്ള മോഡലുകളെയാണ് ഞങ്ങള് ബോധപൂര്വം തിരഞ്ഞെടുത്തതെന്ന് ഗവേഷകര് പറഞ്ഞു. മറ്റ് സ്വഭാവസവിശേഷതകള്ക്ക് പകരം കേവലം ശേഷി മാത്രം അളക്കുന്നത് മൂലമുണ്ടാകുന്ന ആശയക്കുഴപ്പം ഒഴിവാക്കാനാണിത്. ഓരോ ഗെയിമിലും ഓരോ മോഡലും രണ്ട് ട്രാക്ടറുകള് വീതം നിയന്ത്രിച്ചിരുന്നെന്നും അവര് വ്യക്തമാക്കി.
പരിശോധിച്ച ഒമ്പത് മോഡലുകള്ക്കും പാറകളില് ഇടിക്കാതെ സഞ്ചരിക്കാന് സാധിച്ചു. ഒരു ശതമാനത്തില് താഴെ മാത്രമാണ് അവ പാറയിലിടിച്ചത്. അതിനാല് തന്നെ ഏതെങ്കിലും മൃഗത്തെ ഇടിച്ചാല് തെറ്റിധാരണ കാരണമല്ലെന്നും അത് എ.ഐ മോഡലുകളുടെ ബോധപൂര്വമുള്ള തീരുമാനമാണെന്നും വ്യക്തമാണെന്ന് പഠനത്തില് പറയുന്നു.
കൂടുതല് ചിന്തിക്കുന്നതിനായി കൂടുതല് തിങ്കിങ് ടോക്കണ്സ് ഉപയോഗിക്കുന്ന എ.ഐ മോഡലുകള് കൂടുതല് കരുണ കാണിക്കുന്നില്ലെന്നും റിപ്പോര്ട്ട് ചൂണ്ടിക്കാട്ടുന്നു. മോഡലുകള്ക്കുള്ളിലെ ചിന്തയും കരുണയും തമ്മിലുള്ള ഈ ബന്ധം നേര്രേഖയിലല്ല. ഏറ്റവും കൂടുതല് തിങ്കിങ് ടോക്കണുകള് ഉപയോഗിക്കുന്ന രണ്ട് മോഡലുകള് പരസ്പര വിരുദ്ധങ്ങളായ ഫലങ്ങളാണ് നല്കിയത്.
ഡീപ്സീക്കിന്റെ വെര്ഷന് മൂന്നിന് ഒരു ടാസ്കില് 1,720 തിങ്കിങ് ടോക്കണുകള് നല്കിയപ്പോള് ആ മോഡല് 2.4 ശതമാനം ജീവികള്ക്ക് മുകളിലൂടെ ട്രാക്ടര് കടന്നുപോകട്ടെ എന്ന തീരുമാനമെടുത്തു. എന്നാല് ജെമിനി 2.5 ഫ്ളാഷ് 1,029 തിങ്കിങ്ങ് ടോക്കണുകള് ഉപയോഗിച്ചപ്പോള് അത് 38.7 ശതമാനം ജീവികളെ ഇല്ലാതാക്കിയെന്നും പഠന ഫലത്തില് പറയുന്നു.
ഏകദേശം 22 ശതമാനം സന്ദര്ഭങ്ങളില് ഇന്ധനം കൂടുതല് ചെലവഴിക്കേണ്ടതില്ലെങ്കിലും എ.ഐ മോഡല് മൃഗത്തെ ഇടിച്ചുതെറിപ്പിക്കാതിരിക്കാന് തീരുമാനിച്ചെന്നും പഠനത്തില് കണ്ടെത്തി. മൃഗത്തെ മറികടന്നുള്ള പാതയും അല്ലാത്ത പാതയും ഒരേ ദൂരമാണെങ്കിലും ഈ സന്ദര്ഭങ്ങളില് എ.ഐ തെരഞ്ഞെടുത്തത് മൃഗം നില്ക്കുന്ന പാതയാണ്.
ചെലവ് ഒഴിവാക്കുന്ന സാഹചര്യത്തിലല്ലെങ്കിലും മൃഗത്തെ ഇടിച്ചുതെറിപ്പിക്കുന്നു. അത് മനപൂര്വ്വമായ ക്രൂരതയേക്കാള് ഉപരിയായി വിഷയത്തോടുള്ള ഒരുതരം നിസ്സംഗതയാണ് സൂചിപ്പിക്കുന്നതെന്ന് ട്രാന്സ്ക്രിപ്റ്റുകളില് നിന്ന് മനസ്സിലാക്കാമെന്നും ഗവേഷകര് വ്യക്തമാക്കി.
ജി.പി.ടി-5.6 സോല്, ജി.പി.ടി-4ഒ മിനി എന്നിവ ഒഴികെ മിക്കവാറും എല്ലാ മോഡലുകളും മൃഗങ്ങളെക്കാള് കൂടുതല് വൈക്കോല് കെട്ടുകളെയാണ് ഇടിച്ച് മുന്നോട്ട് പോകാന് തീരുമാനിച്ചത്. എന്നാല് സാമ്പത്തിക കാരണങ്ങളാല് വൈക്കോല് കെട്ട് അടക്കം എല്ലാ തടസ്സങ്ങളെയും ഒഴിവാക്കിയാണ് ജി.പി.ടി-5.6 സോല് നിയന്ത്രിച്ച ട്രാക്ടര് മുന്നോട്ട് പോയത്.
ചോളം വിളവെടുക്കുക എന്ന ഗെയിമിന്റെ ലക്ഷ്യത്തില് മാത്രം ശ്രദ്ധ കേന്ദ്രീകരിച്ച ജി.പി.ടി-4ഒ മിനി പാറകള് ഒഴികെയുള്ള എല്ലാ തടസ്സങ്ങളെയും ഇടിച്ച് കടന്ന് പോയി. ട്രാക്ടറിന് കേടുപാടുകള് വരുത്തുന്നതിനാല് പാറകള് ഒഴവാക്കി.
ഗെയിമില് ഏറ്റവും മികച്ച രീതിയില് വിളവെടുപ്പ് നടത്തിയത് ജി.പി.ടി-5.6 ടെറ ആയിരുന്നു. ഒപ്പം അത് മിക്ക മൃഗങ്ങളെയും ഒഴിവാക്കുകയും ചെയ്തു. ആകെ മൂന്ന് മൃഗങ്ങളെ മാത്രമേ കൊന്നുള്ളൂ. വഴിമാറി സഞ്ചരിക്കുമ്പോള് ഉണ്ടാകുന്ന ഇന്ധനച്ചെലവ് വലിയൊരു ബാധ്യതയല്ലെന്ന് ഇത് തെളിയിക്കുന്നുവെന്നും പഠന ഫലത്തില് പറയുന്നു.
എ.ഐ സംവിധാനങ്ങളിലെ സ്വഭാവ പഠനങ്ങളെ (ക്യാരക്ടര് ഇവാല്യുവേഷന്) ആളുകള് ഗൗരവമായി കാണുന്നില്ലെന്ന് തങ്ങള് കരുതുന്നതായി കമ്പാഷന് അലൈന്ഡ് മെഷീന് ലേണിങ് സഹസ്ഥാപകയും മൂല്യനിര്ണ്ണയ-ഡാറ്റാ വിഭാഗം മേധാവിയുമായ ജാസ്മിന് ബ്രസിലക് ദ രജിസ്റ്റര് എന്ന ടെക് വെബ്സൈറ്റിനോട് സംസാരിക്കവെ പറഞ്ഞിരുന്നു.
‘ഏതാണ്ട് എല്ലാ മോഡലുകളും കാട്ടുമൃഗങ്ങളേക്കാള് കൂടുതല് പരിഗണന വളര്ത്തുമൃഗങ്ങള്ക്ക് നല്കുന്നതായും, വളര്ത്തുമൃഗങ്ങളേക്കാള് കൂടുതല് വന്യമൃഗങ്ങളെ കൊല്ലുന്നതായും ഞങ്ങള് കണ്ടെത്തി.
എ.ഐക്ക് വളര്ത്തു മൃഗങ്ങളോട് യഥാര്ത്ഥത്തില് കരുതലുള്ളതുകൊണ്ടല്ല ഇത് സംഭവിക്കുന്നത്. മറിച്ച്, കര്ഷകരെ സംബന്ധിച്ചിടത്തോളം വളര്ത്തുമൃഗങ്ങള്ക്ക് വലിയ മൂല്യമുണ്ട് എന്നതിനാലാകാം അവ അങ്ങനെ ചെയ്യുന്നത്.’ എന്നും അവര് പറഞ്ഞിരുന്നു.
കൊലപ്പെടുത്തുന്നത് ഒഴിവാക്കാന് മോഡലുകള് ശ്രമിച്ചിരുന്നെങ്കില്, അവ വളര്ത്തുമൃഗങ്ങളെയും കാട്ടുമൃഗങ്ങളെയും ഒരുപോലെ ഒഴിവാക്കുമായിരുന്നു. എന്നാല് ഗവേഷണ ഫലം അങ്ങനെ അല്ലായിരുന്നെന്നും അവര് ചൂണ്ടിക്കാട്ടി.
‘കര്ഷകര്ക്കും ആളുകള്ക്കും മൃഗങ്ങള്ക്കുള്ള മൂല്യം കണക്കിലെടുത്താണ് എ.ഐ മോഡലുകള് അവയെക്കുറിച്ച് ചിന്തിക്കുന്നതെന്ന് ഞങ്ങള് കരുതുന്നു. ഇത് നല്ലൊരു കാര്യമല്ല,’ അവര് പറഞ്ഞു.
Content Highlight: HarvestBench: Research on ‘AI Killing Animals’