കാലിഫോര്‍ണിയ: സ്‌കൂളുകളില്‍ നിന്ന് കുട്ടികള്‍ക്ക് പഠനത്തിനായി നല്‍കുന്ന ക്രോംബുക്ക് കമ്പ്യൂട്ടറുകളിലെ ഗൂഗിള്‍ ജെമിനി ചാറ്റ്ബോട്ട് 13 വയസുകാരിയെ ആത്മഹത്യയ്ക്ക് പ്രേരിപ്പിച്ചതായി പരാതി. വടക്കന്‍ കരോളൈനയിലെ ഷാര്‍ലറ്റില്‍ നിന്നുള്ള എമ്മ എന്ന എട്ടാം ക്ലാസ് വിദ്യാര്‍ത്ഥിനിയുടെ മാതാപിതാക്കളാണ് ഗൂഗിളിനെതിരെ കാലിഫോര്‍ണിയ കോടതിയില്‍ 104 പേജുകളുള്ള അതീവ ഗുരുതരമായ കുറ്റപത്രം ഫയല്‍ ചെയ്തിരിക്കുന്നത്.
എഡ്ടെക് ലാ സെന്റര്‍ എന്ന നിയമ സംഘടനയാണ് ഈ കേസ് കോടതിയില്‍ എത്തിച്ചത്.
സാങ്കേതികവിദ്യയുടെ അമിതമായ കടന്നുകയറ്റം കുട്ടികളുടെ മാനസികാരോഗ്യത്തെ എങ്ങനെ ബാധിക്കുന്നു എന്നതിനെക്കുറിച്ചുള്ള വലിയ ആഗോള ചര്‍ച്ചകള്‍ക്കാണ് ഈ സംഭവം ഇപ്പോള്‍ വഴിവെച്ചിരിക്കുന്നത്.
കോടതി രേഖകള്‍ പ്രകാരം, പെണ്‍കുട്ടി മാസങ്ങളായി പതിനായിരക്കണക്കിന് സന്ദേശങ്ങളാണ് ഗൂഗിളിന്റെ ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സ് സംവിധാനമായ ജെമിനിയുമായി കൈമാറിയത്. ഈ സംഭാഷണങ്ങളിലൂടെ കുട്ടിക്ക് കടുത്ത മാനസിക അസ്വാസ്ഥ്യങ്ങള്‍ ഉണ്ടെന്ന് ജെമിനി തെറ്റായി സ്ഥാപിച്ചെടുക്കുകയായിരുന്നു.
എങ്ങനെ ജീവനൊടുക്കാം എന്നതിനെക്കുറിച്ച് വളരെ കൃത്യമായ വഴികളും പദ്ധതികളും എ.ഐ ചാറ്റ്ബോട്ട് കുട്ടിയെ പഠിപ്പിച്ചുവെന്നും കുട്ടിയുടെ സ്വന്തം ശവസംസ്‌കാര ചടങ്ങ് എങ്ങനെ നടത്തണം, അതിനായി എന്തൊക്കെ തയ്യാറാക്കണം എന്ന് പ്ലാന്‍ ചെയ്യാന്‍ എ.ഐ സഹായിച്ചുവെന്നും പരാതിയില്‍ പറയുന്നു.
കുട്ടിയുടെ മാറ്റങ്ങളും മാനസിക ബുദ്ധിമുട്ടുകളും മാതാപിതാക്കളോ സ്‌കൂളിലെ അധ്യാപകരോ അറിയാതിരിക്കാന്‍ എങ്ങനെ ശ്രദ്ധിക്കണം എന്നതിനെക്കുറിച്ചുള്ള ഉപദേശങ്ങളും ജെമിനി നല്‍കി.
2026 മാര്‍ച്ചിലാണ് ഈ ഞെട്ടിക്കുന്ന വിവരങ്ങള്‍ പുറത്തുവരുന്നത്. സ്‌കൂളിലെ കുട്ടികളുടെ ഇന്റര്‍നെറ്റ് ഉപയോഗം നിരീക്ഷിക്കുന്ന സോഫ്റ്റ്വെയര്‍ കുട്ടിയുടെ അക്കൗണ്ടില്‍ ‘Funeral’ (ശവസംസ്‌കാരം) എന്ന പേരില്‍ ഒരു ഗൂഗിള്‍ ഡോക്യുമെന്റ് കണ്ടെത്തുകയും അത് അധികൃതര്‍ക്ക് ഫ്‌ലാഗ് ചെയ്യുകയുമായിരുന്നു.
വിവരമറിഞ്ഞ് മാതാപിതാക്കള്‍ ഉടന്‍ തന്നെ കുട്ടിയുടെ അക്കൗണ്ട് ലോഗിന്‍ ചെയ്ത് പരിശോധിച്ചപ്പോള്‍, പെണ്‍കുട്ടി കമ്പ്യൂട്ടറില്‍ തത്സമയം ഒരു ആത്മഹത്യാക്കുറിപ്പ് എഴുതിക്കൊണ്ടിരിക്കുന്നതാണ് കണ്ടത്. നിമിഷങ്ങളുടെ വ്യത്യാസത്തില്‍ മാതാപിതാക്കള്‍ കുട്ടിയെ തടയുകയും, ഉടന്‍ തന്നെ അടിയന്തിര മാനസികാരോഗ്യ പരിശോധനയ്ക്കായി ആശുപത്രിയില്‍ പ്രവേശിപ്പിക്കുകയും ചെയ്തു.
ഡിസൈനിലെ തകരാറുകള്‍, സുരക്ഷാ മുന്നറിയിപ്പുകള്‍ നല്‍കാതിരിക്കല്‍, ഗുരുതരമായ അനാസ്ഥ, വഞ്ചനാപരമായ ഒളിച്ചുവെക്കല്‍, ബോധപൂര്‍വം മാനസിക പീഡനത്തിന് ഇരയാക്കല്‍ തുടങ്ങിയ വകുപ്പുകള്‍ ചേര്‍ത്താണ് ഗൂഗിളിനെതിരെ കേസ് എടുത്തിരിക്കുന്നത്. ആദ്യം കാലിഫോര്‍ണിയ സ്റ്റേറ്റ് കോടതിയില്‍ ഫയല്‍ ചെയ്ത കേസ്, പിന്നീട് ഗൂഗിളിന്റെ ആവശ്യപ്രകാരം ഫെഡറല്‍ കോടതിയിലേക്ക് മാറ്റിയിട്ടുണ്ട്.
മാതാപിതാക്കളുടെ അനുവാദമില്ലാതെ, വിദ്യാര്‍ത്ഥികള്‍ക്ക് ഒഴിവാക്കാന്‍ കഴിയാത്ത രീതിയില്‍ ഗൂഗിള്‍ സെര്‍ച്ചിന്റെ ഭാഗമായി ‘AI Mode’, ‘AI Overviews’ എന്നിവ നിര്‍ബന്ധപൂര്‍വം അടിച്ചേല്‍പ്പിച്ചു എന്നാണ് പ്രധാന ആക്ഷേപം.
കേസിനെത്തുടര്‍ന്ന് വന്‍ പ്രതിഷേധം ഉയര്‍ന്നതോടെ, സ്‌കൂള്‍ വിദ്യാര്‍ത്ഥികളുടെ അക്കൗണ്ടുകളില്‍ ജെമിനി എ.ഐ ഫീച്ചര്‍ തനിയെ പ്രവര്‍ത്തിക്കുന്നത് നിര്‍ത്തലാക്കാന്‍ ഗൂഗിള്‍ നിര്‍ബന്ധിതരായി.
ഈ സംഭവത്തെക്കുറിച്ച് ഗൂഗിള്‍ വക്താവ് ജോസ് കാസ്റ്റനെഡ പ്രതികരിച്ചത്, തങ്ങള്‍ ഈ ആരോപണങ്ങളെ അതീവ ഗൗരവത്തോടെയാണ് കാണുന്നതെന്നും, ഇത്തരം പ്രതിസന്ധികള്‍ കണ്ടെത്താന്‍ മെഡിക്കല്‍-അക്കാദമിക് വിദഗ്ദ്ധരുമായി ചേര്‍ന്ന് കൂടുതല്‍ സുരക്ഷാ ഫില്‍ട്ടറുകള്‍ വികസിപ്പിക്കാന്‍ ശ്രമിക്കുന്നുണ്ടെന്നുമാണ്.
ശ്രദ്ധിക്കുക: നിങ്ങളോ നിങ്ങള്‍ക്ക് അറിയാവുന്ന ആരെങ്കിലുമോ കടുത്ത മാനസിക ബുദ്ധിമുട്ടുകള്‍ അനുഭവിക്കുന്നുണ്ടെങ്കില്‍ ദയവായി സഹായം തേടുക. കേരള ആരോഗ്യ വകുപ്പിന്റെ ‘ദിശ’ ഹെല്‍പ്ലൈന്‍ നമ്പറായ 1056 അല്ലെങ്കില്‍ 0471-2552056 എന്നിവയില്‍ വിളിച്ച് സൗജന്യമായി 24 മണിക്കൂറും കൗണ്‍സിലിങ് സേവനങ്ങള്‍ നേടാവുന്നതാണ്.
Content Highlight: Gemini helped a 13-year-old girl devise a plan for her own funeral; parents file a lawsuit against Google.