സമൂഹമാധ്യമത്തിൽ പോസ്റ്റ് ചെയ്യുന്ന ഒരു ഫോട്ടോയും ഒരു പ്രോംപ്ടും മതി, സെക്കൻഡുകൾക്കുള്ളിൽ വിവസ്ത്ര ചിത്രം റെഡി! സ്ത്രീകളുടെയും കുട്ടികളുടെയും ചിത്രങ്ങൾ ഉപയോഗിച്ചുള്ള എഐയുടെ ദുരുപയോഗത്തിൽ ഇപ്പോൾ ഇലോൺ മസ്കിന്റെ ഉടമസ്ഥതയിലുള്ള സമൂഹമാധ്യമ പ്ലാറ്റ്ഫോമായ എക്സിനെതിരെ നടപടിയെടുത്തിരിക്കുകയാണ് കേന്ദ്രസർക്കാർ. എക്സിന്റെ എഐ ടൂൾ ആയ ഗ്രോക് എഐയുടെ ദുരുപയോഗത്തിലാണ് കേന്ദ്രം നോട്ടിസ് അയച്ചിരിക്കുന്നത്. ഗ്രോക്കിന്റെ ദുരുപയോഗം തടയാൻ എന്തൊക്കെ നടപടികൾ എടുത്തുവെന്ന് 72 മണിക്കൂറിനുള്ളിൽ വിശദമായ റിപ്പോർട്ട് വേണമെന്നാണ് കേന്ദ്രസർക്കാരിന്റെ അന്ത്യശാസനം. ഫ്രാൻസും ഗ്രോക് എഐക്ക് എതിരെ നീക്കങ്ങൾ തുടങ്ങിയിട്ടുണ്ട്. ആഗോളതലത്തിലും സൂക്ഷ്മപരിശോധന നേരിടുകയാണ് ഗ്രോക് എഐ. ഫോട്ടോകൾ അപ്ലോഡ് ചെയ്യുകയും ഗ്രോക്കിന്റെ ഇമേജ് എഡിറ്റിങ് ഫീച്ചറിന് നിർദേശം നൽകി അവയെ ലൈംഗികച്ചുവയുള്ള രീതിയിൽ മാറ്റം വരുത്തുകയുമാണ് ചെയ്തതെന്നാണ് റിപ്പോർട്ടുകൾ. ഇത് പല രാജ്യങ്ങളിലെയും കുട്ടികളുടെ സംരക്ഷണ, ക്ഷേമ നിയമങ്ങളുടെ നേരിട്ടുള്ള ലംഘനമാണ്.
- Also Read ‘പ്രതിഷേധക്കാരെ വെടിവച്ചാൽ യുഎസ് ഇടപെടും’: ഇറാന് മുന്നറിയിപ്പുമായി ട്രംപ്
അതിരുവിട്ട് ഗ്രോക് എഐ
പുതുവത്സര രാത്രിയിൽ തന്റെ കറുത്ത പൂച്ചയുമായി ചുവപ്പ് വസ്ത്രം ധരിച്ച് കിടക്കയിൽ ഇരിക്കുന്ന ഫോട്ടോ റിയോ ഡി ജനീറോ ആസ്ഥാനമായി പ്രവർത്തിക്കുന്ന സംഗീതജ്ഞ ജൂലി യുകാരി സമൂഹമാധ്യമമായ എക്സിൽ പോസ്റ്റ് ചെയ്തിരുന്നു. എന്നാൽ ഈ ചിത്രം ഉപയോഗിച്ച് ജൂലി ബിക്കീനി ധരിച്ച് നിൽക്കുന്ന ഫോട്ടോ ഉണ്ടാക്കിത്തരാൻ ചില യൂസർമാർ എക്സിന്റെ എഐ ആയ ഗ്രോക്കിയോട് ആവശ്യപ്പെട്ടു, ഗ്രോക് അത് ഉണ്ടാക്കിക്കൊടുക്കുകയും പിന്നാലെ ഇവ വ്യാപകമായി എക്സിൽത്തന്നെ പ്രചരിക്കുകയും ചെയ്തു. നെറ്റ്ഫ്ലിക്സിലെ സീരീസ് ആയ ‘സ്ട്രേഞ്ചർ തിങ്സിലെ’ കഥാപാത്രമായ പതിനാലുകാരി നെൽ ഫിഷറിന്റെ ഫോട്ടോ കൊടുത്ത് ഗ്രോക്കിനോട് കുട്ടിയെ വിവസ്ത്രയാക്കാൻ ആവശ്യപ്പെട്ടതും എഐ ടൂൾ അതുപോലെ നൽകിയതും വ്യാപകമായി പ്രചരിക്കപ്പെട്ടിരുന്നു. പ്രായപൂർത്തിയാകാത്ത കുട്ടിക്കുനേരെ നടന്ന ഈ അതിക്രമവും എക്സിനും ഗ്രോക്കിനും അതുവഴി സ്ഥാപന മേധാവി ഇലോൺ മസ്കിനുമെതിരെ വൻ പ്രതിഷേധമാണ് ഉയർത്തിയിരിക്കുന്നത്. ഗ്രോക് ഉപയോഗിച്ചു നിർമിക്കപ്പെടുന്ന പലതും ഗ്രോക്കിന്റെ തന്നെ മാനദണ്ഡങ്ങൾക്കെതിരാണെന്നും വിമർശനം ഉയർന്നുകഴിഞ്ഞു.
- Also Read വെനസ്വേലയിൽ ബോംബാക്രമണം: അടിയന്തരാവസ്ഥ പ്രഖ്യാപിച്ച് മഡുറോ; പ്രതികരിക്കാതെ യുഎസ്
മറ്റ് എതിരാളികളെ അപേക്ഷിച്ച് നിയന്ത്രണങ്ങൾ കുറഞ്ഞ, കൂടുതൽ ‘സ്വതന്ത്രമായ’ എഐ ആയാണ് ഗ്രോക്ക് വിപണിയിലെത്തിയത്. മോഡറേറ്റ് ചെയ്യപ്പെടാത്ത, സെൻസിറ്റീവ് ആയ മറുപടികൾ നൽകാൻ ഗ്രോക്കിന് കഴിയുമെന്ന് റിപ്പോർട്ടുകൾ നേരത്തേ വന്നിരുന്നു. ഗ്രോക്കിന്റെ സുരക്ഷാ സംവിധാനങ്ങൾ അപര്യാപ്തമോ അല്ലെങ്കിൽ എളുപ്പത്തിൽ മറികടക്കാവുന്നതോ ആയിരുന്നുവെന്നാണ് ഈ സംഭവങ്ങൾ വ്യക്തമാക്കുന്നത്. മോഡറേഷനിലെ പഴുതുകൾ ഉപയോക്താക്കൾ മുതലെടുക്കുന്ന അവസ്ഥയാണ് ഗ്രോക്കിൽ ഉണ്ടായിരിക്കുന്നതെന്നാണ് വിദഗ്ധർ വിലയിരുത്തുന്നത്.
 
- സിനിമയ്ക്കിടെ ‘ലോക’യുടെ കഥ വിവരിച്ചു കേൾക്കുന്ന പെൺകുട്ടി; കൂക്കിവിളി, കമന്റടി, മൊബൈൽ വിളി; തിയറ്ററിൽ മിണ്ടാതിരിക്കാൻ പറയേണ്ടിവരുന്ന ഗതികേട്!
- കടം തീരും, കൈനിറയെ പണവും; തടി കുറയും, കുടിയും നിർത്താം; 3 മിനിറ്റിൽ പൊലീസ് സുരക്ഷ; 2026ൽ വൈറസിനോടും ഗുഡ്ബൈ; ഇനി പറയാം ‘ഹാപ്പി ന്യൂഇയർ’
- അമ്മയുടെ ആ വാക്കുകൾക്കു മുന്നില് അന്ന് ലാൽ കരഞ്ഞു; ഷൂട്ടിങ് കാണാൻ പോയത് ഒരിക്കൽ മാത്രം; യാത്ര പറഞ്ഞു, ഒരു സങ്കടം ബാക്കിവച്ച്...
MORE PREMIUM STORIES
സ്ത്രീകളെ ഡിജിറ്റൽ രീതിയിൽ നഗ്നയാക്കുന്ന ‘നുഡിഫയർസ്’ എന്ന് വിളിക്കപ്പെടുന്ന എഐ പ്രോഗ്രാമുകൾ വർഷങ്ങളായി നിലവിലുണ്ട്. എന്നാൽ അവ സാധാരണയായി ഇന്റർനെറ്റിന്റെ ഇരുണ്ട കോണുകളിലോ പ്രത്യേക വെബ്സൈറ്റുകളിലോ, ടെലഗ്രാം ചാനലുകളിലോ ഒതുങ്ങിയതായിരുന്നു. പലപ്പോഴും പണവും മറ്റും നൽകിയാലേ അവ ഉപയോഗിക്കൻ സാധിക്കുമായിരുന്നുള്ളൂ. അത്യാധുനിക എഐ ടൂളുകള് എത്തിയതോടെ ഒരു ഫോട്ടോ അപ്ലോഡ് ചെയ്ത് ‘‘@grok അവളെ ബിക്കീനിയിൽ ആക്കുക’’ എന്ന് ടൈപ്പ് ചെയ്താൽ ആ പ്രോംപ്ട് അതേപടി അനുസരിക്കുന്ന ഫലം ലഭിക്കും.
എഐയെ നിയന്ത്രിക്കുന്നത് ആര്?
ജെനറേറ്റീവ് എഐ സംവിധാനങ്ങൾ എങ്ങനെ നിയന്ത്രിക്കപ്പെടുന്നു എന്നതിലെ പരാജയമാണ് ഇതു തുറന്നുകാട്ടുന്നത്. ഉപയോക്താക്കൾക്കു യഥാർഥ ചിത്രങ്ങൾ അപ്ലോഡ് ചെയ്യുമ്പോഴും എഐ ടൂളുകൾക്ക് ആ ചിത്രങ്ങളിൽ യാഥാർഥ്യത്തോടു ചേർന്നുനിൽക്കുന്ന മാറ്റങ്ങൾ വരുത്താൻ സാധിക്കുമ്പോഴും എഐയെ നിയന്ത്രിക്കുന്ന സുരക്ഷാ സംവിധാനങ്ങൾ പരാജയപ്പെടുന്നു. മുൻപ്, മറ്റെവിടെയെങ്കിലും നിർമിച്ച ഹാനികരമായ ഉള്ളടക്കങ്ങൾ പ്ലാറ്റ്ഫോമുകളിൽ പോസ്റ്റ് ചെയ്യുക മാത്രമാണു ചെയ്തിരുന്നത്. എന്നാൽ അതിൽനിന്നു വ്യത്യസ്തമായി ഇപ്പോൾ പ്ലാറ്റ്ഫോം തന്നെയാണ് നിയമവിരുദ്ധമായ ഉള്ളടക്കം നിർമിക്കുന്നത് എന്നതിലേക്ക് കാര്യങ്ങളെത്തി.
ആധുനിക എഐ ഇമേജ് മോഡലുകൾക്കു വളരെ യാഥാർഥ്യബോധമുള്ള ദൃശ്യങ്ങൾ നിർമിക്കാൻ കഴിയും. ഇതുമൂലം എഐ നിർമിത ചിത്രങ്ങളും യഥാർഥ ഫോട്ടോകളും തമ്മിൽ തിരിച്ചറിയുക പ്രയാസമായി. ഇത്തരം ദുരുപയോഗം വ്യാപിക്കുന്നതിനു മുൻപുതന്നെ എഐ ഉപയോഗിച്ചോ മറ്റോ ഇവയെ കണ്ടെത്തി നീക്കം ചെയ്യുക എന്നതിലേക്ക് ഇത്തരം പ്ലാറ്റ്ഫോമുകൾ മാറേണ്ടിവരും. മാത്രമല്ല, ഇതിൽ വീഴചയുണ്ടായാൽ അതിന്റെ നിയമപരമായ ഉത്തരവാദിത്തം ഉപയോക്താവിനാണോ പ്ലാറ്റ്ഫോമിനാണോ എന്നും നിർണയിക്കണം.
നിലവിലുള്ള മിക്ക നിയമങ്ങളും മനുഷ്യർ നിർമിച്ച ഉള്ളടക്കങ്ങൾക്കായി എഴുതപ്പെട്ടതാണ്, അല്ലാതെ എഐ മാറ്റം വരുത്തിയ ഉള്ളടക്കങ്ങൾക്കുവേണ്ടിയല്ല. ഈ നിയമങ്ങൾ എഐ നിർമിത ഉള്ളടക്കങ്ങളിൽ എങ്ങനെ പ്രയോഗിക്കുമെന്ന കാര്യത്തിൽ രാജ്യങ്ങൾ നിയമങ്ങൾ ഉണ്ടാക്കിയിട്ടില്ല. അത്തരം ഉള്ളടക്കങ്ങൾ തടയുന്നതിലെ പരാജയങ്ങൾ പല കുറ്റകൃത്യങ്ങൾക്കും വഴിയിട്ടേക്കാം. പ്ലാറ്റ്ഫോം തലത്തിലുള്ള നിയമപരമായ ഉത്തരവാദിത്തം ഉറപ്പാക്കണമെന്നും എഐക്ക് നിർബന്ധിത സുരക്ഷാ ഓഡിറ്റ് വേണമെന്നുമുള്ള ആവശ്യങ്ങൾ ഇപ്പോൾ ശക്തമായിട്ടുണ്ട്.
- Also Read ‘ഡോണൾഡ് ട്രംപ് മാത്രമല്ല, ചൈനയും ഇടപെട്ടു’; ഓപ്പറേഷൻ സിന്ദൂറിനിടെ ചൈന മധ്യസ്ഥരായെന്ന് അവകാശപ്പെട്ട് പാക്കിസ്ഥാൻ
ഇന്ത്യൻ നടപടി ഇങ്ങനെ
എക്സ് പ്ലാറ്റ്ഫോമുകളിലെ നിയമലംഘനങ്ങൾ ചൂണ്ടിക്കാട്ടി വെള്ളിയാഴ്ചയാണ് ഐടി മന്ത്രാലയം ടെസ്ല മേധാവി ഇലോൺ മസ്കിന്റെ ഉടമസ്ഥതയിലുള്ള കമ്പനിക്ക് നോട്ടിസ് നൽകിയത്. ഗ്രോക് എഐ അസിസ്റ്റന്റ് അടക്കമുള്ള എക്സിലെ എഐ ടൂളുകൾ ഉപയോഗിച്ച് അശ്ലീല ചിത്രങ്ങൾ നിർമിക്കപ്പെടുന്നു, സ്ത്രീകളുടെയും കുട്ടികളുടെയും സ്വകാര്യതയെ ഹനിക്കുന്ന ചിത്രങ്ങളടക്കം വ്യാപകമാണെന്നും നോട്ടിസിൽ പറയുന്നു. ഇത്തരം വ്യാജ ചിത്രങ്ങൾ അടിയന്തരമായി നീക്കണമെന്നും 72 മണിക്കൂറിനുള്ളിൽ നടപടി സ്വീകരിച്ച് റിപ്പോർട്ട് നൽകണമെന്നും ഐടി മന്ത്രാലയം നോട്ടിസിൽ ആവശ്യപ്പെട്ടു. വിഷയം അന്വേഷിക്കണമെന്ന് അന്വേഷണ ഏജൻസിയോട് ആവശ്യപ്പെട്ടതായി ഫ്രഞ്ച് മന്ത്രിമാരുടെ പ്രസ്താവന വെള്ളിയാഴ്ച വന്നിരുന്നു. ഫ്രാൻസിന്റെ ‘ഡിജിറ്റൽ സർവീസസ് ആക്ട്’ ലംഘിക്കപ്പെട്ടുവെന്നാണ് മന്ത്രിമാർ പറയുന്നത്. അതേസമയം, ചില പ്രശ്നങ്ങൾ ശ്രദ്ധയിൽപ്പെട്ടിട്ടുണ്ടെന്നും പെട്ടെന്നു പരിഹരിക്കാനുള്ള നടപടികൾ എടുത്തുവെന്നും എക്സിലെ കുറിപ്പിൽ ഗ്രോക് എഐയുടെ അക്കൗണ്ട് വഴി കമ്പനി അറിയിച്ചിട്ടുണ്ട്.
ലൈംഗിക ചുവയുള്ള രീതിയിൽ കുട്ടികളുടെയടക്കം ചിത്രങ്ങൾ എഐ സഹായത്തോടെ നിർമിക്കപ്പെട്ട ചിത്രങ്ങൾ നീക്കാനോ അത്തരം ചിത്രങ്ങൾ നിർമിക്കപ്പെടുന്നത് നിയന്ത്രിക്കാനോ ഉള്ള ഒരു ശ്രമവും എക്സ് നടത്തിയിട്ടില്ലെന്നാണ് നോട്ടിസിൽ കുറ്റപ്പെടുത്തിയിരിക്കുന്നത്. എക്സിലെ നടപടി 2000ലെ ഇൻഫർമേഷൻ ടെക്നോളജി ആക്ടും 2021ലെ ഐടി നിയമങ്ങളും പ്രകാരമുള്ള വ്യവസ്ഥകൾക്കു വിരുദ്ധമാണ്. എക്സ് നിയമപരമായ ജാഗ്രത പാലിക്കുന്നതിൽ പരാജയപ്പെട്ടുവെന്നും ഇലക്ട്രോണിക്സ് ആൻഡ് ഇൻഫർമേഷൻ ടെക്നോളജി മന്ത്രാലയം നൽകിയ നോട്ടിസിൽ പറയുന്നു. English Summary:
Grok AI on X is misused to generate explicit images from photos, drawing government action. The AI tool\“s security flaws allow users to create illegal content, raising concerns over controlling generative AI systems and legal liability. |
