Grok, ki ga razvija podjetje Elona Muska, je funkcijo za obdelavo slik uvedel konec decembra. Že kmalu zatem so nekateri uporabniki pričeli objavljati pritožbe o zlorabah, kjer je bila funkcija uporabljena za ustvarjanje golih ali delno golih podob oseb brez njihove privolitve. V hujših primerih naj bi bile slike otrok uporabljene za gradivo, ki po vseh zakonih velja za nezakonito.
Francosko tožilstvo je že začelo kazensko preiskavo, medtem ko je indijska vlada podjetju X naložila 72-urni rok za pojasnila in odstranitev vsebine. "Gre za hudo kršitev zakonodaje o zaščiti otrok in dostojanstva posameznikov," so sporočili z ministrstva za IT v Indiji.
Musk se je medtem odzval z izjavo, da odgovornost nosijo uporabniki, ne Grok. Dejal je, da bodo tisti, ki spodbujajo ustvarjanje nelegalnih vsebin, obravnavani enako kot tisti, ki take vsebine neposredno nalagajo. Podjetje X je napovedalo ukrepe in zatrdilo, da sodeluje s preiskovalci ter trajno izključuje kršitelje.
Primer Grok odpira novo poglavje v razpravi o odgovornosti umetne inteligence v digitalnem prostoru. Evropski zakon o digitalnih storitvah zahteva strožji nadzor nad algoritmi, ki lahko povzročijo družbeno škodo, medtem ko pravni strokovnjaki v ZDA opozarjajo, da lahko podjetja kazensko odgovarjajo, če vedoma dopuščajo širjenje gradiva o spolnem izkoriščanju otrok.
Preiskave in pritiski na X bi lahko postali prelomna točka za ureditev področja generativne umetne inteligence. Če bodo pristopi podjetij ostali na ravni samoregulacije, utegne to vplivati na podobo celotne industrije – predvsem v očeh regulatorjev, ki vse bolj pričakujejo aktivno tehnično in pravno odgovornost ponudnikov.