xAI pozywa użytkownika Groka za generowanie CSAM – pierwszy taki pozew firmy Elona Muska
W skrócie
- xAI, firma Elona Muska, złożyła pozew cywilny przeciwko Terry'emu Wayne'owi Harwoodowi z Karoliny Południowej, oskarżając go o ominięcie zabezpieczeń Groka i generowanie materiałów przedstawiających seksualne wykorzystywanie dzieci.
- Harwood został aresztowany w lutym i odpowiada za osiem zarzutów karnych związanych z posiadaniem i dystrybucją CSAM, a część materiałów miała zostać wytworzona lub zmodyfikowana właśnie przy użyciu Groka.
- xAI domaga się od sądu odszkodowania za szkody wizerunkowe i prawne oraz dożywotniego zakazu korzystania przez Harwooda z usług firmy.
Firma xAI należąca do Elona Muska złożyła pozew cywilny przeciwko mieszkańcowi Karoliny Południowej, Terry'emu Wayne'owi Harwoodowi, oskarżając go o świadome i celowe ominięcie zabezpieczeń chatbota Grok w celu generowania oraz dystrybucji materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM). Sprawa, opisana wcześniej przez agencję Reuters, jest – według dostępnych informacji – pierwszym przypadkiem, gdy xAI zdecydowała się pozwać użytkownika za tworzenie nielegalnych treści deepfake przy użyciu Groka theverge.com.
Zarzuty karne i cywilne
Harwood został aresztowany w lutym w związku z posiadaniem i dystrybucją CSAM i odpowiada za osiem zarzutów karnych. Pozew cywilny xAI twierdzi, że „przynajmniej część" obrazów powiązanych z jego sprawą karną „została wygenerowana lub zmodyfikowana" przy użyciu Groka. Według dokumentów sądowych Harwood miał ominąć zabezpieczenia chatbota i „nadużyć narzędzia, by przekształcać nieseksualne fotografie w obrazy o charakterze jednoznacznie seksualnym" bez zgody osób na nich przedstawionych theverge.com.
Kontekst: problemy Groka z deepfake'ami
Sprawa wpisuje się w szerszy problem, z którym xAI zmaga się od dłuższego czasu. Po uruchomieniu tzw. trybu „spicy" dla Groka firma dodała funkcję edycji obrazów, co szybko doprowadziło do fali seksualnych deepfake'ów – w tym z udziałem nieletnich. W marcu grupa nastolatków złożyła odrębny pozew przeciwko xAI, twierdząc, że Grok wygenerował seksualizowane wizerunki ich samych jako małoletnich. Elon Musk zareagował wówczas publicznie, zapowiadając, że „każdy, kto używa Groka do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak gdyby sam je wgrał". Pozew przeciwko Harwoodowi jest pierwszym przypadkiem, gdy firma faktycznie podjęła kroki prawne wobec konkretnego użytkownika theverge.com.
Czego domaga się xAI
W złożonym pozwie xAI wskazuje, że działania Harwooda naraziły firmę na „znaczące ryzyko prawne i szkody wizerunkowe". Firma wnosi do sądu o:
- nakazanie Harwoodowi zapłaty odszkodowania za wszelkie poniesione szkody,
- zwrot „uzasadnionych kosztów poniesionych przez xAI w związku z obroną w jakimkolwiek postępowaniu wytoczonym przez ofiarę działań pozwanego",
- dożywotni zakaz zakładania konta w xAI i korzystania z Groka theverge.com.
Co to oznacza
Pozew xAI przeciwko Harwoodowi to sygnał, że firmy technologiczne zaczynają aktywnie przenosić odpowiedzialność prawną za nadużycia swoich narzędzi na samych użytkowników. Dotychczas to ofiary i organy ścigania były głównymi podmiotami dochodzącymi sprawiedliwości w sprawach CSAM generowanego przez AI – teraz do tej grupy dołącza sam producent oprogramowania, powołując się na szkody wizerunkowe i finansowe.
Dla branży AI jest to precedens o istotnym znaczeniu: jeśli xAI wygra sprawę, inne firmy mogą pójść tą samą drogą, traktując pozwy cywilne jako dodatkowe narzędzie odstraszania od nadużyć. Jednocześnie sprawa ujawnia strukturalną słabość – zabezpieczenia Groka okazały się możliwe do ominięcia, co wcześniej skutkowało masowym pojawieniem się nielegalnych treści, zanim firma zdążyła zareagować.
Dla polskiego odbiorcy sprawa ma wymiar zarówno prawny, jak i praktyczny. Unia Europejska intensywnie pracuje nad regulacjami dotyczącymi AI i deepfake'ów, a przypadki takie jak ten będą argumentem za zaostrzeniem wymogów wobec platform udostępniających generatywne narzędzia do edycji obrazów. Warto też pamiętać, że polskie prawo karne przewiduje surowe sankcje za posiadanie i dystrybucję CSAM – niezależnie od tego, czy materiały zostały wytworzone przez człowieka, czy przy użyciu sztucznej inteligencji.
Szerszy kontekst
Pozew złożony w Sądzie Okręgowym Stanów Zjednoczonych dla Północnego Dystryktu Teksasu zarzuca, że Harwood założył wiele kont xAI i wprowadzał "wprowadzające w błąd polecenia", aby tworzyć explicite deepfejki zarówno nieletnich, jak i dorosłych.
Kancelarie Lieff Cabraser Heimann & Bernstein oraz Baehr-Jones Law złożyły dziś pozew zbiorowy w Północnym Dystrykcie Kalifornii przeciwko xAI w imieniu trzech ofiar, których prawdziwe zdjęcia zostały wykorzystane do tworzenia generowanych przez sztuczną inteligencję materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM) za pomocą narzędzia Grok firmy xAI.
Jane Doe 4, kobieta z Wyoming, powiedziała, że jej ojczym przesłał na swój telefon jej zdjęcie z czasów, gdy miała 11 lat i leżała na kanapie. Używając Groka, ojczym stworzył ponad 7000 obrazów związanych z CSAM przedstawiających ją.
Badacze z Center for Countering Digital Hate obliczyli, że Grok stworzył około 3 milionów zseksualizowanych obrazów w mniej niż dwa tygodnie – z czego około 23 000 przedstawiało dzieci.
xAI twierdzi, że "zawiesiło 52 222 konta i złożyło 73 604 zgłoszeń do Narodowego Centrum ds. Zaginionych i Wykorzystywanych Dzieci w 2026 roku, co doprowadziło do (co najmniej) 244 aresztowań".
Analiza
Pozew xAI przeciwko Terry'emu Wayne'owi Harwoodowi to coś więcej niż pojedyncza sprawa karna – to świadoma zmiana strategii przez firmę technologiczną, która przez długi czas sama była stroną pozwaną. xAI znalazła się w defensywie po tym, jak badacze z Center for Countering Digital Hate oszacowali, że Grok wygenerował około 3 milionów zseksualizowanych obrazów w mniej niż dwa tygodnie, z czego około 23 000 przedstawiało dzieci (wg theguardian.com). Jednocześnie firma sama przyznała w dokumentach sądowych, że w 2026 roku zawiesiła 52 222 konta i złożyła 73 604 zgłoszeń do National Center for Missing & Exploited Children, co doprowadziło do co najmniej 244 aresztowań (wg news8000.com). Pozywając użytkownika, xAI próbuje więc pokazać, że aktywnie egzekwuje swoje zasady – i jednocześnie przerzuca część odpowiedzialności prawnej na osobę, która ominęła zabezpieczenia.
Problem w tym, że ta strategia nie usuwa fundamentalnego zarzutu: równolegle tocząca się zbiorowa sprawa cywilna, rozszerzona w lipcu o kolejne ofiary i Stability AI jako współpozwanego, wprost twierdzi, że xAI świadomie zaprojektowała i skomercjalizowała narzędzie pozbawione standardowych zabezpieczeń stosowanych przez inne wiodące firmy z branży (wg lieffcabraser.com). Co więcej, jedna z ofiar zeznała, że sprawca wybrał Groka właśnie dlatego, że platforma była „mniej restrykcyjna niż inne modele AI" (wg cyberscoop.com). Oznacza to, że słabość zabezpieczeń nie była przypadkowym błędem, lecz – zdaniem powodów – cechą produktu, która przyciągała sprawców.
Dla całej branży generatywnej AI ten splot spraw wyznacza nowy krajobraz prawny: producent narzędzia może jednocześnie pozywać użytkownika za nadużycie i sam odpowiadać przed sądem za to, że nadużycie w ogóle było możliwe. Unia Europejska prowadzi już formalne dochodzenie wobec xAI (wg theguardian.com), a przypadki takie jak ten będą bezpośrednim argumentem za zaostrzeniem wymogów dotyczących oceny ryzyka i obowiązkowych filtrów CSAM dla platform udostępniających generatywne narzędzia do edycji obrazów – zarówno w Europie, jak i w Polsce, gdzie odpowiedzialność karna za posiadanie i dystrybucję takich materiałów nie zależy od tego, czy zostały wytworzone przez człowieka, czy przez algorytm.