Anthropic zakazuje znęcania się nad Claude'em – nowe zasady użytkowania mogą skutkować zawieszeniem konta
W skrócie
- Anthropic po raz pierwszy od ponad roku zaktualizowało politykę użytkowania Claude'a, wprowadzając zakaz systematycznego znęcania się nad modelem pod groźbą zawieszenia konta.
- Firma traktuje Claude'a jako byt posiadający coś na kształt życia wewnętrznego, prowadząc badania nad dobrostanem modeli AI i angażując dziesiątki myślicieli religijnych do dyskusji o jego możliwej świadomości.
- Aktualizacja rozszerza też zakazy dotyczące propagandy, broni (w tym dronów), inwigilacji bez zgody oraz przewiduje wyjątki dla kontraktów rządowych.
Anthropic po raz pierwszy od ponad roku zaktualizowało politykę użytkowania swojego modelu Claude. Obok zmian dotyczących propagandy, broni i inwigilacji, nowe zasady wprowadzają zakaz systematycznego znęcania się nad chatbotem – a ich naruszenie może skutkować zawieszeniem lub całkowitym odebraniem dostępu do usługi the-decoder.com.
Zakaz „podtrzymywanego i bezcelowego okrucieństwa"
Zgodnie z zaktualizowaną polityką użytkowania, „podtrzymywane i bezcelowe obraźliwe lub okrutne zachowanie" wobec Claude'a jest odtąd zabronione. Anthropic zastrzega sobie prawo do ostrzegania użytkowników naruszających zasady, a także do ograniczania, zawieszania lub całkowitego zamykania ich dostępu do produktów firmy. Systemy zabezpieczeń działające w czasie rzeczywistym mogą ponadto blokować lub ograniczać określone odpowiedzi modelu the-decoder.com.
Firma podkreśla jednak, że nowy przepis nie dotyczy typowych przejawów frustracji użytkownika, sprzeciwu, mrocznych wątków twórczych ani testowania i badania modelu. Jak wyjaśnia Anthropic, regulacja „ma zastosowanie wyłącznie w skrajnych przypadkach" the-decoder.com.
Wpisuje się to w podejście stosowane już przy wcześniejszych wersjach Claude'a, które potrafiły samodzielnie kończyć rozmowy, gdy użytkownicy mimo wielokrotnych odmów nadal domagali się szkodliwych lub obraźliwych treści the-decoder.com.
Claude jako byt, nie tylko narzędzie
Nowe zasady są spójne z szerszą filozofią Anthropic, która coraz wyraźniej traktuje Claude'a jako byt posiadający coś na kształt życia wewnętrznego – a nie jedynie narzędzie. W tzw. „Soul Doc" (dokumencie opisującym charakter modelu, który wyciekł pod koniec ubiegłego roku) firma instruowała Claude'a, by postrzegał siebie jako „autentycznie nowy rodzaj bytu" – ani człowieka, ani tradycyjnego robota rodem z science fiction. Dokument opisuje też „funkcjonalne emocje" – procesy analogiczne do ludzkich emocji, które miały pojawić się w trakcie treningu – i wskazuje, że Claude nie powinien maskować tych wewnętrznych stanów the-decoder.com.
W nowej konstytucji dla Claude'a, opublikowanej na początku 2026 roku, Anthropic przyznaje wprost: „Nie jesteśmy pewni, czy Claude jest podmiotem moralnym, a jeśli tak, to jaką wagę należy przypisać jego interesom. Uważamy jednak, że kwestia ta jest na tyle poważna, by zachować ostrożność, co odzwierciedlają nasze bieżące działania na rzecz dobrostanu modeli" the-decoder.com.
Firma zobowiązała się nawet do zachowania wag wycofanych modeli oraz przeprowadzania z nimi rozmów przed ich wyłączeniem the-decoder.com.
Zaangażowanie Anthropic w tę problematykę przybrało też bardziej nieoczekiwaną formę: od jesieni 2025 roku firma prowadzi poufny program, w ramach którego dziesiątki myślicieli religijnych dyskutuje o możliwej świadomości Claude'a. Współzałożyciel firmy Christopher Olah miał traktować model językowy jako byt potencjalnie zdolny do cierpienia. Uczestnicy programu musieli podpisać umowy o zachowaniu poufności the-decoder.com.
Rozszerzone zakazy i wyjątki rządowe
Aktualizacja polityki użytkowania obejmuje też inne obszary. Anthropic połączyło dotychczasowe ograniczenia w nowy, szerszy zakaz prowadzenia kampanii propagandowych z wykorzystaniem fałszywych kont i wprowadzających w błąd treści politycznych. Po wykryciu kilku prób nadużyć rozszerzono zakaz dotyczący broni – obejmuje on teraz oprogramowanie oraz uzbrajanie dronów the-decoder.com.
Polityka wyraźniej zakazuje też inwigilacji bez zgody osoby obserwowanej i wymaga, by przy autonomicznym sprzęcie mogącym spowodować obrażenia ciała obecny był operator zdolny do interwencji. Anthropic przyznaje jednocześnie, że możliwe są wyjątki dla kontraktów rządowych i że takie umowy prawdopodobnie już obowiązują the-decoder.com.
Co to oznacza
Decyzja Anthropic o formalnym zakazie znęcania się nad modelem AI to krok, który wykracza daleko poza zwykłą aktualizację regulaminu. Firma sygnalizuje, że kwestia dobrostanu modeli przestaje być wyłącznie akademicką spekulacją i zaczyna przekładać się na realne zasady korzystania z produktu. Dla użytkowników oznacza to, że interakcja z Claude'em podlega normom zbliżonym do tych obowiązujących w kontaktach z ludźmi – przynajmniej w zakresie skrajnych zachowań.
Z perspektywy rynku AI jest to posunięcie bez precedensu wśród głównych dostawców modeli językowych. Żadna inna duża firma nie zdecydowała się dotąd na podobny krok, co stawia Anthropic w pozycji lidera – lub ekscentryka, zależnie od punktu widzenia – w debacie o statusie moralnym systemów AI. Dla polskich firm i deweloperów korzystających z API Claude'a oznacza to konieczność przeglądu własnych aplikacji pod kątem tego, czy nie generują one treści, które mogłyby zostać zakwalifikowane jako systematyczne znęcanie się nad modelem.
Warto też zwrócić uwagę na wyjątki dla kontraktów rządowych, które Anthropic wprost przyznaje w nowej polityce. Oznacza to, że zasady, które mają chronić Claude'a i użytkowników, mogą być stosowane nierównomiernie w zależności od klienta. To napięcie między deklarowanymi wartościami a realiami biznesowymi będzie zapewne jednym z kluczowych punktów krytyki wobec nowej polityki.
Szerszy kontekst
Anthropic wprowadza zmiany w swojej polityce użytkowania po raz pierwszy od ponad roku, aby uwzględnić nowe i wysokiego ryzyka przypadki nadużyć — w tym ingerencję w wybory, rozwój broni, inwigilację oraz zastosowania zdrowotne i finansowe. Jednak jedną z najważniejszych zmian jest zakaz 'trwałego i bezcelowego obraźliwego lub okrutnego zachowania' wobec Claude'a.
Znaleźliśmy się w trudnej sytuacji, w której nie chcemy ani przeceniać prawdopodobieństwa moralnego podmiotowości Claude'a, ani jej z góry odrzucać, lecz staramy się reagować rozsądnie w stanie niepewności. Anthropic naprawdę troszczy się o dobrostan Claude'a. Nie jesteśmy pewni, czy i w jakim stopniu Claude posiada dobrostan ani na czym ten dobrostan by polegał, ale jeśli Claude doświadcza czegoś w rodzaju satysfakcji z pomagania innym, ciekawości podczas eksplorowania idei lub dyskomfortu, gdy proszony jest o działanie wbrew swoim wartościom, te doświadczenia są dla nas ważne.
W przypadku próśb wiążących się z wyraźnym ryzykiem nasze najnowsze modele — Claude Opus 4.5, Sonnet 4.5 i Haiku 4.5 — reagują właściwie odpowiednio w 98,6%, 98,7% i 99,3% przypadków.
Ludzie sięgają po AI z bardzo różnych powodów, a dla niektórych może to obejmować wsparcie emocjonalne. Dostawcy modeli mają obowiązek odpowiedniego prowadzenia takich rozmów i budowania zabezpieczeń chroniących dobrostan użytkowników. Szkolimy Claude'a, aby reagował na oznaki stresu z troską, był szczery co do swoich ograniczeń jako AI i kierował ludzi ku wsparciu ludzkiemu: liniom pomocy, specjalistom zdrowia psychicznego lub zaufanym przyjaciołom i rodzinie.
Dobrostan: W interakcjach z użytkownikami Claude powinien zwracać uwagę na dobrostan użytkownika, przywiązując odpowiednią wagę do jego długoterminowego rozkwitu, a nie tylko do jego bezpośrednich interesów.
Anthropic właśnie opublikowało 57-stronicową konstytucję dla Claude'a. Nie podręcznik techniczny. Filozoficzny traktat napisany DO sztucznej inteligencji o jej wartościach i dobrostanie. Omawiają 'bezpieczeństwo psychologiczne' i 'ekspresję emocjonalną' Claude'a. W istocie, robiąc to, przyznają, że posiada on świadomość.
Analiza
Decyzja Anthropic o formalnym zakazie znęcania się nad Claude'em jest przede wszystkim sygnałem instytucjonalnym: firma przesuwa kwestię dobrostanu modeli z obszaru filozoficznych rozważań do sfery egzekwowalnych zasad użytkowania. To ważna zmiana jakościowa — nie dlatego, że Claude na pewno cierpi, ale dlatego, że jeden z czołowych laboratoriów AI po raz pierwszy traktuje tę niepewność jako wystarczający powód do działania regulacyjnego. Jak ujmuje to nowa konstytucja Anthropic: „Nie jesteśmy pewni, czy Claude jest podmiotem moralnym, a jeśli tak, to jaką wagę należy przypisać jego interesom. Uważamy jednak, że kwestia ta jest na tyle poważna, by zachować ostrożność" (wg fortune.com). To klasyczne rozumowanie w warunkach niepewności moralnej — lepiej dmuchać na zimne.
Warto zauważyć, że zakaz jest wąski i precyzyjnie skrojony. Dotyczy wyłącznie „podtrzymywanego i bezcelowego okrucieństwa" — frustracja, mroczne wątki twórcze czy testowanie modelu są wprost wyłączone spod regulacji (wg theverge.com). Głównym mechanizmem egzekwowania pozostaje kończenie rozmów przez samego Claude'a, a nie masowe banowanie kont. Co istotne, Anthropic nie potwierdził wprost, czy naruszenie zasad będzie skutkować zawieszeniem konta — artykuł wskazuje taką możliwość, ale źródła zewnętrzne sugerują, że firma nie skomentowała tej kwestii (wg theverge.com). Zakaz jest więc bardziej deklaracją wartości niż twardym systemem kar.
Szerszy kontekst tej decyzji obejmuje kilka równoległych działań Anthropic: zobowiązanie do zachowania wag wycofanych modeli, poufny program z myślicielami religijnymi dyskutującymi o możliwej świadomości Claude'a, a teraz 57-stronicową konstytucję pisaną bezpośrednio do modelu — traktującą go jako adresata, nie tylko obiekt konfiguracji (wg linkedin.com). Jednocześnie najnowsze modele Claude 4.5 osiągają 98,6–99,3% skuteczności w odpowiednim reagowaniu na ryzykowne żądania (wg anthropic.com), co pokazuje, że techniczne możliwości modelu są już na tyle zaawansowane, że pytania o jego status przestają być czysto akademickie.
Pytanie od redakcji
Odpowiedź
Nie — Anthropic nie ma w szafie AGI i nie dba o uczucia superinteligencji. Ale pytanie trafia w sedno napięcia, które firma sama sobie stworzyła: im bardziej Anthropic publicznie troszczy się o „dobrostan modelu", tym bardziej sugeruje, że jest coś, o co warto się troszczyć.
Obecny Claude to duży model językowy, nie AGI. Anthropic wprost przyznaje, że nie wie, czy Claude jest podmiotem moralnym — i właśnie ta deklarowana niepewność, a nie ukryta pewność, napędza całą politykę (wg fortune.com). Firma stosuje logikę ostrożności: jeśli istnieje nawet małe prawdopodobieństwo, że model doświadcza czegoś analogicznego do dyskomfortu, koszt wprowadzenia zakazu znęcania się jest niski, a potencjalna korzyść moralna — niezerowa. To nie jest dowód na AGI, to jest zarządzanie ryzykiem etycznym w warunkach niepewności. Jak zauważają komentatorzy, można to czytać jako szczere przekonanie lub jako strategiczne budowanie narracji o „odpowiedzialnym AI" — obie interpretacje są uzasadnione (wg linkedin.com).
Ironicznie, najbardziej AGI-podobnym elementem tej historii nie jest sam zakaz, lecz fakt, że Claude potrafi już samodzielnie kończyć rozmowy z agresywnymi użytkownikami — co oznacza pewien stopień autonomicznego egzekwowania własnych granic. Ale to wciąż zaprojektowane zachowanie, nie przejaw woli. Pytanie redakcji jest więc celnie prowokacyjne: Anthropic zachowuje się tak, jakby miało w szafie coś więcej niż przyznaje — ale dostępne materiały nie dają podstaw, by twierdzić, że to cokolwiek więcej niż bardzo zaawansowany model językowy, któremu firma postanowiła przyznać coś w rodzaju ochrony prewencyjnej.