OpenAI wdraża nowe zasady, które mają wzmocnić bezpieczeństwo podczas rozmów prowadzonych z ChatGPT. Część nowych ograniczeń dotyczy każdego użytkownika, bez względu na jego wiek. Funkcje te powinny działać od dawna.
ChatGPT ma nowe, ważne i potrzebne ograniczenia
Pierwsze z nich to zaostrzenie zasad dotyczących generowania treści związanych z bronią palną. Jak podkreśla OpenAI, modele sztucznej inteligencji są szkolone w taki sposób, by nie udzielać instrukcji, które mogłyby pomóc komuś zaplanować lub przeprowadzić przemoc.
Firma twierdzi, że wdraża dodatkowe zabezpieczenia na sposób rozmowy i odpowiadania na pytania zadane ChatGPT dotyczące masowych ataków, szczególnie w kontekście użycia broni palnej, sposobie jej zdobycia czy skali wyrządzonej szkody.
Twórcy podkreślają, że użytkownicy powinni mieć możliwość zwrócenia się do ChatGPT o pomoc w zrozumieniu tych wydarzeń, wpływu na ofiary i społeczności, a także o naukę rozpoznawania sygnałów ostrzegawczych i zapobiegania przyszłej przemocy. Mimo to zdecydowano się na wdrożenie zaostrzeń, aby ograniczyć rekonstrukcje kolejnych, potencjalnych ataków.
Na tym nie koniec nowości. ChatGPT ma reagować bardziej zachowawczo podczas rozmów z osobami, u których system AI wykrył wcześniej „sygnały ostrzegawcze”. Sygnały te mogą być generowane w przypadku osób, u których w czasie rozmów pojawiały się informacje o możliwej przemocy we wcześniejszych rozmowach. Dodatkowo surowsze ograniczenia obejmą osoby, które mogą mieć mniej niż 18 lat, nawet jeśli nie odnotowano sygnałów związanych z przemocą.
OpenAI deklaruje też, że blokuje konta naruszające zasady ChatGPT, dotyczące przemocy oraz współpracuje z ekspertami ds. zdrowia psychicznego i zapobiegania przemocy. Gdy bot wykryje w rozmowie oznaki dotyczące skupiania się na przemocy lub myśli o skrzywdzeniu innych osób, będzie mógł wstrzymać rozmowę.
Nowe funkcje można odebrać nie tylko jako wzmocnienie bezpieczeństwa i ochrony ludzi, ale też jako zabezpieczenie OpenAI przed zarzutami wobec ChatGPT, który wcześniej mógł podpowiadać coś niebezpiecznego. Teraz natomiast może po prostu zakończyć rozmowę.
Nowe zasady w ChatGPT dla nastolatków – bot ma być jeszcze bardziej ostrożny
ChatGPT dla nastolatków stosuje szereg zabezpieczeń, jednak OpenAI ma zamiar je wzmocnić, aby ograniczyć narażenie na wrażliwe treści. Jedną z nowych zasad jest ograniczenie praktycznych informacji o broni i systemach bezpieczeństwa, które mogłyby ułatwić przemoc. Zasada ta będzie dotyczyła nawet tych nastolatków, którzy nie wykazują agresywnego zachowania.
Warto przypomnieć, że w styczniu 2026 roku OpenAI wdrożyło nową funkcję przewidywania wieku w ChatGPT. Dzięki niej system weryfikuje, czy właściciel danego konta jest pełnoletni, a jeśli nie – na jego konto nakładane są dodatkowe ograniczenia.
Ponadto OpenAI wdraża nowy Raport o Ochronie Społeczności (Community Safeguards Report), dotyczący zapobiegania przemocy i innych problemów związanych z bezpieczeństwem społeczności. Pierwszy tego typu raport (obejmujący drugą połowę 2026 roku) ma zostać opublikowany na początku 2027 roku. Dokument będzie aktualizowany co sześć miesięcy.
