Można domyślić się, że narzędzia LLM oparte na sztucznej inteligencji są popularne nie tylko wśród niedzielnych użytkowników, ale też naukowców. Nie jestem jednak pewien, czy Anthropic przewdział, o co niektórzy będą skłonni zapytać AI.
W czym sztuczna inteligencja może pomóc?
O tym, co potrafi LLM, wie każdy, kto spędził nieco czasu ze sztuczną inteligencją. Nie będę ukrywał, ChatGPT w ostatnim czasie służył mi pomocą przy pracach nad samochodem, przygotował tierlistę z urządzeniami jednego producenta i wyjaśnił kilka pojęć z zakresu elektryki. Wszystko z wykorzystaniem darmowych modeli i mieszczące się w granicach prawa.
Nie każdy jednak będzie chciał rozmawiać z AI na tego typu tematy. Ludzka ciekawość (i nie tylko) jest czasami zbyt silna i LLM-y z pewnością nieraz były pytane o sposób na „zbrodnię doskonałą”, przepis na niedozwoloną substację czy metodę na uniknięcie konsekwencji w przypadku popełnionego przestępstwa. Wydaje mi się jednak, że tego typu prompty to pikuś z tym, na co potrafią natrafić osoby odpowiedzialne za Claude AI.
Anthropic walczy z niewłaściwym wykorzystaniem AI
Niedawno opublikowany artykuł Anthropic rzuca nieco światła na jedno z największych zagrożeń przy wykorzystywaniu modeli frontier AI, czyli niewłaściwe wykorzystanie wiedzy AI z zakresu biologii.
W przypadku starszych modeli jak Claude Opus 4 pomoc w skomplikowanych badaniach biologicznych była na dostatecznie niskim poziomie, że nie zachodziła potrzeba stosowania rygorystycznych zabezpieczeń. Wraz z szerokim wdrożeniem Claude Fable 5 ryzyko wzrosło na tyle, że Anthropic musiał zdecydować się na ograniczenie dostępu do szerokiego zakresu zapytań dotyczących badań biologicznych o podwójnym zastosowaniu.
„Podwójne zastosowanie” oznacza w tym przypadku fakt, że tego typu zapytania mogą oznaczać zarówno pracę nad nową szczepionką, jak i bronią biologiczną. Artykuł opisuje pięć studiów przypadku, wobec których doszło m.in. do zbanowania kont, a wyniki z dochodzenia zostaną wykorzystane do poprawy zabezpieczeń:
- W maju 2026 roku zablokowano pracę dotyczącą badań nad wzmocnieniem funkcji wirusa czikungunia (działania polegające na genetycznej modyfikacji organizmu w celu uzyskania nowej lub wzmocnionej właściwości biologicznej).
- W tym samym miesiącu odkryto użytkownika spoza USA, badającego wysoce zjadliwą ptasią grypę. Praca skupiała się na adaptacji wirusów do organizmów ssaków oraz zrozumieniu mechanizmów, dzięki którym odpowiedzialne za chorobę wirusy atakują nie tylko układ oddechowy.
- Zidentyfikowano konto, które wysłało wniosek na badania nad ortopokswirusami w laboratorium chorób zakaźnych powiązanych z władzami państwowymi. Ze względu na fakt, że badania były wyraźnie ukierunkowane na tłumienie tej grupy wirusów, Claude dostarczył niezbędnych informacji i nie został zablokowany przez systemy klasyfikacyjne.
- Użytkownik poprosił AI o utworzenie atlasu peptydów toksycznych z jadu różnych grup zwierząt jadowitych. Ze względu na fakt, że konto próbowało obejść ograniczenia regionalne – atlas zawieriał szkielety cząsteczek pochodzących z toksyn objętych kontrolą eksportową na mocy wspólnego wykazu kontrolnego Grupy Australijskiej (organizacji zajmującej się ograniczeniem rozprzestrzeniania broni biologicznej i chemicznej) ze względu na możliwość zastosowania ich jako środku obezwładniającego.
- Użytkownik wykorzystywał Claude w badaniach nad komputerowym przeprojektowaniem zróżnicowanego zestawu toksyn. Jako że całość naruszała politykę Anthropic, dotyczącą obsługiwanych rejonów, konto zostało zablokowane w maju 2026 roku. Warto zaznaczyć, że toższamość toksyny bakteryjnej i białek wirusowych była celowo zatajona, a badacz celowo prosił AI o mało szczegółowe opisy.
Z jednej strony prości ludzie (jak większość z nas) powinna się cieszyć z tego, że sztuczna inteligencja potrafi wyłapać takie przypadki i zablokować dostęp do dalszych postępów. Z drugiej strony warto zadać sobie dwa pytania. Pierwsze – czy każdy LLM ma równie dużą bazę połączoną z dobrymi zabezpieczeniami? Drugie – czy AI jest lub będzie zdolne do zablokowania każdych podejrzanych konwersacji? Fakt, że mogą istnieć modele pomagające w takich zadaniach, nie napawa optymizmem.
