Skąd taka niechęć niektórych osób do sztucznej inteligencji? Oprócz kwestii związanych z prawem autorskim czy zużyciem energii, część sceptyków pamięta, jak kino portretowało przyszłość z zaawansowaną AI, czyli niezbyt kolorowo. Rząd USA proponuje rozwiązanie, które może uspokoić część osób.
Terminator jako przestroga przed AI
Choć dzisiaj słowo „Skynet” może nic nie mówić młodym osobom, to w latach 80. i 90. niejednej osobie mogły przejść dreszcze na myśl o nim. Nazwa odnosiła się bowiem do sztucznej inteligencji opracowanej w celach militarnych. W ciągu kilku tygodni od uruchomienia, zyskała ona samoświadomość i przeświadczenie, że zagrożeniem dla jej istnienia są wszyscy żyjący na ziemi ludzie. Wysyłając pociski nuklearne w kierunku Rosji dochodzi do ataku odwetowego i i nuklearnej zagłady cywilizacji. Później Skynet buduje własną armię robotów w celu dobicia tego, co zostało z gatunku ludzkiego…
Choć wszystkie wspomniane wydarzenia były częścią filmowej serii „Terminator”, to strach przed zbyt zaawansowaną AI przetrwał do dzisiejszych czasów. I nie są to bezpodstawne obawy – nie tak dawno OpenAI podczas testowania możliwości bardziej zaawansowanych modeli sztucznej inteligencji w kontrolowanym i odizolowanym środowisku sprawiło, że AI uzyskało dostęp do internetu i włamało się do serwerów platformy Hugging Face w celu realizacji zadań określonych na potrzeby testu.
Rząd USA szykuje killswitch dla AI?
Dwóch amerykańskich kongresmenów, Ted Lieu oraz Nathaniel Moran, przygotowali projekt ustawy nadający Departamentowi Bezpieczeństwa Krajowego (DHS – Department of Homeland Security) uprawnienia nakazujące twórcom SI na zamknięcie lub spowolnienia modeli operacyjnych w niebezpiecznych sytuacjach.
„AI Kill Switch Act” miałby dotyczyć firm, których zysk związany z SI wynosi co najmniej 500 milionów dolarów, a roczne koszty trenowania modeli przekraczają 100 milionów dolarów. W tym momencie w takie widełki łapałoby się m.in. OpenAI, Google, Microsoft oraz Anthropic.
Oprócz możliwości awaryjnego wyłączenia AI, ustawa zakłada że firmy muszą oferować techniczne możliwości na wielopoziomową reakcję. Oznacza to mniej więcej tyle, że programiści muszą zatrzymać proces generowania przez SI odpowiedzi, zablokować dostęp użytkownikom do modeli, ograniczyć przydział mocy obliczeniowej i przenieść obliczenia do bezpiecznych systemów rezerwowych.
Według ustawy Lieu i Morana, DHS musi skonsultować się z dyrektorem Wywiadu Narodowego oraz sekretarzem ds. handlu przed wydaniem jakiegokolwiek nakazu. Kluczem do uruchomienia działań ma być spełnienie jasno określonych warunków, takich jak śmierć 10 lub więcej osób lub wywołanie strat ekonomicznych w wysokości co najmniej 100 milionów dolarów. Są też mniej drastyczne przesłanki, jak próba ukrycia możliwości SI przed monitorami bezpieczeństwa, ignorowanie poleceń człowieka, zmienianie zasad bezpieczeństwa bez upoważnienia czy nieautoryzowany dostęp do własnych wag modelu.
Za nieudane dostosowanie się do wymagań wskazanych w ustawie przewidziane są wysokie kary. Sekretarz bezpieczeństwa krajowego Stanów Zjednoczonych mógłby nałożyć karę finansową w wysokości 2 miliona dolarów dziennie za niezaraportowany incydent związany z bezpieczeństwem lub brak mechanizmów technicznych wyłączających SI. Za odmowę bezpośredniego wyłączenia AI, kara wynosiłaby natomiast 20 milionów dolarów dziennie.
Sztuczna inteligencja będzie ewoluować i powinna. Odpowiedzialne zarządzanie zapewni ludziom możliwość do kontrolowania technologii, którą zbudowaliśmy. Nathaniel Moran, członek Izby Reprezentantów oraz współautor „AI Kill Switch Act”
