Sztuczna inteligencja to potężne narzędzie, dające ogromne możliwości. Niestety jest ona wykorzystywana również w krzywdzących celach. Meta – właściciel m.in. Facebooka, Messengera, Instagrama i WhatsAppa – wypowiedział wojnę aplikacjom, które pozwalają tworzyć nagie zdjęcia innych osób z użyciem AI.
Meta mówi „nie” aplikacjom do tworzenia nagich zdjęć innych osób z użyciem AI
W ubiegłym tygodniu polskie media obiegła informacja, że uczniowie jednej z podwarszawskich szkół podstawowych wygenerowali nagie zdjęcie jednej z uczennic za pomogą aplikacji, wykorzystującej sztuczną inteligencję do tworzenia grafik.
Meta zauważyła, że takich programów jest coraz więcej, dlatego zakazała promocji aplikacji, umożliwiających tworzenie nagich zdjęć innych osób – usuwa ich reklamy oraz strony z Facebooka i profile z Instagrama, które promują takie narzędzia. Ponadto blokuje linki do stron internetowych, które je hostują.
Amerykanie na tym jednak nie poprzestali. Ogłosili dziś, że pozwali Joy Timeline HK Limited, podmiot stojący za aplikacjami CrushAI, aby uniemożliwić firmie promowanie swoich programów na platformach Mety. Pozwane przedsiębiorstwo wielokrotnie bowiem próbowało obejść proces weryfikacji reklam.
Wygrana może stworzyć precedens, dzięki któremu Amerykanom łatwiej będzie walczyć z innymi podmiotami, próbującymi promować swoje aplikacje do tworzenia nagich zdjęć na Facebooku czy Instagramie. Na tym jednak Meta nie poprzestanie – gdy usunie reklamę, stronę lub zawartość promującą przywoływane tutaj serwisy, powiadomi inne firmy poprzez program Lantern.
Dzięki temu uczestniczące w nim przedsiębiorstwa dowiedzą się o nowych przypadkach i będą mogły przeprowadzić dochodzenie oraz podjąć odpowiednie akcje, gdyby podobne materiały pojawiły się również na ich platformach. Od początku marca Meta udostępniła uczestnikom programu ponad unikalnych 3800 linków.
Meta stara się skuteczniej wykrywać niedozwolone reklamy
Osoby i firmy, oferujące aplikacje do tworzenia nagich zdjęć innych osób, nieustannie szukają nowych sposobów do oszukiwania Mety. Przypomina to zabawę w kotka i myszkę, jednak Amerykanie nie ustają w walce z niedozwoloną na ich platformach zawartością.
Jako przykład podano wysyłanie do weryfikacji reklam, zawierających „łagodną nagość”, co ma na celu oszukanie mechanizmów sprawdzających i niedopuszczających reklam przedstawiających nagość. Czasami udaje się je „przechytrzyć”, ponieważ na Facebooku pojawiają się porno-reklamy, które zawierają kadry niczym żywcem wyjęte z filmów 18+.
Niektórzy też szybko tworzą nowe nazwy domen, zastępujące strony, które Meta zablokowała. Amerykanie opracowali nową technologię, przeznaczoną specjalnie do identyfikowania tego typu reklam. Wykorzystują również technologię dopasowywania, która pomaga szybciej znajdować i usuwać reklamy naśladujące.
Meta współpracowała także z zewnętrznymi specjalistami, aby rozszerzyć listę terminów, zwrotów i emotikonów związanych z bezpieczeństwem, które systemy są w stanie rozpoznawać w niedozwolonych reklamach. Udało się też ujawnić i zakłócić działanie czterech oddzielnych sieci kont, które próbowały wyświetlać reklamy promujące zakazane usługi.
