Google nie przestaje rozwijać swojego modelu językowego Gemini. W grudniu wyszło Gemini 2.0, a kilka dni później pisaliśmy o tym, że sztuczna inteligencja trafiła do Dysku Google. Teraz czas na kolejne informacje związane z AI, tym razem dość istotne z punktu widzenia zwykłych użytkowników. Czy amerykański gigant planuje delikatnie „ocenzurować” Gemini?
Gemini zostanie ocenzurowane?
Gdy przez ostatnie tygodnie badałem to, jak działają generatywne modele językowe (efekt tych „badań” możecie przeczytać we wpisie: wyszukiwarka Google czy sztuczna inteligencja) jedną z rzeczy, które brałem pod uwagę, jest potencjalna cenzura. Każdy z badanych AI mniej lub bardziej cenzurował mocno niechciane treści (łamiące prawo, nakłaniające do łamania prawa, dyskryminujące inne rasy lub traktujące o pornografii). Nie działa to idealnie, bo zdarza się, że AI nie widzi problemu w dyskryminacji „białych”, ale miejmy nadzieję, że prędzej czy później zostanie to naprawione. Taka cenzura jest akceptowalna, jednak należy bardzo mocno uważać, aby w tej cenzurze nie przesadzać.
Portal androidauthority dokopał się do informacji o tym, że Google być może wkrótce dostarczy filtr treści do Gemini. Dzięki temu użytkownicy będą mieli większą kontrolę nad danymi wyjściowymi tego modelu językowego. Filtr ma zapewnić kontrolę nad cenzurą Gemini.
Nie wiadomo jednak, czy będzie można np. całkowicie wyłączyć taką cenzurę, chociaż jest to bardzo mało prawdopodobne. Warto jednak podkreślić, że podobna opcja już istnieje w interfejsie API Gemini, czyli zbiorze reguł określającym, w jaki sposób programy mogą się ze sobą komunikować.
Filtr treści w Gemini
Niewątpliwie narzędzia typu Gemini czy ChatGPT potrafią być bardzo przydatne, ale trzeba z nich odpowiednio korzystać. Nie są też tak genialne, jak niektórzy twierdzą. Bardzo daleko im do „inteligencji”, więc programiści muszą nakładać na nie zabezpieczenia, aby zwykli użytkownicy mogli z nich bezpiecznie korzystać. Tak, jak wspomniałem wyżej, takimi zabezpieczeniami można już sterować poprzez API Gemini, ale wkrótce być może ta funkcja trafi w ręce każdego chętnego.
W wersji 15.51.24.sa.arm64 beta aplikacji Google na Androida dodana została opcja o nazwie „filtr treści” z podpisem „użyj filtrów, aby kontrolować odpowiedzi, które widzisz”. Na ten moment funkcja nie wywołuje jeszcze pożądanego zdarzenia i przenosi na stronę Google, ale zapewne wkrótce się to zmieni.
Dzięki informacjom od amerykańskiego giganta, jakich treści ma unikać Gemini, można podejrzewać, że użytkownicy wkrótce będą mogli sami decydować o tym, jak silną „cenzurę” ma mieć „ich” Gemini.
