UE. Platformy mają oznaczać fejki fabrykowane przez AI
5 czerwca 2023
Całkiem niedawno miliony internautów uwierzyły, że papież Franciszek reklamuje Balenciagę, po tym jak w marcu w sieci pojawiły się zdjęcia hierarchy w białej puchowej kurtce tej luksusowej hiszpańskiej marki. Autorem wygenerowanych przez sztuczną inteligencję (AI) obrazów okazał się być 31-letni budowlaniec z Chicago, a materiał, który w błyskawicznym tempie rozszedł się po sieci, zyskał już miano kultowego jako „Papież Balenciagi”.
Mniej więcej w tym samym czasie do sieci trafiły sfabrykowane zdjęcia przedstawiające aresztowanie Donalda Trumpa, a w kwietniu zdjęcia Władimira Putina praktykującego buddyzm. Wszystkie do złudzenia realne.
Rap wyśpiewany przez AI
– Generatywna sztuczna inteligencja, czyli technologia tworząca zupełnie nowe, wcześniej nieistniejące treści, jak teksty, wideo czy nagrania dźwiękowe, jest bardzo kreatywna, ale ma także swoje ciemne strony i może mieć negatywny wpływ na odbiorców – mówi DW komisarz UE ds. wartości Vera Jourova. Eksperci alarmują, że AI jest dzisiaj w stanie stworzyć autentycznie wyglądające nagrania z rzekomych wydarzeń, których wcale nie było, generatory dźwięku odtworzyć nasz głos jedynie na podstawie niewielkiej jego próbki - niedawno zresztą w sieci pojawił się utwór wyśpiewany głosem amerykańskiego rapera Jay-Z, ale stworzony całkowicie przez sztuczną inteligencję – a chatboty, jak Chat GPT, tworzą coraz lepsze i spójne merytorycznie treści. – To niesie za sobą poważne ryzyko. Użytkownicy powinni mieć świadomość, że treści, na które trafiają, są tworzone przez maszyny, a nie człowieka – mówią unijni urzędnicy.
Internauta ze świadomością deepfejków
Dlatego Komisja Europejska postanowiła po raz pierwszy zobowiązać platformy internetowe do opracowania technologii wyłapującej tego typu treści oraz oznaczania deepfejków. – Chodzi nam o to, żeby firmy w ramach kodeksu opracowały specjalną, oddzielną strategię, która pomoże walczyć z dezinformacją generowaną przez AI, pozwoli identyfikować konkretne treści, ułatwi ich eliminację i powstrzyma rozpowszechnianie, a także stworzyły etykietę do oznaczania deepfejków – powiedziała podczas poniedziałkowego spotkania z mediami wiceprzewodnicząca KE.
Jourova i komisarz UE ds. rynku wewnętrznego Thierry Breton spotkali się w tym celu w poniedziałek z 40 firmami internetowymi, w tym największymi, jak Meta, Google, Microsoft i TikTok, które są sygnatariuszami podpisanego jeszcze w 2018 r. kodeksu postępowania ws. dezinformacji, czyli porozumienia między Big Tech a Komisją Europejską. Kodeks dotychczas nakładał na platformy m.in. nakaz usuwania dezinformacji oraz blokowania dochodów z fake newsów, ale nie obejmował etykietowania fabrykowanych przez AI deepfejków. Teraz to ma się zmienić. Nowa etykieta miałaby być stosowana do wszystkich materiałów generowanych przez sztuczną inteligencję, które mogą być wykorzystywane do tworzenia dezinformacji, w tym tekstu, obrazów, audio i wideo.
– W lipcu platformy mają nam także przedstawić kolejny raport dotyczący tego, jak radzą sobie z usuwaniem dezinformacji. To ważne zwłaszcza w obliczu wojny w Ukrainie i zalewającej internet pro-Kremlowskiej propagandy, która ma na celu głównie zasianie w odbiorcach wątpliwości co do pomocy Ukrainie i podkopanie ich zaufania w demokrację – powiedziała komisarz. I dodała, że jeśli chodzi o dezinformację generowaną przez AI to wiele firm posiada już technologię, która umożliwia rozpoznawanie deepfejków, więc nie powinno być problemów z oznaczaniem tego typu treści.
KE chce utemperować Twittera
Eksperci zauważają jednak, że zgodnie z aktualnymi założeniami Komisji, nowa strategia miałaby być opracowana i wdrożona przez firmy w ramach kodeksu postępowania, który jest dobrowolny. Oznacza to, że firmy mogą – i tak zresztą robiły do tej pory – dostosować się do żądań unijnych urzędników, ale nie muszą. Dwa tygodnie temu zresztą Twitter postanowił wystąpić z porozumienia. – Zostaliśmy poinformowani o tym listownie, firma nie przedstawiła żadnego wytłumaczenia. Nie była to jednak dla nas niespodzianka, sygnały, że tak się stanie docierały już do nas wcześniej – mówi DW Jourova.
KE tłumaczy, że postawiła na ten sposób, bo opracowanie metod wyłapywania i oznaczania deepfejków w ramach kodeksu jest szybsze i może być wprowadzone natychmiast. Już niebawem zresztą – dodają urzędnicy - kodeks postępowania przestanie być dobrowolny, a stanie się obowiązkowy w ramach przepisów o usługach cyfrowych (DSA), regulujących działanie platform internetowych w UE i zobowiązujących je m.in. do usuwanie dezinformacji i nielegalnych treści.
Na podstawie tych przepisów KE zamierza utemperować także Twittera. – Platformy, które chcą działać na terenie UE będą musiały się do unijnych przepisów zastosować. Niezależnie od tego czy przestrzegają kodeksu, czy nie – mówi Jourova. Za niedostosowanie się do regulacji unijnych największym firmom, a do takich zalicza się Twitter, grozić będzie grzywna w wysokości nawet 6 proc. globalnych dochodów. W UE trwają także prace legislacyjne nad pierwszymi unijnymi przepisami regulującymi sztuczną inteligencję (AI Act). To, czy regulacje obejmą także obowiązek oznaczania treści generowanych przez AI, ustalone zostanie jednak dopiero w toku negocjacji między instytucjami UE.