W tym wpisie wyjaśniamy zasady oznaczania treści wygenerowanych przez Ciebie przy pomocy systemów AI. Na początek trochę teorii, a później kilka przykładów z wyjaśnieniem, dlaczego dany przykład oznaczamy.
Przykłady podane w tym artykule pochodzą z wytycznych Komisji Europejskiej (Guidelines on transparency obligations for providers and deployers of certain AI systems). Wytyczne Komisji Europejskiej nie są prawem, ale organy i sądy będą prawdopodobnie do nich sięgać w razie wątpliwości.
Do kogo jest adresowany ten artykuł?
Jeżeli pracujesz w dziale PR lub w ramach własnej działalności zawodowej wykorzystujesz AI do kreowania treści, ten artykuł jest dla Ciebie. Nie ma znaczenia, czy jesteś małym, średnim, czy dużym przedsiębiorcą. Nie ma również znaczenia, czy jesteś spółką, czy jednoosobową działalnością gospodarczą. Kluczowe jest to, że wykorzystujesz system AI (lub sprawujesz nad nim kontrolę) w ramach działalności zawodowej.
Do kogo NIE jest adresowany ten artykuł?
Jeżeli korzystasz z systemów AI do działalności pozazawodowej, to obowiązek oznaczania Cię nie dotyczy. Jeżeli jesteś deweloperem, który rozwija lub dostarcza pod własnym szyldem system AI, to obowiązki dotyczące transparentności skierowane do Ciebie, jako dostawcy systemów AI, omówimy w kolejnym artykule.
Kiedy istnieje obowiązek oznaczania?
Obowiązek oznaczania w Twoim przypadku dotyczy dwóch odrębnych grup treści. Pierwsza grupa to deepfake, czyli obraz, audio i wideo wygenerowane lub zmanipulowane przez AI. Druga grupa to tekst publikowany w sprawach interesu publicznego. Każda z tych grup rządzi się swoimi prawami.
Deepfake'i
Deepfake oznacza wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe.
Obowiązek oznaczania takich treści pojawia się wtedy, kiedy łącznie spełnione są następujące przesłanki:
Przesłanka 1: Treść musi wykazywać podobieństwo do symulowanego podmiotu – nie musi być identyczna, wystarczy wysoki poziom podobieństwa uwzględniający rozpoznawalne cechy.
Przesłanka 2: Podmiot musi istnieć, mógłby realnie istnieć, albo mógł kiedyś istnieć – treści łamiące prawa fizyki lub biologii są z góry wyłączone.
Przesłanka 3: Podmiot musi należeć do jednej z kategorii: osoby, obiekty, miejsca, byty lub zdarzenia.
Przesłanka 4: Treść musi sprawiać fałszywe wrażenie autentyczności lub prawdziwości wobec przewidywalnego odbiorcy, oceniane obiektywnie, bez potrzeby wykazywania zamiaru wprowadzenia w błąd.
Przykłady: kiedy oznaczasz deepfake
Zmanipulowane zdjęcie sceny z dwoma prawdziwymi zawodowymi piłkarzami przed budynkiem przypominającym stadion. Podobieństwo występuje, bo piłkarze są rozpoznawalni jako konkretne osoby. Osoby przedstawione na zdjęciu istnieją, bo to żyjący ludzie. Fałszywe wrażenie autentyczności występuje, bo odbiorca zobaczy scenę, która nigdy nie miała miejsca, i przy braku oznaczenia weźmie ją za rzeczywiste zdjęcie tych dwóch osób w tym miejscu.
Wygenerowane audio z klonowaniem głosu stałych prowadzących podcastu i gościa rozmawiających o wydarzeniach. Podobieństwo występuje, bo klonowane są głosy rozpoznawalnych osób. Głos tych prowadzących znamy i wiemy, że istnieją. Fałszywe wrażenie autentyczności występuje, bo słuchacz usłyszy rozmowę, która nigdy się nie odbyła, i przy braku oznaczenia uzna ją za prawdziwą.
Wideo osoby przypominającej polityka wygłaszającej przemówienie przed publicznością. Podobieństwo występuje, bo osoba jest rozpoznawalna jako konkretny polityk. Polityk istnieje naprawdę, więc przesłanka istnienia jest spełniona. Fałszywe wrażenie autentyczności występuje, bo odbiorca może uznać, że polityk faktycznie wygłosił to przemówienie.
Wideo z wizerunkiem celebryty-influencera w kontekście reklamowym. Podobieństwo występuje, bo wizerunek jest oparty na konkretnej, rozpoznawalnej osobie. Ta osoba istnieje naprawdę. Fałszywe wrażenie autentyczności występuje, bo odbiorca może uznać, że dana osoba faktycznie rekomenduje produkt, podczas gdy nigdy go nawet nie trzymała w ręku.
Wideo z realistycznym syntetycznym awatarem CEO gratulującym pracownikom wyników. Podobieństwo występuje, bo awatar odwzorowuje konkretną, rozpoznawalną osobę na konkretnym stanowisku. Ta osoba istnieje naprawdę. Fałszywe wrażenie autentyczności występuje, bo pracownicy mogą uznać komunikat za faktyczne, osobiste wystąpienie prezesa, podczas gdy w rzeczywistości nigdy go nie nagrał.
Obraz produktu w reklamie lub na opakowaniu, który może wprowadzić w błąd co do rzeczywistego wyglądu, cech lub sposobu użycia produktu. Podobieństwo występuje, bo obraz odnosi się do konkretnego, istniejącego produktu. Produkt istnieje naprawdę. Fałszywe wrażenie autentyczności występuje, bo konsument może uznać, że kupowany produkt wygląda, działa lub prezentuje się dokładnie tak, jak na obrazie, a rzeczywistość może się od tej wizji różnić.
Przykłady: kiedy nie musisz oznaczać deepfake
Obraz sfinksa lecącego nad Wieżą Eiffla. Przesłanka istnienia nie jest spełniona – latający sfinks łamie prawa fizyki i biologii.
Wideo myszy kłócących się po ludzku o najlepszy rodzaj sera w kampanii reklamowej. Przesłanka istnienia nie jest spełniona – myszy dyskutujące po ludzku o serze to fantazja, nie rzeczywistość.
Audycja radiowa z dostosowanymi parametrami technicznymi dźwięku bez zmiany treści wypowiedzi. Przesłanka fałszywego wrażenia autentyczności nie jest spełniona – normalizacja głośności czy redukcja szumów to techniczna kosmetyka, nie zmiana tego, co ktoś faktycznie powiedział.
Kreskówka na bazie zdjęcia przedstawiającego wydarzenie historyczne. Przesłanka fałszywego wrażenia autentyczności nie jest spełniona – kreskówka z definicji nie udaje fotografii.
Prezenter programu naukowego na tle zmanipulowanej animacji tła pokazującej cofanie się lodowców. Przesłanka fałszywego wrażenia autentyczności nie jest spełniona – animacja ilustruje zjawisko, a nie udaje nagrania z kamery.
Prawdziwy produkt (np. samochód) pokazany na wygenerowanym tle, dopóki nie wprowadza w błąd co do cech produktu. Przesłanka fałszywego wrażenia autentyczności nie jest spełniona wobec samego produktu – auto wygląda i działa tak, jak w rzeczywistości, zmieniono jedynie scenerię.
Wyjątek artystyczny i satyryczny
Nawet po spełnieniu czterech przesłanek obowiązek może zostać ograniczony, jeśli treść stanowi twórczość artystyczną, satyryczną, fikcyjną lub analogiczną. Ograniczony, ale nie wyłączony! W takim wypadku oznaczenie nadal jest wymagane, ale w sposób niezakłócający odbioru dzieła.
Przykłady deepfake objęte wyjątkiem artystycznym lub satyrycznym (obowiązek ograniczony do informacji, że zaangażowano AI): filmy lub zwiastuny z odmłodzonymi aktorami lub cyfrowymi replikami zmarłych aktorów; muzyka przypominająca styl istniejących artystów; zmanipulowany obraz polityka w scenie krytykującej w sposób humorystyczny jego decyzje; obrazy z gier obejmujące symulacje prawdziwych osób.
Przykłady deepfake niekwalifikujące się jako sztuka lub satyra (pełny obowiązek): wideo w stylu teleshoppingu z symulowanymi ludźmi reklamującymi produkt i pokazującymi jego funkcjonalne użycie; obraz celebrytów sugerujący udział w wydarzeniach, które nigdy nie miały miejsca, bez celu fikcyjnego czy satyrycznego; wideo z realistycznym syntetycznym influencerem testującym sponsorowany produkt, skupione na pokazaniu jego funkcjonalności; wideo przedstawiające realistyczne sceny Holokaustu udostępniane w social mediach.
Tekst
Dla drugiej grupy, czyli tekstu, obowiązek powstaje przy łącznym spełnieniu trzech przesłanek.
Przesłanka 1: Tekst musi być opublikowany, czyli dostępny dla nieokreślonej, dość dużej liczby niepowiązanych ze sobą odbiorców.
Przesłanka 2: Tekst musi mieć na celu informowanie społeczeństwa, czyli komunikować wiedzę, opinie lub fakty.
Przesłanka 3: Tekst musi dotyczyć sprawy interesu publicznego.
Interes publiczny to m.in.: polityka, administracja publiczna, wymiar sprawiedliwości, prawa podstawowe, bezpieczeństwo publiczne, zdrowie publiczne, ochrona środowiska, bezpieczeństwo konsumentów oraz rozwój gospodarczy, finansowy, polityczny, naukowy lub kulturalny mogący być przedmiotem debaty publicznej.
Ale są wyjątki. Nawet przy spełnieniu tych trzech przesłanek obowiązek odpada, jeśli tekst przeszedł rzeczywistą ludzką weryfikację lub kontrolę redakcyjną oraz istnieje osoba fizyczna lub prawna ponosząca odpowiedzialność redakcyjną za publikację. Powierzchowna korekta gramatyczna, sam fakt istnienia polityki redakcyjnej czy zautomatyzowana weryfikacja nie spełniają tego warunku.
Przykłady: kiedy oznaczasz tekst
Streszczenie artykułu na stronie gazety omawiającego decyzję rady miejskiej. Publikacja jest spełniona – tekst jest dostępny dla każdego. Informowanie społeczeństwa jest spełnione – streszczenie komunikuje konkretne fakty. Interes publiczny jest spełniony – decyzje rady miejskiej to decyzje władzy lokalnej podejmowane w imieniu mieszkańców.
Zmanipulowane fragmenty artykułu porównującego wpływ diet na chorobę u kobiet w średnim wieku. Publikacja jest spełniona – artykuł jest dostępny dla szerokiego grona czytelników. Informowanie społeczeństwa jest spełnione – tekst komunikuje konkretną wiedzę. Interes publiczny jest spełniony – zdrowie publiczne to klasyczny temat z katalogu.
Zmanipulowane raporty korporacyjne spółki giełdowej zawierające informacje dla inwestorów. Publikacja jest spełniona – raport trafia do nieokreślonej liczby potencjalnych inwestorów. Informowanie społeczeństwa jest spełnione – raport komunikuje twarde fakty finansowe. Interes publiczny jest spełniony – sprawy gospodarcze i finansowe stanowią interes publiczny.
Przykłady: kiedy nie musisz oznaczać tekstu
Powieści fantasy. Powieść fantasy to nie opinia, wiedza ani fakt – oczywiste jest, że to fikcja, więc nikt nie jest wprowadzony w błąd.
Tekst reklamy lub opis produktu, o ile nie zawiera twierdzeń dotyczących zdrowia, bezpieczeństwa konsumentów lub zrównoważonego rozwoju. Dopóki tekst nie dotyczy interesu publicznego, nie musisz oznaczać. Reklama dotycząca zdrowia musiałaby zostać oznaczona, bo zdrowie mieści się w interesie publicznym.
Streszczenie newsów od chatbota dostępne tylko dla użytkownika, który je zapromptował. Nie wystąpiła przesłanka opublikowania, więc nie ma obowiązku oznaczania.
Kiedy występuje wyjątek – pomimo wygenerowania tekstu przez AI nie musisz go oznaczać
Artykuł lub streszczenie w gazecie po kontroli redaktora naczelnego, z odpowiedzialnością redakcyjną wydawcy. Blog akademicki po wewnętrznym peer review, z odpowiedzialnością redakcyjną ośrodka badawczego. Ostrzeżenia dla ludności zatwierdzone przez urzędnika, pod odpowiedzialnością agencji ochrony cywilnej. Raporty zrównoważonego rozwoju spółki giełdowej po weryfikacji przez compliance. Tłumaczenie artykułu napisanego przez człowieka, po ludzkiej weryfikacji.
Kiedy mogłoby się wydawać, że wyjątek występuje, ale wcale tak nie jest
Strona z artykułami o polityce unijnej publikowanymi bez celowej ludzkiej weryfikacji. Artykuły recenzowane przez inny system AI, z człowiekiem robiącym tylko powierzchowną korektę gramatyczną. Samodzielnie wydana książka o zmianie klimatu na platformie e-commerce, bez weryfikacji przez kompetentną osobę ani przez platformę.
Podsumowanie
Mamy nadzieję, że przykłady pozwoliły poczuć, gdzie przebiega granica obowiązku oznaczania treści. Jeżeli masz jakiekolwiek pytania, daj znać – chętnie pomożemy uporządkować procedury oznaczania treści AI w Twojej firmie.
Obowiązki opisane w tym artykule wynikają z art. 50 AI Act oraz z wytycznych Komisji Europejskiej (Guidelines on transparency obligations for providers and deployers of certain AI systems).