Niepokojący trend w obróbce zdjęć
BBC przygląda się problemowi, który eksperci AI przewidywali wraz z rozwojem narzędzi sztucznej inteligencji. Jak podają brytyjskie organizacje pozarządowe, szkoły coraz częściej zgłaszają przypadki nadużyć wobec uczniów. Chodzi o obróbkę zdjęć dokonaną przy pomocy nowych narzędzi AI. Niektóre treści mają charakter satyryczny, inne podpadają już pod naruszenie prawa.
Szybkiej interwencji szkół i rodziców domaga się m.in. brytyjska organizacja UKSIC (The UK Safer Internet Centre). Przedstawiciele organizacji zalecają możliwie szybkie przygotowanie standardów zapobiegających sytuacjom, w którym "obrobione technicznie" zdjęcie dziecka zostanie wykorzystane w celach niezgodnych z prawem.
Technologie AI: Nauczycielom brakuje wiedzy i narzędzi
Eksperci od nowych technologii zauważają, że nauczyciele nie nadążają za wyzwaniami związanymi z nowymi technologiami. Uczniowie testują cyfrowe narzędzia szybciej i mają bardziej szczegółową wiedzę. Pedagodzy nie są w stanie zapobiegać ewentualnym konsekwencjom nadużywania oprogramowania AI przez nastolatków.
"Uczniowie używają AI regularnie" – wyznaje BBC Tasha Gibson, manager bezpieczeństwa online w firmie RM Technology. Ekspertka dodaje, że jej zdaniem nastolatki przewyższają wiedzą i doświadczeniem nauczycieli pod kątem zastosowania aplikacji. "Powstaje luka wiedzy" – wyjaśnia Gibson. I dodaje – "Wraz ze wzrostem popularności AI, zmniejszenie tej luki jest absolutnym priorytetem."
Konsekwencje nadużyć
O konsekwencjach przetwarzania prywatnych treści mówi również Victoria Green, dyrektor Fundacji Marie Collins. "Dzieci mogą nie tworzyć treści w celu wyrządzenia krzywdy, ale po udostępnieniu dany materiał może trafić w niepowołane ręce np. na strony z nielegalnymi materiałami. Istnieje realne ryzyko, że te zdjęcia mogą zostać wykorzystane przez przestępców seksualnych do zawstydzania i uciszania ofiar."
Problem nadużyć z wykorzystaniem najnowszych technologii jest dyskutowany coraz szerzej. W październiku 2023 brytyjska organizacja Internet Watch Fundation przyjrzała się bliżej tematowi i opracowała wnikliwy raport ["How AI is being abused to create child sexual abuse imagery", źródło: iwf.org.uk, dostęp: 29.11.23]. We wstępie dokumentu można przeczytać m.in., że pierwsze, nielegalne materiały z użyciem dziecięcych zdjęć (zmodyfikowanych przez AI) wypłynęły w marcu 2023 roku. Autorzy raportu podkreślają, że od tego czasu nastąpił masowy napływ podobnych treści, a odróżnienie zdjęcia zmodyfikowanego od realnego jest coraz trudniejsze.
Aplikacje do "rozbierania zdjęć"
Aplikacje do obróbki zdjęć są obecnie jednymi z najbardziej popularnych i najszybciej ewoluujących. Kilka lat temu kontrowersje wzbudziło oprogramowanie "zdejmujące makijaż" z fotografii. W Internecie krążyły przeróbki zdjęć aktorów, celebrytów i influencerów w wersji bez makijażu. BBC podaje przykład aplikacji, której twórcy poszli o krok dalej. W 2019 roku w sieci pojawiły się programy z funkcją zaawansowanej obróbki fotografii – w tym opcji "zdejmowania" ubrań z osoby, którą zdjęcie przedstawia. BBC podaje przykład grupy uczennic z Hiszpanii, które stały się ofiarą tego trendu. Przerobione przez aplikację zdjęcia nastolatek w wieku od 11 do 17 lat trafiły do sieci bez ich zgody.
Eksperci od nowych technologii podkreślają, że przestępstwa związane z wykorzystaniem nowoczesnego oprogramowania będą coraz częstsze. Fotorealistyczne portrety generowane przez AI coraz trudniej odróżnić od prawdziwych zdjęć. Przykładem wykorzystania tego trendu w marketingu jest m.in. projekt cyfrowej influencerki Aitany López, stworzony przez hiszpańską agencję marketingową The Clueless.