Wzrost deepfake’ów w erze generatywnej AI
Liczba deepfake’ów w sieci rośnie w zastraszającym tempie. Jak podaje platforma weryfikacji tożsamości Sumsub, w latach 2023–2024 odnotowano czterokrotny wzrost tego rodzaju treści, które obecnie stanowią aż 7% wszystkich oszustw. Deepfake’i są wykorzystywane nie tylko do przejęć kont czy kampanii socjotechnicznych, ale także w bardziej zaawansowanych formach manipulacji.
Meta Video Seal – nowe narzędzie do znakowania treści
Meta zaprezentowała Meta Video Seal – narzędzie do niewidzialnego znakowania wideo generowanego przez sztuczną inteligencję. Jest to rozwiązanie open source, które może zostać zintegrowane z istniejącym oprogramowaniem. Meta Video Seal to część większego zestawu narzędzi, który obejmuje także Watermark Anything oraz Audio Seal, dostępne w ramach licencji otwartej.
Jak działa Meta Video Seal?
Meta Video Seal pozwala na dodanie niewidzialnego znaku wodnego oraz ukrytej wiadomości, którą można później odszyfrować w celu identyfikacji pochodzenia wideo. Co wyróżnia to narzędzie na tle innych rozwiązań, takich jak DeepMind SynthID czy technologie Microsoftu? Przede wszystkim odporność na typowe modyfikacje, takie jak kompresja, rozmycie czy przycięcie wideo.
„Większość dostępnych narzędzi nie jest wystarczająco odporna na kompresję, co czyni je mniej użytecznymi na platformach społecznościowych. Meta Video Seal rozwiązuje ten problem, oferując skuteczność i skalowalność,” podkreśla Pierre Fernandez, naukowiec ds. AI w Meta.
Wyzwania i przyszłość znakowania treści AI
Chociaż Meta Video Seal oferuje zaawansowane rozwiązania, nie jest wolne od ograniczeń. Skrajna kompresja czy znaczne edycje mogą utrudnić odczytanie znaków wodnych lub całkowicie je usunąć. Kolejnym wyzwaniem jest przekonanie deweloperów i firm do przyjęcia tego rozwiązania, zwłaszcza tych korzystających z własnych, zamkniętych systemów.
Aby to zmienić, Meta uruchomiła publiczny ranking Meta Omni Seal Bench, który porównuje skuteczność różnych metod znakowania wideo. Dodatkowo firma planuje zorganizowanie warsztatów na temat znakowania treści podczas konferencji ICLR – jednej z najważniejszych imprez w świecie sztucznej inteligencji.
Czy znakowanie stanie się standardem?
„Chcemy współpracować z branżą i środowiskiem akademickim, aby szybciej rozwijać tę dziedzinę,” mówi Fernandez. Meta liczy, że narzędzia takie jak Video Seal przyczynią się do ograniczenia nieautoryzowanego wykorzystania generatywnej AI i poprawy przejrzystości w internecie.
