Google ogłosiło, że jego narzędzie open-source do znakowania tekstu generowanego przez sztuczną inteligencję, SynthID, zostało udostępnione. Narzędzie to, dostępne teraz poprzez Google Responsible Generative AI Toolkit, umożliwia deweloperom wykrywanie, czy teksty pochodzą z ich własnych modeli AI.
SynthID – technologia znakowania treści generowanych przez AI
SynthID to technologia, która pozwala na dodawanie niewidocznych dla ludzkiego oka znaków wodnych do treści generowanych przez AI, takich jak obrazy, wideo, audio oraz tekst. Dzięki temu twórcy mogą lepiej kontrolować swoje treści i zapobiegać nieetycznym praktykom, takim jak rozpowszechnianie dezinformacji politycznej, tworzenie treści o charakterze niekonsensualnym, czy inne złośliwe działania.
SynthID działa na zasadzie modyfikacji prawdopodobieństwa wyboru poszczególnych tokenów (słów lub części fraz) generowanych przez model językowy, co sprawia, że teksty stają się mniej prawdopodobne, ale jednocześnie wykrywalne przez odpowiednie oprogramowanie. Co istotne, Google twierdzi, że ten proces nie wpływa na jakość, dokładność ani kreatywność wygenerowanego tekstu.
Przyszłość identyfikacji treści generowanych przez AI
Znakowanie treści generowanych przez AI zyskuje na znaczeniu, zwłaszcza w kontekście rosnącej liczby zagrożeń związanych z technologiami sztucznej inteligencji. W niektórych krajach, jak np. w Chinach, takie rozwiązania są już wymagane prawnie, a Kalifornia rozważa wprowadzenie podobnych regulacji. Google zaznacza jednak, że SynthID nie jest idealnym narzędziem – szczególnie w przypadku krótkich tekstów, treści przetłumaczonych lub zmodyfikowanych.
SynthID jest już zintegrowany z chatbotem Google Gemini i może działać na tekstach o długości zaledwie trzech zdań, co czyni go jednym z najefektywniejszych narzędzi dostępnych na rynku.
Znaczenie udostępnienia open-source
Udostępnienie SynthID w formie open-source to krok, który może przyczynić się do bardziej odpowiedzialnego rozwoju technologii AI. Dzięki temu inni deweloperzy AI mogą wprowadzać narzędzie do swoich modeli, zwiększając wykrywalność treści generowanych przez sztuczną inteligencję i pomagając użytkownikom podejmować świadome decyzje dotyczące interakcji z tego typu treściami.
