Midjourney zapowiedziało wprowadzenie nowego narzędzia, które pozwoli użytkownikom na edycję zdjęć za pomocą sztucznej inteligencji. Według CEO platformy, Davida Holtza, aktualizacja zostanie udostępniona już na początku tego tygodnia. Nowa funkcja umożliwi użytkownikom zmianę tekstury obiektów oraz dostosowanie kolorów i detali w zdjęciach na podstawie opisów tekstowych.
Edycja zdjęć AI na wyciągnięcie ręki
Nowe narzędzie Midjourney pozwoli każdemu użytkownikowi internetu na modyfikowanie dowolnych zdjęć za pomocą AI. Funkcja rekoloryzacji pozwoli na „malowanie” obiektów na nowo – zmieniając ich kolory i szczegóły zgodnie z podanymi opisami. Początkowo zaktualizowane narzędzie będzie dostępne dla ograniczonej grupy użytkowników, a platforma planuje wprowadzenie „nowoczesnych moderatorów AI“, aby zapobiegać potencjalnym nadużyciom.
Midjourney zamierza również zbierać opinie społeczności w celu ustalenia, kto otrzyma dostęp w pierwszej kolejności. Decyzje mają zostać podjęte na podstawie ankiety w oficjalnym serwerze Discord platformy.
Ryzyka związane z AI w edycji zdjęć
Edycja zdjęć za pomocą AI wywołuje wiele kontrowersji. Deepfake’i stają się coraz większym zagrożeniem, rozprzestrzeniając dezinformację na szeroką skalę. Przykładem są fałszywe zdjęcia zniszczeń po huraganie Helene, które zalewały internet, wprowadzając użytkowników w błąd.
Według firmy Clarity, zajmującej się wykrywaniem deepfake’ów, liczba tego typu materiałów wzrosła o 900% w porównaniu do ubiegłego roku. Badanie YouGov pokazuje, że 85% Amerykanów obawia się szerzenia fałszywych treści generowanych przez AI. W odpowiedzi na to zagrożenie, ponad 10 stanów USA przyjęło przepisy przeciwko fałszywym treściom tworzonym z pomocą AI, a Kalifornia pracuje nad prawem umożliwiającym usuwanie deepfake’ów na mocy orzeczeń sądowych.
Midjourney stawia na ograniczenia i moderację
Choć Midjourney podejmuje kroki, by ograniczyć wpływ deepfake’ów, w tym przez wprowadzenie filtrów dotyczących postaci politycznych przed wyborami prezydenckimi w USA, firma wciąż mierzy się z krytyką. Platforma jest obecnie pozywana za rzekome wykorzystanie treści chronionych prawem autorskim do trenowania swoich modeli AI.
Nowa aktualizacja z pewnością wzbudzi zainteresowanie, ale także obawy dotyczące odpowiedzialnego wykorzystania AI. Czas pokaże, czy rozwiązania moderacyjne Midjourney okażą się wystarczające, by zapobiec nadużyciom. Pomimo tego, że skala deepfake’ów w Polsce na pewno nie jest tak duża jak np. w USA, to biorąc pod uwagę obecną sytuacje geopolityczną nie powinno się ignorować zagrożenia, jakie ze sobą taka technologia niesie.