OpenAI, lider w dziedzinie technologii sztucznej inteligencji, ujawnił, że bada możliwości „odpowiedzialnego” generowania treści NSFW (ang. Not Safe For Work), co może oznaczać duże zmiany w obecnej polityce firmy dotyczącej treści eksplicytnych.
W opublikowanej w środę wersji roboczej dokumentacji, określającej sposób działania ChatGPT i innych technologii AI, firma rozważa wprowadzenie możliwości generowania treści erotycznych oraz innych treści dla dorosłych.
Eksploracja nowych granic w AI
OpenAI stara się zrozumieć oczekiwania użytkowników i społeczeństwa względem zachowania modeli AI w kontekście treści NSFW, które mogą obejmować erotykę, ekstremalną brutalność, obraźliwe języki i nieproszoną wulgarność. W specyfikacji modelu firma zaznacza, że obecnie nie planuje generowania pornografii AI, jednakże nie wyklucza możliwości tworzenia treści erotycznych. Zdaniem Joanne Jang z OpenAI, to użytkownicy ostatecznie zdecydują, czy produkowane przez technologię treści będą uznane za pornografię.
Wyzwania i kontrowersje
Generowanie pornografii AI szybko stało się jednym z największych i najbardziej kontrowersyjnych zastosowań technologii AI generatywnej. Tak zwane „deepfake porn”, czyli wykorzystanie AI do tworzenia obrazów lub filmów przedstawiających rzeczywiste osoby bez ich zgody, stało się powszechnym narzędziem nękania kobiet i dziewcząt. Rzecznik OpenAI, Grace McGuire, podkreśla dążenie firmy do transparentności w procesie rozwoju oraz zbierania opinii od publiczności i różnych interesariuszy. Wprowadzenie możliwości generowania treści NSFW wiązałoby się z wieloma wyzwaniami, w tym skutecznym moderowaniem treści, aby zapobiec nadużyciom.
Potencjalne zmiany w polityce OpenAI
Obecnie polityka użytkowania OpenAI zabrania tworzenia treści sugerujących lub wyraźnie seksualnych. Niemniej jednak firma bada, jak mogłaby umożliwić tworzenie materiałów NSFW w odpowiednim kontekście wiekowym. Jak dotąd, nie podano szczegółów dotyczących tego, co dokładnie mogłoby zostać dopuszczone, ani jakie opinie zgromadziła firma na temat tego pomysłu. To, czy OpenAI zdoła efektywnie moderować generowanie eksplicytnych treści, pozostaje otwartym pytaniem.
