ServiceTitan, startup oferujący chmurowe rozwiązania dla firm usługowych, złożył wniosek o wejście na giełdę, a w dokumentach IPO uwzględnił nietypowy czynnik ryzyka – duże modele językowe (LLM) od Microsoft i OpenAI. Choć ostrzeżenia w tego typu dokumentach są standardowe, takie jak ryzyko finansowe czy siły wyższe, ServiceTitan zwraca uwagę na specyficzne zagrożenia związane z generatywną sztuczną inteligencją.
W swoim 1150-słownym opisie ryzyk, firma ostrzega przed możliwymi negatywnymi skutkami korzystania z LLM. Wymienia m.in. generowanie nieprecyzyjnych informacji, zachowania dyskryminacyjne, naruszenia praw autorskich czy zagrożenia związane z bezpieczeństwem danych. Problemem może być zarówno nadmiar danych, które mogą paść ofiarą ataków, jak i ich niedobór, co uniemożliwi rozwój nowych produktów opartych na AI.
AI jako miecz obosieczny
ServiceTitan korzysta z generatywnej AI od 2023 roku w ramach pakietu Titan Intelligence. W październiku wprowadzono nowe narzędzia AI, wspierające sprzedaż, obsługę klienta i call center. Jednak firma podkreśla, że potencjał tych technologii wiąże się także z wieloma wyzwaniami.
Firma zwraca uwagę, że halucynacje modeli językowych, czyli zdolność AI do generowania fikcyjnych treści, może skutkować tworzeniem nieprawdziwych informacji, co z kolei może wpłynąć na relacje z klientami i reputację marki. Problemem są również kwestie etyczne i społeczne, które mogą budzić kontrowersje w przyszłości, a także potencjalne regulacje prawne, które mogą zwiększyć koszty działalności.
Ryzyko współpracy z gigantami technologii
ServiceTitan jasno wskazuje na ryzyka związane z zależnością od usług firm trzecich, takich jak Microsoft i OpenAI. Jeśli ich technologie staną się niedostępne lub będą działać nieprawidłowo, może to wpłynąć na działanie produktów ServiceTitan. Dodatkowo, trudności w zatrudnianiu specjalistów AI oraz wysokie koszty związane z pozyskiwaniem talentów to kolejne przeszkody, które mogą wpłynąć na przyszłość firmy.
AI w biznesie to przyszłość pełna wyzwań
ServiceTitan działa w branży, w której generatywna AI może zrewolucjonizować procesy, takie jak zarządzanie relacjami z klientami, marketing czy obsługa klienta. Choć możliwości są ogromne, dokumenty IPO firmy jasno pokazują, że na obecnym etapie rozwoju AI może generować tyle samo problemów, co korzyści.
Warto zauważyć, że firma otwarcie przyznaje się do tych ryzyk, co może być strategią budowania zaufania inwestorów, ale także wskazaniem na wyzwania, przed którymi stoi cała branża technologiczna, przyjmująca AI na szeroką skalę.
