Czy AI popsuło nam budżetowe excele???

W dużym uproszczeniu podział przy wyborze oprogramowania wyglądał kiedyś tak:

• Chciał_ś przewidywalny abonament i niski próg wejścia? Wybierał_ś SaaS / rozwiązanie z półki, zwykle rozliczane jako OpEx.

• Chciał_ś budować własne aktywo i miał_ś budżet na start? Inwestowa_ś w custom software development, którego część kosztów mogła być kapitalizowana jako CapEx.

W erze AI ten podział coraz słabiej opisuje rzeczywiste koszty, a na scenę wchodzą tzw. "ukryte koszty compute". Co się zmieniło?

W usługach AI rozliczanych według zużycia kończy się pełna przewidywalność. Koszty tokenów, wywołań API i pracy agentów mogą szybko rosnąć. Autonomiczny agent pozbawiony limitów, alertów i maksymalnej liczby kroków może wpaść w pętlę i przepalić budżet w jeden weekend. Zamiast stałego abonamentu możemy więc dostać "fakturę niespodziankę" (mini konkursik: kto miał największą? 😅).

W custom software development szybciej tracą aktualność przede wszystkim inwestycje w warstwę modelową i infrastrukturę AI. Gigantyczny koszt wdrożenia lub trenowania własnego modelu może okazać się ekonomicznie nieuzasadniony już po kilku miesiącach, gdy na rynku pojawi się model tańszy i szybszy. Nie oznacza to jednak, że cała aplikacja, integracje czy dane tracą wartość.

Gartner i IBM w swoich raportach wskazują na rosnące koszty compute oraz problemy z kontrolą ekonomiki projektów AI. FinOps, czyli zarządzanie kosztami chmury i zużycia technologii, dla wielu organizacji stał się przez to jednym z kluczowych priorytetów.

Jak to widzicie w swoich organizacjach? Czy AI faktycznie wywróciło Wasze budżety IT do góry nogami, czy udaje Wam się utrzymać te koszty w ryzach? Czy wiecie jak liczyć koszty w nowej rzeczywistości? Gotowe rozwiązania czy własny development - co Waszym zdaniem lepiej spina się dziś finansowo? Zapraszam do komentowania 😉