Pomiar adopcji AI w zespołach deweloperskich: lead time krótszy o 18 procent

75%licencji aktywnych co tydzień, mierzone przez API administracyjne
60%zespołów implementuje z AI samodzielnie w fazie budowy
18%krótszy lead time w zespołach objętych wdrożeniem

Wszystkie trzy po sześciu miesiącach.

Sytuacja

Software house z ponad tysiącem deweloperów. AI było w użyciu od wielu miesięcy, oddolnie: różne narzędzia, różne konfiguracje, każdy zespół po swojemu. Koszty rozchodziły się po organizacji, a wiedza o tym, co działa, nie przechodziła między zespołami.

Zarząd zadawał jedno pytanie: ile z tego mamy. IT nie miało jak odpowiedzieć. Licznik licencji pokazywał, kto dostał dostęp, a nie kto i jak używa. Ankiety dawały deklaracje.

Problem nie leży w narzędziach. Organizacji brakuje języka, którym da się opisać, gdzie stoi.

„Przestaliśmy pytać, ilu deweloperów używa AI. Pytamy, gdzie zespół stoi w matrycy i jaki jest następny krok. To zmieniło rozmowę z adopcji narzędzia na dojrzałość procesu wytwórczego.“

VP Engineering, software house

Jak wyglądał proces przed zmianą

Każdy zespół zaczynał pracę z AI od zera. Własne wzorce, własne ustawienia, własne wnioski. To, czego jeden zespół nauczył się trzy miesiące wcześniej, było niedostępne dla pozostałych.

Kontekst projektu, czyli konwencje, decyzje architektoniczne i zabronione wzorce, żył w głowach kilku osób na zespół. Nowy deweloper i narzędzie AI startowały z zupełnie różną wiedzą o kodzie, w którym pracują.

Koszt AI lądował w budżecie IT, a korzyści rozkładały się po jednostkach biznesowych. Przy takim układzie każda kolejna inwestycja wymagała obrony, której nie było czym poprzeć.

Co zmierzyliśmy przed startem

Zanim cokolwiek wdrożyliśmy, ustaliliśmy, jak będziemy mówić o adopcji.

Odpowiedź na pytanie „ilu deweloperów używa AI“ jest bezużyteczna, bo zespół może pracować samodzielnie przy budowie kodu i w ogóle nie tykać AI przy przeglądzie ani przy utrzymaniu. Dlatego zamiast jednej liczby powstała matryca: siedem faz cyklu wytwarzania oprogramowania razy pięć poziomów dojrzałości, od braku użycia po pełną samodzielność.

Siedem faz cyklu wytwarzania:

  • Wymagania
  • Projektowanie
  • Budowa
  • Testy
  • Przegląd kodu
  • Wdrożenie
  • Utrzymanie

Pięć poziomów dojrzałości:

  • Brak użycia AI w tej fazie
  • Wspomaganie, czyli AI podpowiada, człowiek robi resztę
  • Samodzielność, czyli zespół realizuje z AI całe zadania na podstawie zdefiniowanego zakresu
  • Koordynacja, czyli AI pracuje na wielu krokach zadania i przekazuje wyniki między nimi
  • Samodoskonalenie, czyli zespół rozwija własne wzorce pracy na podstawie tego, co zadziałało

Zespół może być na poziomie samodzielności przy budowie kodu i na poziomie braku użycia przy utrzymaniu. Jedna liczba tego nie pokaże.

Pomiar jest deterministyczny, nie deklaratywny. Głównym sygnałem jest wpis w stopce commita mówiący, że przy zmianie pracowało AI. Do tego dane o czasie przejścia zadań z systemu zarządzania pracą i dane o aktywności licencji z API administracyjnego. Nic z tego nie wymaga ankiety ani modelu oceniającego, który raz sklasyfikuje podobną zmianę tak, a raz inaczej.

Dwie zasady, które ustaliliśmy na starcie i które okazały się ważniejsze od samej matrycy. Mierzymy per zespół i per jednostkę biznesową, nigdy per osoba. Dane indywidualne zostają w narzędziu, dostępne wyłącznie dla samego użytkownika. Gdy liderzy widzą tylko agregaty, zespoły mówią prawdę o tym, co działa.

Co zrobiliśmy

Jeden ekosystem zamiast zbioru narzędzi. Wybór padł na rozwiązanie z jednym kontraktem, logowaniem firmowym, API administracyjnym i możliwością trzymania organizacyjnego katalogu wzorców pracy.

Narzędzie pomiaru zbudowane od podstaw. Nasłuch zdarzeń z repozytoriów, dane z systemu zarządzania pracą i z API administracyjnego trafiają do jednej bazy, a z niej na dwa widoki: dla lidera zespołu z pozycją w matrycy i trendem tygodniowym, oraz dla jednostki biznesowej z dojrzałością i kosztem.

Katalog wzorców pracy. Zestaw sprawdzonych schematów dla powtarzalnych zadań, wersjonowany i walidowany, dystrybuowany do wszystkich zespołów. To, czego nauczył się jeden zespół, przestaje być jego prywatną wiedzą.

Rozliczanie kosztów na jednostki biznesowe. Podstawa licencji zostaje w budżecie centralnym, a zużycie rozliczane jest kwartalnie na jednostki według przypisania zespołów. Dyrektor jednostki widzi koszt AI obok miernika dojrzałości swoich zespołów.

Wynik w liczbach

Co Przed Po Jak mierzone
Licencje aktywne co tydzień brak danych, licznik pokazywał tylko przyznany dostęp 75 procent API administracyjne, pomiar tygodniowy, agregat po sześciu miesiącach
Zespoły pracujące z AI samodzielnie w fazie budowy brak punktu odniesienia 60 procent pozycja w matrycy, sygnał z commitów, agregacja per zespół
Lead time w zespołach objętych wdrożeniem punkt odniesienia z systemu zarządzania pracą krótszy o 18 procent zagregowany czas przejścia zadania, te same zespoły przed i po
Koszt AI w raportach jednostek biznesowych w całości w budżecie IT osobna pozycja w kwartalnym raporcie każdej jednostki zmiana sposobu rozliczania, bez pomiaru ilościowego

Ostatni wiersz opisuje zmianę mechanizmu, bo tu nie ma czego liczyć: koszt nie spadł, tylko trafił tam, gdzie powstaje korzyść. To był warunek dalszych inwestycji.

Co z tego wynika dla podobnej firmy

Jeśli zarząd pyta, ile macie z AI, a odpowiedź brzmi „większość zespołów korzysta“, to nie jest odpowiedź, tylko jej brak. Odsetek osób z dostępem do narzędzia nie mówi nic o tym, czy cokolwiek zmieniło się w sposobie pracy.

Pierwszym krokiem nie jest wybór narzędzia ani szkolenie, tylko ustalenie, czym jest dojrzałość w Waszym cyklu wytwarzania. Zespół może być samodzielny przy budowie kodu i zupełnie nie tykać AI przy przeglądzie. Jedna liczba to zamaskuje, matryca pokaże, gdzie następna inwestycja szkoleniowa da najwięcej.

Drugi warunek jest polityczny, nie techniczny: pomiar musi być agregowany do zespołu, nigdy do osoby. W organizacji, w której deweloper podejrzewa, że jest oceniany po liczbie commitów z AI, dane przestają być prawdziwe w ciągu miesiąca.

Produkt użyty i następny krok

Projekt zaczął się od czterotygodniowego Dowodu wartości AI na czterech zespołach, a skończył wdrożeniem w ramach usługi AI w wytwarzaniu oprogramowania. Zespoły przechodziły przez Warsztat AI dla zespołów IT na własnym kodzie i zadaniach z bieżącego backlogu. Prowadzili to partnerzy, którzy sami odpowiadali za organizacje inżynierskie: zobacz, kto poprowadzi projekt.

Jak wygląda ta sama zmiana w małym zespole, bez matrycy i bez rozliczania kosztów, opisaliśmy w case’ie o AI w cyklu wytwarzania w firmie produktowej.

Autor tej strony

Dariusz Goluch

Partner i współzałożyciel, AlignIT · Optymalizacja procesów i efektywność operacyjna

Wnosi do wdrożeń AI diagnozę procesu opartą na pomiarze pracy. Ponad 20 lat w zarządzaniu i Lean, dziś Prezes Zarządu Sigla Consulting i Partner AlignIT.

Treść przejrzał Mateusz Majcher, Partner i współzałożyciel AlignIT.

Umów rozmowę: 30 minut, sprawdzimy, czy w Twoim cyklu wytwarzania jest co mierzyć