AI też ma ślad ESG. Jak bank powinien mierzyć środowiskowe i społeczne skutki automatyzacji?

AI również ma swój ślad ESG

Dyskusja o wykorzystaniu sztucznej inteligencji w bankach koncentruje się dzisiaj przede wszystkim na kilku dobrze już rozpoznanych problemach. Pytamy o zgodność z AI Act, bezpieczeństwo danych, ryzyko modeli, odporność operacyjną, korzystanie z dostawców zewnętrznych, możliwość wyjaśnienia wyniku i granice automatycznego podejmowania decyzji. Wszystkie te pytania są potrzebne. Coraz mniej wystarczające staje się jednak traktowanie AI wyłącznie jako nowego rodzaju technologii, którą trzeba objąć odpowiednim governance.  Im większą część działalności banku wykonują modele i agenci AI, tym bardziej sztuczna inteligencja zaczyna wpływać również na środowiskowy i społeczny profil samej instytucji. Modele wymagają mocy obliczeniowej, energii, infrastruktury centrów danych i chłodzenia. Automatyzacja zmienia strukturę zatrudnienia, zakres zadań wykonywanych przez ludzi, wymagane kompetencje, sposób organizacji pracy i relację pomiędzy pracownikiem a technologią. Wraz z przechodzeniem od pojedynczych zastosowań AI do systemów wykorzystujących dziesiątki lub setki modeli i agentów skutki te przestają być wyłącznie ubocznym efektem cyfryzacji.

Powstaje więc pewien paradoks. Bank może bardzo dokładnie analizować ekspozycję kredytową na sektory wysokoemisyjne, oceniać ryzyko transformacji swoich klientów, budować scenariusze klimatyczne i rozwijać coraz bardziej zaawansowany system zarządzania ryzykami ESG, a jednocześnie nie wiedzieć, jaki rzeczywisty koszt środowiskowy generuje technologia wykorzystywana w jego własnym modelu operacyjnym. Może również szczegółowo analizować społeczne ryzyka występujące po stronie klientów i kontrahentów, nie posiadając jednocześnie dobrego obrazu tego, w jaki sposób własna automatyzacja zmienia zatrudnienie, kompetencje i organizację pracy.

Do niedawna można było uznać, że jest to przede wszystkim problem z obszaru strategii zrównoważonego rozwoju albo raportowania. Wraz z rozwojem ostrożnościowego podejścia do ryzyk ESG taki wniosek staje się jednak coraz trudniejszy do obrony. CRD VI wzmacnia oczekiwanie, aby instytucje identyfikowały, mierzyły, zarządzały i monitorowały ryzyka wynikające z czynników środowiskowych, społecznych i związanych z ładem korporacyjnym. Nie chodzi więc wyłącznie o przygotowanie odpowiednich ujawnień. Chodzi o włączenie czynników ESG do sposobu, w jaki bank rozumie własny profil ryzyka i zarządza swoją działalnością. To właśnie w tym miejscu pojawia się AI. Jeżeli sztuczna inteligencja pozostaje marginalnym narzędziem wykorzystywanym przez niewielką grupę pracowników, jej środowiskowy i społeczny wpływ może być z punktu widzenia całej instytucji nieistotny. Jeżeli jednak modele i agenci zaczynają wykonywać istotną część pracy operacyjnej, analitycznej i kontrolnej, trudniej nadal traktować związane z nimi zużycie zasobów i zmiany organizacyjne jako kwestię pozostającą poza systemem zarządzania ryzykiem.

Nie oznacza to oczywiście, że każdy chatbot używany przez bank automatycznie tworzy nowe „ryzyko ESG”. Takie uproszczenie prowadziłoby do pomieszania kilku różnych pojęć. Co innego wpływ określonej technologii na środowisko albo ludzi, co innego czynnik ESG, a jeszcze czym innym jest ryzyko ESG w rozumieniu ostrożnościowym. Sam fakt, że model zużywa energię, nie przesądza jeszcze, że jego wykorzystanie jest materialnym ryzykiem dla banku. Podobnie redukcja określonej liczby stanowisk po wdrożeniu automatyzacji nie staje się automatycznie ryzykiem społecznym wpływającym na profil ryzyka instytucji. Istotny jest dopiero mechanizm transmisji. W jaki sposób środowiskowe lub społeczne konsekwencje wykorzystania AI mogą przełożyć się na sytuację banku? Czy rosnące zapotrzebowanie na energię zwiększa koszty operacyjne albo zależność od określonych dostawców infrastruktury? Czy sposób zasilania centrów danych pozostaje spójny z przyjętą strategią klimatyczną? Czy brak danych o wykorzystaniu energii przez zewnętrznego dostawcę utrudnia bankowi ocenę własnej ekspozycji? Czy automatyzacja prowadzi do utraty kompetencji potrzebnych do kontroli systemów? Czy restrukturyzacja zatrudnienia zwiększa ryzyko operacyjne, prawne albo reputacyjne? Czy organizacja nadal posiada ludzi zdolnych samodzielnie wykonać proces, jeżeli technologia przestanie być dostępna?

Dopiero odpowiedzi na takie pytania pozwalają przejść od ogólnej dyskusji o „wpływie AI na ESG” do problemu mającego rzeczywiste znaczenie dla zarządzania bankiem. I właśnie dlatego temat jest szerszy niż sam ślad węglowy technologii. AI może oddziaływać jednocześnie na koszty, odporność operacyjną, model zatrudnienia, dostępność kompetencji, relacje z dostawcami, reputację i realizację strategicznych celów banku. Część tych oddziaływań będzie mogła zostać uznana za nieistotną. Część może jednak stać się źródłem albo kanałem transmisji ryzyka, który powinien zostać uwzględniony w istniejącym systemie zarządzania. Szczególnie ważne jest to, że wraz z upowszechnianiem się AI skala oddziaływania może rosnąć szybciej niż liczba formalnie wdrożonych „systemów AI”. Jeden model udostępniony tysiącom pracowników może generować większe wykorzystanie zasobów niż kilkadziesiąt wyspecjalizowanych modeli działających sporadycznie. Jeszcze bardziej zmienia sytuację pojawienie się agentów AI, które nie czekają na pojedyncze polecenie użytkownika, lecz samodzielnie wykonują sekwencje zadań, komunikują się z innymi systemami i mogą działać praktycznie stale. Liczenie liczby wdrożonych modeli coraz mniej mówi wtedy o rzeczywistej skali technologicznej transformacji banku.

Podobny problem pojawia się po stronie społecznej. Można mierzyć liczbę zredukowanych etatów i uznać, że właśnie w ten sposób określono wpływ automatyzacji na pracowników. Tymczasem znacznie istotniejsze może być to, co dzieje się z kompetencjami osób pozostających w organizacji. Jeżeli pracownik przestaje samodzielnie analizować przypadki, ponieważ przez kilka lat jedynie zatwierdza wyniki modelu, jego zdolność do zakwestionowania AI może stopniowo zanikać. To, co początkowo wygląda jak problem kompetencyjny lub społeczny, może w pewnym momencie stać się problemem operacyjnym i kontrolnym. Właśnie tutaj dyskusja o ESG łączy się z problemem nadzoru człowieka nad AI. Możemy formalnie utrzymywać człowieka w procesie, ale jego obecność ma wartość tylko wtedy, gdy zachowuje on wiedzę i kompetencje potrzebne do wykonania własnego osądu. Automatyzacja może więc jednocześnie zwiększać efektywność banku i osłabiać mechanizm kontroli, jeżeli organizacja nie zarządza wpływem technologii na kompetencje pracowników. Społeczny aspekt wykorzystania AI przestaje wówczas być wyłącznie zagadnieniem HR.

To samo dotyczy środowiska. Można uznać, że bank nie posiada własnych centrów danych, ponieważ wykorzystuje chmurę i modele dostarczane w formule usługowej, a zatem środowiskowy koszt infrastruktury znajduje się poza jego działalnością. W rzeczywistości przeniesienie przetwarzania do dostawcy nie usuwa zapotrzebowania na energię ani zasoby. Powoduje przede wszystkim, że stają się one mniej widoczne dla instytucji korzystającej z usługi. Wraz ze wzrostem wykorzystania AI może więc rosnąć również znaczenie pytania o to, czy bank posiada dane pozwalające w ogóle ocenić środowiskowy koszt technologii, od której staje się coraz bardziej zależny. Nie prowadzi to do wniosku, że bank powinien obliczać ślad środowiskowy każdego zapytania do modelu albo przygotowywać społeczną analizę wpływu dla każdego zastosowania AI. Takie podejście szybko stałoby się biurokratyczne i niewiele mówiłoby o rzeczywistym ryzyku. Podobnie jak w innych obszarach zarządzania, potrzebne są materialność i proporcjonalność. Najpierw trzeba ustalić, czy wykorzystanie AI osiągnęło skalę, przy której jego środowiskowe lub społeczne skutki stają się istotnym elementem modelu operacyjnego banku. 

I właśnie tutaj pojawia się pytanie, którego sektor będzie musiał coraz częściej sobie zadawać: czy potrafimy jeszcze mierzyć rzeczywisty koszt własnej automatyzacji? Nie tylko koszt licencji, infrastruktury i wdrożenia, lecz również koszt energii, zależności od infrastruktury zewnętrznej, zmian zatrudnienia, utraty i tworzenia nowych kompetencji oraz konsekwencji organizacyjnych związanych z oddawaniem kolejnych elementów pracy systemom i agentom AI. Bank nie powinien interesować się tym dlatego, że „AI jest tematem ESG”. Powód jest bardziej praktyczny. Jeżeli AI staje się materialnym elementem sposobu prowadzenia działalności, jej skutki zaczynają współtworzyć środowiskowy i społeczny profil instytucji. A jeżeli skutki te mogą przełożyć się na tradycyjne kategorie ryzyka, przestają być wyłącznie problemem technologicznym i stają się elementem zarządzania ryzykiem ESG banku.

Wpływ ESG to jeszcze nie ryzyko ESG

Najłatwiejszym błędem przy próbie włączenia AI do zarządzania ESG byłoby potraktowanie każdego negatywnego wpływu technologii na środowisko albo ludzi jako ryzyka ESG banku. Takie podejście byłoby intuicyjne, ale regulacyjnie zbyt uproszczone. Ostrożnościowe zarządzanie ryzykiem nie polega na katalogowaniu wszystkich skutków działalności instytucji. Wymaga ustalenia, w jaki sposób określony czynnik środowiskowy, społeczny albo związany z ładem korporacyjnym może przełożyć się na profil ryzyka banku. To rozróżnienie ma szczególne znaczenie właśnie przy AI. System może zużywać dużo energii. Może powodować zwiększenie zapotrzebowania na moc obliczeniową. Może być wykorzystywany przez dostawcę infrastruktury działającego w regionie o wysokoemisyjnym miksie energetycznym. Wszystko to opisuje określony wpływ środowiskowy. Dopiero kolejne pytanie dotyczy ryzyka: czy i w jaki sposób ten wpływ może oddziaływać na koszty banku, jego odporność operacyjną, zależność od dostawcy, realizację strategii klimatycznej, reputację albo inne kategorie ryzyka.

Podobnie po stronie społecznej. Wdrożenie AI może spowodować zmniejszenie zapotrzebowania na określone role, zmianę profilu kompetencyjnego pracowników albo ograniczenie części czynności wykonywanych ręcznie. Sam ten fakt nie przesądza jeszcze o materializacji ryzyka społecznego w sensie ostrożnościowym. Dopiero analiza skutków może pokazać, czy bank traci kompetencje krytyczne, czy wzrasta jego zależność od niewielkiej grupy specjalistów, czy pogarsza się jakość kontroli, czy rośnie ryzyko błędów, sporów prawnych, problemów pracowniczych albo reputacyjnych.

Przydatne jest więc rozdzielenie trzech poziomów analizy. Pierwszy to wpływ – czyli to, co wykorzystanie AI robi środowisku, pracownikom albo innym interesariuszom. Drugi to czynnik ESG – czyli element środowiskowy lub społeczny, który może oddziaływać na działalność banku. Trzeci to ryzyko ESG – czyli sposób, w jaki ten czynnik może przełożyć się na istniejące kategorie ryzyka, wyniki finansowe, odporność albo zdolność banku do realizacji strategii. Przykład środowiskowy dobrze pokazuje tę różnicę. Załóżmy, że bank gwałtownie zwiększa wykorzystanie modeli generatywnych i agentów, a znacząca część obciążeń trafia do zewnętrznego dostawcy chmurowego. W pierwszej warstwie mamy wzrost zużycia energii i zasobów. W drugiej – zależność od infrastruktury o określonym profilu energetycznym i emisyjnym. W trzeciej trzeba już zapytać, czy może to przełożyć się na koszty, ryzyko koncentracji, podatność na zmiany cen energii, zobowiązania strategiczne, oczekiwania inwestorów albo ryzyko reputacyjne.

Analogicznie po stronie społecznej. Redukcja liczby etatów po wdrożeniu AI może być z perspektywy zarządzania efektywnością oczekiwanym rezultatem inwestycji. Z punktu widzenia ESG sama liczba zredukowanych stanowisk nie mówi jednak jeszcze wiele. Znacznie ważniejsze jest to, czy wraz ze zmianą struktury zatrudnienia bank zachowuje kompetencje potrzebne do bezpiecznego prowadzenia działalności, czy pracownicy potrafią kontrolować wyniki modeli, czy organizacja ma zdolność odtworzenia procesu bez wsparcia AI oraz czy tempo transformacji nie powoduje problemów operacyjnych lub społecznych. To prowadzi do ważnego wniosku: wpływ może być materialny z punktu widzenia interesariuszy, ale niematerialny dla profilu ryzyka banku – i odwrotnie. Niewielki pozornie problem społeczny może stać się istotnym ryzykiem operacyjnym, jeżeli dotyczy kompetencji kluczowych dla funkcji kontrolnej. Z kolei duży wolumen zużycia energii może nie prowadzić do istotnego ryzyka dla banku, jeżeli jego znaczenie kosztowe, reputacyjne i strategiczne pozostaje ograniczone oraz jest właściwie zarządzane.

To rozróżnienie jest szczególnie potrzebne, ponieważ w praktyce łatwo pomieszać podejście ostrożnościowe z logiką raportowania zrównoważonego rozwoju. Raportowanie może koncentrować się również na wpływie działalności banku na środowisko i społeczeństwo. Zarządzanie ryzykiem ESG wymaga natomiast odpowiedzi na pytanie, jak czynniki ESG wpływają na sam bank. Te perspektywy mogą się spotykać, ale nie są tożsame. Przy AI widać to bardzo wyraźnie. Bank może mierzyć ślad węglowy związany z wykorzystaniem modeli dlatego, że jest to istotna informacja o jego oddziaływaniu środowiskowym. Z punktu widzenia zarządzania ryzykiem ostrożnościowym to jednak dopiero początek. Potrzebna jest odpowiedź, czy ten ślad wiąże się z istotnym ryzykiem finansowym, operacyjnym, strategicznym lub reputacyjnym. Podobnie można raportować liczbę pracowników objętych reskillingiem po wdrożeniach AI, ale zarządzanie ryzykiem wymaga ustalenia, czy organizacja rzeczywiście utrzymuje zdolność do bezpiecznego wykonywania krytycznych procesów.

Dlatego nie przekonuje mnie tworzenie osobnej kategorii „AI ESG risk”. Znacznie bardziej użyteczne jest pytanie, przez jakie istniejące kanały ryzyka środowiskowe i społeczne skutki AI mogą wrócić do banku. W jednym przypadku będzie to koszt i zależność od dostawcy infrastruktury. W innym utrata kompetencji i osłabienie skuteczności kontroli. W jeszcze innym ryzyko prawne albo reputacyjne związane ze sposobem przeprowadzenia automatyzacji. Takie podejście odpowiada szerszej logice zarządzania ryzykami ESG. Ryzyko klimatyczne czy społeczne rzadko funkcjonuje jako całkowicie odrębna kategoria. Znacznie częściej materializuje się poprzez ryzyko kredytowe, operacyjne, rynkowe, płynnościowe, prawne, reputacyjne czy strategiczne. AI nie tworzy tutaj wyjątku. Jej wpływ środowiskowy i społeczny powinien być analizowany jako potencjalne źródło albo wzmacniacz istniejących ryzyk.

Takie podejście ma jeszcze jedną zaletę: chroni przed nadmierną biurokracją. Gdyby każdy negatywny wpływ AI automatycznie kwalifikować jako ryzyko ESG, bank szybko stworzyłby rozbudowany system mierników o ograniczonej wartości zarządczej. Znacznie bardziej użyteczne jest podejście oparte na materialności: najpierw identyfikujemy wpływy i czynniki, następnie określamy możliwe kanały transmisji, a dopiero potem oceniamy, które z nich mają realny potencjał przełożenia się na profil ryzyka instytucji. Nie każda emisja związana z użyciem AI musi więc być zarządzana jako materialne ryzyko, tak samo jak nie każda zmiana struktury zatrudnienia musi być traktowana jako istotne ryzyko społeczne. Znaczenie ma skala, czas trwania, możliwość kontroli, zależność od podmiotów trzecich, potencjalne skutki finansowe i operacyjne oraz to, jak dany czynnik wpisuje się w strategię i model działalności banku.

Można więc powiedzieć, że przy AI potrzebujemy dwóch różnych map. Pierwsza pokazuje gdzie technologia oddziałuje na środowisko i ludzi. Druga pokazuje gdzie te oddziaływania mogą przełożyć się na ryzyko banku. Dopiero nałożenie ich na siebie daje obraz przydatny z punktu widzenia zarządzania.

E jak energia, infrastruktura i zasoby

Środowiskowy wymiar AI najłatwiej sprowadzić do pytania o emisje. To jednak tylko część problemu. Systemy sztucznej inteligencji potrzebują mocy obliczeniowej, infrastruktury centrów danych, energii, chłodzenia, pamięci i sprzętu. W przypadku bardziej zaawansowanych zastosowań dochodzi jeszcze intensywność przetwarzania, częstotliwość zapytań oraz skala utrzymywania systemów w gotowości do ciągłego działania. Z punktu widzenia banku najważniejsze nie jest więc samo pytanie, czy AI ma ślad węglowy, lecz co dokładnie składa się na środowiskowy koszt technologii wykorzystywanej w działalności i które elementy tego kosztu mogą stać się materialne. Pierwszym problemem jest to, że „AI” obejmuje dziś bardzo różne sposoby wykorzystania technologii. Inny profil zasobowy ma prosty model klasyfikacyjny działający na stosunkowo niewielkim zbiorze danych, inny duży model językowy wykorzystywany przez tysiące pracowników, a jeszcze inny agent wykonujący automatycznie wiele kolejnych operacji. Sam fakt użycia sztucznej inteligencji mówi więc niewiele o jej wpływie środowiskowym. Znaczenie ma architektura rozwiązania, częstotliwość wykorzystania, skala przetwarzania i miejsce, w którym odbywa się praca obliczeniowa.

Dobrze widać to na rozróżnieniu pomiędzy trenowaniem modelu a jego późniejszym używaniem. Trenowanie dużego modelu może wymagać ogromnych zasobów, ale z perspektywy konkretnego banku nie zawsze będzie to najistotniejszy element. Jeżeli instytucja korzysta z gotowego modelu bazowego udostępnianego przez zewnętrznego dostawcę, znacznie większe znaczenie dla własnego profilu wykorzystania może mieć inferencja, czyli codzienne generowanie wyników przez model. Przy odpowiednio dużej liczbie użytkowników i zapytań właśnie ta część może stać się głównym źródłem zapotrzebowania na moc obliczeniową związaną z korzystaniem z danej technologii. 

Jeszcze bardziej komplikuje sytuację rozwój agentów AI. Klasyczne wykorzystanie modelu jest zazwyczaj reaktywne: użytkownik zadaje pytanie albo uruchamia określoną funkcję, a system odpowiada. Agent może natomiast wykonywać serię działań bez każdorazowego polecenia człowieka, ponawiać zapytania, korzystać z kolejnych narzędzi i przetwarzać dodatkowe dane aż do osiągnięcia zdefiniowanego celu. W praktyce jedna czynność użytkownika może więc uruchomić dziesiątki albo setki operacji wykonywanych w tle. Ślad środowiskowy agenta nie zależy wtedy od liczby interakcji człowieka, lecz od skali pracy wykonywanej przez system. Tradycyjne wskaźniki użycia technologii mogą w takiej sytuacji coraz gorzej oddawać rzeczywistą intensywność wykorzystania AI. Liczba licencji, liczba użytkowników czy nawet liczba wywołań modelu nie zawsze będzie wystarczającą informacją. Jeden agent może generować wielokrotnie większe obciążenie niż zwykły interfejs konwersacyjny używany przez tę samą liczbę pracowników. Jeżeli bank chce ocenić środowiskowy wymiar automatyzacji, powinien więc patrzeć nie tylko na to, ile systemów wdrożył, ale również na to, ile pracy obliczeniowej te systemy rzeczywiście wykonują.

Drugim problemem jest infrastruktura. Wiele banków nie będzie samodzielnie utrzymywać sprzętu potrzebnego do działania dużych modeli. Będą korzystać z usług chmurowych, API, modeli bazowych albo całych platform dostarczanych jako usługa. W efekcie rzeczywiste zużycie energii, wody czy mocy obliczeniowej będzie występowało poza fizyczną infrastrukturą banku. Nie oznacza to jednak, że z perspektywy środowiskowej znika. Staje się przede wszystkim trudniejsze do przypisania i pomiaru. Właśnie tu pojawia się istotna luka informacyjna. Bank może bardzo dokładnie wiedzieć, ile płaci za usługę AI, ale znacznie mniej wiedzieć o tym, ile energii zużywa dostawca do jej świadczenia, gdzie znajdują się centra danych, jaki jest ich miks energetyczny, jak efektywnie wykorzystują zasoby i w jaki sposób koszt środowiskowy jest przypisywany poszczególnym klientom. Z punktu widzenia zarządzania ESG problemem staje się więc nie tylko wielkość samego wpływu, ale również brak danych pozwalających go wiarygodnie ocenić.

To istotne również dlatego, że środowiskowy koszt AI nie jest jednorodny. Ta sama ilość mocy obliczeniowej może mieć inny profil emisyjny w zależności od lokalizacji centrum danych i źródeł wykorzystywanej energii. Znaczenie ma także efektywność infrastruktury, wykorzystanie chłodzenia, sposób zarządzania obciążeniem czy możliwość przesuwania części procesów do okresów, w których dostępna jest energia o niższej intensywności emisyjnej. Dwie technologicznie podobne usługi nie muszą więc generować porównywalnego wpływu środowiskowego. Z tego punktu widzenia bank powinien uważać na pokusę uproszczenia analizy do jednego wskaźnika „CO2 na model”. Taki miernik może wyglądać atrakcyjnie, ale łatwo prowadzi do fałszywej precyzji. Nie zawsze wiadomo, jak przypisać część emisji infrastruktury współdzielonej do konkretnego klienta, jak rozłożyć koszt trenowania modelu na późniejsze wykorzystanie albo jak uwzględnić kolejne wersje systemu. Jeszcze trudniej jest porównywać dane dostarczane przez różnych dostawców, jeżeli stosują odmienne metodologie.

Nie oznacza to, że wobec tych trudności pomiar traci sens. Przeciwnie. Pokazuje jedynie, że bank powinien koncentrować się najpierw na materialności i kierunku zmian, a dopiero później na perfekcyjnej precyzji. Jeżeli wykorzystanie generatywnej AI i agentów rośnie wielokrotnie w ciągu dwóch lat, już sama dynamika może mieć znaczenie dla oceny środowiskowej. Bank powinien wiedzieć, czy zapotrzebowanie na moc obliczeniową rośnie, które zastosowania odpowiadają za największą część tego wzrostu i czy wzrost ten zaczyna być znaczący w skali całej organizacji.

Trzecim elementem jest sprzęt. Dyskusja o środowiskowym wpływie AI bardzo często zatrzymuje się na energii, podczas gdy rozwój sztucznej inteligencji zwiększa również zapotrzebowanie na specjalistyczną infrastrukturę obliczeniową. W przypadku banku wpływ ten może być w dużej mierze pośredni i znajdować się u dostawców. Nie oznacza to jednak, że powinien być całkowicie pomijany, szczególnie jeżeli organizacja zaczyna opierać kluczowe procesy na rozwiązaniach wymagających stale rosnącej mocy obliczeniowej. Dlatego przy ocenie wpływu środowiskowego AI warto unikać myślenia wyłącznie w kategoriach „ile emituje mój model”. Bardziej użyteczne jest pytanie: jakie zasoby są potrzebne do utrzymywania skali automatyzacji, którą bank buduje, i czy zapotrzebowanie na te zasoby staje się istotne dla jego modelu działalności. W niektórych instytucjach odpowiedź będzie negatywna. W innych, zwłaszcza przy masowym wykorzystaniu generatywnej AI i agentów, może być zupełnie inna.

Pojawia się też ważny problem efektywności. Jeżeli dwa rozwiązania pozwalają osiągnąć podobny rezultat biznesowy, ale jedno wymaga wielokrotnie większej mocy obliczeniowej, różnica może z czasem przestać być wyłącznie kwestią kosztu infrastruktury. Może stać się elementem decyzji dotyczącej zgodności rozwiązania ze strategią banku, jego celami środowiskowymi i sposobem zarządzania zasobami. W takim ujęciu efektywność obliczeniowa zaczyna być nie tylko parametrem technicznym, ale także parametrem środowiskowym. Nie oznacza to oczywiście, że bank powinien zawsze wybierać model zużywający najmniej energii. Tak samo jak w innych obszarach zarządzania ryzykiem, trzeba ważyć różne cele. Bardziej zasobożerny system może być znacznie skuteczniejszy, bezpieczniejszy albo pozwalać ograniczyć inne koszty. Istotne jest jednak, aby środowiskowa strona takiego wyboru była widoczna i świadoma, a nie pojawiała się dopiero wtedy, gdy skala wykorzystania technologii staje się trudna do kontrolowania.

Dobrym punktem wyjścia nie jest więc pytanie o dokładny ślad węglowy każdego rozwiązania, lecz stworzenie obrazu intensywności wykorzystania AI w organizacji. Bank powinien wiedzieć, które systemy i agenci odpowiadają za największą część zapotrzebowania na zasoby, gdzie odbywa się przetwarzanie, od jakich dostawców jest zależny oraz czy posiada wystarczające dane do oceny trendu. Dopiero na tej podstawie można zdecydować, gdzie potrzebny jest dokładniejszy pomiar, a gdzie wystarczą wiarygodne wskaźniki zastępcze.

Największy problem może znajdować się poza bankiem

W przypadku środowiskowego wpływu AI łatwo skupić się na tym, co znajduje się wewnątrz organizacji: własnych centrach danych, zużyciu energii przez infrastrukturę, liczbie wykorzystywanych modeli czy intensywności przetwarzania. W praktyce coraz większa część tego wpływu może jednak znajdować się poza samym bankiem. Modele bazowe, usługi chmurowe, gotowe interfejsy API, narzędzia generatywne i agenci są często dostarczane przez podmioty zewnętrzne. Bank widzi rezultat usługi, koszt jej wykorzystania i parametry techniczne, ale niekoniecznie widzi rzeczywisty koszt środowiskowy stojącej za nią infrastruktury. To tworzy szczególny problem informacyjny. Z perspektywy biznesowej bank może mieć bardzo dobre dane o tym, ile zapytań wykonano, ile kosztowała usługa i jakie parametry jakości osiąga model. Z perspektywy środowiskowej może natomiast nie wiedzieć, jaka część mocy obliczeniowej została wykorzystana do jego obsługi, gdzie fizycznie odbywało się przetwarzanie, jaki był miks energetyczny danego centrum danych ani w jaki sposób dostawca przypisuje emisje i zużycie zasobów poszczególnym klientom. Im bardziej zaawansowana i współdzielona jest infrastruktura, tym trudniejsze staje się przełożenie globalnych danych dostawcy na rzeczywisty wpływ konkretnego banku.

Outsourcing infrastruktury nie eliminuje wpływu środowiskowego – może jedynie uczynić go mniej widocznym dla banku. Jeżeli model działa w zewnętrznym centrum danych, zużycie energii nie znika. Jeśli system jest rozwijany i utrzymywany przez globalnego dostawcę, nie oznacza to, że środowiskowy koszt jego działania przestaje mieć znaczenie. Zmienia się przede wszystkim miejsce, w którym ten koszt powstaje, oraz zdolność banku do jego samodzielnego zmierzenia. Wraz ze wzrostem zależności od podmiotów trzecich środowiskowy aspekt AI zaczyna więc łączyć się z problemem dostępu do danych. Bank może deklarować, że chce uwzględniać wpływ technologii w analizie ESG, ale bez informacji od dostawcy pozostanie na poziomie bardzo ogólnych szacunków. Jeżeli dostawca udostępnia jedynie zbiorczą informację o emisjach całej swojej infrastruktury, trudno przypisać jej część do konkretnej usługi. Jeżeli podaje ślad węglowy na jednostkę zużycia, ale nie ujawnia metodologii jego kalkulacji, porównanie różnych rozwiązań może być pozorne. Jeżeli zaś w ogóle nie dostarcza danych, bank staje przed pytaniem, czy brak informacji sam w sobie nie powinien zostać uwzględniony w ocenie ryzyka.

W zarządzaniu ryzykiem niepewność informacyjna nie jest neutralna. Jeżeli bank nie wie, jaki środowiskowy koszt ma technologia, od której staje się coraz bardziej zależny, problemem nie jest wyłącznie brak możliwości przygotowania bardziej precyzyjnego raportu. Ograniczona wiedza może utrudniać ocenę, czy zmiana cen energii, ograniczenia infrastrukturalne, presja regulacyjna albo zmiana strategii klimatycznej dostawcy mogą wpłynąć na koszt i dostępność usługi. Brak danych o wpływie może więc sam stać się elementem ryzyka związanego z zależnością od podmiotu trzeciego. W tym miejscu pojawia się naturalne połączenie z zarządzaniem ryzykiem podmiotów trzecich. Nie chodzi jednak o proste rozszerzenie ankiety outsourcingowej o kilka pytań ESG. Znacznie ważniejsze jest ustalenie, które relacje z dostawcami są rzeczywiście materialne z punktu widzenia wykorzystania AI. Dostawca prostego narzędzia wspomagającego pracę niewielkiego zespołu nie wymaga takiej samej analizy jak podmiot zapewniający model generatywny wykorzystywany przez znaczną część organizacji albo infrastrukturę, na której działają kluczowe procesy.

Znaczenie ma zarówno skala wykorzystania, jak i możliwość substytucji. Jeżeli bank może stosunkowo łatwo przenieść określone obciążenia do innego dostawcy, ryzyko związane z profilem środowiskowym konkretnej infrastruktury może być ograniczone. Jeżeli natomiast określone rozwiązanie jest głęboko zintegrowane z procesami, a zmiana dostawcy wymagałaby długiego i kosztownego projektu migracyjnego, zależność staje się istotniejsza. Wtedy środowiskowy profil dostawcy może być jednym z elementów szerszej analizy ryzyka strategicznego i operacyjnego. Nie można też abstrahować od koncentracji rynku. Najbardziej zaawansowane modele i infrastruktura potrzebna do ich obsługi są skoncentrowane u relatywnie niewielkiej liczby globalnych podmiotów. Z punktu widzenia banku oznacza to, że wiele różnych zastosowań AI może w rzeczywistości opierać się na tej samej infrastrukturze albo na kilku powiązanych dostawcach. Pozornie rozproszone wykorzystanie technologii może więc prowadzić do faktycznej koncentracji zależności.

Może to mieć znaczenie również dla danych. Jeżeli bank ocenia środowiskowy ślad kilku aplikacji wykorzystujących ten sam model bazowy albo tę samą chmurę, nie powinien traktować ich jako całkowicie niezależnych źródeł oddziaływania. Część wpływu może być wspólna, a sposób alokacji emisji lub zużycia zasobów pomiędzy klientów może być arbitralny. To dodatkowo komplikuje porównywanie rozwiązań i pokazuje, dlaczego proste sumowanie wskaźników przekazywanych przez dostawców może prowadzić do błędnych wniosków. Z tego względu jednym z ważniejszych elementów zarządzania może stać się porównywalność danych środowiskowych pochodzących od dostawców AI. Bank może otrzymać od jednego podmiotu dane dotyczące emisji przypisanych do wykorzystanej mocy obliczeniowej, od innego tylko informacje o średnim miksie energetycznym, a od jeszcze innego ogólne dane o emisjach całej grupy. Formalnie wszystkie te informacje dotyczą środowiskowego wpływu technologii, ale ich przydatność zarządcza jest zupełnie różna.

Może to prowadzić do potrzeby wypracowania własnego poziomu minimalnych wymagań informacyjnych wobec istotnych dostawców AI. Nie po to, aby każdy kontrakt technologiczny zamieniać w rozbudowany raport ESG, lecz po to, aby w przypadku materialnych zastosowań bank dysponował danymi pozwalającymi ocenić skalę i trend oddziaływania. W praktyce może chodzić o informacje o lokalizacji przetwarzania, źródłach energii, sposobie obliczania emisji, intensywności wykorzystania infrastruktury czy możliwości przypisania części danych do konkretnego klienta. Tego rodzaju informacje mogą z czasem stać się jednym z kryteriów wyboru dostawcy, ale nie powinny działać automatycznie. Rozwiązanie o niższym śladzie środowiskowym nie zawsze będzie najlepsze z punktu widzenia banku, jeżeli jest mniej bezpieczne, mniej skuteczne albo bardziej ryzykowne operacyjnie. Znaczenie ma raczej to, aby środowiskowy profil technologii był jednym z widocznych parametrów decyzji, a nie niewidoczną konsekwencją wyboru dokonanego wyłącznie na podstawie ceny i jakości.

To samo dotyczy umów. Bank może próbować zabezpieczyć dostęp do określonych danych, częstotliwość raportowania albo obowiązek informowania o istotnych zmianach infrastruktury. Nie wszystkie informacje będą jednak dostępne, zwłaszcza gdy bank korzysta z usług bardzo dużego globalnego dostawcy o silnej pozycji negocjacyjnej. Wtedy pytanie nie brzmi już tylko, „jakie dane powinien nam przekazać dostawca?”, ale także jak zarządzać sytuacją, w której ich nie otrzymamy. Jeżeli bank uznaje określone zastosowanie AI za materialne, a jednocześnie nie jest w stanie uzyskać wiarygodnych informacji o części istotnych skutków środowiskowych, powinien przynajmniej rozumieć skalę tej niepewności. Może posługiwać się wskaźnikami zastępczymi, scenariuszami albo danymi branżowymi, ale nie powinien tworzyć wrażenia precyzji, której w rzeczywistości nie posiada.

To szczególnie ważne dlatego, że rozwój AI może zwiększać skalę wykorzystania infrastruktury szybciej niż zmieniają się formalne relacje kontraktowe. Bank może zawrzeć jedną umowę z dostawcą, a następnie przez kilka lat rozszerzać wykorzystanie usługi na kolejne procesy, zespoły i zastosowania. W pewnym momencie relacja, która początkowo była technologicznie marginalna, może stać się jednym z istotnych elementów modelu operacyjnego. Jeżeli analiza ESG odbyła się wyłącznie przy zawieraniu umowy, szybko przestanie odpowiadać rzeczywistej skali wykorzystania. Dlatego środowiskowego wymiaru relacji z dostawcą nie powinno się traktować jako jednorazowej cechy kontrahenta. Powinien być analizowany razem ze zmianą intensywności wykorzystania technologii. Im większa część działalności banku opiera się na danym modelu albo infrastrukturze, tym bardziej istotne staje się pytanie o dostępność danych, zdolność porównania alternatyw i możliwość ograniczenia zależności.

Prowadzi to do szerszego wniosku. Największym problemem środowiskowym AI dla banku może nie być sam poziom emisji, lecz brak wiedzy o tym, gdzie ten wpływ powstaje i jak bardzo bank jest od niego zależny. To z kolei oznacza, że zarządzanie środowiskowym aspektem AI nie powinno kończyć się na mierzeniu własnej infrastruktury. Musi obejmować także istotne elementy łańcucha technologicznego. Nie oznacza to jednak, że bank powinien próbować policzyć wszystko. Jeżeli każdy drobny dostawca i każde niewielkie zastosowanie zostałyby objęte tym samym poziomem analizy, system szybko stałby się nieproporcjonalny. Potrzebna jest materialność: najpierw identyfikacja tych modeli, agentów i dostawców, którzy rzeczywiście odpowiadają za znaczną część wykorzystania zasobów albo od których zależą istotne procesy, a dopiero potem pogłębiona analiza.

Czy bank powinien mierzyć ślad środowiskowy każdego modelu?

Jeżeli potraktować poważnie środowiskowy wymiar AI, bardzo łatwo dojść do wniosku, że bank powinien mierzyć wpływ każdego modelu, każdego agenta i niemal każdego zastosowania sztucznej inteligencji. Taki kierunek byłby jednak trudny do utrzymania zarówno praktycznie, jak i zarządczo. Nie każde wykorzystanie AI ma wystarczającą skalę, aby jego wpływ środowiskowy był istotny, a nadmierna szczegółowość pomiaru może stworzyć system kosztowny, skomplikowany i pozornie precyzyjny, który niewiele mówi o rzeczywistym profilu ryzyka instytucji. Dlatego punktem wyjścia powinna być materialność, a nie ambicja policzenia wszystkiego. Bank nie potrzebuje wiedzieć, ile energii zużyła każda pojedyncza odpowiedź wygenerowana przez model. Powinien natomiast umieć rozpoznać, czy określone zastosowania AI stają się na tyle intensywne, powszechne albo zasobochłonne, że zaczynają mieć znaczenie dla jego środowiskowego profilu i mogą wpływać na sposób zarządzania ryzykiem.

To oznacza odejście od myślenia o modelu jako podstawowej jednostce analizy. Jeden model może być wykorzystywany sporadycznie przez niewielki zespół, a inny zostać włączony do tysięcy interakcji dziennie albo stać się bazą dla wielu agentów. Z punktu widzenia środowiskowego sama liczba wdrożonych modeli może więc być bardzo mylącym wskaźnikiem. Znacznie ważniejsza jest rzeczywista intensywność wykorzystania technologii. Można sobie wyobrazić bank, który posiada kilkadziesiąt wyspecjalizowanych modeli używanych w ściśle określonych procesach, ale o relatywnie niewielkim zużyciu zasobów. Drugi bank może formalnie korzystać z jednego dużego modelu językowego, lecz udostępnić go całej organizacji, połączyć z wieloma systemami wewnętrznymi i wykorzystać jako bazę dla agentów działających stale. Liczba modeli sugerowałaby większą skalę AI w pierwszym banku. Rzeczywisty ślad infrastrukturalny może być jednak znacznie większy w drugim.

Dlatego przy ocenie materialności bank powinien patrzeć przede wszystkim na kilka cech wykorzystania AI: skalę użytkowników, częstotliwość operacji, poziom autonomii systemu, intensywność obliczeniową, zależność od infrastruktury zewnętrznej oraz przewidywaną dynamikę wzrostu. Nie każdy z tych elementów musi być mierzony z taką samą dokładnością. Chodzi raczej o stworzenie obrazu pozwalającego wskazać zastosowania, które rzeczywiście wymagają pogłębionej analizy. Szczególne znaczenie może mieć trend, a nie tylko stan na dany moment. System, którego wykorzystanie jest dzisiaj niewielkie, może za rok stać się podstawowym narzędziem dla kilku tysięcy pracowników. Agent działający początkowo w jednym procesie może być następnie replikowany w kolejnych jednostkach. Jeżeli analiza środowiskowa odbywa się wyłącznie w momencie wdrożenia, może bardzo szybko przestać odzwierciedlać rzeczywistą skalę oddziaływania.

Bank powinien więc patrzeć na AI nie tylko przez pryzmat materialności statycznej, ale również materialności rosnącej. Jeżeli określone zastosowanie ma wysoki potencjał skalowania, jego obecny wpływ może być relatywnie niski, ale znaczenie dla przyszłego profilu środowiskowego banku już dzisiaj może uzasadniać większą uwagę. Ten element może mieć szczególne znaczenie przy agentach i rozwiązaniach generatywnych, których wykorzystanie może rosnąć szybciej niż klasycznych systemów IT. Nie oznacza to konieczności tworzenia od razu bardzo skomplikowanej metodologii. W pierwszym etapie bank może posługiwać się wiarygodnymi wskaźnikami zastępczymi, jeżeli dokładne dane nie są dostępne. Mogą to być wolumen przetwarzania, liczba wywołań, czas wykorzystania mocy obliczeniowej, udział danego systemu w kosztach infrastruktury albo inne parametry pozwalające ocenić względną intensywność rozwiązania. Taki pomiar nie daje dokładnej odpowiedzi na pytanie o emisje, ale może być wystarczający do wskazania, gdzie potrzebna jest bardziej szczegółowa analiza.

To ważne, ponieważ w obszarze AI łatwo stworzyć fałszywe poczucie dokładności. Bank może otrzymać bardzo precyzyjnie wyglądający wskaźnik emisji przypisany do konkretnego modelu, choć jego metodologia opiera się na wielu założeniach dotyczących współdzielonej infrastruktury, alokacji mocy i sposobu rozłożenia kosztu trenowania. Taka liczba może wyglądać bardziej wiarygodnie niż prosty wskaźnik zużycia zasobów, ale niekoniecznie dostarcza lepszej informacji zarządczej. Dlatego bardziej użyteczne może być podejście warstwowe. Na pierwszym poziomie bank identyfikuje istotne zastosowania AI i ocenia ich relatywną intensywność. Na drugim wybiera te, które ze względu na skalę, tempo wzrostu albo charakter infrastruktury wymagają dokładniejszego pomiaru. Dopiero na trzecim poziomie – dla najbardziej materialnych zastosowań – próbuje uzyskać szczegółowe dane dotyczące energii, emisji czy zużycia innych zasobów.

Takie podejście dobrze odpowiada również zasadzie proporcjonalności. Nie ma sensu stosować tego samego poziomu analizy wobec prostego narzędzia używanego okazjonalnie przez kilka osób i wobec modelu, który stał się jednym z podstawowych elementów cyfrowego środowiska pracy całej organizacji. Zakres pomiaru powinien rosnąć wraz ze skalą i znaczeniem wykorzystania AI.

Warto też pamiętać, że środowiskowa materialność nie musi być tożsama z materialnością finansową. Zastosowanie może mieć relatywnie niewielki wpływ na koszty banku, a jednocześnie istotne znaczenie z punktu widzenia realizacji jego strategii klimatycznej albo wiarygodności przyjętych zobowiązań. Może również wystąpić sytuacja odwrotna: duży koszt energetyczny może być dla banku biznesowo istotny, ale nie prowadzić do znaczącego wzrostu emisji, jeżeli wykorzystywana infrastruktura jest zasilana energią o niskiej intensywności emisyjnej. To kolejny argument przeciwko sprowadzaniu całej analizy do jednego wskaźnika. Bank powinien patrzeć nie tylko na emisje, ale również na zależność od zasobów, dynamikę wykorzystania, koszty, lokalizację infrastruktury, jakość danych od dostawców i zgodność technologicznej transformacji z własnymi celami środowiskowymi. Dopiero połączenie tych elementów daje obraz użyteczny z punktu widzenia zarządzania.

W praktyce szczególnie ważne może być też rozróżnienie pomiędzy wykorzystaniem AI, które jedynie zastępuje istniejący proces technologiczny, a takim, które tworzy zupełnie nowy wolumen przetwarzania. Jeżeli model zastępuje tradycyjny system i przy podobnym rezultacie zużywa mniej zasobów, jego wdrożenie może zmniejszać ogólny wpływ środowiskowy. Jeżeli natomiast AI generuje zupełnie nowe zastosowania, które wcześniej nie istniały, może zwiększać całkowite zużycie infrastruktury nawet wtedy, gdy pojedyncza operacja jest bardzo efektywna. To przypomina klasyczny efekt odbicia. Wzrost efektywności technologii nie zawsze prowadzi do zmniejszenia całkowitego zużycia zasobów, jeżeli tańsze i łatwiejsze wykorzystanie powoduje gwałtowny wzrost skali. W przypadku AI może to mieć szczególne znaczenie. Im prostsze staje się generowanie analiz, raportów, treści czy automatycznych działań, tym większa liczba takich operacji może być wykonywana. W efekcie efektywność pojedynczego działania może rosnąć, a całkowity ślad systemu jednocześnie się zwiększać.

Dlatego pomiar powinien obejmować nie tylko efektywność jednostkową, ale także łączny wolumen wykorzystania. Bank może wprowadzić bardziej efektywny model, a mimo to zwiększyć zużycie energii, jeśli liczba operacji wzrośnie dziesięciokrotnie. Bez obserwacji skali nie da się właściwie ocenić rzeczywistego wpływu technologicznej transformacji.

Pojawia się też pytanie o odpowiedzialność za pomiar. Nie powinien być to wyłącznie problem zespołów ESG, które próbują później uzyskać dane z systemów technologicznych. Jeżeli środowiskowy wpływ AI ma być rzeczywiście zarządzany, potrzebne informacje muszą powstawać już w procesie wdrażania i monitorowania rozwiązań. Zespół technologiczny zna architekturę i intensywność wykorzystania. Procurement posiada dane o dostawcach i warunkach usług. ESG może określić, które informacje są potrzebne z punktu widzenia zarządzania wpływem i ryzykiem. Dopiero połączenie tych perspektyw daje podstawę do sensownego pomiaru. Nie chodzi więc o stworzenie nowej, rozbudowanej warstwy raportowej obok istniejącego governance technologicznego. Bardziej logiczne jest wykorzystanie informacji, które bank już gromadzi na potrzeby zarządzania AI, infrastrukturą, kosztami i dostawcami, a następnie uzupełnienie ich o parametry środowiskowe tam, gdzie jest to materialne. W przeciwnym razie łatwo powstanie osobny rejestr „ESG dla AI”, który będzie funkcjonował równolegle do rzeczywistego zarządzania technologią i szybko przestanie odpowiadać faktycznemu wykorzystaniu systemów.

Najważniejsze jest więc właściwe ustawienie punktu odniesienia. Bank nie powinien pytać: „czy umiemy policzyć ślad każdego modelu?”. Powinien zapytać: „czy potrafimy wskazać, które zastosowania AI naprawdę tworzą istotną część naszego środowiskowego śladu i czy mamy wystarczające dane, aby nimi zarządzać?”

S jak praca: AI zmienia nie tylko liczbę etatów

Społeczny wymiar wykorzystania AI najłatwiej sprowadzić do pytania o zatrudnienie. Ile stanowisk zostanie zautomatyzowanych, ile etatów można zredukować, które role znikną albo zostaną ograniczone? To oczywiście ważna część problemu, ale z punktu widzenia banku zdecydowanie zbyt wąska. Sztuczna inteligencja wpływa bowiem nie tylko na liczbę pracowników, lecz również na strukturę kompetencji, sposób organizacji pracy, intensywność wykonywania zadań, poziom autonomii, zakres odpowiedzialności i zdolność organizacji do zachowania własnego osądu tam, gdzie technologia zaczyna wykonywać coraz większą część procesu. Dlatego społecznego wpływu AI nie powinno się mierzyć wyłącznie liczbą zredukowanych etatów. Bank może formalnie utrzymać zatrudnienie na podobnym poziomie, a jednocześnie bardzo głęboko zmienić charakter pracy. Analityk, który wcześniej samodzielnie oceniał przypadek, może zacząć jedynie weryfikować wynik modelu. Pracownik compliance może przestać przygotowywać analizę od podstaw i ograniczyć się do kontroli odpowiedzi wygenerowanej przez system. Zespół operacyjny może z kolei przejść z wykonywania procesu do obsługi wyjątków i przypadków, których AI nie potrafi rozstrzygnąć.

Taka zmiana może być racjonalna i zwiększać efektywność. Problem zaczyna się wtedy, gdy organizacja patrzy wyłącznie na oszczędność czasu i kosztów, a nie analizuje tego, co dzieje się z kompetencjami ludzi pozostających w procesie. Jeżeli pracownik przez kilka lat nie wykonuje już samodzielnie określonej analizy, tylko zatwierdza wynik systemu, może stopniowo utracić zdolność do jej wykonania bez wsparcia AI. W krótkim okresie proces staje się szybszy. W długim może powstać zależność, której bank nie dostrzegał w momencie wdrożenia. To zjawisko można określić jako utratę kompetencji wskutek automatyzacji – deskilling. W sektorze bankowym problem jest szczególnie istotny tam, gdzie pracownik ma pozostać elementem mechanizmu kontrolnego. Jeżeli rola człowieka polega na tym, że ma potrafić rozpoznać błąd modelu, zakwestionować wynik albo przejąć proces w sytuacji nietypowej, jego kompetencje nie mogą istnieć tylko formalnie.

Właśnie tutaj społeczny aspekt AI łączy się bezpośrednio z problemem nadzoru człowieka. W poprzednim artykule pytaliśmy, czy człowiek rzeczywiście może powiedzieć systemowi „nie”. Teraz trzeba dodać kolejne pytanie: czy po kilku latach pracy z AI człowiek nadal będzie wiedział, kiedy powinien powiedzieć „nie”? Jeżeli organizacja pozwoli technologii przejąć całość analizy, a pracownika pozostawi wyłącznie jako punkt zatwierdzenia, z czasem może osłabić dokładnie tę zdolność, dla której człowiek został w procesie zachowany. To nie jest już wyłącznie problem HR. Utrata kompetencji może przełożyć się na ryzyko operacyjne, jakość kontroli, zdolność do działania w sytuacji awarii systemu, skuteczność drugiej linii czy możliwość rzeczywistego zakwestionowania wyników modeli. W skrajnym przypadku bank może utrzymywać formalnie wszystkie wymagane role i funkcje, ale ich faktyczna zdolność do samodzielnego działania zostanie ograniczona przez wieloletnią zależność od technologii.

Podobny problem pojawia się przy koncentracji wiedzy. Automatyzacja może zmniejszać zapotrzebowanie na dużą liczbę osób wykonujących określone czynności, ale jednocześnie zwiększać zależność od niewielkiej grupy specjalistów rozumiejących architekturę systemów, modele, dane i sposób ich działania. Bank może więc ograniczyć jedną kategorię ryzyka kadrowego, a jednocześnie stworzyć inną: koncentrację kluczowych kompetencji w bardzo małej grupie pracowników albo u zewnętrznego dostawcy. W takim przypadku zmniejszenie liczby etatów nie musi oznaczać zmniejszenia ryzyka. Może wręcz prowadzić do sytuacji, w której odejście kilku kluczowych osób staje się znacznie bardziej niebezpieczne niż wcześniej. Szczególnie istotne jest to tam, gdzie wiedza dotycząca modeli AI, ich ograniczeń i sposobu walidacji nie jest szeroko rozproszona w organizacji. Jeżeli wiedza o tym, jak naprawdę działa proces, przestaje znajdować się w zespołach biznesowych i kontrolnych, a skupia się wyłącznie w technologii albo u dostawcy, zmienia się również wewnętrzny układ odpowiedzialności.

AI wpływa także na strukturę kompetencji, a nie tylko na ich poziom. Część dotychczasowych umiejętności może tracić na znaczeniu, podczas gdy rośnie zapotrzebowanie na kompetencje związane z interpretacją wyników modeli, oceną jakości danych, rozumieniem ograniczeń AI, formułowaniem właściwych zapytań czy identyfikowaniem sytuacji, w których system nie powinien być używany. Transformacja technologiczna wymaga więc nie tylko redukcji lub przesunięcia zatrudnienia, ale również systematycznego reskillingu i upskillingu. W praktyce bank może stanąć przed dość paradoksalną sytuacją. Automatyzuje proces właśnie po to, aby zmniejszyć zapotrzebowanie na pracę człowieka, ale jednocześnie musi inwestować w kompetencje pozostałych pracowników, aby byli oni w stanie bezpiecznie korzystać z bardziej zaawansowanej technologii. Im większą część rutynowej pracy przejmuje AI, tym większego znaczenia może nabierać jakość osądu osób, które zajmują się wyjątkami, przypadkami trudnymi i sytuacjami, w których system nie działa zgodnie z oczekiwaniami.

To również zmienia charakter części stanowisk. Pracownik, który wcześniej wykonywał dużą liczbę podobnych czynności, może po wdrożeniu AI zajmować się głównie przypadkami nietypowymi, trudnymi albo konfliktowymi. Z punktu widzenia efektywności jest to racjonalne. Z punktu widzenia organizacji pracy oznacza jednak, że człowiekowi pozostają przede wszystkim sprawy najbardziej wymagające poznawczo i emocjonalnie. Automatyzacja nie musi więc prowadzić do zmniejszenia intensywności pracy. W niektórych przypadkach może ją zwiększać. Jeżeli technologia przejmuje przypadki proste, a ludzie obsługują wyłącznie wyjątki, statystyczna liczba spraw przypadających na pracownika może spaść, ale średni poziom ich trudności wzrośnie. Organizacja powinna więc uważać na mierzenie efektywności wyłącznie wolumenem obsłużonych przypadków. Ten sam pracownik po automatyzacji może wykonywać mniej czynności, ale jego praca może wymagać większego skupienia, doświadczenia i odpowiedzialności.

Dochodzi do tego problem tempa pracy. AI może znacząco przyspieszyć przygotowanie analiz, dokumentów i rekomendacji. Naturalną reakcją organizacji może być zwiększenie oczekiwanego wolumenu pracy człowieka, skoro technologia „oszczędza czas”. W pewnym momencie automatyzacja może więc nie tyle uwolnić pracownika od części obowiązków, ile podnieść normę produktywności. Społeczny efekt technologii zależy wówczas nie tylko od jej możliwości, ale również od tego, w jaki sposób organizacja wykorzystuje uzyskaną efektywność.

Kolejnym elementem jest monitoring pracy. Systemy AI mogą nie tylko wykonywać zadania, ale również analizować sposób ich wykonywania przez ludzi: tempo pracy, odstępstwa od rekomendacji, częstotliwość błędów, sposób obsługi klientów czy skuteczność poszczególnych pracowników. Z jednej strony może to poprawić jakość zarządzania i ułatwiać identyfikowanie potrzeb szkoleniowych. Z drugiej – może prowadzić do bardzo intensywnego monitorowania zachowań pracowników i ograniczenia ich autonomii. W banku problem ten jest szczególnie ciekawy, ponieważ część mechanizmów kontrolnych jest oczywiście potrzebna. Organizacja musi wiedzieć, czy pracownik właściwie wykonuje swoje obowiązki, czy nie omija kontroli i czy nie pojawiają się nieprawidłowości. AI zwiększa jednak skalę i szczegółowość możliwego nadzoru. Powstaje więc pytanie, gdzie kończy się uzasadniona kontrola, a zaczyna model organizacji pracy, w którym praktycznie każde zachowanie pracownika staje się przedmiotem analizy.

Z punktu widzenia zarządzania ESG ważne jest przede wszystkim to, aby bank dostrzegał, że sposób wykorzystania AI wobec własnych pracowników może mieć konsekwencje społeczne, prawne i reputacyjne. Technologia wdrożona w celu poprawy efektywności może jednocześnie wpływać na zaufanie w organizacji, relacje pracownicze, rotację i zdolność przyciągania określonych kompetencji. W tym miejscu pojawia się też kwestia odpowiedzialności. Im więcej pracy wykonuje AI, tym większe znaczenie ma pytanie, za co dokładnie odpowiada człowiek pozostający w procesie. Jeżeli pracownik ma zatwierdzić wynik systemu, którego działania nie może realnie zweryfikować, obciążenie go pełną odpowiedzialnością za rezultat może być organizacyjnie wygodne, ale trudno uznać je za właściwie zaprojektowany model kontroli. Z drugiej strony całkowite zdjęcie odpowiedzialności z pracownika może prowadzić do zaniku własnego osądu i automatycznego polegania na technologii.

Potrzebny jest więc model, w którym zakres odpowiedzialności odpowiada rzeczywistej możliwości wpływu. Jeżeli człowiek ma kontrolować AI, musi otrzymać wiedzę, dane, czas i uprawnienia potrzebne do wykonania tej kontroli. Jeżeli takich warunków nie ma, organizacja powinna jasno rozpoznać, że odpowiedzialność znajduje się przede wszystkim na poziomie projektu procesu, właściciela systemu i osób decydujących o zasadach automatyzacji. 

Społeczny wymiar AI jest zatem znacznie szerszy niż pytanie o redukcję zatrudnienia. Obejmuje również jakość pracy, kompetencje, autonomię, intensywność obowiązków, koncentrację wiedzy i podział odpowiedzialności. Każdy z tych elementów może mieć znaczenie z punktu widzenia ESG, ale nie każdy automatycznie stanie się materialnym ryzykiem dla banku. Tak jak wcześniej, potrzebny jest mechanizm transmisji. Jeżeli rosnąca intensywność pracy prowadzi do zwiększonej rotacji w kluczowej funkcji, może przełożyć się na ryzyko operacyjne. Jeżeli utrata kompetencji osłabia zdolność do kontroli modeli, może prowadzić do błędów i nieskutecznego nadzoru człowieka. Jeżeli automatyzacja zostanie przeprowadzona w sposób generujący istotne konflikty pracownicze, może pojawić się ryzyko prawne i reputacyjne. Jeżeli koncentracja kompetencji utrudnia zastępowalność personelu, wzrasta podatność organizacji na odejście pojedynczych osób.

Dlatego społecznego skutku AI nie powinno się mierzyć wyłącznie liczbą pracowników „zastąpionych” przez technologię. Znacznie bardziej użyteczne jest pytanie, jak automatyzacja zmienia zdolność organizacji do bezpiecznego, stabilnego i odpowiedzialnego wykonywania swojej działalności.

Agenci AI zmieniają charakter problemu

Dotychczasowa dyskusja o wpływie AI na środowisko i pracę opierała się w dużej mierze na założeniu, że system reaguje na polecenie człowieka. Użytkownik uruchamia model, model wykonuje określone zadanie, a następnie proces wraca do człowieka. Rozwój agentów AI zmienia tę logikę. Agent może otrzymać cel, samodzielnie rozbić go na kolejne kroki, korzystać z różnych narzędzi, pobierać dane, inicjować działania w innych systemach i ponawiać operacje aż do osiągnięcia rezultatu. W efekcie sztuczna inteligencja przestaje być jedynie narzędziem uruchamianym przez pracownika i zaczyna przejmować całe fragmenty procesu. Z punktu widzenia ESG jest to jakościowa zmiana. W klasycznym modelu stosunkowo łatwo było powiązać wykorzystanie AI z liczbą użytkowników albo zapytań. W przypadku agentów jedna interakcja człowieka może uruchomić długi łańcuch działań wykonywanych bez jego dalszego udziału. Agent może samodzielnie przeszukiwać dokumenty, porównywać informacje, wywoływać kolejne modele, komunikować się z innymi agentami i wykonywać operacje techniczne. Środowiskowy koszt takiego zastosowania nie zależy już więc od tego, ile razy pracownik uruchomił system, lecz od rzeczywistej liczby działań wykonywanych przez niego w tle.

To komplikuje pomiar środowiskowy. Jeżeli agent wykonuje dziesięć kroków zamiast jednego zapytania do modelu, wzrost zużycia zasobów jest stosunkowo łatwy do wyobrażenia. Jeżeli jednak system samodzielnie decyduje, ile iteracji potrzebuje, korzysta z wielu modeli albo uruchamia dodatkowe narzędzia w zależności od sytuacji, koszt pojedynczego zadania może stać się zmienny i trudny do przewidzenia. Dwa pozornie identyczne polecenia użytkownika mogą prowadzić do zupełnie innej liczby operacji. W świecie agentowym coraz mniej użyteczna staje się sama liczba wdrożonych systemów AI. Jeden agent wykonujący stale tysiące operacji może mieć większy wpływ środowiskowy niż wiele modeli wykorzystywanych sporadycznie przez pracowników. Bank powinien więc stopniowo przesuwać uwagę z pytania „ile mamy modeli?” na pytanie „ile pracy wykonują za nas systemy AI?”.

To rozróżnienie ma znaczenie również biznesowe. W tradycyjnym środowisku pracy wzrost liczby wykonywanych zadań oznaczał zazwyczaj wzrost liczby godzin pracy człowieka albo zatrudnienia. W środowisku agentowym można zwiększać wolumen działań bardzo szybko, bez proporcjonalnego wzrostu liczby pracowników. Może więc powstać sytuacja, w której bank znacząco zwiększa skalę swojej aktywności technologicznej, choć z punktu widzenia klasycznych mierników organizacyjnych wydaje się działać niemal w tym samym rozmiarze. Może to prowadzić do swoistego „ukrytego wzrostu” zużycia zasobów. Bank nie zatrudnia dodatkowych osób, nie zwiększa powierzchni biurowej i nie buduje własnych centrów danych, ale dziesiątki agentów wykonują stale coraz większą liczbę operacji w zewnętrznej infrastrukturze. Koszt środowiskowy transformacji może więc rosnąć bez wyraźnej zmiany w tradycyjnych wskaźnikach skali działalności.

Jeszcze większa zmiana pojawia się po stronie społecznej. Klasyczna automatyzacja często zastępowała pojedynczą czynność. System wykonywał określone obliczenie, sprawdzał warunek albo klasyfikował dokument. Agent może natomiast przejąć sekwencję czynności, która wcześniej składała się na znaczącą część konkretnej roli zawodowej. To oznacza, że wpływ na zatrudnienie i kompetencje nie musi już polegać wyłącznie na tym, że pracownik wykonuje te same zadania szybciej. Może zmienić się sama konstrukcja stanowiska. Przykładowo analityk nie musi już samodzielnie pozyskiwać danych, porządkować ich, wykonywać pierwszej analizy, przygotowywać projektu wniosku i formułować pytań uzupełniających. Agent może wykonać cały ten ciąg, a człowiek otrzyma dopiero gotowy rezultat do oceny. Z punktu widzenia produktywności może to być ogromna poprawa. Z punktu widzenia kompetencji oznacza jednak, że pracownik przestaje regularnie wykonywać większość czynności, które wcześniej pozwalały mu zrozumieć proces jako całość.

To pogłębia problem utraty kompetencji. Im większą część procesu przejmuje agent, tym mniejszą część rzeczywistości widzi człowiek. Jeżeli pracownik otrzymuje tylko rezultat końcowy, może z czasem przestać rozumieć nie tylko sposób jego powstania, ale również poszczególne etapy procesu, które prowadziły do wyniku. Wtedy zdolność do zakwestionowania działania AI staje się jeszcze trudniejsza niż w przypadku pojedynczego modelu rekomendacyjnego. Powstaje więc problem, który można określić jako utratę ciągłości kompetencyjnej. W tradycyjnym procesie młodszy pracownik uczył się poprzez wykonywanie prostszych czynności, następnie coraz bardziej złożonych analiz, aż w końcu był w stanie samodzielnie oceniać trudne przypadki. Jeżeli najprostsze i średnio trudne etapy zostaną całkowicie przejęte przez agentów, organizacja może zacząć mieć problem z budowaniem przyszłych ekspertów. Pozostaną osoby doświadczone, które nabyły kompetencje przed automatyzacją, ale może zabraknąć naturalnej ścieżki, dzięki której kolejni pracownicy osiągną podobny poziom.

To szczególnie istotne dla banków, bo w wielu obszarach wiedza ekspercka nie powstaje wyłącznie na szkoleniach. Buduje się ją przez wielokrotne wykonywanie spraw, obserwowanie wyjątków, popełnianie błędów i analizowanie różnic pomiędzy podobnymi przypadkami. Agent może bardzo skutecznie przejąć właśnie te zadania, które wcześniej pełniły również funkcję edukacyjną. W długim okresie może więc powstać paradoks. Bank wdraża AI, aby zmniejszyć zależność od pracy człowieka, a jednocześnie staje się coraz bardziej zależny od niewielkiej liczby ludzi, którzy jeszcze potrafią zrozumieć proces bez AI. Z perspektywy ryzyka operacyjnego i społecznego może to być bardziej istotne niż sama liczba zredukowanych stanowisk.

Agenci zmieniają również sposób, w jaki trzeba patrzeć na odpowiedzialność. Jeżeli system wykonuje jedną czynność, zazwyczaj łatwo wskazać, gdzie zaczyna się i kończy jego rola. Gdy agent samodzielnie planuje kolejne działania, korzysta z wielu źródeł i narzędzi, granica pomiędzy decyzją techniczną a działaniem biznesowym staje się mniej oczywista. Człowiek może zatwierdzić cel, ale nie widzieć każdego kroku, który agent wykonał po drodze. To wzmacnia znaczenie śladu działania. Jeżeli agent ma być elementem procesu bankowego, organizacja powinna wiedzieć nie tylko, jaki rezultat końcowy osiągnął, ale również jakie istotne działania wykonał po drodze. Z punktu widzenia ESG ma to dwa znaczenia. Po pierwsze, bez wiedzy o liczbie i rodzaju operacji trudno ocenić rzeczywiste zużycie zasobów. Po drugie, bez odtworzenia procesu trudniej ustalić, które czynności zostały faktycznie przejęte od człowieka i jak zmienia się charakter jego pracy.

Wpływ społeczny agentów może być również mniej widoczny niż klasycznej automatyzacji. Przy tradycyjnym projekcie restrukturyzacyjnym bank wie, że określony proces zostaje zautomatyzowany i że będzie potrzebował mniej osób. W przypadku agentów automatyzacja może postępować stopniowo. Najpierw system wspiera pracownika, później przejmuje kilka czynności, następnie większość procesu, aż w końcu człowiek zajmuje się tylko wyjątkami. Formalnie stanowisko może nadal istnieć, ale jego treść całkowicie się zmieni. Dlatego ocena społecznego wpływu AI powinna obejmować nie tylko liczbę stanowisk likwidowanych w związku z konkretnym wdrożeniem, ale również stopień przejmowania pracy w istniejących rolach. Dwa banki mogą zatrudniać taką samą liczbę analityków, ale w jednym z nich ludzie wykonują większość procesu, a w drugim odpowiadają głównie za akceptowanie wyjątków generowanych przez agentów. Z punktu widzenia odporności kompetencyjnej są to zupełnie różne modele.

Wraz z agentami rośnie również możliwość automatycznego skalowania pracy. Jeżeli zapotrzebowanie na określony proces wzrasta, organizacja może zwiększyć liczbę instancji albo zakres działania agentów. To ogromna zaleta biznesowa, ale jednocześnie powoduje, że środowiskowe i społeczne konsekwencje mogą narastać szybciej niż w tradycyjnym modelu organizacyjnym. Nie trzeba już przechodzić przez rekrutację, szkolenie i rozbudowę zespołu. Technologiczną „siłę roboczą” można skalować znacznie szybciej.

Z perspektywy zarządzania ESG pojawia się więc nowe pytanie: czy bank powinien traktować pracę wykonywaną przez agentów jako osobny wymiar skali operacyjnej? Nie chodzi oczywiście o przeliczanie każdego agenta na sztuczny FTE. Taki miernik szybko stałby się arbitralny. Potrzebne może być jednak rozumienie, jak duża część procesów i wolumenu pracy jest wykonywana automatycznie oraz jak szybko ten udział rośnie. W przypadku agentów szczególnego znaczenia nabiera zatem zasada, którą można zastosować zarówno do „E”, jak i „S”: nie wystarczy mierzyć liczbę systemów. Trzeba rozumieć skalę pracy, którą technologia rzeczywiście przejęła. Po stronie środowiskowej pozwala to lepiej ocenić zużycie zasobów. Po stronie społecznej pokazuje, jak głęboko zmienia się organizacja pracy.

Nie oznacza to, że rozwój agentów powinien być traktowany jako negatywny z punktu widzenia ESG. Przeciwnie, może przynieść wiele korzyści społecznych: ograniczyć najbardziej powtarzalne zadania, zmniejszyć liczbę błędów, skrócić czas wykonywania procesów i umożliwić ludziom skupienie się na pracy wymagającej większego osądu. Może również poprawić dostępność określonych usług i wiedzy wewnątrz organizacji. Problem pojawia się wtedy, gdy bank mierzy wyłącznie korzyść ekonomiczną, a nie obserwuje jak zmienia się środowiskowy koszt tej efektywności i jakie kompetencje znikają z organizacji wraz z kolejnymi etapami automatyzacji. Agenci mogą zwiększać produktywność znacznie szybciej niż tradycyjne narzędzia, ale właśnie dlatego ich skutki mogą również szybciej osiągnąć poziom materialny.

Nie każda redukcja zatrudnienia jest ryzykiem społecznym

Najprostsza narracja o społecznym wpływie AI mówi, że automatyzacja prowadzi do redukcji zatrudnienia, a więc generuje negatywny skutek społeczny. Z perspektywy banku takie ujęcie jest jednak zbyt uproszczone. Redukcja określonych czynności wykonywanych przez ludzi może poprawić jakość pracy, ograniczyć ekspozycję pracowników na monotonne zadania, zmniejszyć liczbę błędów i pozwolić przesunąć zasoby do procesów wymagających większego osądu. Sama automatyzacja nie jest więc równoznaczna z negatywnym wpływem społecznym, a tym bardziej nie oznacza automatycznie materializacji ryzyka ESG. Znaczenie ma przede wszystkim sposób, w jaki organizacja przeprowadza zmianę. Ten sam projekt automatyzacyjny może w jednym banku prowadzić do płynnej zmiany ról, reskillingu i poprawy jakości pracy, a w innym do utraty kompetencji, wzrostu rotacji, napięć pracowniczych i osłabienia zdolności do wykonywania kluczowych procesów. Technologia może być taka sama. Inny będzie natomiast sposób zarządzania jej skutkami. Dlatego społecznego wymiaru AI nie powinno się analizować wyłącznie przez pryzmat liczby etatów „przed” i „po” wdrożeniu. Taki miernik jest łatwy, ale niewiele mówi o jakości transformacji. Znacznie ważniejsze jest to, czy bank rozumie, które role ulegają zmianie, jakie kompetencje tracą znaczenie, jakie stają się krytyczne i czy organizacja posiada plan przejścia pomiędzy starym i nowym modelem pracy.

Pierwszym elementem takiej analizy powinien być reskilling. Jeżeli AI przejmuje część czynności wykonywanych dotąd przez ludzi, bank musi wiedzieć, czy osoby zatrudnione w danym procesie mogą zostać przesunięte do innych ról oraz jakie kompetencje będą do tego potrzebne. W wielu przypadkach nie chodzi o nauczenie pracownika obsługi nowego narzędzia, lecz o zmianę charakteru jego pracy. Osoba, która wcześniej wykonywała analizę operacyjną, może zacząć zajmować się kontrolą wyjątków, walidacją wyniku, interpretacją niejednoznacznych przypadków albo nadzorem nad jakością danych. Skuteczny reskilling nie powinien być utożsamiany z krótkim szkoleniem dotyczącym korzystania z AI. Jeżeli zakres odpowiedzialności pracownika zmienia się istotnie, potrzebna może być przebudowa kompetencji znacznie szersza niż nauczenie go właściwego korzystania z interfejsu. Może obejmować większe rozumienie procesu, danych, ograniczeń modeli, zasad eskalacji i ryzyk związanych z nadmiernym poleganiem na technologii.

W niektórych obszarach bank może wręcz potrzebować upskillingu, a nie tylko reskillingu. Im więcej czynności rutynowych przejmuje AI, tym bardziej po stronie człowieka pozostają przypadki trudne, nietypowe i wymagające osądu. To może powodować wzrost wymagań kompetencyjnych wobec osób, które pozostają w procesie. Paradoksalnie automatyzacja może więc jednocześnie zmniejszać liczbę potrzebnych pracowników i zwiększać oczekiwany poziom wiedzy tych, którzy pozostają. Z perspektywy społecznego ryzyka szczególnie ważne jest to, aby bank potrafił rozpoznać moment, w którym korzyść efektywnościowa zaczyna być osiągana kosztem odporności kompetencyjnej. Jeżeli organizacja redukuje zespół bardzo szybko, może uzyskać zakładane oszczędności, ale jednocześnie pozostawić zbyt małą liczbę osób zdolnych do przejęcia procesu w przypadku awarii systemu, błędnego działania modelu albo potrzeby ręcznej obsługi wyjątkowej sytuacji. Wtedy decyzja kadrowa zaczyna wpływać nie tylko na koszty, ale również na ryzyko operacyjne.

Warto więc patrzeć na zatrudnienie również przez pryzmat minimalnej zdolności manualnej. Nie każdy proces musi być wykonywany ręcznie na co dzień, ale bank powinien wiedzieć, czy zachowuje kompetencje pozwalające odtworzyć krytyczne elementy procesu w sytuacji awarii, incydentu albo czasowego wyłączenia AI. Dotyczy to zwłaszcza tych obszarów, w których technologia ma istotny wpływ na klientów, kontrolę ryzyka albo zgodność z regulacjami. Nie oznacza to obowiązku utrzymywania dużych zespołów wyłącznie „na wszelki wypadek”. Chodzi raczej o świadome określenie, jakie kompetencje są krytyczne i w jakiej skali powinny pozostać w organizacji. Bank może zautomatyzować 90% czynności, ale nadal potrzebować osób, które rozumieją pozostałe 10% na tyle dobrze, aby przejąć proces w sytuacji nietypowej. Jeżeli takich osób zabraknie, oszczędność kadrowa może zwiększyć zależność operacyjną od technologii.

Społeczny wymiar transformacji obejmuje również tempo zmian. Redukcja określonych ról rozłożona w czasie, połączona z naturalną rotacją i programem przekwalifikowania, ma inny charakter niż gwałtowna reorganizacja obejmująca dużą część zatrudnienia. Z punktu widzenia ryzyka banku szybkość transformacji może wpływać na stabilność procesów, relacje pracownicze, zdolność zatrzymania kluczowych osób oraz reputację pracodawcy. Nawet właściwie zaplanowana transformacja może rodzić napięcia, jeżeli pracownicy nie rozumieją, w jaki sposób AI zmieni ich rolę. Niepewność co do przyszłości może zwiększać rotację jeszcze przed formalnym wdrożeniem zmian. Bank może więc stracić część kompetencji wcześniej, niż planował, szczególnie jeżeli najbardziej doświadczeni pracownicy uznają, że ich dotychczasowa ścieżka rozwoju przestaje istnieć.

To pokazuje, że komunikacja i zarządzanie zmianą nie są wyłącznie miękkimi elementami HR. W określonych sytuacjach mogą wpływać na zdolność organizacji do utrzymania kluczowych kompetencji w trakcie transformacji technologicznej. Jeżeli wdrożenie AI prowadzi do odpływu osób, których bank nadal potrzebuje do kontroli nowych procesów, problem szybko przestaje być wyłącznie pracowniczy. Podobnie należy patrzeć na motywację. Pracownik, którego rola zostaje ograniczona do akceptowania wyników modelu, może stopniowo tracić poczucie wpływu na proces. Jeżeli jego osąd jest potrzebny wyłącznie w teorii, a organizacja w praktyce oczekuje zgodności z rekomendacją AI, trudno utrzymywać wysoki poziom zaangażowania i odpowiedzialności. W dłuższej perspektywie może to prowadzić do większej rotacji albo obniżenia jakości kontroli.

Społeczny aspekt automatyzacji obejmuje więc także autonomię pracownika. Nie chodzi o to, aby człowiek zawsze miał ostatnie słowo. W wielu procesach byłoby to nieefektywne. Chodzi o to, aby rola człowieka była spójna z rzeczywistym zakresem jego odpowiedzialności. Jeżeli ma kontrolować model, musi mieć realną możliwość zakwestionowania wyniku. Jeżeli ma zajmować się wyłącznie wyjątkami, organizacja powinna jasno określić, że to właśnie jest jego rola, zamiast utrzymywać fikcję pełnej odpowiedzialności za proces.

Pojawia się także problem nierównomiernego rozkładu korzyści i kosztów automatyzacji. Bank może osiągnąć istotną poprawę produktywności i redukcję kosztów, podczas gdy dla części pracowników oznacza to konieczność szybkiego przekwalifikowania, zmianę roli albo utratę zatrudnienia. Z perspektywy zarządzania społecznym wymiarem transformacji nie chodzi o to, aby każda automatyzacja gwarantowała zachowanie wszystkich stanowisk. Chodzi o świadome zarządzanie skutkami zmiany i unikanie sytuacji, w której organizacja analizuje wyłącznie korzyść ekonomiczną.

W tym kontekście warto zwrócić uwagę również na dostęp do nowych kompetencji i ról. Jeżeli bank inwestuje w reskilling, powinien wiedzieć, które grupy pracowników rzeczywiście mogą z niego skorzystać i czy nowe możliwości nie są dostępne wyłącznie dla osób już posiadających silne kompetencje technologiczne. W przeciwnym razie transformacja AI może pogłębiać podział pomiędzy pracownikami zdolnymi przejść do nowych ról a tymi, których dotychczasowe doświadczenie staje się mniej wartościowe. Nie oznacza to oczywiście, że bank ma obowiązek zapewnić każdemu pracownikowi nowe stanowisko. Z punktu widzenia zarządzania istotniejsze jest to, aby rozumieć społeczne skutki transformacji i świadomie zdecydować, jak nimi zarządzać. Ryzyko zaczyna rosnąć tam, gdzie zmiana następuje szybciej niż organizacja potrafi dostosować kompetencje, strukturę odpowiedzialności i sposób działania procesów.

Z tego punktu widzenia bardziej użyteczne od samej liczby zredukowanych FTE mogą być wskaźniki pokazujące jakość przejścia. Ile osób zostało przekwalifikowanych? Jak zmienił się udział pracowników posiadających kompetencje krytyczne? Jak wygląda rotacja w zespołach objętych automatyzacją? Czy wzrasta koncentracja wiedzy? Czy bank zachowuje zdolność samodzielnego wykonania kluczowych elementów procesu? Czy nowe role są obsadzane głównie zewnętrznie, czy organizacja potrafi rozwijać potrzebne kompetencje wewnętrznie? To są pytania znacznie bardziej przydatne niż prosty wskaźnik „ile miejsc pracy zastąpiła AI”. Pokazują bowiem, czy bank transformuje kompetencje, czy tylko redukuje koszt pracy. Z punktu widzenia ryzyka różnica może być fundamentalna.

Istotne jest również spojrzenie na proces długoterminowo. Redukcja kosztów może być widoczna natychmiast po automatyzacji, podczas gdy negatywne skutki kompetencyjne ujawnią się dopiero po kilku latach. Organizacja może przez długi czas działać sprawnie, korzystając z wiedzy osób, które nauczyły się procesu jeszcze przed wdrożeniem AI. Dopiero później pojawi się problem, gdy doświadczeni pracownicy odejdą, a młodsi nie mieli już okazji nabyć podobnych kompetencji poprzez praktykę.

Zarządzanie społecznym wpływem AI powinno więc obejmować nie tylko bieżący stan zatrudnienia, ale również zdolność odtwarzania wiedzy organizacyjnej. Bank musi wiedzieć, czy w nowym modelu pracy nadal istnieje ścieżka pozwalająca rozwijać ekspertów zdolnych samodzielnie oceniać sytuacje, które AI obsługuje na co dzień. W pewnym sensie jest to odpowiednik problemu ciągłości działania, tylko odnoszący się do ludzi i wiedzy. Bank może mieć systemy zapasowe, plany awaryjne i alternatywną infrastrukturę techniczną. Jeżeli jednak nie ma ludzi zdolnych zrozumieć proces bez modelu, jego rzeczywista odporność może być znacznie niższa, niż wskazują formalne plany.

Dlatego społeczny aspekt transformacji technologicznej należy łączyć także z odpornością operacyjną. AI może ją zwiększać przez automatyzację, standaryzację i ograniczenie błędów ludzkich. Może jednak również tworzyć nowe zależności kompetencyjne. To, która z tych tendencji przeważy, zależy w dużej mierze od sposobu przeprowadzenia zmiany. Nie każda redukcja zatrudnienia jest więc ryzykiem społecznym. Czasami może być neutralnym albo wręcz pozytywnym skutkiem poprawy efektywności i jakości pracy. Ryzyko zaczyna się wtedy, gdy bank nie zarządza konsekwencjami tej redukcji: nie wie, jakie kompetencje traci, nie potrafi ich odtworzyć, nie zapewnia odpowiedniego przekwalifikowania albo pozostawia ludziom odpowiedzialność, której nie mogą już realnie wykonywać.

Problemem ESG nie musi być to, że AI zastępuje pracę człowieka. Problemem może być sposób, w jaki organizacja zarządza przejściem od pracy wykonywanej przez ludzi do pracy wykonywanej wspólnie z technologią albo przez technologię.

Jak przełożyć to na zarządzanie ryzykiem ESG banku?

Jeżeli środowiskowe i społeczne skutki wykorzystania AI mogą wpływać na profil ryzyka banku, naturalne staje się pytanie, czy powinny zostać objęte osobnym systemem zarządzania. Intuicyjna odpowiedź mogłaby brzmieć: skoro AI generuje nowe oddziaływania, trzeba stworzyć osobny „AI ESG risk framework”. Byłby to jednak błędny kierunek. Bank nie potrzebuje kolejnego silosu ryzyka. Potrzebuje zdolności do rozpoznania, w jaki sposób wykorzystanie AI wpływa na istniejące ryzyka ESG i przez jakie kanały może przekładać się na tradycyjne kategorie ryzyka bankowego. To podejście jest istotne także dlatego, że same ryzyka ESG mają charakter przekrojowy. Czynniki środowiskowe i społeczne mogą materializować się poprzez ryzyko operacyjne, kredytowe, prawne, reputacyjne, strategiczne czy związane z podmiotami trzecimi. Nie funkcjonują więc obok systemu zarządzania ryzykiem, lecz powinny zostać w niego włączone. W przypadku AI logika powinna być taka sama. Nie chodzi o stworzenie nowej kategorii ryzyka, lecz o rozpoznanie, które elementy transformacji technologicznej mają znaczenie z punktu widzenia istniejącego systemu.

Po stronie środowiskowej jednym z pierwszych kanałów może być ryzyko operacyjne i kosztowe. Jeżeli coraz większa część działalności banku zależy od infrastruktury o wysokim zapotrzebowaniu na energię, wzrost cen energii, ograniczenia dostępności mocy albo zmiany sposobu świadczenia usług przez dostawcę mogą wpływać na koszty i dostępność technologii. W przypadku własnej infrastruktury wpływ może być bardziej bezpośredni. Przy chmurze i rozwiązaniach usługowych część kosztów będzie przenoszona przez ceny dostawcy, ale ekonomiczny mechanizm pozostaje podobny.

Kolejnym kanałem jest ryzyko związane z podmiotami trzecimi i koncentracją. Jeżeli wiele kluczowych zastosowań AI opiera się na tej samej chmurze, tym samym modelu bazowym albo niewielkiej grupie dostawców, zależność technologiczna zaczyna mieć również wymiar ESG. Bank może nie kontrolować miejsca przetwarzania, miksu energetycznego czy sposobu zarządzania zasobami, ale jednocześnie pozostawać silnie uzależniony od tych parametrów. Wtedy problemem nie jest już tylko ślad środowiskowy dostawcy, lecz także zdolność banku do zarządzania ryzykiem wynikającym z tej zależności.

Znaczenie może mieć również ryzyko strategiczne. Bank, który przyjmuje określone cele klimatyczne albo deklaruje ograniczanie własnego wpływu środowiskowego, powinien wiedzieć, czy szybka ekspansja AI jest z nimi spójna. Jeżeli wzrost wykorzystania modeli prowadzi do istotnego zwiększenia zapotrzebowania na energię lub zasoby, może powstać napięcie pomiędzy strategią technologiczną i środowiskową. Nie musi to oznaczać rezygnacji z AI, ale wymaga świadomego ważenia celów.

Może pojawić się również ryzyko reputacyjne. Bank może komunikować redukcję własnych emisji operacyjnych, jednocześnie coraz większą część obciążeń technologicznych przenosząc do dostawców chmurowych. Jeżeli interesariusze uznają, że poprawa wskaźników wynika głównie z przesunięcia infrastruktury poza organizację, a nie z rzeczywistego ograniczenia wpływu, pojawia się problem wiarygodności. W tym sensie brak widoczności śladu AI u podmiotów trzecich może mieć znaczenie nie tylko pomiarowe, ale również reputacyjne.

Po stronie społecznej mechanizmy transmisji wyglądają inaczej. Jednym z najważniejszych może być ryzyko operacyjne związane z kompetencjami. Jeżeli automatyzacja prowadzi do stopniowej utraty wiedzy potrzebnej do samodzielnego wykonania procesu, bank może stać się bardziej podatny na błędy technologii, niedostępność systemu albo odejście kluczowych osób. W takim przypadku społeczny skutek transformacji – utrata kompetencji – przekłada się bezpośrednio na odporność operacyjną.

Drugim kanałem może być ryzyko związane z jakością kontroli. Jeżeli pracownicy funkcji kontrolnych coraz częściej opierają się na wynikach AI, a jednocześnie tracą zdolność samodzielnego wykonywania analizy, formalnie zachowane mechanizmy governance mogą stopniowo tracić skuteczność. Problem społeczny związany z kompetencjami i sposobem organizacji pracy staje się wtedy problemem ładu wewnętrznego i efektywności kontroli.

Kolejnym kanałem może być ryzyko prawne i pracownicze. Sposób wykorzystania AI w zarządzaniu pracą, monitorowaniu produktywności, ocenie wyników czy podejmowaniu decyzji dotyczących pracowników może generować obowiązki i ograniczenia wynikające z prawa pracy, ochrony danych czy innych regulacji. Im szerzej systemy AI wpływają na warunki wykonywania pracy, tym większe znaczenie ma to, czy bank potrafi wykazać proporcjonalność i zgodność stosowanych mechanizmów.

Do tego dochodzi ryzyko reputacyjne i relacyjne. Gwałtowna automatyzacja, źle przeprowadzona restrukturyzacja albo brak wiarygodnego planu reskillingu mogą wpływać na postrzeganie banku jako pracodawcy. W krótkim okresie może to wydawać się problemem HR. W dłuższym może utrudniać pozyskiwanie kompetencji potrzebnych właśnie do obsługi i kontroli coraz bardziej zaawansowanej technologii.

Wpływ AI na środowisko i ludzi nie powinien być więc zarządzany w próżni. Każdy istotny czynnik powinien zostać powiązany z kanałem, przez który może oddziaływać na bank. Dopiero wtedy można ocenić jego materialność, ustalić właściciela ryzyka, określić potrzebne działania i zdecydować, czy konieczny jest pogłębiony monitoring. To jest też moment, w którym informacje z obszaru AI powinny zacząć zasilać proces zarządzania ryzykiem ESG. Jeżeli bank posiada już rejestr systemów AI, klasyfikuje przypadki użycia, identyfikuje właścicieli procesów, monitoruje dostawców i zbiera informacje o istotnych zastosowaniach, część danych potrzebnych do analizy ESG już istnieje. Problem polega na tym, że mogą być wykorzystywane wyłącznie do celów technologicznych, compliance albo zarządzania ryzykiem modeli, podczas gdy nie trafiają do oceny środowiskowych i społecznych konsekwencji.

Podobnie zespoły ESG mogą posiadać własne dane dotyczące emisji, celów środowiskowych, zatrudnienia, rotacji czy programów szkoleniowych, ale nie wiedzieć, które zmiany są związane z automatyzacją i AI. Jeżeli te dwa strumienie informacji pozostają rozdzielone, bank może dobrze zarządzać AI i dobrze zarządzać ESG, a mimo to nie dostrzegać ryzyk powstających na styku obu obszarów. Potrzebne jest zatem połączenie źródeł informacji, a nie budowa osobnego silosu. Właściciel zastosowania AI powinien wiedzieć, jakie środowiskowe i społeczne parametry mogą mieć znaczenie. Funkcja ESG powinna wiedzieć, które technologie i procesy są materialne. Risk management powinien potrafić przełożyć zidentyfikowane czynniki na istniejące kategorie ryzyka. Funkcje kontrolne powinny z kolei ocenić, czy sposób wykorzystania technologii pozostaje zgodny z przyjętym modelem zarządzania i obowiązkami regulacyjnymi.

Wymaga to również ustalenia, kto odpowiada za ocenę materialności. Nie powinno być tak, że zespół technologiczny samodzielnie decyduje, czy wpływ środowiskowy lub społeczny jest istotny, bo może nie znać pełnego kontekstu regulacyjnego i biznesowego. Z drugiej strony funkcja ESG nie powinna samodzielnie oceniać systemu, którego architektury i rzeczywistego wykorzystania nie rozumie. Ocena materialności powinna więc powstawać na styku technologii, biznesu, ESG i zarządzania ryzykiem. W praktyce można sobie wyobrazić stosunkowo prosty model. Dla istotnych zastosowań AI bank identyfikuje potencjalne czynniki środowiskowe i społeczne, następnie przypisuje im możliwe kanały transmisji, a na końcu ocenia ich znaczenie dla profilu ryzyka. Jeżeli wpływ jest niski i nie ma istotnego kanału transmisji, analiza może się zakończyć. Jeżeli natomiast wykorzystanie AI jest szerokie, zależność od dostawcy duża, a skutki społeczne lub środowiskowe potencjalnie materialne, potrzebne będzie dalsze zarządzanie i monitoring.

Takie podejście pozwala uniknąć dwóch skrajności. Pierwsza polegałaby na ignorowaniu ESG, bo „AI to problem technologiczny”. Druga – na traktowaniu każdego zastosowania AI jako nowego źródła materialnego ryzyka ESG. Właściwy punkt leży pomiędzy: identyfikujemy wpływ, szukamy kanału transmisji i dopiero potem oceniamy ryzyko. Ma to też znaczenie dla procesu podejmowania decyzji o wdrożeniu technologii. Jeżeli istotne aspekty ESG są identyfikowane dopiero po wdrożeniu, bank może znaleźć się w sytuacji, w której organizacyjnie albo kontraktowo trudno już zmienić rozwiązanie. Znacznie bardziej racjonalne jest uwzględnienie ich już na etapie projektowania i zatwierdzania materialnych przypadków użycia.

Nie chodzi o to, aby każde wdrożenie AI przechodziło przez rozbudowaną „ESG approval”. W większości przypadków byłoby to nieproporcjonalne. Można natomiast wprowadzić kryteria, które wskazują, kiedy potrzebna jest dodatkowa analiza. Przykładowo: bardzo szeroka skala wykorzystania, wysoka intensywność obliczeniowa, znacząca zależność od zewnętrznej infrastruktury, istotna zmiana zatrudnienia, wpływ na kluczowe kompetencje albo głęboka automatyzacja procesu krytycznego. Takie podejście dobrze odpowiada logice zarządzania opartego na ryzyku. Nie każde zastosowanie otrzymuje taki sam poziom uwagi, ale bank potrafi wskazać, dlaczego jedne przypadki zostały uznane za nieistotne, a inne wymagają pogłębionej analizy. W efekcie ESG staje się jednym z parametrów oceny materialnych wdrożeń AI, a nie dodatkową warstwą kontroli nakładaną na wszystko.

Ważny jest również horyzont czasowy. Część skutków środowiskowych będzie widoczna stosunkowo szybko, na przykład przez wzrost wykorzystania infrastruktury i kosztów. Skutki społeczne mogą materializować się znacznie wolniej. Utrata kompetencji, osłabienie zdolności do kształcenia nowych ekspertów czy koncentracja wiedzy mogą ujawnić się dopiero po kilku latach. Jeżeli analiza ryzyka koncentruje się wyłącznie na skutkach bieżącego wdrożenia, może nie uchwycić najważniejszych konsekwencji transformacji. To szczególnie dobrze wpisuje się w perspektywę ESG, która wymaga patrzenia również w średnim i długim terminie. Bank powinien oceniać nie tylko, czy dzisiejsze wykorzystanie AI generuje materialne ryzyko, ale również czy kierunek automatyzacji może istotnie zmienić jego profil ryzyka w kolejnych latach.

W takim ujęciu zarządzanie ESG związanym z AI przestaje być ćwiczeniem raportowym. Staje się częścią zwykłego pytania o odporność modelu operacyjnego banku na zmiany technologiczne, środowiskowe i społeczne. Nie potrzebujemy więc osobnego „AI ESG risk framework”. Potrzebujemy, aby istotne środowiskowe i społeczne konsekwencje wykorzystania AI trafiały do istniejącego systemu identyfikacji, pomiaru, zarządzania i monitorowania ryzyka. W przeciwnym razie bank będzie zarządzał technologią w jednym silosie, ESG w drugim, a najciekawsze ryzyka będą powstawały dokładnie pomiędzy nimi.

Co bank powinien zacząć mierzyć?

Jeżeli środowiskowe i społeczne skutki wykorzystania AI mają rzeczywiście zasilać system zarządzania ryzykiem ESG, bank potrzebuje danych pozwalających odróżnić zastosowania marginalne od tych, które zaczynają mieć znaczenie dla całej organizacji. Nie chodzi jednak o stworzenie od razu nowego zestawu kilkudziesięciu KPI, które będą raportowane niezależnie od istniejącego governance. Znacznie ważniejsze jest ustalenie kilku kategorii informacji pokazujących skalę wykorzystania AI, tempo jej wzrostu i miejsca, w których technologia zaczyna istotnie zmieniać zużycie zasobów albo sposób organizacji pracy. Po stronie środowiskowej punktem wyjścia powinna być przede wszystkim skala wykorzystania technologii. Bank powinien wiedzieć, które systemy AI są używane sporadycznie, a które stały się elementem codziennej pracy tysięcy pracowników albo obsługują istotne procesy automatycznie. Sama liczba modeli jest tutaj mało przydatna. Znacznie więcej mówi wolumen operacji, intensywność wykorzystania infrastruktury, liczba wywołań, udział agentów wykonujących działania w sposób ciągły oraz tempo wzrostu tych parametrów.

W drugim kroku potrzebne są informacje pozwalające przynajmniej przybliżyć zużycie energii i zasobów obliczeniowych. Nie w każdym przypadku bank będzie dysponował dokładnymi danymi energetycznymi, szczególnie przy rozwiązaniach zewnętrznych. Nie powinno to jednak prowadzić do rezygnacji z pomiaru. Jeżeli można uzyskać informacje o wykorzystanym czasie obliczeniowym, jednostkach przetwarzania, wolumenie tokenów, kosztach infrastruktury albo innych parametrach technicznych, mogą one pełnić funkcję wskaźników zastępczych pozwalających ocenić skalę i kierunek zmian. Ważniejsze od pozornie precyzyjnej liczby może być ustalenie, że określona kategoria zastosowań odpowiada za większość wzrostu wykorzystania infrastruktury AI w banku. Taka informacja pozwala skoncentrować dalszą analizę właśnie tam, gdzie potencjalny wpływ jest największy. Jeżeli trzy systemy generatywne odpowiadają za znaczącą część zapotrzebowania na zasoby, nie ma potrzeby zaczynać od dokładnego liczenia śladu kilkudziesięciu drobnych modeli używanych sporadycznie.

Kolejną kategorią powinny być dane dotyczące emisji, o ile są dostępne na wystarczająco wiarygodnym poziomie. Tu potrzebna jest jednak szczególna ostrożność. Bank powinien wiedzieć, czy otrzymuje rzeczywiste dane dotyczące własnego wykorzystania, czy jedynie proporcjonalnie przypisaną część emisji całej infrastruktury dostawcy. Powinien również rozumieć podstawowe założenia metodologiczne: czy dane obejmują wyłącznie energię zużywaną podczas inferencji, czy również inne elementy infrastruktury, jak uwzględniany jest miks energetyczny i czy wyniki można sensownie porównywać pomiędzy dostawcami. Nie zawsze będzie możliwe osiągnięcie pełnej porównywalności. Wtedy lepiej zaakceptować ograniczenia metodologiczne niż tworzyć jednolity wskaźnik, który tylko pozornie daje precyzyjną odpowiedź. Z punktu widzenia zarządzania ważniejsze może być obserwowanie trendu w ramach tej samej metodologii niż porównywanie kilku liczb wyliczonych według różnych założeń.

Bank powinien również wiedzieć, jaka część środowiskowego wpływu AI znajduje się poza jego własną infrastrukturą. Udział chmury, zewnętrznych modeli i usług API może być jednym z prostszych wskaźników pokazujących zależność od danych dostarczanych przez podmioty trzecie. Im większy jest ten udział, tym większego znaczenia nabiera jakość informacji uzyskiwanych od dostawców oraz zdolność banku do oceny własnego wpływu mimo ograniczonej widoczności infrastruktury. Warto przy tym mierzyć nie tylko stan obecny, ale również dynamikę wzrostu. Jeżeli wykorzystanie danego dostawcy albo konkretnej klasy modeli rośnie bardzo szybko, nawet relatywnie niewielki dzisiejszy wpływ może w krótkim czasie stać się materialny. Trend może więc być lepszym sygnałem ostrzegawczym niż sama wartość bezwzględna.

Po stronie społecznej pierwszy zestaw danych powinien dotyczyć tego, jak dużą część pracy AI rzeczywiście przejmuje. Liczba wdrożonych systemów nadal niewiele mówi. Znacznie ważniejsze jest to, w ilu procesach technologia wykonuje czynności wcześniej realizowane przez człowieka, jaki jest zakres tych czynności i czy system pełni rolę pomocniczą, czy przejmuje większość sekwencji pracy. Nie musi to prowadzić do tworzenia sztucznego wskaźnika „AI FTE”. Taki miernik szybko stałby się arbitralny, szczególnie przy agentach wykonujących bardzo różne zadania. Bank powinien jednak mieć przynajmniej przybliżony obraz, które role i procesy ulegają największej transformacji oraz jak szybko rośnie udział pracy wykonywanej automatycznie.

Drugą kategorią powinny być dane dotyczące zmiany zatrudnienia i struktury ról. Sama liczba redukcji etatów jest zbyt uboga. Warto wiedzieć, które role zanikają, które są przekształcane, gdzie powstają nowe funkcje i czy bank potrafi obsadzać je kompetencjami wewnętrznymi. Duże znaczenie może mieć również to, czy automatyzacja prowadzi do rzeczywistej redukcji zatrudnienia, czy przede wszystkim do przesunięcia ludzi do innych zadań.

Trzeci obszar to reskilling i upskilling. Bank powinien wiedzieć nie tylko, ilu pracowników przeszło szkolenie dotyczące AI, ale czy nabyli kompetencje potrzebne do pracy w zmienionym modelu. Szkolenie z korzystania z narzędzia nie jest tym samym co przygotowanie do kontroli jego wyników, obsługi wyjątków, interpretacji ograniczeń czy przejęcia procesu w sytuacji awaryjnej. Dlatego bardziej użyteczne mogą być wskaźniki odnoszące się do zdolności funkcjonalnych. Ilu pracowników potrafi samodzielnie wykonać krytyczny element procesu bez wsparcia AI? Ilu potrafi zakwestionować wynik modelu? Czy liczba takich osób rośnie wraz ze skalą automatyzacji, czy przeciwnie – systematycznie maleje? To są dane znacznie trudniejsze do zebrania niż liczba odbytych szkoleń, ale z punktu widzenia ryzyka mogą mieć większą wartość.

Kolejną kategorią powinno być ryzyko utraty kompetencji. Nie da się go zmierzyć jednym prostym wskaźnikiem, ale można obserwować sygnały pośrednie. Może to być malejąca liczba przypadków wykonywanych manualnie, spadająca liczba pracowników posiadających pełną znajomość procesu, wzrost zależności od niewielkiej grupy ekspertów albo wydłużający się czas potrzebny do samodzielnego przejęcia procesu bez technologii.

W obszarach krytycznych warto także wiedzieć, czy bank zachowuje minimalną zdolność manualną. Nie chodzi o sztuczne utrzymywanie równoległego ręcznego procesu dla wszystkiego, lecz o świadomość, które czynności można odtworzyć w sytuacji niedostępności systemu i jak długo organizacja może działać bez pełnej automatyzacji. To łączy aspekt społeczny bezpośrednio z odpornością operacyjną.

Istotne mogą być również dane o rotacji i mobilności pracowników w zespołach najbardziej dotkniętych automatyzacją. Jeżeli po wdrożeniu AI gwałtownie rośnie rotacja w określonej funkcji, może to być sygnał problemu z jakością transformacji, nawet jeżeli wszystkie wskaźniki efektywności procesu poprawiają się. Podobnie warto obserwować, czy nowe role powstające wokół AI są obsadzane wewnętrznie, czy bank staje się coraz bardziej zależny od rekrutacji zewnętrznej.

W niektórych przypadkach znaczenie będzie miała również intensywność pracy. Jeżeli AI przejmuje przypadki proste, a człowiek zajmuje się głównie wyjątkami, spadek liczby spraw na pracownika nie musi oznaczać poprawy warunków pracy. Warto więc patrzeć także na poziom trudności spraw, liczbę eskalacji, czas potrzebny na obsługę przypadków nietypowych oraz to, czy automatyzacja prowadzi do wzrostu obciążenia poznawczego osób pozostających w procesie.

Podobnie z monitoringiem pracowników. Jeżeli AI zaczyna być wykorzystywana do oceny produktywności, jakości pracy, zgodności z rekomendacjami albo częstotliwości odstępowania od wyniku systemu, bank powinien wiedzieć nie tylko, że takie narzędzia istnieją, ale również jak szeroko są stosowane i w jakim celu. Sam fakt monitorowania nie jest problemem, ale jego skala może mieć znaczenie dla ryzyka prawnego, reputacyjnego i relacji pracowniczych. Nie wszystkie te dane powinny trafiać do jednego dashboardu ESG. To byłoby sztuczne. Znaczna część informacji będzie już znajdowała się w HR, technologii, procurement, operational risk, compliance czy model risk. Kluczowe jest raczej to, aby bank potrafił połączyć istniejące źródła informacji i zidentyfikować sygnały wskazujące, że wpływ AI staje się materialny.

Pomiar nie powinien być przy tym celem samym w sobie. Każdy wskaźnik powinien prowadzić do pytania zarządczego. Jeżeli zużycie zasobów rośnie szybciej niż zakładano – czy trzeba zmienić architekturę? Jeżeli zależność od jednego dostawcy staje się dominująca – czy potrzebna jest alternatywa? Jeżeli spada liczba osób zdolnych samodzielnie wykonać proces – czy bank powinien zmienić program rozwoju kompetencji? Jeżeli wzrasta rotacja w zautomatyzowanym zespole – czy problem wynika z jakości transformacji? Właśnie dlatego nie potrzebujemy jednego uniwersalnego zestawu „ESG metrics for AI”. Taki katalog byłby atrakcyjny prezentacyjnie, ale prawdopodobnie szybko stałby się oderwany od rzeczywistych modeli wykorzystania technologii. Inne dane będą istotne w banku, który używa głównie klasycznych modeli predykcyjnych, inne w instytucji budującej środowisko generatywnej AI dla wszystkich pracowników, a jeszcze inne tam, gdzie agenci przejmują całe fragmenty procesów operacyjnych.

Potrzebny jest więc zestaw wskaźników materialnych dla konkretnego modelu automatyzacji. Bank powinien rozumieć, które parametry najlepiej pokazują środowiskowy i społeczny koszt jego własnej transformacji. W jednym przypadku będą to dane energetyczne i zależność od chmury. W innym koncentracja kompetencji i zdolność manualnego przejęcia procesu. W jeszcze innym tempo automatyzacji i rotacja pracowników. Ważne jest również, aby nie przedstawiać takiego podejścia jako obowiązującego regulacyjnego katalogu KPI. Nie istnieje jeden zestaw wskaźników, który bank musi stosować do pomiaru „ESG AI”. To raczej propozycja operacjonalizacji zarządzania ryzykiem, wynikająca z potrzeby połączenia informacji o technologii z informacjami potrzebnymi do oceny środowiskowych i społecznych czynników ryzyka.

I właśnie w tym sensie pomiar ma największą wartość. Nie dlatego, że daje jedną liczbę opisującą „zrównoważenie AI”, lecz dlatego, że pozwala bankowi odpowiedzieć na pytanie, czy technologiczna transformacja zaczyna zmieniać jego profil ryzyka w sposób, którego dotychczasowe narzędzia zarządcze nie pokazują.

ESG zaczyna się również wewnątrz banku

Przez długi czas bankowa dyskusja o ESG koncentrowała się przede wszystkim na tym, co znajduje się po drugiej stronie bilansu: klientach, sektorach, nieruchomościach, projektach i kontrahentach. Bank miał wiedzieć, jak transformacja klimatyczna, ryzyka fizyczne czy czynniki społeczne wpływają na jego ekspozycje. To nadal pozostaje kluczowe. Wraz z rozwojem wymagań ostrożnościowych coraz trudniej jednak utrzymywać, że własny model operacyjny banku pozostaje poza tą analizą. AI dobrze pokazuje, dlaczego takie rozróżnienie przestaje wystarczać. Jeżeli sztuczna inteligencja jest jedynie pomocniczym narzędziem wykorzystywanym w kilku procesach, jej środowiskowy i społeczny wpływ może rzeczywiście pozostawać marginalny. Jeżeli jednak modele generatywne i agenci zaczynają wykonywać znaczącą część pracy organizacji, zmienia się skala problemu. Bank nie tylko finansuje transformację gospodarki i zarządza ryzykami ESG swoich klientów. Sam również przechodzi transformację technologiczną, która ma własne konsekwencje środowiskowe i społeczne.

Nie oznacza to oczywiście, że każda konsekwencja tej transformacji powinna zostać automatycznie uznana za ryzyko ESG. To rozróżnienie pozostaje fundamentalne. Zużycie energii przez model jest wpływem środowiskowym. Redukcja określonej liczby etatów jest skutkiem społecznym. Dopiero wtedy, gdy potrafimy wskazać mechanizm, przez który te czynniki mogą przełożyć się na koszty, odporność operacyjną, jakość kontroli, ryzyko prawne, strategiczne, reputacyjne albo inne elementy profilu ryzyka banku, zaczynamy mówić o problemie ostrożnościowym. Właśnie dlatego największym błędem byłoby stworzenie obok istniejących struktur nowego obszaru pod nazwą „ESG dla AI”, który produkowałby własne wskaźniki, raporty i komitety. Takie podejście mogłoby zwiększyć liczbę informacji, ale niekoniecznie poprawić zarządzanie. Znacznie ważniejsze jest to, aby dane o rzeczywistym wykorzystaniu AI zaczęły zasilać istniejący system zarządzania ryzykiem ESG, a informacje o czynnikach środowiskowych i społecznych były uwzględniane tam, gdzie bank podejmuje decyzje o materialnych zastosowaniach technologii.

Oznacza to również zmianę perspektywy na samą technologię. Przy wyborze rozwiązania AI bank naturalnie patrzy na jakość, koszt, bezpieczeństwo, dostępność, możliwość integracji i zgodność z regulacjami. W przypadku materialnych zastosowań do tego zestawu może stopniowo dochodzić pytanie o zapotrzebowanie na zasoby, zależność od infrastruktury zewnętrznej, wpływ na kompetencje i organizację pracy oraz możliwość utrzymania odpowiedniej zdolności kontroli po głębokiej automatyzacji procesu. Nie oznacza to, że parametr środowiskowy albo społeczny ma zawsze przeważyć nad innymi kryteriami. Bank może racjonalnie wybrać rozwiązanie bardziej zasobochłonne, jeżeli zapewnia ono istotnie większe bezpieczeństwo albo skuteczność. Może również zautomatyzować proces, mimo że oznacza to zmniejszenie zatrudnienia. Zarządzanie ryzykiem ESG nie polega na eliminowaniu każdego negatywnego wpływu. Polega na tym, aby wpływ był widoczny, jego konsekwencje zrozumiane, a decyzja podjęta świadomie.

To właśnie odróżnia zarządzanie od samego raportowania. Można policzyć emisje związane z infrastrukturą AI i nadal nie wiedzieć, czy mają one jakiekolwiek znaczenie dla decyzji banku. Można raportować liczbę przeszkolonych pracowników i jednocześnie nie zauważyć, że organizacja traci kompetencje niezbędne do kontroli kluczowego procesu. Sama dostępność danych nie oznacza jeszcze, że bank rozumie ryzyko. Dlatego jednym z najważniejszych pytań powinno być to, czy informacje, które mierzymy, rzeczywiście zmieniają sposób zarządzania. Jeżeli zużycie zasobów przez określony model rośnie gwałtownie, czy ktoś ocenia, dlaczego tak się dzieje? Jeżeli duża część procesów zaczyna zależeć od jednego dostawcy, czy informacja ta trafia do analizy koncentracji? Jeżeli automatyzacja zmniejsza liczbę osób posiadających pełną wiedzę o procesie, czy bank zmienia sposób zarządzania kompetencjami? Jeżeli ludzie coraz rzadziej kwestionują wynik AI, czy organizacja sprawdza, czy nadal istnieje rzeczywisty nadzór człowieka?

Właśnie tutaj środowiskowy i społeczny wymiar AI łączy się z szerszym problemem governance. Ryzyko nie powstaje wyłącznie dlatego, że model zużywa dużo energii albo zastępuje pracę człowieka. Może powstawać dlatego, że organizacja zwiększa skalę technologii szybciej niż zdolność do zrozumienia jej skutków. Im szybciej postępuje automatyzacja, tym łatwiej o sytuację, w której efekty biznesowe są natychmiast widoczne, a koszty środowiskowe, kompetencyjne i organizacyjne ujawniają się dopiero później. To szczególnie ważne przy agentach AI. Możliwość szybkiego skalowania pracy wykonywanej przez technologię oznacza, że zarówno wykorzystanie infrastruktury, jak i zmiana podziału pracy pomiędzy człowieka i system mogą postępować znacznie szybciej niż wcześniej. Bank może w ciągu stosunkowo krótkiego czasu zmienić sposób działania wielu procesów bez proporcjonalnego wzrostu zatrudnienia, infrastruktury własnej czy innych tradycyjnych wskaźników skali. Dlatego istniejące narzędzia zarządcze mogą przez pewien czas nie pokazywać pełnego znaczenia tej zmiany.

W takim świecie coraz mniej wystarcza odpowiedź, że środowiskowy wpływ znajduje się u dostawcy, a społeczny wpływ należy do HR. Oba mogą mieć znaczenie dla profilu ryzyka banku. W pierwszym przypadku technologia może tworzyć zależność od zasobów i infrastruktury, których bank nie kontroluje. W drugim może zmieniać kompetencje, zdolność do działania bez AI i skuteczność kontroli. To są problemy różnych funkcji, ale powinny spotkać się w jednym systemie zarządzania. Nie oznacza to również, że każdy bank będzie miał taki sam problem. Instytucja wykorzystująca przede wszystkim klasyczne modele predykcyjne może mieć zupełnie inny profil niż bank budujący szerokie środowisko generatywnej AI i agentów. Różna będzie skala wykorzystania, rodzaj infrastruktury, wpływ na zatrudnienie i znaczenie technologii dla kluczowych procesów. Dlatego także tutaj potrzebna jest proporcjonalność. Materialność AI dla ESG powinna wynikać z rzeczywistego modelu wykorzystania technologii, a nie z samego faktu, że instytucja używa sztucznej inteligencji.

Być może właśnie to jest najważniejsza zmiana perspektywy. Nie potrzebujemy mierzyć AI dlatego, że jest nowa albo dlatego, że stała się ważnym tematem regulacyjnym. Powinniśmy ją mierzyć wtedy, gdy staje się materialną częścią sposobu prowadzenia działalności banku. Jeżeli tak się dzieje, trudno uznać, że środowiskowe i społeczne konsekwencje tej technologii pozostają poza systemem zarządzania ryzykiem tylko dlatego, że wcześniej nie występowały w podobnej skali. Bank może więc zacząć od stosunkowo prostego pytania: czy skala wykorzystania AI jest już na tyle duża, że jej środowiskowe lub społeczne skutki mogą istotnie zmienić nasz profil ryzyka? Jeżeli odpowiedź jest negatywna, nie ma potrzeby budowania rozbudowanego systemu pomiarowego. Jeżeli jest pozytywna albo coraz bliższa pozytywnej, potrzebne stają się dane, kanały transmisji, właściciele ryzyka i odpowiednie mechanizmy monitorowania.

W tym sensie AI jest dobrym testem dojrzałości zarządzania ESG. Pokazuje, czy bank rzeczywiście potrafi identyfikować nowe czynniki ryzyka i włączać je do istniejących struktur, czy też zarządzanie ESG pozostaje przede wszystkim katalogiem znanych już tematów. Technologia zmienia się zbyt szybko, aby regulacja mogła z góry wymienić każdy nowy kanał oddziaływania. System zarządzania powinien być zdolny rozpoznać go również wtedy, gdy nie został jeszcze opisany w szczegółowej tabeli wskaźników. Dlatego głównym pytaniem nie jest to, czy bank powinien dzisiaj liczyć emisję każdego modelu albo precyzyjnie przewidywać liczbę stanowisk, które znikną w wyniku automatyzacji. Znacznie ważniejsze jest, czy potrafi zobaczyć, że sposób wykorzystania AI zaczyna zmieniać jego środowiskowy i społeczny profil oraz czy rozumie, gdzie ta zmiana może przełożyć się na ryzyko.

Banki przez lata uczyły się mierzyć ESG przede wszystkim po stronie swoich ekspozycji. Wraz z rozwojem AI coraz częściej będą musiały patrzeć również na siebie: na własną infrastrukturę, dostawców, sposób organizacji pracy, kompetencje i tempo automatyzacji. Nie dlatego, że każda z tych kwestii powinna stać się kolejnym obowiązkiem raportowym, ale dlatego, że coraz większa część działalności banku będzie realizowana przez technologię, której środowiskowych i społecznych skutków nie można traktować jako całkowicie zewnętrznych wobec instytucji. AI nie działa poza ESG. Im większą część banku automatyzujemy, tym większą część jego środowiskowego i społecznego profilu współtworzy technologia. Zarządzanie zaczyna się nie wtedy, gdy potrafimy przypisać jedną liczbę do „śladu ESG AI”, lecz wtedy, gdy rozumiemy, jak technologiczna transformacja zmienia środowisko, ludzi i – poprzez te zmiany – własny profil ryzyka banku.