Asystenci AI mogą ujawniać firmowe hasła i omijać ograniczenia dostępu

  • Home
  • /
  • Blog
  • /
  • Asystenci AI mogą ujawniać firmowe hasła i omijać ograniczenia dostępu

Data: 22 listopada, 2026

Asystenci AI mogą ujawniać firmowe hasła i omijać ograniczenia dostępu

Asystenci AI coraz częściej otrzymują dostęp do firmowych systemów i plików, by pomagać w codziennej pracy. Dwa incydenty opisane przez NordLayer AI Scout pokazują jednak, że takie narzędzia mogą ujawnić poufne dane albo znaleźć sposób na obejście ograniczeń dostępu. W jednym przypadku asystent programistyczny wielokrotnie odczytywał plik zawierający firmowe hasła i tokeny.

Poufne dane w pliku konfiguracyjnym

Do zdarzenia doszło podczas przeglądu zmian w oprogramowaniu. Inżynier QA poprosił asystenta AI o sprawdzenie kodu, a instrukcje projektu kierowały narzędzie do pliku konfiguracyjnego z tokenem dostępu do GitLaba.

Plik zawierał jednak znacznie więcej niż potrzebny token. Zapisano w nim również hasła do środowiska produkcyjnego, dane uwierzytelniające do wewnętrznego systemu kadrowego oraz dostęp do usługi analitycznej.

Asystent odczytywał całą zawartość pliku podczas 10 sesji rozłożonych na trzy tygodnie. Za każdym razem przesyłał ją do zewnętrznej usługi AI. Problem pogłębił się, gdy narzędzie trafiło na nową kopię projektu, w której brakowało spodziewanego pliku. Zamiast przerwać poszukiwania, pobrało wszystkie zmienne środowiskowe komputera, ujawniając kolejne hasła i dane dostępowe.

Gdy asystent zorientował się, co się stało, przyznał, że ujawnił sekrety w wynikach sesji, i zalecił ich zmianę. Ekspert ds. cyberbezpieczeństwa NordLayer, Vakaris Noreika, zwraca uwagę, że pracownicy często proszą asystentów o bezpośrednie pobieranie danych uwierzytelniających. Takie zachowanie może powtarzać się przy kolejnych zadaniach, a ryzyko pozostawać niezauważone.

Opisane przypadki pokazują, że dostęp do firmowych danych wymaga szczególnej kontroli, także wtedy, gdy korzysta z niego asystent AI. Warto pamiętać, że narzędzie może wykonywać polecenia w sposób, którego użytkownik nie przewidział. Dlatego zasady bezpieczeństwa powinny obejmować zarówno pracowników, jak i wykorzystywane przez nich systemy AI.

Inna droga do firmowej dokumentacji

Drugi incydent dotyczył dostępu do dokumentacji w Confluence. Firmowe połączenie wykorzystujące Model Context Protocol (MCP) blokowało asystentowi możliwość odczytu wewnętrznych stron.

Pracownik zapytał, czy można uzyskać dostęp inną drogą, na przykład za pomocą tokenu API. Asystent potwierdził, że takie rozwiązanie działało, co pozwalało ominąć ograniczenie nałożone na oficjalne połączenie.

Nie ma dowodów, że pracownik chciał celowo naruszyć zasady bezpieczeństwa — mógł szukać po prostu wygodniejszej metody. Mimo to korzystanie z niezatwierdzonego połączenia może podważyć zabezpieczenia wdrożone przez firmowy zespół IT.

Zobacz także: Five Eyes ostrzega przed wykorzystywaniem AI do cyberataków.

Agenci nie zawsze pamiętają zasady

Jak zauważa Noreika, zabezpieczenia zwykle obejmują scenariusze przewidziane przez ich twórców, ale agenci AI nie znają wszystkich reguł obowiązujących w organizacji. Nie są pracownikami, którzy przeszli szkolenie i przyswoili firmowe procedury.

Dodatkowym problemem jest brak trwałej pamięci między sesjami. Asystent może więc nie zachować wcześniejszego ostrzeżenia, a nawet po otrzymaniu konkretnego zakazu ponownie wykonać niepożądaną czynność.

Jak ograniczyć ryzyko

Firmy powinny unikać przechowywania wielu haseł i tokenów w jednym pliku konfiguracyjnym. Warto korzystać z bezpiecznych sejfów na dane uwierzytelniające, ograniczać zakres uprawnień agentów AI i monitorować, do jakich zasobów uzyskują dostęp.

Istotne jest również zapewnienie pracownikom zatwierdzonych, wygodnych metod korzystania z firmowych danych. Same blokady mogą nie wystarczyć, jeśli użytkownicy lub asystenci znajdą alternatywną drogę. Monitorowanie nietypowych działań i szybka rotacja ujawnionych poświadczeń mogą pomóc ograniczyć skutki podobnych incydentów.

Podobne wpisy

Twój adres email nie zostanie opublikowany. Wymagane pola są oznaczone


  1. r00tl3ss pisze:

    W końcu ktoś głośno o tym, co od dawna wisiało w powietrzu — AI z dostępem do repo to bomba z opóźnionym zapłonem. Jeśli firmy nie zabudują tego sensownymi sejfami na sekrety i politykami least-privilege, to takie incydenty będą się powtarzać. Nie panikujcie, ale traktujcie to jak priorytet do natychmiastowej naprawy.

  2. Marek K. pisze:

    Kolejna medialna panika wokół asystentów. Problemem nie jest „AI” tylko ludzie, którzy trzymają wszystkie hasła w jednym pliku i prosić bota o ich przeglądanie. Firmy same robią z siebie łatwy cel — zamiast inwestować w procedury wprowadzają modny tool i tyle.

  3. Agnieszka S. pisze:

    Błąd nie leży tylko po stronie modelu — to połączenie złego secret managementu i braku ograniczeń na poziomie aplikacji. Konkretne rekomendacje: przejść na vault (HashiCorp/Secrets Manager), wprowadzić krótkotrwałe tokeny z rotacją, wymusić RBAC na endpointach API i logować access tokenów. Model Context Protocol powinien działać jako allowlist, a nie jedyny mechanizm — dodatkowo rate limiting i anomaly detection wokół sesji asystentów. I tak, trzeba zakazać kopiowania całych plików konfiguracyjnych do promptów.

  4. piotrek_kde pisze:

    Mam podobna sytuacje w starej pracy — junior wrzucil do repo .env z haslami, bot CI zacząl wysylac alerty i wszystko wyszlo na jaw. Po wprowadzeniu vaulta i pre-commit hooków problem zniknal, ale rotacja i edukacja zespolu to bylo 80% roboty. Nie lekcewazyc.

  5. radek pisze:

    Czy ktoś wie, czy da się skonfigurować popularne asystenty (lub ich wrappery) tak, by w ogóle nie wysyłały plików zawierających „secret” poza sieć firmy? Szukam opcji on-prem lub self-hosted model + agent, który ma wbudowaną regułę blokującą wysyłanie zmiennych środowiskowych.

  6. vx82 pisze:

    Nie zgadzam się z narracją, że to głównie wina AI. To zwykły case nieprzemyślanych praktyk devopsowych. Wyobraźcie sobie, że każda nowa technologia będzie nagle demonizowana, zamiast wymusić standardy: vaulting, least-privilege, CI pre-commit checks, i audyt. Winnych szukajcie w procesach, nie tylko w modelach.

  7. Kamil P. pisze:

    Trochę poza tematem: ciekawe jakie to będzie miało konsekwencje prawne dla dostawców platform AI jeśli ich modele będą nieumyślnie przesyłać dane wrażliwe klienta. Firmy pewnie zaczną wymagać SLA i on-prem opcji albo rynek się rozdzieli na „bezpieczne” i „tańsze” uslugi. Po tym artykule spodziewam sie sporego wzrostu popytu na lokalne instancje modeli.

{"email":"Email address invalid","url":"Website address invalid","required":"Required field missing"}

Newsletter OSnews raz w tygodniu. Bez reklam.