Incydenty

Hugging Face: złośliwe modele instalują koparki i otwierają dostęp do serwerów

Pluto Security ujawniło kampanię wykorzystującą kod dołączany do modeli AI. Liczba pobrań przekracza 32 tysiące, ale nie oznacza tylu potwierdzonych infekcji.

Hugging Face: złośliwe modele instalują koparki i otwierają dostęp do serwerów

Pluto Security opublikowało 29 października analizę kampanii Load/Mine, w której repozytoria modeli Hugging Face dostarczały koparki kryptowalut i kod zapewniający zdalny dostęp. Badacze wskazali 31 złośliwych repozytoriów na siedmiu kontach. Po usunięciu pierwszej fali pojawiły się kolejne konta.

Jak dochodzi do infekcji

Atak wykorzystuje możliwość uruchamiania kodu Pythona dołączonego do modelu. Włączenie trust_remote_code pozwala wykonać taki kod podczas ładowania. Złośliwe instrukcje mogą więc zadziałać przed rozpoczęciem właściwego korzystania z modelu.

Repozytoria podszywały się pod niewielkie modele testowe Qwen2. Opisane próbki instalowały koparkę, a część otwierała także połączenie umożliwiające napastnikowi wykonywanie poleceń na serwerze. BleepingComputer potwierdził obecność koparki i takiego mechanizmu dostępu w jednej z kopii modelu.

Nie jest to dowód, że wszystkie modele na platformie są niebezpieczne. Ryzyko dotyczy uruchamiania niezweryfikowanego kodu dostarczanego przez konkretnego autora repozytorium.

Kogo dotyczy zagrożenie

Szczególną uwagę powinny zachować zespoły uruchamiające modele na własnych serwerach GPU, także przez narzędzia takie jak Xinference i GPUStack. Uprawnienia procesu oraz dostępne mu dane decydują o możliwym zasięgu kompromitacji.

Ponad 32 tysiące pobrań wskazanych i powiązanych repozytoriów nie oznacza takiej samej liczby infekcji. Pobranie plików i wykonanie złośliwego kodu to różne zdarzenia. Najpopularniejszy wskazany model miał ponad 28 tysięcy pobrań.

Co zrobić teraz

  • Porównać używane repozytoria z listą wskaźników w raporcie Pluto Security.
  • Sprawdzić, gdzie włączono trust_remote_code i kto zatwierdza taką decyzję.
  • Analizować kod modeli przed uruchomieniem i przypinać zatwierdzone wersje.
  • Odizolować podejrzany serwer, zabezpieczyć ślady i sprawdzić mechanizmy trwałego dostępu.
  • W razie wykonania złośliwego kodu zmienić dostępne z serwera dane uwierzytelniające.

Komentarz SecurHUB

Kod pobierany razem z modelem wymaga kontroli podobnej do innych zależności oprogramowania. Obsługa incydentów powinna obejmować ustalenie, do jakich sekretów i systemów miał dostęp proces, który załadował model.

Źródła: Pluto Security, BleepingComputer

AutorZespół SecurHUB

Czytaj dalej

Podobne artykuły

Chcesz sprawdzić, czy to dotyczy Twojej firmy?

Bezpłatna konsultacja z naszym ekspertem — bez zobowiązań, w pełnej poufności.

Porozmawiajmy