AI výskumníkom Microsoftu omylom uniklo 38 terabajtov údajov

Najväčší únik údajov súvisiacich s AI

Výskumníci spoločnosti Microsoft v oblasti umelej inteligencie omylom odhalili 38 terabajtov citlivých údajov vrátane súkromných kľúčov a hesiel. Ide o doteraz najväčší únik skutočne obrovského množstva údajov, ktorý dokazuje, že s údajmi zverenými umelej inteligencii pracujú ľudia, ktorí robia rovnaké bezpečnostné chyby ako väčšina z nás. Tento incident ukazuje, že ani svetoví technologickí giganti nie sú imúnni voči zraniteľnostiam v oblasti bezpečnosti údajov.

Celý prípad vyšiel najavo vďaka startupu Wiz Research, ktorý zistil, že tento obrovský súbor údajov je verejne dostupný na platforme GitHub. Používatelia GitHubu, ktorí si z úložiska Azure stiahli modely umelej inteligencie na rozpoznávanie obrazu, boli nevedomky poučení, že si majú stiahnuť aj iné údaje, nielen tie, ktoré mali pôvodne na mysli. Tým sa náhodne odhalilo množstvo citlivých informácií.

Jednou z hlavných chýb bolo nastavenie adresy URL úložiska tak, aby umožňovala prístup ku kompletnému účtu úložiska, namiesto toho, aby bola nastavená len na režim čítania. Tým sa otvorila cesta k citlivým údajom vrátane hesiel, tajných kľúčov a viac ako 30 000 interných správ, ktoré si zamestnanci spoločnosti Microsoft vymieňali prostredníctvom Microsoft Teams. To znamená, že útočník, ak by chcel, mohol infikovať modely AI škodlivým kódom, ktorý mal potenciál ohroziť bezpečnosť používateľov.

Spoločnosť Microsoft incident potvrdila

Spoločnosť Microsoft rýchlo reagovala a potvrdila chybu, ale zdôraznila, že bezpečnosť týchto údajov je teraz správne nastavená a podobný incident by sa nemal opakovať. Chyba v správe údajov teda odhaľuje zraniteľnosť aj veľkých technologických spoločností, keď ide o obrovské množstvo informácií.

Napriek rýchlej náprave zo strany Microsoftu tento incident vyvoláva otázky o bezpečnosti údajov v oblasti umelej inteligencie. Veľké modely umelej inteligencie sú čoraz bežnejšie a prevádzkové údaje predstavujú riziko úniku, ak nie je zabezpečenie dostatočne silné.

Spoločnosti, ktoré používajú umelú inteligenciu, sa musia čoraz viac zameriavať na zabezpečenie svojich údajov. Dokonca ani vlastnícky podiel spoločnosti Microsoft v Open AI neposkytuje absolútnu záruku, ako ukázal tento incident. Bezpečnosť údajov musí byť prioritou, najmä v čase, keď sa čoraz viac spoliehame na umelú inteligenciu a jej využívanie v rôznych oblastiach nášho života.

Credit: Focus