Pentagon pri únose Madura použil nástroj umelej inteligencie Claude. Anthropic vyjadril znepokojenie
Pentagon pri januárovom útoku na Venezuelu a únose jej prezidenta Nicolása Madura použil nástroj umelej inteligencie Claude spoločnosti Anthropic. Spojené štáty pri vojenskom zásahu bombardovali niekoľko miest vo Venezuele a podľa Caracasu zabili približne 100 ľudí.
Pravidlá firmy Anthropic pre používanie nástroja Claude pritom zakazujú jeho používanie na násilie, vývoj zbraní či sledovanie. Píšu o tom denník The Wall Street Journal a web Axios s odvolaním sa na svoje zdroje.
Prerušenie spolupráce
Po tom, ako Anthropic vyjadril znepokojenie ohľadom toho, ako Pentagon využíva jeho nástroj AI, členovia administratívy prezidenta Trumpa zvažujú, že s firmou prerušia spoluprácu, uviedli obe médiá.
"Anthropic sa spýtal, či bol jeho softvér použitý pri razii na zajatie Madura, čo spôsobilo skutočné napätie naprieč ministerstvom vojny, keďže to naznačovalo, že by s tým nemusel súhlasiť," oznámil Axiosu americký predstaviteľ, pričom nazval ministerstvo obrany jeho neoficiálnym názvom, ktorý používa Trumpova administratíva.
"Musíme prehodnotiť našu spoluprácu s akoukoľvek spoločnosťou, ktorá by ohrozila úspech operácií našich vojakov v teréne," dodal zdroj.
Pentagon vo Venezuele použil nástroj Claude v rámci partnerstva Anthropicu so spoločnosťou Palantir Technologies, ktorej nástroje ministerstvo obrany a federálne bezpečnostné zložky bežne používajú, uviedli zdroje WSJ. Anthropic zároveň vlani v lete získal zmluvu s ministerstvom obrany v hodnote 200 miliónov dolárov. Niektorí členovia administratívy podľa WSJ v poslednom čase zvažujú jej zrušenie.
Tajná operácia
Claude je podľa WSJ prvý model AI, ktorý Pentagon použil pri utajovanej operácii. Modely AI dokážu spracovávať dáta v reálnom čase, čo je schopnosť, ktorú si Pentagon cení vzhľadom na chaotické prostredie, v ktorom sa vojenské operácie konajú. Nie je jasné, akú úlohu Claude pri únose Madura hral, píše Axios.
Americká armáda nástroj v minulosti použila na analýzu satelitných snímok či informácií spravodajských služieb. Vo Venezuele nástroj použila počas samotnej operácie, nie iba v jej prípravnej fáze, uviedli zdroje webu.
"Nemôžeme sa vyjadriť k tomu, či bol Claude alebo akýkoľvek iný model AI použitý pre špecifickú utajovanú alebo neutajovanú operáciu. Akékoľvek použitie Claudea, či už v súkromnom sektore alebo naprieč vládou, musí byť v súlade s našimi zásadami používania," uviedol podľa Axious hovorca Anthropicu.
Anthropic je jednou z viacerých veľkých technologických spoločností, ktoré vytvárajú modely AI a spolupracujú s Pentagonom. OpenAI, Google a xAI uzavreli dohody s vojenskými užívateľmi, ktorí majú prístup k ich modelom AI bez bezpečnostných pravidiel platných pre bežných užívateľov.
Podľa Axiosu nie je zrejmé, či niektorý z týchto modelov armáda pre operáciu vo Venezuele tiež použila. Tieto tri spoločnosti teraz s Pentagonom rokujú o povolení na nasadenie modelov AI do utajovaných systémov. Pentagon a Anthropic tiež vedú rozhovory o možnom uvoľnení obmedzení týkajúcich sa používania nástroja Claude.