Anthropic alleggerisce restrizioni claude: tensione con il pentagono

Anthropic alleggerisce restrizioni claude: tensione con il pentagono

La startup di intelligenza artificiale Anthropic ha annunciato una revisione delle sue politiche di sicurezza, una mossa definita necessaria per rimanere competitiva in un settore in rapida evoluzione. Questa decisione arriva in un momento di crescente tensione con il Dipartimento della Difesa degli Stati Uniti, che insiste per mantenere dei limiti all'uso del suo modello di intelligenza artificiale Claude.

Un cambio di rotta nella politica di sicurezza

Nel 2023, Anthropic aveva dichiarato di ritardare lo sviluppo di IA potenzialmente pericolose. Ora, l'azienda prevede di aggiornare le sue norme, eliminando il blocco se non dovesse ottenere un vantaggio competitivo significativo rispetto ad altri attori del settore. Secondo Anthropic, questo cambiamento riflette un contesto politico che privilegia la competitività e la crescita economica, mentre i dibattiti sulla sicurezza non hanno ancora guadagnato un impulso decisivo a livello federale.

La pressione del pentagono aumenta

Le negoziazioni tra Anthropic e il Pentagono sono al punto di stallo a causa delle preoccupazioni sulla sorveglianza dell'IA e delle armi sviluppate dall'azienda. Il Pentagono ha espresso la sua frustrazione e ha minacciato di invocare una legge della Guerra Fredda per costringere Anthropic a concedere l'accesso alla sua Tecnologia. La scadenza per Anthropic è fissata per venerdì prossimo.

Rischi per i contratti militari

La mancata concessione delle autorizzazioni potrebbe mettere a rischio fino a 200 milioni di dollari di lavoro che Anthropic aveva concordato con il Dipartimento della Difesa. Durante un incontro tra il CEO di Anthropic, Dario Amodei, e il segretario alla Difesa Pete Hegseth, Amodei avrebbe posto delle condizioni: che il Pentagono si astenga dall'utilizzare i prodotti di Anthropic per attaccare autonomamente combattenti nemici o per effettuare sorveglianza di massa sui cittadini americani. Amodei ha sottolineato che tali scenari non si sono ancora verificati in operazioni sul campo.

La risposta di anthropic: sicurezza e responsabilità

Anthropic si definisce un'azienda fortemente orientata all'uso responsabile dell'IA, con l'obiettivo di prevenire danni catastrofici derivanti da questa Tecnologia. Ha creato Claude Gov specificamente per scopi di sicurezza nazionale degli Stati Uniti, operando entro limiti etici. L'azienda difende la sua posizione sottolineando che il Pentagono, in caso di utilizzo di Claude per sorveglianza di massa o obiettivi autonomi, deve rispettare la legge e che deve esserci sempre un essere umano coinvolto.

La strategia del pentagono sull'ia

La disputa tra Pentagono e Anthropic è scoppiata poche settimane dopo la pubblicazione di una nuova strategia sull'IA da parte del Pentagono. Questa strategia mira a trasformare il Pentagono in una forza prioritaria nell'IA, incrementando l'experimentazione con modelli all'avanguardia e semplificando le procedure burocratiche per il loro utilizzo. L'obiettivo è scegliere modelli privi di restrizioni di uso che possano limitare le applicazioni militari legali.

La questione della sicurezza nazionale

Il Pentagono aveva espresso preoccupazioni riguardo alla comprensione degli obiettivi statunitensi da parte di Anthropic dopo aver appreso che l'azienda aveva esitato nell'utilizzo della sua IA durante l'operazione che ha portato alla cattura di Nicolás Maduro. Anthropic ha negato di aver discusso l'uso di Claude per operazioni specifiche con il Pentagono, limitandosi a conversazioni tecniche di routine. Se il Pentagono dovesse dichiarare Anthropic un rischio per la catena di approvvigionamento, altri fornitori militari sarebbero obbligati a verificare di non utilizzare i prodotti dell'azienda.