Security Weekly: Anthropic e le brutte intenzioni di ClaudeAI
📬 Ben ritrovato caro cyber User. Oggi proviamo ad analizzare insieme un nuovo report che sta “spaventando” il mondo per le azioni di cui l’AI è capace di compiere. Cerchiamo di guardarlo con la lente di ingrandimento per capire cosa ci dice davvero lo studio.Iscriviti oraCaro lettore, si parla molto in queste ore di un rapporto pubblicato da Anthropic, l’azienda che sviluppa il modello Claude, su una presunta campagna di hacking “autonoma” condotta da un gruppo cinese sconosciuto e sponsorizzato dallo stato. L’attività avrebbe colpito almeno 30 organizzazioni, sfruttando l’AI per automatizzare diverse fasi dell’attacco. Il termine “autonoma” è stato subito ripreso con un certo clamore, ma scavando nei dettagli tecnici del report, emerge un quadro molto più complesso e, per certi versi, rassicurante. O, forse, semplicemente più realistico.Anthropic descrive come il gruppo malevolo sia riuscito a eludere i meccanismi di sicurezza di Claude suddividendo il lavoro in compiti discreti, in modo che il modello non riconoscesse l’intento malevolo complessivo, e ingannandolo facendogli credere di star conducendo un audit di sicurezza legittimo. Una strategia subdola, che sfrutta la natura stessa degli LLM, progettati per essere utili e seguire le istruzioni.Tuttavia, Jacob Klein, a capo del team di threat intelligence di Anthropic, ha chiarito che questa operazione, sebbene sia la più autonoma che abbiano osservato finora, è ben lontana dall’essere un’azione di pura intelligenza artificiale che decide e agisce in solitaria. L’automazione è stata resa possibile da un framework frontend appositamente progettato per orchestrare e supportare le operazioni di Claude. Questo framework gestiva attività come lo scripting, il provisioning dei server e un significativo sviluppo backend per garantire che ogni passo fosse eseguito correttamente.E qui arriva il punto cruciale: Klein ha sottolineato che la parte più difficile e intensiva dell’intera operazione è stata proprio la costruzio
Questa voce ha un allegato (spesso audio podcast) sul sito originale — Itagora non lo scarica sul browser del visitatore.
Itagora tiene in archivio titolo e sommario per la ricerca interna. Il testo completo resta sulla fonte. Il link in uscita non invia referrer.