Chatbot pericolosi

[Non si può asciugare l’acqua con l’acqua, non si può spegnere il fuoco con il fuoco, quindi non si può combattere il male con il male. Una lezione etica potente e non negoziabile. La vendetta, la durezza, la violenza non redimono: replicano il problema. Solo chi sceglie strade alternative, giustizia, educazione, parola, può davvero interrompere il ciclo. Questa frase è una bussola per chi si muove nel buio e cerca di non diventare ciò che combatte.] Un rapporto di intelligence creato con l'intelligence artificiale e diffuso tra i vertici delle forze armate americane la scorsa primavera, nel pieno della guerra con l'Iran, ha fatto scattare l'allarme e ha quasi scatenato una guerra contro la Cina. Lo rivela la Cnn in esclusiva. Secondo il rapporto, una nave cinese in Medio Oriente stava trasportando componenti destinati a un programma di armi nucleari. La notizia ha subito fatto mobilitare l'esercito Usa: personale militare armato si è preparato a salire a bordo della nave, mentre jet militari sono decollati dalle basi nella regione. Ma poco prima che l'operazione ricevesse il via libera ufficiale, funzionari dell'esercito hanno analizzato il rapporto e scoperto che era stato generato con l'ausilio dell'intelligenza artificiale. In particolare è emerso che il chatbot utilizzato dall'analista aveva identificato in modo errato il carico trasportato dalla nave cinese. La conclusione è stata che il rapporto era "completamente falso" ma ha "rischiato di scatenare una guerra" con la Cina, secondo quanto riferito dalle fonti. Negli ultimi mesi, Iran, Cina e gruppi in Israele hanno utilizzato l’intelligenza artificiale in modi innovativi per creare campagne di influenza sui social media, le prime del loro genere, accrescendo le preoccupazioni tra i funzionari statunitensi e i ricercatori nel campo della sicurezza riguardo a questa tecnologia in rapida evoluzione. Secondo quanto riferito al New York Times da funzionari statunitensi e ricercatori nel campo della sicurezza a conoscenza di queste attività, Iran, Cina e aziende private israeliane hanno iniziato a schierare “eserciti di bot” basati sull’intelligenza artificiale che operano in modo completamente autonomo, creando profili falsi, scrivendo post e partecipando a dibattiti sui social media senza alcun intervento umano. Questo nuovo sviluppo ha sollevato serie preoccupazioni a Washington in merito a una potenziale interferenza nelle elezioni di medio termine statunitensi. Il Nyt riporta che la campagna iraniana, sostenuta da Teheran, è stata particolarmente preoccupante, hanno affermato funzionari e ricercatori nel campo della sicurezza. L’Iran ha preso di mira il pubblico statunitense, utilizzando account falsi generati da agenti che si spacciavano per normali cittadini americani residenti nelle principali città. Gli account taggavano giornalisti e politici nei commenti, diffondendo meme popolari e opinioni anti-Partito Repubblicano, hanno aggiunto le fonti. Quasi 80.000 persone seguivano gli account creati dall’intelligenza artificiale, attivi nella prima metà dell’anno. Inoltre, delle due campagne di spionaggio riconducibili ad aziende israeliane, una è stata generata durante l’estate da IntelEye, una società con sede a Tel Aviv fondata nel 2023 da ex dipendenti del gruppo NSO, un’azienda di spyware inserita nella lista nera degli Stati Uniti, secondo quanto riferito da due persone a conoscenza della campagna. La società, riporta il Nyt, ha rappresentato che si è trattato di alcuni test.