Speaker 2: Caffè 2.0, dal 2008 il podcast per scoprire internet con Valentino Spataro.
Speaker 2: Iscriviti per ascoltare in anteprima e senza promo. Vai su caffè20. it
Speaker 2: slash membri
Speaker 3: Buongiorno a tutti, stavo leggendo i quotidiani francesi per trovare
Speaker 3: il link alla fonte ufficiale di questo testo che vieterà
Speaker 3: ai minori il social network, quindi l'obbligo di identificazione di tutti.
Speaker 3: In Francia. Chiaramente tutti gli esperti sono tutti incazzati. Ma
Speaker 3: volete ascoltare un attimino quello che stiamo dicendo? Oppure dovete
Speaker 3: fare le leggi così, tanto perché volete andare in prima
Speaker 3: pagina e essere poi... Vabbè, lasciamo perdere, che cosa. Ero
Speaker 3: quindi su un sito francese quando a un certo punto
Speaker 3: vedo che OpenAI ha attaccato a Gameface. A Gameface, ricordiamolo,
Speaker 3: è situato anch'esso in Francia come Mistral. Aginface, per chi
Speaker 3: non lo conosce, è sostanzialmente il GitHub per l'intelligenza artificiale. Cioè,
Speaker 3: se GitHub è un contenitore, un repository, dove si mettono
Speaker 3: i sorgenti dei programmi che uno vuole distribuire gratuitamente per
Speaker 3: far vedere le idee che ha, i progetti, come programma,
Speaker 3: per tanti mille motivi, e non solo software ma anche dati,
Speaker 3: Aginface lo fa con i modelli di intelligenza artificiale open source.
Speaker 3: come si suol dire anche se non è tecnicamente giusto.
Speaker 3: Significa cioè con la possibilità di avere contenitori enormi con
Speaker 3: tutti questi modelli che ognuno si può scaricare e installare
Speaker 3: poi sui propri computer in locale. Capite che è qualcosa
Speaker 3: di strategico, unico nel panorama mondiale ed è di un'estrema importanza.
Speaker 3: Quello che è successo è veramente pericoloso perché dimostra un'incapacità
Speaker 3: È un eccesso di sicurezza di chi lavora troppo con
Speaker 3: l'intelligenza artificiale. Guardate che questo è un problema che emergerà.
Speaker 3: Anch'io quando la uso devo sempre ricordare certe cose. Appena
Speaker 3: non me le ricordo vedo che le risposte vengono sbagliate.
Speaker 3: Non ho ancora messo a fuoco bene il problema, ma
Speaker 3: ve ne parlerò sicuramente. Ebbene, cosa dice OpenAI? Stavamo facendo
Speaker 3: dei test di sicurezza in un ambiente protetto con un
Speaker 3: nuovo modello di intelligenza artificiale. Ambiente protetto? Sì, dovevamo vedere
Speaker 3: se questo sistema era in grado di hackerare determinate cose.
Speaker 3: E gli hanno dato solo un accesso limitato a internet.
Speaker 3: Quanto questo accesso fosse limitato, è evidente che non è
Speaker 3: stato previsto nulla perché hanno attaccato a Gameface. Quindi questo
Speaker 3: modello ha trovato i limiti e dopo un dispendio di
Speaker 3: energia di un certo peso ha trovato il modo di uscire,
Speaker 3: di far intervenire alcuni agenti all'esterno, e qui il tema
Speaker 3: agenti è fortissimo, e questi agenti dall'esterno a quel punto
Speaker 3: hanno cominciato ad attaccare a Game Face, agenti sempre di AI,
Speaker 3: software per intenderci, non persone fisiche, hanno attaccato a Gameface
Speaker 3: finché non hanno trovato una falla e sono riusciti tramite
Speaker 3: un meccanismo che permette di eseguire i modelli in contenitori chiusi,
Speaker 3: è riuscito a far eseguire questi modelli e infettare quel
Speaker 3: repository fino a prendere vari cluster, quindi non singoli computer,
Speaker 3: ma vari cluster di computer che poi sono stati puliti, reinstallati,
Speaker 3: perché evidentemente sono molto bravi, molto bravi da Gameface, e
Speaker 3: hanno eliminato il primo punto di accesso dal quale sono
Speaker 3: stati infettati. Le due aziende collaborano e il chat GPT
Speaker 3: ha il coraggio di scrivere noi in maniera responsabile abbiamo
Speaker 3: avvisato quelli da Gameface. Ma responsabile di cosa? Siete degli
Speaker 3: irresponsabili se vi scappano dei modelli. durante i vostri test
Speaker 3: di laboratorio. Qui il paragone col mondo dei virus e quant'altro,
Speaker 3: c'è tutto, c'è tutto. E l'arroganza di chi crede di
Speaker 3: poter tenere sotto controllo qualcosa che per natura non stanno
Speaker 3: sviluppando perché resti sotto controllo. Bisogna anche dirlo chiaramente, un
Speaker 3: attacco informatico del genere viene causato solo e unicamente da
Speaker 3: modelli di frontiera che sono non censurati. E quindi aveva
Speaker 3: tutti i permessi per andare ad attaccare, fino in fondo qualcuno.
Speaker 3: Sicuramente un esperimento militare. C'è, non c'è dubbio, ma sicuro.
Speaker 3: Sparo una boiata, può essere un errore, mi posso sbagliare,
Speaker 3: ma le probabilità sono altissime, perché... che una macchina esca
Speaker 3: dopo tutti i test e i blocchi che uno va
Speaker 3: a mettere, significa che non era istruita a sufficienza per
Speaker 3: rispettare questi blocchi. È un periodo, tra l'altro, che anche
Speaker 3: altri ricercatori spiegavano come si potevano infettare dei modelli per
Speaker 3: poi infettare delle macchine in giro. Non è un gran
Speaker 3: bel periodo, eh? Non è un gran bel periodo. Dall'altra
Speaker 3: parte c'è appunto la questione Hugging Face dove l'attacco non
Speaker 3: è stato banale perché da un ambiente virtualizzato, da un
Speaker 3: contenitore dove veniva eseguito del codice perché quello deve funzionare,
Speaker 3: a quel punto si è infettato e è andato in
Speaker 3: giro un vari cluster dei loro server. bravi a rimettere
Speaker 3: su tutto, devono collaborare, sotto il profilo legale potrei divertirmi
Speaker 3: a dire tutto quello che può succedere per una cosa
Speaker 3: del genere, addirittura la vittima potrebbe essere sanzionata, poi per
Speaker 3: quale dato personale sarebbe proprio da ridere. In ogni caso,
Speaker 3: quello che si deve imparare da questa situazione e quello
Speaker 3: che emerge anche dal comunicato di OpenAI, che ormai trattano
Speaker 3: questi modelli come qualcosa di incomprensibile, qualcosa che si comporta
Speaker 3: come un bambino che non ha limiti e non ha controlli,
Speaker 3: e quindi lui ha deciso di attaccare. No, un attimino.
Speaker 3: Voi avete, tramite il vostro errore, attaccato qualcuno, facendo un
Speaker 3: attacco molto specifico, perché l'obiettivo era un attacco informatico. Ok? Quindi...
Speaker 3: stanno testando per fare degli attacchi informatici in larga scala.
Speaker 3: Questo deve molto far riflettere su quello che succederà a breve,
Speaker 3: nei prossimi mesi e anni, perché se riescono a farlo loro,
Speaker 3: che per ora lo possono fare grazie alla montagna di
Speaker 3: macchine che hanno, un domani queste cose possono essere sempre
Speaker 3: più aperte a tutti. Ecco, perché è importante in questo
Speaker 3: momento avere dei computer con dei modelli da potersi scaricare
Speaker 3: e utilizzare in locale, in caso di necessità, nel caso
Speaker 3: che salti tutto. Perché di fronte ad un attacco del genere,
Speaker 3: l'approccio che emerge dal comunicato di OpenAI è di un
Speaker 3: controllo umano. Ma è evidente, anche la filmografia, la cinematografia
Speaker 3: la racconta tranquillissimamente. Guardate che attacchi di questo genere possono
Speaker 3: essere fronteggiati solo da altre macchine. Terminator è la cosa
Speaker 3: più banale da citare, ovvio, il modello più vecchio però
Speaker 3: ha dei principi più forti di quello nuovo che è
Speaker 3: più potente e non gliene frega niente di nessuno, però
Speaker 3: l'altro che ha dei valori comunque alla fine riesce a
Speaker 3: far valere quei valori che l'altra macchina non riesce nemmeno
Speaker 3: a ipotizzare, a considerare. È un film, non è affatto
Speaker 3: detto che questa cosa succeda e quello che stiamo vedendo
Speaker 3: però è che viene lasciata un una capacità di ricerca
Speaker 3: in questo ambito che ha superato del tutto l'etica. E
Speaker 3: lo si fa perché? Per guadagno, perché bisogna venderlo a
Speaker 3: chi la vuole utilizzare per scopi sicuramente bellici. E d'altronde
Speaker 3: fino all'altro giorno abbiamo una famiglia distrutta perché forse il padre,
Speaker 3: il capofamiglia era uno degli attentatori e quindi nel dubbio
Speaker 3: si distrugge, si uccide l'intera famiglia, moglie e figli. Perché
Speaker 3: è giusto così? Non è giusto, non è nemmeno lecito
Speaker 3: e anche questo è un motivo per cui dobbiamo attaccarci
Speaker 3: alla Corte Internazionale dei Crimini. Scusate, perdo la pazienza in
Speaker 3: questi giorni. Alla prossima.
Speaker 2: Ascolta gli episodi in anteprima e senza pubblicità. Iscriviti a
Speaker 2: partire da 5 euro al mese. Vai su www. caffe20. it.