WEBVTT 1 00:00:00.130 --> 00:00:05.950 Caffè 2.0, dal 2008 il podcast per scoprire internet con Valentino Spataro. 2 00:00:06.389 --> 00:00:13.279 Iscriviti per ascoltare in anteprima e senza promo. Vai su caffè20. it 3 00:00:11.939 --> 00:00:14.140 slash membri 4 00:00:15.859 --> 00:00:20.379 Buongiorno a tutti, stavo leggendo i quotidiani francesi per trovare 5 00:00:21.000 --> 00:00:24.980 il link alla fonte ufficiale di questo testo che vieterà 6 00:00:25.140 --> 00:00:29.780 ai minori il social network, quindi l'obbligo di identificazione di tutti. 7 00:00:30.289 --> 00:00:34.869 In Francia. Chiaramente tutti gli esperti sono tutti incazzati. Ma 8 00:00:34.909 --> 00:00:38.659 volete ascoltare un attimino quello che stiamo dicendo? Oppure dovete 9 00:00:38.740 --> 00:00:41.740 fare le leggi così, tanto perché volete andare in prima 10 00:00:41.820 --> 00:00:46.880 pagina e essere poi... Vabbè, lasciamo perdere, che cosa. Ero 11 00:00:47.100 --> 00:00:49.719 quindi su un sito francese quando a un certo punto 12 00:00:49.799 --> 00:00:55.929 vedo che OpenAI ha attaccato a Gameface. A Gameface, ricordiamolo, 13 00:00:56.549 --> 00:01:00.409 è situato anch'esso in Francia come Mistral. Aginface, per chi 14 00:01:00.490 --> 00:01:06.359 non lo conosce, è sostanzialmente il GitHub per l'intelligenza artificiale. Cioè, 15 00:01:06.700 --> 00:01:10.980 se GitHub è un contenitore, un repository, dove si mettono 16 00:01:11.019 --> 00:01:15.379 i sorgenti dei programmi che uno vuole distribuire gratuitamente per 17 00:01:15.439 --> 00:01:19.120 far vedere le idee che ha, i progetti, come programma, 18 00:01:19.219 --> 00:01:22.920 per tanti mille motivi, e non solo software ma anche dati, 19 00:01:23.530 --> 00:01:28.269 Aginface lo fa con i modelli di intelligenza artificiale open source. 20 00:01:28.739 --> 00:01:30.920 come si suol dire anche se non è tecnicamente giusto. 21 00:01:31.459 --> 00:01:37.120 Significa cioè con la possibilità di avere contenitori enormi con 22 00:01:37.239 --> 00:01:40.780 tutti questi modelli che ognuno si può scaricare e installare 23 00:01:40.859 --> 00:01:45.109 poi sui propri computer in locale. Capite che è qualcosa 24 00:01:45.170 --> 00:01:51.469 di strategico, unico nel panorama mondiale ed è di un'estrema importanza. 25 00:01:52.170 --> 00:01:57.829 Quello che è successo è veramente pericoloso perché dimostra un'incapacità 26 00:01:59.319 --> 00:02:02.780 È un eccesso di sicurezza di chi lavora troppo con 27 00:02:02.819 --> 00:02:06.659 l'intelligenza artificiale. Guardate che questo è un problema che emergerà. 28 00:02:07.480 --> 00:02:13.099 Anch'io quando la uso devo sempre ricordare certe cose. Appena 29 00:02:13.639 --> 00:02:16.659 non me le ricordo vedo che le risposte vengono sbagliate. 30 00:02:16.979 --> 00:02:19.240 Non ho ancora messo a fuoco bene il problema, ma 31 00:02:19.379 --> 00:02:25.259 ve ne parlerò sicuramente. Ebbene, cosa dice OpenAI? Stavamo facendo 32 00:02:25.280 --> 00:02:28.439 dei test di sicurezza in un ambiente protetto con un 33 00:02:28.479 --> 00:02:34.740 nuovo modello di intelligenza artificiale. Ambiente protetto? Sì, dovevamo vedere 34 00:02:34.819 --> 00:02:38.849 se questo sistema era in grado di hackerare determinate cose. 35 00:02:40.669 --> 00:02:45.110 E gli hanno dato solo un accesso limitato a internet. 36 00:02:45.750 --> 00:02:49.560 Quanto questo accesso fosse limitato, è evidente che non è 37 00:02:49.599 --> 00:02:55.180 stato previsto nulla perché hanno attaccato a Gameface. Quindi questo 38 00:02:55.259 --> 00:03:01.020 modello ha trovato i limiti e dopo un dispendio di 39 00:03:01.039 --> 00:03:06.930 energia di un certo peso ha trovato il modo di uscire, 40 00:03:07.189 --> 00:03:12.949 di far intervenire alcuni agenti all'esterno, e qui il tema 41 00:03:12.969 --> 00:03:18.750 agenti è fortissimo, e questi agenti dall'esterno a quel punto 42 00:03:18.770 --> 00:03:22.219 hanno cominciato ad attaccare a Game Face, agenti sempre di AI, 43 00:03:23.159 --> 00:03:27.599 software per intenderci, non persone fisiche, hanno attaccato a Gameface 44 00:03:27.699 --> 00:03:32.819 finché non hanno trovato una falla e sono riusciti tramite 45 00:03:34.080 --> 00:03:40.300 un meccanismo che permette di eseguire i modelli in contenitori chiusi, 46 00:03:40.960 --> 00:03:44.689 è riuscito a far eseguire questi modelli e infettare quel 47 00:03:44.710 --> 00:03:50.750 repository fino a prendere vari cluster, quindi non singoli computer, 48 00:03:50.789 --> 00:03:57.250 ma vari cluster di computer che poi sono stati puliti, reinstallati, 49 00:03:57.310 --> 00:04:02.050 perché evidentemente sono molto bravi, molto bravi da Gameface, e 50 00:04:02.210 --> 00:04:06.490 hanno eliminato il primo punto di accesso dal quale sono 51 00:04:06.530 --> 00:04:10.759 stati infettati. Le due aziende collaborano e il chat GPT 52 00:04:10.780 --> 00:04:13.860 ha il coraggio di scrivere noi in maniera responsabile abbiamo 53 00:04:13.979 --> 00:04:18.800 avvisato quelli da Gameface. Ma responsabile di cosa? Siete degli 54 00:04:19.079 --> 00:04:23.120 irresponsabili se vi scappano dei modelli. durante i vostri test 55 00:04:23.139 --> 00:04:26.939 di laboratorio. Qui il paragone col mondo dei virus e quant'altro, 56 00:04:28.120 --> 00:04:31.310 c'è tutto, c'è tutto. E l'arroganza di chi crede di 57 00:04:31.370 --> 00:04:37.670 poter tenere sotto controllo qualcosa che per natura non stanno 58 00:04:37.769 --> 00:04:45.019 sviluppando perché resti sotto controllo. Bisogna anche dirlo chiaramente, un 59 00:04:45.399 --> 00:04:50.439 attacco informatico del genere viene causato solo e unicamente da 60 00:04:50.560 --> 00:04:55.680 modelli di frontiera che sono non censurati. E quindi aveva 61 00:04:56.199 --> 00:05:00.759 tutti i permessi per andare ad attaccare, fino in fondo qualcuno. 62 00:05:01.360 --> 00:05:06.800 Sicuramente un esperimento militare. C'è, non c'è dubbio, ma sicuro. 63 00:05:07.240 --> 00:05:11.040 Sparo una boiata, può essere un errore, mi posso sbagliare, 64 00:05:12.079 --> 00:05:17.509 ma le probabilità sono altissime, perché... che una macchina esca 65 00:05:17.569 --> 00:05:20.470 dopo tutti i test e i blocchi che uno va 66 00:05:20.490 --> 00:05:25.029 a mettere, significa che non era istruita a sufficienza per 67 00:05:25.870 --> 00:05:30.170 rispettare questi blocchi. È un periodo, tra l'altro, che anche 68 00:05:30.269 --> 00:05:35.050 altri ricercatori spiegavano come si potevano infettare dei modelli per 69 00:05:35.170 --> 00:05:38.649 poi infettare delle macchine in giro. Non è un gran 70 00:05:38.670 --> 00:05:41.399 bel periodo, eh? Non è un gran bel periodo. Dall'altra 71 00:05:41.470 --> 00:05:44.870 parte c'è appunto la questione Hugging Face dove l'attacco non 72 00:05:44.910 --> 00:05:49.449 è stato banale perché da un ambiente virtualizzato, da un 73 00:05:49.829 --> 00:05:55.040 contenitore dove veniva eseguito del codice perché quello deve funzionare, 74 00:05:56.319 --> 00:05:59.519 a quel punto si è infettato e è andato in 75 00:05:59.560 --> 00:06:03.490 giro un vari cluster dei loro server. bravi a rimettere 76 00:06:03.569 --> 00:06:08.810 su tutto, devono collaborare, sotto il profilo legale potrei divertirmi 77 00:06:09.050 --> 00:06:12.089 a dire tutto quello che può succedere per una cosa 78 00:06:12.110 --> 00:06:17.449 del genere, addirittura la vittima potrebbe essere sanzionata, poi per 79 00:06:17.509 --> 00:06:21.600 quale dato personale sarebbe proprio da ridere. In ogni caso, 80 00:06:21.800 --> 00:06:26.139 quello che si deve imparare da questa situazione e quello 81 00:06:26.180 --> 00:06:29.839 che emerge anche dal comunicato di OpenAI, che ormai trattano 82 00:06:29.920 --> 00:06:35.480 questi modelli come qualcosa di incomprensibile, qualcosa che si comporta 83 00:06:35.600 --> 00:06:39.620 come un bambino che non ha limiti e non ha controlli, 84 00:06:39.680 --> 00:06:43.910 e quindi lui ha deciso di attaccare. No, un attimino. 85 00:06:44.389 --> 00:06:49.490 Voi avete, tramite il vostro errore, attaccato qualcuno, facendo un 86 00:06:49.529 --> 00:06:57.509 attacco molto specifico, perché l'obiettivo era un attacco informatico. Ok? Quindi... 87 00:06:58.199 --> 00:07:01.850 stanno testando per fare degli attacchi informatici in larga scala. 88 00:07:02.259 --> 00:07:06.689 Questo deve molto far riflettere su quello che succederà a breve, 89 00:07:06.970 --> 00:07:10.990 nei prossimi mesi e anni, perché se riescono a farlo loro, 90 00:07:11.329 --> 00:07:13.389 che per ora lo possono fare grazie alla montagna di 91 00:07:13.430 --> 00:07:18.310 macchine che hanno, un domani queste cose possono essere sempre 92 00:07:18.420 --> 00:07:21.839 più aperte a tutti. Ecco, perché è importante in questo 93 00:07:21.860 --> 00:07:25.680 momento avere dei computer con dei modelli da potersi scaricare 94 00:07:25.699 --> 00:07:28.800 e utilizzare in locale, in caso di necessità, nel caso 95 00:07:28.860 --> 00:07:32.040 che salti tutto. Perché di fronte ad un attacco del genere, 96 00:07:32.439 --> 00:07:36.259 l'approccio che emerge dal comunicato di OpenAI è di un 97 00:07:36.319 --> 00:07:42.829 controllo umano. Ma è evidente, anche la filmografia, la cinematografia 98 00:07:42.850 --> 00:07:48.050 la racconta tranquillissimamente. Guardate che attacchi di questo genere possono 99 00:07:48.129 --> 00:07:53.379 essere fronteggiati solo da altre macchine. Terminator è la cosa 100 00:07:53.420 --> 00:07:56.639 più banale da citare, ovvio, il modello più vecchio però 101 00:07:56.680 --> 00:07:59.819 ha dei principi più forti di quello nuovo che è 102 00:07:59.899 --> 00:08:02.879 più potente e non gliene frega niente di nessuno, però 103 00:08:02.990 --> 00:08:07.389 l'altro che ha dei valori comunque alla fine riesce a 104 00:08:07.449 --> 00:08:11.250 far valere quei valori che l'altra macchina non riesce nemmeno 105 00:08:11.269 --> 00:08:15.370 a ipotizzare, a considerare. È un film, non è affatto 106 00:08:15.410 --> 00:08:18.810 detto che questa cosa succeda e quello che stiamo vedendo 107 00:08:18.889 --> 00:08:22.730 però è che viene lasciata un una capacità di ricerca 108 00:08:23.730 --> 00:08:27.410 in questo ambito che ha superato del tutto l'etica. E 109 00:08:27.490 --> 00:08:30.269 lo si fa perché? Per guadagno, perché bisogna venderlo a 110 00:08:30.310 --> 00:08:34.970 chi la vuole utilizzare per scopi sicuramente bellici. E d'altronde 111 00:08:35.029 --> 00:08:40.669 fino all'altro giorno abbiamo una famiglia distrutta perché forse il padre, 112 00:08:40.990 --> 00:08:44.429 il capofamiglia era uno degli attentatori e quindi nel dubbio 113 00:08:44.929 --> 00:08:48.379 si distrugge, si uccide l'intera famiglia, moglie e figli. Perché 114 00:08:48.399 --> 00:08:53.470 è giusto così? Non è giusto, non è nemmeno lecito 115 00:08:54.009 --> 00:08:57.990 e anche questo è un motivo per cui dobbiamo attaccarci 116 00:08:58.009 --> 00:09:05.000 alla Corte Internazionale dei Crimini. Scusate, perdo la pazienza in 117 00:09:05.039 --> 00:09:06.620 questi giorni. Alla prossima. 118 00:09:18.159 --> 00:09:22.240 Ascolta gli episodi in anteprima e senza pubblicità. Iscriviti a 119 00:09:22.299 --> 00:09:29.019 partire da 5 euro al mese. Vai su www. caffe20. it.