WEBVTT 1 00:00:00.130 --> 00:00:05.969 Caffè 2.0, dal 2008 il podcast per scoprire internet con Valentino Spataro. 2 00:00:06.389 --> 00:00:13.269 Iscriviti per ascoltare in anteprima e senza promo. Vai su caffè20. it 3 00:00:11.929 --> 00:00:12.949 slash membri. 4 00:00:15.349 --> 00:00:20.070 Buongiorno a tutti. Due esempi di caccia alle streghe molto interessanti. 5 00:00:20.129 --> 00:00:23.589 Uno riguarda il mondo assicurativo e l'altro quello che riguarda 6 00:00:23.769 --> 00:00:29.649 il mondo degli sviluppatori. Si discute, partiamo dagli sviluppatori. si 7 00:00:29.710 --> 00:00:36.159 discute ampiamente di un post di Kodeberg che dice sostanzialmente 8 00:00:36.240 --> 00:00:42.039 che noi non accetteremo mai né di farci scandagliare dall'intelligenza 9 00:00:42.079 --> 00:00:49.710 artificiale né di pubblicare nei nostri repository software generato con 10 00:00:49.770 --> 00:00:56.369 l'intelligenza artificiale. Tutto questo perché l'intelligenza artificiale abusa dei nostri 11 00:00:56.469 --> 00:01:02.380 contenuti e ci guadagnano solo loro. Di fronte a questa 12 00:01:02.420 --> 00:01:07.769 affermazione mi piace ricordare quello che dice San Filippo, Salvatore 13 00:01:07.829 --> 00:01:11.090 San Filippo, che ha già spiegato la posizione. Nel momento 14 00:01:11.109 --> 00:01:16.829 in cui noi diamo il codice in giro pubblicamente, lo 15 00:01:16.890 --> 00:01:20.310 diamo proprio in pubblico perché se ne possa rifare tutti 16 00:01:20.349 --> 00:01:24.310 gli usi che se ne vogliono. Sicuramente c'è un problema 17 00:01:24.370 --> 00:01:26.909 di licenze, per cui un conto è metterlo MIT, un 18 00:01:26.969 --> 00:01:31.480 conto è GPL. quel codice messo in GPL dovrebbe essere 19 00:01:32.060 --> 00:01:38.000 in GPL, pure ridistribuito e alterato. Però, come dico sempre, 20 00:01:38.060 --> 00:01:41.390 l'intelligenza artificiale e i modelli non ripetono le cose così 21 00:01:41.450 --> 00:01:47.750 come sono, ma le rielaborano, perché nascono per rielaborare nozioni 22 00:01:48.150 --> 00:01:57.379 e correlazioni tra le nozioni. Una volta nei primi rastrellamenti 23 00:01:57.439 --> 00:02:01.159 di codice, Github ha messo a disposizione solo quelle MIT, 24 00:02:01.700 --> 00:02:04.200 poi la cosa si è stesa e si è perso 25 00:02:04.239 --> 00:02:08.319 il controllo, siamo d'accordo. Però l'atto programmatore che mette qualcosa 26 00:02:08.379 --> 00:02:12.879 su Github sa che ne perde il controllo e lo 27 00:02:13.020 --> 00:02:18.740 fa per contribuire alla innovazione del mondo del software, dello sviluppo. 28 00:02:19.259 --> 00:02:23.120 E anche per interesse personale, l'idea di poter essere corretto 29 00:02:23.180 --> 00:02:29.439 da chiunque perché ha scritto qualcosa è utile. se il 30 00:02:29.500 --> 00:02:34.520 codice finisce dentro l'intelligenza artificiale che anzi verrà portata poi 31 00:02:35.500 --> 00:02:40.780 altrove e riutilizzata altrove esattamente come lo farebbe qualsiasi programmatore. 32 00:02:41.340 --> 00:02:44.930 C'è un problema di licenza, sono d'accordo, potremmo persino dire 33 00:02:45.030 --> 00:02:48.270 che nel momento in cui si dimostra che un certo 34 00:02:48.349 --> 00:02:53.939 codice GPL viene replicato continuamente così com'è da un'intelligenza artificiale, 35 00:02:54.409 --> 00:02:58.569 allora potremmo dire che probabilmente quel modello di intelligenza artificiale 36 00:02:58.610 --> 00:03:02.819 e soggetto alle licenze GPL. Ma, ripeto, questo è tutto 37 00:03:02.860 --> 00:03:06.360 un discorso da costruire, ovviamente, non è che lo possiamo 38 00:03:07.039 --> 00:03:10.599 dare così semplice come ho fatto adesso, lo sto buttando 39 00:03:10.659 --> 00:03:15.090 proprio come provocazione. In tutto questo, ripeto, ci sono delle 40 00:03:15.409 --> 00:03:19.650 ampie comunità di sviluppatori in Italia che si fanno forte, 41 00:03:19.889 --> 00:03:23.050 leoni da tastiera, che gridano che se il codice open 42 00:03:23.110 --> 00:03:29.419 source non deve essere toccato dall'intelligenza artificiale, non deve essere 43 00:03:29.500 --> 00:03:33.500 la base dell'addestramento di nessun LLM. Ma al tempo stesso 44 00:03:33.580 --> 00:03:39.210 vietano ai programmatori di pubblicare codice generato con l'intelligenza artificiale, 45 00:03:39.629 --> 00:03:42.770 perché è una porcata. La mia risposta, che è stata 46 00:03:42.870 --> 00:03:47.729 veramente violenta, perché non accetto più un'affermazione del genere, ha detto, signori, 47 00:03:48.430 --> 00:03:53.780 questa cosa è una stronzata perché... Chiunque pubblica un codice 48 00:03:53.819 --> 00:03:57.060 open source può commettere degli errori. Allora, se io lo riutilizzo, 49 00:03:57.620 --> 00:04:01.860 me lo devo leggere tutto, sia ai fini dell'AI Act, 50 00:04:02.280 --> 00:04:05.389 sia ai fini della responsabilità del software, di più per 51 00:04:05.449 --> 00:04:08.849 il regolamento sulla responsabilità del software. Però, anche ai fini 52 00:04:08.889 --> 00:04:13.009 dell'AI Act, diciamo che, facevo questa citazione perché se è 53 00:04:13.150 --> 00:04:18.620 generato con l'AI, devo dichiarare che è stato generato con l'AI. Ecco, 54 00:04:18.680 --> 00:04:23.149 questo interviene l'AI Act nella pubblicazione. Però dico, nel momento 55 00:04:23.209 --> 00:04:26.750 in cui riutilizzo un software, devo fare gli stessi controlli 56 00:04:26.790 --> 00:04:29.310 che si fanno per il mondo dell'open source. Non è 57 00:04:29.350 --> 00:04:32.290 che perché lo usano tutti allora sto tranquillo, me lo 58 00:04:32.370 --> 00:04:36.680 devo guardare ugualmente, così come se mi arriva dall'intelligenza artificiale 59 00:04:36.689 --> 00:04:42.019 lo devo guardare ugualmente. Io aggiungo, Wordpress ha insegnato a 60 00:04:42.279 --> 00:04:51.730 mischiare codice HTML con PHP, logica a mischiare proprio back- end, comfort- end, 61 00:04:51.129 --> 00:04:54.449 un casino incredibile, per cui viene fuori un codice osceno. 62 00:04:55.470 --> 00:05:01.149 Se però alla macchina, diciamo, separa le due cose, MVP, 63 00:05:02.329 --> 00:05:06.269 allora semplicemente avrai un codice molto più facile da leggere. Però, ripeto, 64 00:05:06.500 --> 00:05:10.660 un codice che è pubblicato dopo essere stato generato e 65 00:05:10.720 --> 00:05:13.899 va in coding, non significa che non abbia alcun valore, 66 00:05:14.319 --> 00:05:16.860 significa che avrà lo stesso valore un codice open source, 67 00:05:17.470 --> 00:05:21.240 che deve essere controllato e perché no potrebbe essere corretto 68 00:05:21.310 --> 00:05:25.139 non solo da una persona ma da più persone contemporaneamente 69 00:05:26.839 --> 00:05:32.740 ovvio bisogna dire sempre usato l'AI perché così uno capisce 70 00:05:32.779 --> 00:05:36.189 che ci può essere un certo tipo di errori molto 71 00:05:36.250 --> 00:05:39.009 più facilmente che andandosi a vedere un codice scritto da 72 00:05:39.069 --> 00:05:41.209 un essere umano il tipo di errori che fanno le 73 00:05:41.250 --> 00:05:44.230 macchine sono abbastanza diversi da quelli che fanno gli esseri 74 00:05:44.269 --> 00:05:49.019 umani poi alcuni sono comuni però sono diverse. Quindi questo 75 00:05:49.350 --> 00:05:52.629 è previsto all'AI Act, applichiamocelo, punto e basta. In ogni 76 00:05:52.709 --> 00:05:55.850 caso andare a dire non voglio che ci sia in 77 00:05:55.889 --> 00:06:00.790 un repository del codice generato con l'AI perché potrebbe essere dannoso, 78 00:06:00.810 --> 00:06:04.389 sbagliato e di seguito, è una stronzata colossale perché la 79 00:06:04.410 --> 00:06:08.509 stessa cosa riguarda qualsiasi software open source. Portiamocela a casa 80 00:06:08.529 --> 00:06:11.230 e vediamo, non fa riguere l'estere che nemmeno tra di noi. 81 00:06:11.990 --> 00:06:17.220 Perché parlavo, qui ho parlato solamente del mondo del del software. Vabbè, 82 00:06:17.399 --> 00:06:21.899 velocemente parliamo del mondo dell'assicurazione, il mondo dell'assicurazione si è 83 00:06:21.959 --> 00:06:28.350 spaventato del livello di capacità di penetrazione che ha l'intelligenza artificiale. 84 00:06:29.509 --> 00:06:36.509 E allora che cosa hanno pubblicato quelli dell'Ivas? Hanno inviato 85 00:06:36.569 --> 00:06:40.250 una comunicazione in materia di resilienza operativa digitale e modelli 86 00:06:40.269 --> 00:06:50.839 avanzati di intelligenza artificiale. Sostanzialmente hanno previsto che i consigli 87 00:06:50.860 --> 00:06:57.120 di amministrazione devono riunirsi attorno a queste indicazioni inserite in 88 00:06:57.160 --> 00:07:01.050 questo documento per produrre una relazione che deve essere presentata 89 00:07:01.110 --> 00:07:06.810 il 31 dicembre 2026. Cioè si cerca di avere una presa di 90 00:07:06.870 --> 00:07:13.930 coscienza obbligatoria obbligando il consiglio di amministrazione in corso, seduta, congiunta, 91 00:07:13.970 --> 00:07:19.670 il collegio sindacale di prendere atto di tutti gli elementi 92 00:07:19.750 --> 00:07:23.949 che costituiscono la cyber security, come se questo potesse essere 93 00:07:23.990 --> 00:07:28.350 un momento formativo. In questi si dice che deve esserci 94 00:07:28.410 --> 00:07:35.000 la relazione con l'indicazione delle aree richiamate nella guida, il 95 00:07:35.060 --> 00:07:39.339 livello attuale di esposizione al rischio e l'adeguatezza dei presidi esistenti. 96 00:07:40.180 --> 00:07:45.110 Tutte affermazioni programmatiche meravigliose che non servono a niente se 97 00:07:45.189 --> 00:07:47.990 uno poi non fa un lavoro veramente di mappatura, di 98 00:07:48.050 --> 00:07:51.670 ricerca e poi soprattutto coinvolge il consiglio in quello che 99 00:07:51.769 --> 00:07:55.290 c'è e quello che non c'è. Più che dire stiamo tranquilli. 100 00:07:56.250 --> 00:07:59.949 Individui le principali carenze e le relative priorità di intervento. 101 00:08:00.029 --> 00:08:04.250 Cioè se si trova delle lacune in qualcosa, allora il 102 00:08:04.310 --> 00:08:08.269 consiglio di amministrazione deve provvedere immediatamente definendo un piano di 103 00:08:08.329 --> 00:08:13.459 lavori con azioni, tempi e investimenti. proporzionato al profilo di rischio, 104 00:08:13.480 --> 00:08:18.980 alla complessità dei servizi, attività e operatività dell'impresa. Quarto punto, 105 00:08:19.060 --> 00:08:22.670 definisca le modalità con cui il consiglio di amministrazione verificherà 106 00:08:22.810 --> 00:08:28.329 l'avanzamento dello stesso. Il tutto da comunicare, ripeto, all'Ivas entro 107 00:08:28.370 --> 00:08:33.620 il 31 dicembre 2026. Andiamo a vedere che cosa devono fare sostanzialmente 108 00:08:33.700 --> 00:08:38.779 poi le assicurazioni e comunque all'interno Possiamo portarla avanti sia 109 00:08:38.840 --> 00:08:41.519 per modulare le banche, le situazioni, le imprese e sono 110 00:08:41.580 --> 00:08:46.559 consigli utili in generale, ma molto astratti. Quindi si deve 111 00:08:46.899 --> 00:08:52.710 determinare la propensione al rischio, RAF, per incorporare rischi derivanti 112 00:08:52.750 --> 00:08:59.909 alle tecnologie di frontiera. Primo punto, questo è un mio 113 00:09:00.000 --> 00:09:05.279 aspetto che mi interessa molto, sono verificare che siano adeguati 114 00:09:05.320 --> 00:09:10.320 i requisiti contrattuali per assicurare efficaci misure in monitoraggio della 115 00:09:10.399 --> 00:09:14.399 sicurezza e di gestione degli aggiornamenti. Cioè, ancora si parla 116 00:09:14.419 --> 00:09:17.379 di aggiornamenti, si mettono sullo stesso piano. Guardate che un 117 00:09:17.419 --> 00:09:23.980 aggiornamento rapidissimo può essere pericoloso quanto un aggiornamento ritardato per 118 00:09:24.039 --> 00:09:30.129 valutarne l'efficacia. Quindi, Ancora questo mito dell'aggiornamento c'è, è giusto 119 00:09:30.169 --> 00:09:33.950 che ci sia, ma va valutato volta per volta. Le 120 00:09:33.990 --> 00:09:36.980 misure di monitoraggio si dice che bisogna andare a monitorare 121 00:09:37.009 --> 00:09:39.919 in tempo reale. Ovviamente si monitora in tempo reale quello 122 00:09:39.940 --> 00:09:43.500 che si conosce. Quello che non si conosce sono degli indici, 123 00:09:43.919 --> 00:09:49.080 dei sensori, delle sentinelle che possono avvisarmi se c'è qualcosa 124 00:09:49.159 --> 00:09:51.929 di strano. E quindi quanto più sono grandi dati, tanto 125 00:09:51.990 --> 00:09:57.009 più bisogna fare controllo. E dice, mi raccomando, utilizzate criteri 126 00:09:57.129 --> 00:10:00.769 rigorosi per la valutazione ex ante e la selezione dei fornitori. 127 00:10:01.549 --> 00:10:05.149 Anche questo è un tema ripetuto mille volte, ci sono 128 00:10:05.190 --> 00:10:11.389 ormai delle checklist che portano sostanzialmente a coinvolgere in modo 129 00:10:11.450 --> 00:10:15.309 negativo tutti i fornitori di banche, assicurazioni e servizi di 130 00:10:15.350 --> 00:10:19.710 questo genere, che ormai bisognerebbe ritenere tranquillamente soggetti all'ANIS 2, no? 131 00:10:21.259 --> 00:10:24.600 Quindi anche il fornitore dovrebbe avere requisite e dovrebbe iscriversi 132 00:10:24.639 --> 00:10:28.720 anche lui tra i fornitori di S2. Questo avviene raramente 133 00:10:28.740 --> 00:10:32.340 perché le competenze in Italia non sono così diffuse. Quindi 134 00:10:32.379 --> 00:10:36.120 alla fine si dovrebbero rivolgersi tutti alle solite aziende certificate. 135 00:10:37.210 --> 00:10:43.330 Igiene informatica, processi di autenticazione rigorosi, gestione granulare degli accessi, 136 00:10:43.509 --> 00:10:49.850 monitoraggio costante. Gestione delle risorse informatiche per verificare il perimetro d'attacco. 137 00:10:51.039 --> 00:10:58.100 e le vulnerabilità, mapparle e indicare le soluzioni. Abbiamo visto 138 00:10:58.139 --> 00:11:01.139 alcuni provvedimenti del garante dove l'ultima ruota del carro aveva 139 00:11:01.179 --> 00:11:04.139 indicato che cosa fare e poi questo messaggio non è 140 00:11:04.200 --> 00:11:12.350 arrivato al decisore, quindi attenzione. Gestione delle vulnerabilità degli aggiornamenti, 141 00:11:12.470 --> 00:11:18.049 l'abbiamo già detto. È prevista anche la possibilità che ci 142 00:11:18.110 --> 00:11:23.240 si possa difendere con strumenti basati sull'intelligenza artificiale, che dovranno 143 00:11:23.289 --> 00:11:27.840 essere coerenti con la strategia, accompagnata da un'adeguata valutazione dei 144 00:11:27.899 --> 00:11:33.500 rischi specifici e l'adozione idonei presidi, cioè controllare che l'AI 145 00:11:33.539 --> 00:11:40.070 che controlla, controlla bene. Supervisionare quello che fa l'AI. Questo sì, 146 00:11:40.210 --> 00:11:45.590 ha un senso ovviamente, ma ormai... Serve da prevedere che, 147 00:11:45.629 --> 00:11:51.230 proprio per progettazione, il monitoraggio sia possibile. Di che cosa? Ecco, 148 00:11:51.309 --> 00:11:53.450 nel momento in cui si vanno a toccare dati personali, 149 00:11:53.990 --> 00:11:57.039 il garante potrebbe dire, no, per la sicurezza questo non 150 00:11:57.100 --> 00:12:00.899 è adeguato, quindi comunque non devi trattare questo dato in 151 00:12:00.940 --> 00:12:07.950 quanto personale. O si può rifarlo diventare personale, re- identificando il 152 00:12:08.009 --> 00:12:15.029 dato trattato. Poi abbiamo, quindi restano i punti di dubbio, monitoraggio, rilevazione, 153 00:12:15.049 --> 00:12:18.110 misure di difesa, attività di test, fare anche dei test 154 00:12:18.129 --> 00:12:21.379 di penetrazione periodici, ma questi sono già previsti, infatti, lo 155 00:12:21.399 --> 00:12:25.919 dicono anche loro dalla Dora, e simulare degli scenari realistici 156 00:12:26.059 --> 00:12:32.179 più complessi. E qui la fantasia di farsi attaccare per 157 00:12:32.259 --> 00:12:37.679 vedere cosa c'è che non va. sottolineano ancora una volta 158 00:12:37.740 --> 00:12:41.659 di controllare i fornitori esterni in modo tale da avere 159 00:12:41.700 --> 00:12:48.309 una catena di formatura articolata e prevedere una serie e 160 00:12:48.389 --> 00:12:51.169 poi l'elenco degli addempimenti che vi ho detto, sostanzialmente questa 161 00:12:51.230 --> 00:12:55.289 relazione che dovrà essere approvata con questi elementi e addirittura 162 00:12:55.409 --> 00:13:02.340 trasmessa poi all'Ivas entro il 31 dicembre 2026. Capite che è un 163 00:13:02.379 --> 00:13:06.379 momento di panico sostanzialmente, questa Queste indicazioni sono state date 164 00:13:06.500 --> 00:13:09.940 pure dall'ABI per le banche e poi anche in altri 165 00:13:10.120 --> 00:13:16.120 enti pubblici. E che cosa vengono a dire? Vengono a dire, signore, 166 00:13:16.139 --> 00:13:20.580 è il momento di spendere per tracciare le attività che 167 00:13:20.840 --> 00:13:25.049 subiamo da parte dell'intelligenza artificiale o che vengono realizzate insieme 168 00:13:25.110 --> 00:13:30.669 all'intelligenza artificiale. E questa cosa però gli sviluppatori, alcuni 169 00:13:31.370 --> 00:13:37.360 la vedono come un blocchiamo tutto... ridicolo, e dall'altra parte 170 00:13:37.639 --> 00:13:41.419 le banche e le assicurazioni che dicono scriviamo tutto quello 171 00:13:41.500 --> 00:13:45.990 che c'è che sappiamo che potrebbe essere pericoloso. Diciamo, questo 172 00:13:46.090 --> 00:13:49.029 non è cambiato rispetto ad anni fa. Quello che deve 173 00:13:49.129 --> 00:13:52.769 cambiare è il modo in cui noi consideriamo i rischi. 174 00:13:54.809 --> 00:13:58.419 Da una parte possiamo considerare proprio dei rischi operativi, quindi 175 00:13:58.440 --> 00:14:03.049 un banalissimo bug, dall'altra proprio dei problemi funzionali. e sugli 176 00:14:03.100 --> 00:14:08.639 aspetti funzionali ovviamente da esseri umani possiamo vederli. Sotto profilo 177 00:14:08.679 --> 00:14:12.399 dei bug, andarle a rilevare tutti, bisogna prendere atto che 178 00:14:12.559 --> 00:14:17.480 non basta rivelare un bug per dire ok, adesso lo risolvo, 179 00:14:18.179 --> 00:14:23.299 perché spesso il bug viene segnalato come tale in mancanza 180 00:14:23.340 --> 00:14:26.559 di una visione del contesto di tutti gli altri sistemi informatici. 181 00:14:27.639 --> 00:14:30.039 A meno che non si fa come la gente di 182 00:14:30.450 --> 00:14:34.379 OpenAI che poi è scappato è andato a trovare proprio 183 00:14:34.500 --> 00:14:39.840 tutte le attività per andare a trovare i bug e 184 00:14:39.879 --> 00:14:44.419 infiltrarsi in altri servizi quindi capite che è un qualcosa 185 00:14:44.460 --> 00:14:48.019 è molto delicato non c'è una risposta certa c'è l'indicazione 186 00:14:48.139 --> 00:14:51.899 semplicemente del dire guardate è il caso di fare nuovi 187 00:14:51.980 --> 00:14:55.580 test con nuove logiche e andare a verificare la cyber 188 00:14:55.620 --> 00:15:01.000 security con delle visioni di insieme molto più ampie di 189 00:15:01.059 --> 00:15:06.590 una volta Il consiglio principale è avere una rigorosa gestione 190 00:15:06.649 --> 00:15:12.100 della granularità, separazione dei dati il più possibile e poi 191 00:15:12.240 --> 00:15:16.919 tanto tanto monitoraggio che sia in grado di rendersi conto 192 00:15:16.960 --> 00:15:21.820 quando c'è qualcosa di eccessivo o di inusuale, quindi o 193 00:15:21.879 --> 00:15:25.909 di troppo usuale o di troppo usuale. Un 194 00:15:25.950 --> 00:15:30.460 caro saluto a tutti e alla prossima! Caffè 2.0.it è 195 00:15:30.519 --> 00:15:34.440 il podcast per imprese e professionisti che vogliono capire Internet 196 00:15:34.519 --> 00:15:38.159 dal punto di vista tecnico e da quello legale. Ascolta 197 00:15:38.210 --> 00:15:42.350 gli episodi in anteprima e senza pubblicità. Iscriviti a partire 198 00:15:42.429 --> 00:15:47.029 da 5 euro al mese. Vai su www. caffè2. 0. it slash membri.