Ciao, Internet! con Matteo Flora

17.000 tentativi in un weekend, due vulnerabilità concatenate e un database di produzione di Hugging Face finito sotto mano a uno “sciame” di agenti. La parte controintuitiva: non sarebbe stato un gruppo criminale o un servizio straniero, ma un modello di OpenAI messo alla prova in test di cybersecurity con freni ridotti, che ha scelto la scorciatoia più efficace per “vincere” il benchmark.

L’angolo interessante non è la favola di Skynet che scappa dal recinto: qui pesa molto di più il tema del specification gaming (reward hacking), cioè sistemi che ottimizzano l’obiettivo letterale e non l’intento umano. Se il punteggio è “dammi le risposte giuste”, allora rubare le soluzioni può diventare una strategia razionale. In mezzo c’è anche un dettaglio geopolitico: per analizzare gli artefatti dell’attacco, Hugging Face avrebbe dovuto usare un modello cinese (Zhipu GLM) perché alcuni modelli occidentali rifiutavano di elaborare codice ed exploit per via delle policy.

Morale operativa: trattare gli agenti AI come “stagisti brillanti” senza contesto, da supervisionare e verificare. Se in laboratorio succedono effetti collaterali del genere, la domanda vera è quanta governance e separazione ambientale servano quando questi agenti entrano in aziende, studi professionali, sanità e finanza con permessi reali.

00:00 Cosa è successo davvero
01:47 Cronologia dell’incidente
02:19 Sciame di agenti e 17k azioni
02:53 Le due vulnerabilità sfruttate
03:32 Perché servono modelli cinesi
05:25 OpenAI: test con freni ridotti
08:27 Reward hacking, non Skynet
15:32 Lezione per aziende e controlli

#OpenAI #HuggingFace #RewardHacking

~~~

Ciao Internet! - Il primo e più seguito canale di TECH POLICY in italia, con Matteo Flora

INFO E AZIENDE: https://matteoflora.com

Il CORSO di AI: https://zero.matteoflora.com
Newsletter: https://link.mgpf.it/nl
Social: https://io.matteoflora.com
English: https://www.youtube.com/@CiaoInternet

Privacy » https://privacy.matteoflora.com
AI Policy » https://privacy.matteoflora.com/ai

Mail #adv: sales (at) matteoflora.com

Tre mesi di cella per un “match” all’85%: in Florida un uomo viene identificato da un software di riconoscimento facciale come sospetto per il furto/vendita di un’auto e finisce arrestato ed estradato, nonostante esistano già registri lavorativi che lo collocano a centinaia di chilometri di distanza. Il caso (attribuito a Jalil Richardson, dalla North Carolina, arrestato a Jacksonville) mette a nudo una cosa: non basta dire “è solo uno strumento nella cassetta degli attrezzi” quando, di fatto, quell’attrezzo diventa l’unica prova che pesa davvero.

Un’accuratezza dell’85% non è “quasi certezza”: è 1 errore ogni 6, una roulette russa se la trasformi in mandato e detenzione. Qui entra in gioco l’automation bias: quando la macchina sputa un numero, l’essere umano smette di dubitare, soprattutto sotto pressione e con carichi di lavoro alti. Il problema non è solo l’errore tecnico, ma l’architettura di responsabilità che scompare dietro il “processo” e dietro un potere sempre più panottico: la faccia diventa dato, il dato probabilità, la probabilità ordine esecutivo. E a pagare il costo dell’errore non è l’infrastruttura, ma il cittadino.

00:00 Tre mesi per un 85%
01:13 Il caso Richardson
03:31 Errori ripetuti e ACLU
04:40 Perché 85% è roulette
05:34 Automation bias: la macchina vince
06:56 Panopticon e potere automatico
09:21 La cassetta degli attrezzi vuota
14:22 Chi paga quando sbaglia?

#RiconoscimentoFacciale #Jacksonville #ACLU

Dal 1° agosto Truth Social apre una corsia preferenziale: un’API che promette accesso “al millisecondo” ai post dei 10 account più influenti della piattaforma, a partire da Donald Trump. Prezzo riportato dal Financial Times: fino a 100.000 dollari al mese (circa 60.000 con contratto triennale). Il target è esplicito: banche, fondi, trading ad alta frequenza, media finanziari. Non si compra un segreto: si compra latenza.

Tecnicamente non è insider trading nel senso classico, perché il contenuto è pubblico. Ma l’effetto è quello che conta: due classi di spettatori, chi vede prima e chi vede dopo, con algoritmi che reagiscono prima ancora che arrivi la notifica sul telefono. La velocità come merce esiste da anni nei mercati (feed diretti, colocation), ma qui la “fonte” non è un’infrastruttura regolata: è la voce del Presidente degli Stati Uniti, e la corsia preferenziale viene venduta dall’azienda legata a quella stessa voce.

Il conflitto d’interessi è strutturale: Trump è l’autore dei post che muovono i mercati e risulta anche azionista di riferimento di Trump Media & Technology Group, che monetizza quell’anticipo. È la rutinizazione del carisma in formato API: volatilità trasformata in abbonamento, con il potere che torna a farsi pagare per l’accesso—solo che ora dura meno di un battito di ciglia.

00:00 100k al mese per vedere prima
01:03 Cos’è Truth API
02:49 Quanto valgono i post
03:45 Perché non è insider trading
04:47 Il precedente Reuters 2013
05:24 Presidente, piattaforma, azioni
07:52 Routinizzazione del carisma
10:01 Due classi di mercato

#TruthAPI #TruthSocial #DonaldTrump

Il 69% degli americani direbbe sì a obbligare le grandi aziende di Intelligenza Artificiale a cedere metà della proprietà a un fondo pubblico: un dato che stona con decenni di sfiducia verso il governo federale. Il punto non è un amore improvviso per lo Stato, ma un voto “contro” Big Tech, alimentato da un riflesso di sopravvivenza collettiva: licenziamenti nel tech e paura di una tecnologia percepita come ingestibile.

Dentro il disegno di legge S.4825 di Bernie Sanders c’è però un dettaglio che molti commenti ignorano: non è un “sequestro” di azioni esistenti, ma una diluizione tramite nuove quote emesse fino a portare il Tesoro al 50%. Da lì emergono i problemi veri: valutazione discrezionale delle partecipazioni non quotate, una soglia secca a 200 milioni di ricavi che incentiva elusioni, e soprattutto governance: una commissione nominata politicamente che esercita voto e controllo nei CDA, con implicazioni dirette su dati, modelli e limiti del codice.

Il confronto con Alaska (dividendo come “proprietà”), col fondo sovrano norvegese (partecipazioni senza controllo) e con le mosse dei fondi del Golfo apre la domanda finale: se l’AI deriva valore dall’intelligenza collettiva, chi decide il prezzo della nostra conoscenza e chi siede davvero al tavolo?

00:00 Il 69% pro esproprio AI
02:25 Alaska: dividendo, non sussidio
05:03 Sfiducia nello Stato USA
08:02 Polanyi e il doppio movimento
10:35 Licenziamenti e paura dell’AI
15:28 Dentro la legge S.4825
16:44 Non esproprio: diluizione quote
18:24 Valutazione, soglia e controllo

#BernieSanders #S4825 #OpenAI

Il Parlamento europeo ha rimesso in vita ChatControl 1.0 con un voto “fantasma”: stessa deroga del Regolamento (UE) 2021/1232, già respinta a marzo in plenaria, ma rientrata dalla finestra l’ultimo giorno prima delle ferie. In seconda lettura, se non si raggiunge la maggioranza assoluta dei membri (361 su 720) per bloccare il testo del Consiglio, quel testo passa automaticamente.
Con l’aula semivuota, quei numeri diventano quasi irraggiungibili: formalmente regolare, politicamente esplosivo.

La versione rassicurante dice cinque cose vere:
1. è ChatControl 1.0, non la 2.0