Venticinque medaglie Fields hanno firmato lo stesso documento. Non capita quasi mai. E non l'hanno firmato per dire che l'AI non sa fare matematica: l'hanno firmato perché sa farla. Il passaggio chiave della dichiarazione è questo, e vale rileggerlo due volte: "Risolvere problemi è soltanto uno strumento e un'approssimazione per raggiungere l'obiettivo primario, che è la comprensione concettuale. Dimenticarlo nel mondo dell'AI può trasformare lo strumento contro l'obiettivo." Tutti misurano quanti problemi l'AI risolve. Il vincolo è che risolvere non è capire. Il meccanismo è lo stesso che vedo ogni volta che un settore si innamora di una metrica. Un problema famoso, prendiamo come esempio Riemann, Navier-Stokes, un Millennium Prize non valeva per la risposta. Valeva come strumento di misura: se qualcuno lo risolveva, era il segno che erano nati metodi nuovi. Poi partiva il processo lento, quindi, seminari, discussioni, semplificazioni, un libro di testo leggibile da uno studente del terzo anno. Dopo trent'anni quel metodo finiva dentro un algoritmo di compressione o un protocollo crittografico. Il problema era il termometro, non la febbre. Quando un'azienda AI usa quel termometro come benchmark di prodotto, succede esattamente la cosa che i matematici descrivono: la produzione di massa di enunciati "vero/falso" a ritmo crescente può distruggere terreno fertile invece di dargli vita. Si ottimizza il proxy e si perde la cosa che il proxy misurava. È il problema di Goodhart, applicato non a un'azienda ma a una disciplina intera. E arriva con due danni collaterali concreti che la dichiarazione nomina senza giri di parole: 1. Atribuzione. Soluzioni annunciate di corsa, senza il tempo di scrivere un paper decente, isolare il metodo nuovo, citare chi ci era arrivato prima. I firmatari usano la parola plagio. 2. La catena di trasmissione. Un'idea matematica diventa viva solo se qualcuno la adotta, la insegna, la integra nel canone. Senza matematici disposti a fare quel lavoro, un'idea prodotta da una macchina resta un file e non entra nella disciplina. Qui la cosa smette di riguardare la matematica. I firmatari lo scrivono esplicitamente: "stiamo assistendo a una minaccia generale al lavoro intellettuale." Anni di formazione non servivano solo a produrre la risposta finale. Servivano a costruire la capacità di formulare la domanda successiva. Se la risposta arriva gratis e la formazione salta, quello che si perde non è il risultato: è chi sarebbe stato in grado di chiedere la cosa dopo. Vale per la matematica oggi. Vale per l'ingegneria, la diagnostica, il diritto, il progetto, domani. Personalmente non leggo questo documento come luddismo. Venticinque persone che hanno vinto la Fields non firmano per paura di essere superate: nel testo dicono chiaramente che l'AI può accelerare lo studio matematico autentico. Firmano perché hanno riconosciuto un problema di incentivi, non di capacità. E la frase più importante è l'ultima: "se questi cambiamenti gioveranno al campo o avranno un effetto distruttivo sarà in larga parte determinato dalle decisioni degli esseri umani che controllano questa tecnologia." Non è un problema tecnologico è un problema di regole. E come sempre, le regole le scrive chi possiede l'infrastruttura, non chi la usa.