L’AI tra apprendisti stregoni e dottori Stranamore

Siamo tutti apprendisti stregoni, dovrebbero ammettere i grandi guru dell’AI.

Non ci sono scope che magicamente lavorano in autonomia, ma ci sono sistemi che potrebbero sfuggire al controllo di chi li costruisce. E come con l’apprendista, quando si tenta di porre rimedio, si producono altri problemi ancora più fuori controllo.

E ancora non è chiaro se e come fermarli, a meno che arrivi uno stregone vero, non apprendista. In fondo l’apprendista di Goethe aveva non solo automatizzato il lavoro, ma anche il disastro.

Ora non pensiamo che le piattaforme siano già impossibili da spegnere, ma chi le costruisce teme che la capacità di controllarle non tenga il passo con la loro potenza.

E allora Amodei chiede di rallentare, Altman concorda, Musk approva.

Insomma un sacco di “scope” da controllare, visto che il reparto costruzione scope ha lavorato più velocemente del reparto istruzioni su come controllarle.

E due grandi potenze, due approcci diversi di fronte a quella che forse è la più importante evoluzione tecnologica della storia dell’umanità.

Il tutto ricorda il clima da Guerra Fredda, quando americani e sovietici avevano un problema altrettanto sfidante, accumulare strumenti per difendere il proprio Paese con quelle nuove tecnologie che se utilizzate su larga scala potevano provocare una catastrofe per tutti.

Era l’energia nucleare, o meglio le armi nucleari. Accumularne altre veniva presentato come una garanzia di sicurezza, usando una certa elasticità linguistica.

Oggi si teme un’AI fuori controllo, allora si temeva la guerra nucleare. Non che i due approcci e potenziali disastri possano paragonarsi, ma il dilemma politico è lo stesso. Ridurre il rischio comune senza diventare più vulnerabili all’avversario e soprattutto senza farsi superare dall’avversario.

Le bombe avevano già dimostrato cosa potevano fare, mentre gli scenari estremi sull’AI restano incerti e discussi, anche se cominciano ad essere sbandierati come rischio apocalittico.

E quando la potenza è in mano a due contendenti il tema diventa: come evitiamo il disastro senza lasciare vincere l’avversario?

Perché salvare l’umanità va bene, ma arrivare secondi richiede una riflessione supplementare.

Amodei propone infatti prudenza, ma anche restrizioni per conservare il vantaggio americano sulla Cina. L’idea è che una distanza maggiore permetta di rallentare senza essere superati. Possiamo alzare il piede, purché voi troviate qualche ostacolo in più.

Insomma un po’ il ricorso a una “safety car”, per capire cosa sta succedendo e nel frattempo vietare i sorpassi, con la scusa di un confronto curioso ma attenti a non scoprirsi troppo.

Anche nel nucleare contava quando si proponeva una pausa. Nel 1958 l’iniziativa sulla sospensione dei test parte dai sovietici; americani e britannici aderiscono successivamente. Nel 1961 sono i sovietici a riprendere gli esperimenti, seguiti dagli americani. Essere i primi a predicare prudenza non garantisce una carriera coerente.

Pechino, quindi, ascolta l’appello sull’AI e sospetta che la salvezza dell’umanità comprenda una clausola sulla propria permanenza al secondo posto. Il ministero degli Esteri critica allarmismo e contrapposizione; il Global Times parla di un copione da Guerra Fredda.

Guerra Fredda, rieccola. E di nuovo non è un rifiuto di qualsiasi accordo, ma una richiesta, piuttosto poco affettuosa, di controllare dove montare il freno e come verificare che funzioni.

Il sospetto ricorda quello suscitato dal Trattato di “non proliferazione”, chi possiede già la bomba chiede agli altri di rinunciarvi. Il trattato allora conteneva anche obblighi e impegni sul disarmo, ma senza smantellare il proprio arsenale. Non proliferare, si attenua il rischio e il pericolo, ma si conserva una gerarchia.

Come il proprietario dell’attico che propone di vietare nuove sopraelevazioni, per la sicurezza dell’edificio, naturalmente.

E nel gran parlare di rallentare, passa in secondo piano l’opportunità di lavorare per migliorare ciò che abbiamo invece di inseguire nuove capacità.

Si potrebbe dedicare più lavoro all’efficienza, allo sviluppo di modelli che consumano meno per svolgere lo stesso compito, controlli migliori, meno risorse sprecate. Il progresso potrebbe consistere anche nel far funzionare bene, anzi meglio qualcosa, anziché aggiungere ogni settimana una funzione accompagnata dalla parola “rivoluzionaria”.

E qui la Cina ha un approccio diverso e ha risultati da mostrare, come le tecniche di DeepSeek per ottimizzare il calcolo necessario.

Non è chiaro dove risieda il primato, laddove potenza funzionale o efficienza anche energetica si contendono il titolo “più grande” e “migliore”, che non sono sinonimi.

Del resto, anche limitare alcuni test nucleari non cancellava la competizione, ma la spostava sulle attività ancora consentite. Nell’AI c’è una complicazione ulteriore, prima di concordare una pausa bisogna identificare e capire una cosa importante e una differenza decisiva tra due poli: chi decide.

Gli arsenali nucleari erano sotto comando statale, anche quando a costruirne le parti contribuivano imprese private. Il produttore non poteva distribuire una nuova testata perché il concorrente aveva annunciato un aggiornamento.

Nell’AI americana molte decisioni cruciali sono prese dalle aziende, mentre il governo conserva poteri e priorità proprie.

L’apoteosi della confusione negli “States”, dove alcuni, non tutti, capi dell’industria chiedono prudenza e il governo per voce del suo presidente contraddice, temendo che un rallentamento favorisca la Cina.

Attenzione: acceleratore e freno rispondono a persone diverse.

La Cina ha anch’essa imprese private, ma una direzione politica più stringente. E una regolamentazione interna esiste già: comprende obblighi sui dati, sui contenuti e, in determinati casi, valutazioni di sicurezza.

Oggettivamente quella regolamentazione include anche censura e controllo politico, quindi non è un certificato di virtù. Ma raccontare Pechino come il Paese che rifiuta qualsiasi regola sarebbe sbagliato.

È sempre un problema semantico: quali regole, per gestire che cosa, per proteggere chi, per avvantaggiare chi.

Nel nucleare bisognava mettere d’accordo governi che non si fidavano. Nell’AI aggiungiamo imprese concorrenti, investitori e governi che non sempre condividono le priorità delle proprie aziende.

Questo non dimostra che il pericolo sia maggiore, ma certo la stanza dove si discute come gestirlo o evitarlo è enormemente più affollata.

Le proposte di regole comuni iniziano a circolare, ma il messaggio che passa resta “rallentiamo”. Quanto? Chi controlla? Chi accetta un limite quando gli costa davvero qualcosa?

E quando il confine tra “controllo” e “spionaggio” è così fragile, anche gli accordi devono ricorrere alla diplomazia del tempo che fu.

“Siate prudenti” è un consiglio. “Potete verificare che lo siamo anche noi” è un impegno.

Il sospetto reciproco, intanto, non prosciuga l’acqua portata dalle scope impazzite.

Goethe risolve la storia facendo tornare il maestro, che ferma le scope. Noi non abbiamo la certezza che qualcuno stia per rientrare, non abbiamo lo stregone senior, che conosce la parola magica per fermare la corsa.

Sul disarmare l’AI si è già espresso qualcuno molto più importante e autorevole di noi, ma possiamo sempre riflettere sul tema.

Non è necessario disarmare e forse neppure non proliferare, ma averne controllo e consapevolezza, essere stregoni e non apprendisti stregoni.

Altrimenti ci ritroviamo nel finale del dottor Stranamore, quando davanti alla catastrofe nucleare ormai inarrestabile si immagina di sopravvivere sottoterra. E subito riaffiora il timore che i sovietici possano avvantaggiarsi anche nei rifugi.

Si parte chiedendosi come salvare l’umanità e si finisce discutendo su chi avrà il bunker migliore.

E le scope impazzite questa volta potrebbero continuare a portare acqua anche nei bunker anti-AI.