Note su “Il manager potenziato” di Giovanni Giamminola

 

 

Note su Il manager potenziato di Giovanni Giamminola
– p. 232: “Questo libro rappresenta una nuova era nella produzione di contenuti, dove l’intelligenza artificiale non è solo uno strumento passivo, ma un co-autore capace di interagire con l’autore umano in modo profondo e significativo”.
Applico il principio stoico, che richiede una descrizione della realtà la più vicina possibile alle strutture e la più lontana possibile dalle valutazioni delle strutture. Questo quando si va in cerca di strutture, naturalmente.
Applicando questo principio, risulta che il co-autore è una mente collettiva, formata da
– un altissimo numero di menti umane che hanno prodotto “contenuti” (in termini kantiani: materia del conoscere)
– e da un numero, indubbiamente molto più piccolo, di menti umane che hanno definito i processi per rendere disponibili i contenuti e per renderli attivi nelle loro strutture (in termini kantiani: forma del conoscere).
Devo quindi supporre che Giamminola non sia mai uscito dalla sfera delle relazioni tra menti umane, utilizzando l’intelligenza artificiale come strumento per collegarsi con le altre menti. Gli strumenti non sono mai neutri, ma determinano le forme e i modi della comunicazione, modificando quindi i contenuti stessi. L’intelligenza artificiale non è quindi neutra come non lo sono la lettera da spedire per posta, il telefono, lo sguardo che ci si scambia comunicanndo di persona, e così via, ma a questo si aggiunge un elemento formale, predeterminato dagli ingegneri informatici (o chi per loro) che è assente in molti altri strumenti di comunicazione: in estrema sintesi e usando una metafora perché la sintesi sia chiara, la cosa può essere descritta come una quindicesima forma apriori kantiana (e restano attive le altre quattordici perché le menti, individuali e collettive, sono tutte umane).
Ricordo che le forme apriori, così  come le ha concepite Kant, possono essere note, ma possono non esserlo, e operano anche quando non sono note: determinano sempre, e senza eccezioni, la forma dei pensieri. Ovviamente non è la “macchina” a determinare la forma dei pensieri (e quindi non è l’intelligenza artificiale, che non può né esistere né operare senza una macchina), ma a farlo sono le menti (umane, individuali e collettive) dei progettisti della macchina e dell’intelligenza artificiale. 

p. 7: “Fino ad allora la visione del mondo …”
Se teologi come Cusano, astronomi come Copernico, filosofi come Bruno (e tra gli antichi Democrito ed Epicuro) leggessero la pagina 7 non sarebbero d’accordo. La loro ottica non era centrata sulla Terra e non posizionavano l’uomo al centro di tutto. 

p. 15: “un’esperienza quasi mistica…”

p. 15: “la sofisticazione del modello linguistico ha sfidato i limiti della nostra comprensione di cosa significhi interagire con un’intelligenza”. 

p. 17: “Le capacità emergenti: sorpresa e inquietudine”
Un filosofo non è affatto sorpreso, e ritiene l’inquietudine una ovvietà. Sa di non conoscere le potenzialità della propria mente e sa che, producendo qualcosa che trasferisca la propria logica nella sfera della natura, vi trasferisce molte cose che conosce e che gli si presenteranno come “oggettive”, pur essendo state prodotte dalla  mente stessa: la nozione filosofica qui da applicare è quella di “destino” del giovane Hegel. Tuttavia, chi c’è dietro la nostra mente, e quale “corso del mondo” si sta realizzando “attraverso” la produzione di intelligenze artificiali? Hegel ha visto giusto parlando di “astuzia della ragione”?
Certo, istintivamente penso ad Hegel. Ma forse il filosofo a cui pensare è Leibniz, a proposito del migliore dei mondi possibili. Leibniz ha sostenuto che neppure Dio – le cui capacità di calcolo sono, per definizione, infinite – può creare un mondo perfetto: può solo stabilire cosa è meglio e cosa è peggio e, sulla base di questo parametro, creare il migliore dei mondi possibili. C’è una oggettività nella soggettività, neppure Dio può non tenere conto di questa oggettività.
Va tenuto presente che, progettando macchine “intelligenti”, imitiamo la creatività di quello che Leibniz chiama Dio. Ma sappiamo molto poco del nostro io e delle oggettivtà che ha dentro. A p. 22 è scritta una cosa non sorprendente per un filosofo, ma di centrale importanza: “Nonostante non siano specificamente programmati…”. Siamo sicuri che sia così, e che i programmatori non li hanno programmati così senza saperlo? Tutto sommato, neppure Dio è concepito controllare interamente l’oggettività della propria mente. Neppure possibilità infinite glielo consentono. 

p. 20: “Le barriere tra il linguaggio umano e quello artificiale sono state infrante”.
In quale misura il linguaggio umano è predeterminato dalla logica delle macchine “non intelligenti” con cui l’uomo interagisce tutti i giorni da secoli? E dalla  logica dei sistemi sociali, economici e politici con cui l’uomo interagisce dall’alba della civiltà e forse da prima? Effetto feedback…

p. 25: “Una macchina che prende…”
Se si applica la logica dei primi filosofi (l’area che collega Eraclito a Pitagora sulla esistenza in natura di un logos), il confine tra capacità tecnica e vera intelligenza è la coscienza. La domanda di Cristiani ha una risposta greca: non smetteremo mai, perché il logos può avere una dimensione in assoluta assenza di coscienza. Del resto, “cose” del tutto naturali (cioè prive dell’intervento umano) come il dna non hanno alcun bisogno di “capire veramente” cosa stanno facendo. 

p. 25: “… mancanza di capacità di generare nuove idee in senso stretto …”
Non è detto che l’uomo possa farlo: la creatività umana è interpretabile come un effetto di superficie, dato dal fatto che non conosciamo cosa c’è dietro. Gli artisti, come gli scienziati quando si illumina la mente per un’idea nuova, si meravigliano loro stessi, perché all’improvviso… e non sanno da dove viene quell’idea nuova (le testimonianze possono moltiplicarsi facilmente, una fra tutte quella celebre di Fermi, ma ce ne sono moltissime). Nella teoria di Spinoza, e in tutte le derivate o simili, la creatività non può esistere. Questa idea di uomo, e in specifico della mente dell’uomo, può essere non corrispondente alla realtà. 

p. 26: “Questi limiti, seppur importanti…”
La mente dell’uomo ha gli stessi limiti, è una ovvietà: compresa l’assenza di esperienza del mondo reale. Kant ha convinto tutti nel dire che non ce l’abbiamo neanche noi. 

p. 27: “Cosa sono i Parametri negli LLM?”
Se capisco bene, l’intelligenza artificiale si muove non uscendo mai dalla sfera della mente dell’uomo: è così?

p. 31: “L’intelligenza artificiale è riuscita a predire le reazioni umane…”
Se è riuscita, le reazioni umane sono precedibili. Del resto, perché non dovrebbero esserle? Se conosco l’intera rete delle cause e tutte le condizioni al contorno necessarie, la predizione è un calcolo. Il punto è che, se le cose stanno così, cose come la creatività, il libero arbitrio, e così via, sono effetti di superficie. Interpretazioni errate. 

p. 35: “Immaginate di poter testare…”
In questo capoverso Giamminola, se ho capito bene, sostiene due cose (traduco, naturalmente):
– che utilizzando questa innovazione tecnologica l’azienda avrà rischi minori e profitti più alti;
– che questa innovazione tecnologica ha implicazioni etiche.
Una riflessione: l’azienda non è un essere vivente e non ha quindi alcuna etica; le implicazioni etiche riguardano le persone fisiche, non le aziende. Una azienda, sia detto con franchezza, esiste solo in funzione dei profitti – ho usato il termine “esiste” nel senso esistenziale del termine. Una persona umana esiste del tutto indipendentemente dai profitti. Chiarisco. L’etica di una azienda è chiara: è bene ciò che permette, nel tempo, profitti, male ciò che diminuisce le possibilità di profitti; quel che non è chiara è l’etica di un essere vivente, e non è chiaro perché di etiche ne esistono moltissime.
Dall’ottica di una azienda è quindi del tutto inutile “una seria riflessione etica”, possedendo già un parametro chiaro. Giamminola qui non ne parla, ma anche dal punto di vista politico è inutile: se Machiavelli ha ragione, è possibile una scienza della politica perché la sfera della politica non ha etica. Né le aziende né gli Stati sono esseri viventi: è una ovvietà sostenere che solo gli esseri viventi possono avere un’etica. 

p. 35: “L’AI non sostituisce, ma aumenta il nostro potenziale”
Questa frase è vera per qualsiasi macchina, e persino per qualsiasi utensile. Definisce la loro condizione d’esistenza: altrimenti, perché esisterebbero un cacciavite, un treno, un’arma che permette di uccidere da lontano e senza rischi, e così via? Qualsiasi “tecnica” non sostituisce, ma aumenta il “nostro potenziale”. L’etica riguarda il  loro uso, e quindi riguarda noi, non la tecnica. Se devo vincere una guerra, e posso uccidere da lontano, uno strumento che mi permetta di uccidere da mille chilometri di distanza senza rischi per me è ottima cosa, non avendo alcuna implicazione etica (sono io che decido di lanciare un missile ad averle, non il missile né il mio governo, perché solo io ho esistenza – nel senso esistenziale del termine, un senso del termine per cui né il missile né lo Stato ce l’hanno, avendo il missile solo una base fisica, lo Stato neppure quella). 

pp. 35-36: “Le imprese che intendono mantenere la propria competitività devono evolversi in AI first-companies”
Pochi libri che ho letto hanno così chiara la tesi da dimostrare. Il libro di Giamminola è quindi un libro a tesi e dovrò dargli ragione se risulterà razionale – nel senso in cui in economia è utilizzato questo termine – che la (piccolissima) casa editrice che dirigo avrà come condizione d’esistenza la necessità di evolversi in AI first-companies.  Parlo di condizione d’esistenza perché quello che, con indubbia eleganza, Giammonola indica come “mantenere la propria competitività” è cosa sulla quale non ho alcuna scelta: se l’azienda che dirigo non ha alcuna competitività, non può esistere. Perché? Perché non può avere profitti, e la condizione prima d’esistenza di una azienza sono i profitti (il loro rapporto col tempo è uno dei temi fondamentali delal filosofia delle aziende, ma è tema che richiede una analisi a parte).
Di passaggio, mi sono chiesto perché Giammonola senta l’utilità di utilizzare una espressione in lingua inglese. Esistendo il corrispettivo italiano molto chiaro, l’utilità non è la chiarezza espressiva né la precisione della nozione. Identificare qual è questa utilità che Giamminola, e moltissimi autori, vedono in questo uso dell’inglese, è cosa importante (è un “sintomo” nel linguaggio della psicoanalisi, e dietro un sintomo c’è sempre qualcosa che è utile conoscere).
Due note:
– non ho ancora letto il suo libro da p. 36 in avanti; anticipo che, pur dubitando molto che qualsiasi cosa “first” sia una buona idea (il dubbio  nasce da  ragioni di semplice pragmatismo), mi aspetto che Giammonola scriva non solo i vantaggi di questa scelta, ma anche i costi; ho 73 anni, e non ho mai visto in vita mia nessuna scelta, in nessun campo, che abbia solo vantaggi e non anche dei costi;
– l’AI opera in un mondo digitale, noi in due mondi, uno digitale e uno analogico; non è arretratezza, è che noi siamo anche “analogici”.
Adesso leggo il libro. 

p. 43: “Abbiamo una mente del Paleolitico, istituzioni medioevali e una tecnologia da divinità” (F.O. Wilson).
Osservo, di passaggio, che l’AI è figlia della nostra mente del Paleolitico. 

p. 44: “L’interazione continua con l’AI consente al manager potenziato di superare i limiti…”
Qualsiasi “tecnica” supera i limiti del’uomo, se così non fosse non servirebbe a nulla (di passaggio: è la mia obiezione al libro Sovrumano, di Nello Cristianini, appena letto). Ma la nozione di limite è, dal punto di vista filosofico, molto dubbia: se applico la tesi spinoziana che qualsiasi ente o evento (ammesso che ci sia differenza tra le due cose) è “potenza della natura”, il limite è una parola che indica i caratteri dell’ente e dell’evento e dunque ne definisce l’identità, non qualcosa di imperfetto. Traduco: che l’AI consenta ad un manager di superare i propri limiti, significa che offre strumenti per realizzare i propri obiettivi altrimenti non realizzabili, e di definirli con cura anticipandone la effettiva realizzabilità. Ma questo nulla dice su quali sono questi obiettivi: tra curare meglio un ammalato (se il manager lavora per un’industria farmaceutica) o uccidere più uomini in condizioni di sicurezza (se lavora per un’industria che produce armi) non fa alcuna differenza. Siamo certi che il manager potenziato sia una buona idea in queste condizioni? Una buona idea per le persone, intendo, non per l’azienda di cui è manager. 

pp. 45-46: “… predisposizioni ad adattarsi…”
Darwinismo, immagino. 

p. 47: “System 0″
La calcolatrice che ha nello zaino mio nipote che fa la terza media è system 0? Ho capito bene, o, fatta salva la differenza nella potenza di calcolo, è la stessa cosa? E due chiacchiere con qualcuno, che mi possa consigliare, sono una cosa drasticamente diversa? Temo di non avere capito bene e studierò questo tema del “pensiero esterno” studiato dalla Cattolica di Milano (ovviamente la dizione è una metafora: il mio pensiero non può mai essermi davvero esterno). 

p.  49: “… supervisionare le decisioni” e p. 123: “Approccio centauro” e “Approccio Cyborg”
Non posso dire di avere capito: se ho bisogno di una calcolatrice, come il padre di Pascal, certo che uso la Pascalina, che non è certo la prima macchina “intelligente” ma è una tappa della strada che ha portato alla AI. Ma non per questo non decido io né ho bisogno di evocare l’antico mito del centauro e il moderno (forse non mito) del cyborg. Uso la Pascalina come uso un cacciavite per avvitare una vite a casa mia, o come uso i dati d’azione dei libri scolastici per l ‘anno precedente per decidere se varare o. meno un nuovo testo. Perché, anche in presenza della AI, devo diventare qualcosa di diverso da quel che sono o cedere ad altro (non ad altri, non è un refuso: “altro” è dizione corrispondente a quel che voglio dire) la facoltà riprendere le decisioni?
Poiché nel libro di Giamminola non trovo la risposta a questa domanda, o non c’è o ho letto male il libro.
Naturalmente, questa domanda ne implica un’altra: fermo restando che identifico due differenza tra la Pascalina e l’AI (la potenza di calcolo e la capacità di apprendere), non avendo entrambe coscienza (nello stesso senso in cui l’orologio di Piazza San Marco non sa che ore sono) in cos’altro son differenti?

p. 50: “… problema della disoccupazione tecnologica”
Si tratta dello stesso tema del celebre articolo di Keynes con le sue previsioni un secolo dopo?

p. 50: “… valorizzazione del capitale umano”
Non so se è corretto leggere attraverso Marx questa dizione (torna a p. 127): io sono propenso a leggerla così.

p. 50: “sistemi AI … trasparenti e responsabili”
Abbiamo argomenti a favore della tesi che sia possibile che lo siano? Sulla coscienza i filosofi tendono ad essere “filosofi del sospetto”, con ottime argomentazioni a favore della necessità di sospettare: sappiamo bene che c’è qualcosa di non trasparente dietro la trasparenza e interessi e forze (oggettive) dietro la responsabilità (soggettiva). Perché non dovrebbe valere anche per i (non coscienti) sistemi AI, anche se progettati per esserlo e usati con trasparenza e responsabilità? L’uomo, si sospetta, non sa sempre tutto quel che fa, anche se di quel che fa ha la sensazione di essere perfettamente cosciente, ma non può sapere se veramente lo è (“Signore, perdona loro perché…”).

p. 55: “L’intelligenza artificiale, in senso lato, è la teoria e la pratica di costruire macchine con l’ambizione che pensino ed agiscano come esseri umani”
La mia mente è in silenzio e forse è bene che lo sia: qualsiasi libro di storia insegna che dovremo aspettarci un Pasteur e un Hitler, e tutto quello che trovo scritto nei libri di storia, nessuno dei quali è una lettura edificante. Vale il celebre “Nihil humanum a me…”.
A me però non sembra possibile che l’AI possa pensare a gire come un essere umano. Non perché non sia tecnicamente possibile (non so se lo è, ma certo non posso escludere che lo sia) ma perché non è un uomo: è “come” un uomo. E noi non sappiamo che cos’è un uomo.

p. 59: “… tutto ciò che è stato documentato e accessibile…”
Questa è una delle ragioni per cui essere “come” un uomo ed essere un uomo non mi pare possano essere due termini di una equazione. Cosa si provi davanti ad un’opera d’arte (fatta dall’uomo o dalla natura) immagino sia tecnicamente documentabile (la dimensione estetica passa da un cervello, tutto sommato, e non vedo ragioni teoriche perché non possa passare da una “macchina”), ma non è accessibile: non saprò mai cosa prova un altro uomo e, anche nei momenti più intimi, non saprò mai cosa prova una donna. Non è accessibile.

p. 60 (e tutto il resto del libro in moltissimi punti): “… parametri etici…”
Non è possibile, lo sappiamo dal 1512, perché continuiamo a dire cose che sappiamo non realistiche? Basta rileggere Machiavelli…
E qualsiasi libro di storia dice che con l’etica c’è da tremare: in nome di Dio un numero sterminato di persone sono state uccise, per ragioni etiche; Hitler, per ragioni etiche, ha sterminato milioni di Ebrei, ed è facile pensare, leggendo un libro di storia, che non c’è cosa più terribile di chi sa che cosa sono il bene e il male. Trarne le conseguenze è un attimo.
Leggo a p. 62: “Questo processo assicura che, non solo l’AI sia capace di rispondere alle domande più complesse, ma che lo faccia all’interno di un quadro etico sicuro e conforme alle regole impostate, riducendo i rischi di informazioni inappropriate o pericolose”. Ora, se il quadro etico e le regole sono impostate da chi ritiene i valori razziali in vetta alla piramide dei valori etici, da cui dipendono le scelte fatte (rendere schiave le altre razze), immagino che l’AI riesca rendere questo processo sicuro e riduca di molto i rischi. Dubito però che sia questo che Giamminola sostiene. Resta però che a definire il quadro etico e ad impostare le regole sarà Madre Teresa di Calcutta o …, sostituendo i puntini col nome di qualsiasi essere umano.
E del resto il “mindset” di cui parla a p. 63 (in rapporto al celebre film di Kurosawa) è eticamente neutro: poiché il “manager” di cui si parla dirige un’azienda, e il fine di un’azienda è uno solo (in termini marxiani, che D diventi D+D), l’elenco citato, compreso ciò che “facilita l’interazione umana”, non c’è eticamente alcuna differenza tra una azienda che produce macchine per un ospedale e un’altra che produce armi atomiche. Il criterio “economico” di valutazione è identico, e in effetti che l’interazione umana sia facilitata serve ad entrambe (e del resto potrebbe trattarsi non di due aziende, ma di due linee produttive della stessa azienda).

p. 70: “… un filosofo aziendale…”
Ho diversi amici filosofi aziendali. So che il fine della loro filosofia è contribuire a far sì che D divenga +D (traduco così il “Metaprompt Filosofia di p. 73). E so che se D sarà invece -D, il filosofo aziendale avrà fallito.
Ho provato a fare il filosofo aziendale, e ho capito subito perché Diogene ha chiesto ad Alessandro, che certo lo stimava molto essendo a sua volta allievo di un filosofo, di levarsi dal suo sole. Ma, certo, Diogene per via della botte non aveva l’affitto da pagare a fine mese (ma l’olio per la lanterna non lo pagava?).

p. 119: “… produttività … efficienza … innovazione…”
Nella storia la maggior parte dei filosofi sono su un’altra strada rispetto a questa e alcuni insegnano a non percorrerla. Ma certo l’AI è legata in molti modi alla filosofia: porrò il tema ai miei colleghi (produttività a uno che perde tempo a seguire gli astri nel loro movimento contemplando le stelle? efficienza a uno che cade nei pozzi e fa ridere le servette trace? innovazione a uno che passa la vita a leggere i classici greci?) Poiché l’AI è legata a doppia mandata alla filosofia (anche storicamente: Pascal, Leibniz, Turing sono tutti filosofi… anche Turing? eh sì, anche Turing, come dire altrimenti visto che i due celebri lunghi articoli profilano strade di soluzioni in termini di ingegneria a problemi di natura filosofica?) il problema, forse insolubile (non vorrei passare per pessimista, il fatto è che non so se è risolvibile), è anche ineludibile.

p. 121: “… preparazione dei lavoratori…”
Domanda: se conviene sostituirli, c’è una argomentazione vincente perché il manager non sostituisca i lavoratori con una “macchina”? Una casa editrice lo fa tutti i giorni con le traduzioni, ad esempio. C’è una ragione per cui non dovremmo farlo?

p. 122: “… effetto di livellamento …”
I filosofi hanno messo in guardia da tempo che la “efficienza” e il “livellamento”, positivamente descritte, portino al marcusiano “one dimensionale man”. Il riferimento è legittimo?

p.  208: “Implicazioni per il futuro”
Qui mancano le inspirazioni negative, ma l’autore è indubbiamente consapevole che ci sono, perché in molti punti del libro mette in guardia. E tutto il capitolo da p. 211 in avanti lo mostra bene, anche se non ho capito se è detto in termini positivi o negativi (credo con riferimento a Turing) che “la differenza tra umani e macchine sarà praticamente indistinguibile” (p. 211) e così per la “singolarità” del 2045. Ma quanto scritto alle pp. 217 e 218 è invece molto chiaro, ed è (o almeno così ho capito) lo stesso problema che pongono oggi (come ieri) i filosofi sulla identità dell’uomo.