Un vocabolario inquinato

Più di 1.200 dipendenti di Google hanno firmato una petizione in favore di Timnit Gebru, e altri 1.500 ricercatori e scienziati del settore le hanno espresso la propria solidarietà. Il suo licenziamento? Per aver scoperto come si alterano i bot nella rete

di Michele Mezza da ytali.com

Ma ci ritroviamo con un ecosistema che forse ha incentivi che non sono i migliori per il progresso della scienza per il mondo”. È il commento di Emily M. Bender, professore di linguistica computazionale all’Università di Washington. Il docente ha collaborato con Timnit Gebru, fino a qualche giorno fa responsabile della sezione etica di Google, a un report sulla struttura e gli effetti dei grandi data base semantici, in sostanza quei vocabolari digitali che permettono ai bot di parlare e di scrivere sostituendosi agli umani in svariate attività, fra cui anche il giornalismo.

Una ricerca molto delicata che tocca uno dei principali componenti del fatturato del principale motore di ricerca del mondo. Talmente delicata che è costata il posto alla Gebru.
Come sempre l’estromissione di un dirigente di primo livello, quale era la responsabile etica di tutto Google, dal Big Tech, sempre ossessionato dal segreto, è sempre avvolta dal mistero e dal tentativo di delegittimare il dipendente.

Queste confraternite digitali, che reclamano trasparenza all’esterno ma che al loro interno si comportano con le ritualità da setta di templari, come ha descritto il libro di Dave Eggers Il Cerchio e come ha aggiornato proprio in questi giorni il nuovo reportage sul clima della Silicon Valley di Anna Wiener La valle oscura, non permettono alcuna circolazione di informazioni su quanto stanno preparando e soprattutto sulle relazioni interne fra i vari comparti.

Timnit Gebru, una giovanissima scienziata della rete, meno di quarant’anni, di origine eritrea, esperta di bias del data mining, in sostanza delle forme di discriminazione indotte dall’uso dei dati nelle bolle di Internet, è giunta a Google già con l’aura del talento per i suoi studi sulle forme d’uso sociale discriminatorio insite nelle tecniche del riconoscimento facciale.

Messa a capo del comitato etico, doveva integrare, e garantire, che le produzioni di intelligenza artificiale, applicate ormai ordinariamente al linguaggio automatico, non contenessero appunto contenuti o modalità che potesse colpire questa o quella classe socio culturale.

Improvvisamente la tempesta. Lo scorso 2 dicembre, dopo un fitto scambio di tweet, durato almeno due settimane, con Jeff Dean, il potentissimo capo dell’intelligenza artificiale della conglomerata di Mountain View, la stessa Gebru annuncia di essere stata licenziata.

Una procedura assolutamente inconsueta a quei livelli, siamo nel cerchio più prossimo agli dei di Google, i due dioscuri che hanno fondato l’impero: Larry Page e Sergey Brin.

Stiamo parlando di trattamenti economici a sei zeri in dollari, con valigiate di stock options.

Di solito si trovano modalità più consensuali, per accompagnare all’uscita l’indesiderato. Con la Gebru si è tornati alle tecniche del padrone delle ferriere. La causa è stata svelata dalla MIT Technology Review, un altro gigante del settore, edito dal mitico centro universitario di Boston, che ha pubblicato il documento su cui la Gebru insieme ad altri ricercatori stava lavorando. Si tratta, come ha confermato proprio il professor Bender di Washigton di una ricerca, estremamente circostanziata sui robot del linguaggio, quelli che fanno parlare gli assistenti come Alexa o Siri, e cominciano a sostituire funzioni professionali come i giornalisti e gli stessi medici.

Per far parlare automaticamente questi software come se fossero umani bisogna processare quantità poderose di dati e elaborare algoritmi complessissimi. In questo ginepraio di intelligenza artificiale, aveva svelato la Gebru con il suo team di ricercatori, si annidano trappole pericolosissime per la convivenza sociale, come bias confermative, che incoraggiano radicalizzazioni estreme delle opinioni, o discriminazioni valoriali sia di natura etnica che sessuale. Sono sottilissimi meccanismi che agiscono alla base di queste infinite piramidi cognitive che elaborano e imparano linguaggi e ragionamenti. Se all’origine di un meccanismo automatico, che agisce per sviluppi esponenziali, quale è appunto un agente intelligente si alterano le matrici dei valori di base, ad esempio il concetto di buono o di grande, viene stravolto a valle l’intero risultato operativo. La Gebru ha documentato e ricostruito il motore di questa manipolazione, intendendola, in una prima fase solo come un rischio, e per tanto segnalandola alla comunità dei programmatori come cautela e richiamo per una corretta realizzazione dei dispositivi.

Ma evidentemente Google intendeva il concetto di rischio non come eventualità di un errore dei propri data base semantici, ma come minaccia al proprio fatturato. Infatti il responsabile del comparto di Intelligenza artificiale del gruppo, Dean, che dipende direttamente dal capo operativo assoluto che è l’indiamo, esperto appunto di intelligenza artificiale Sundar Pichai, non ha perso tempo e ha cominciato a bombardare la Gebru di email e messaggi per ingiungerle di ritirare prima il documento e poi almeno la sua firma. Un ordine che, se eseguito, avrebbe distrutto l’immagine e la reputazione di una scienziata che basa la sua identità sulla trasparenza scientifica e sull’etica gestionale. E infatti la Gebru ha resistito fino al licenziamento.

Più di 1.200 dipendenti di Google di ogni ordine e grado hanno firmato una petizione in favore della Gebru, e altri 1.500 ricercatori e scienziati del settore le hanno espresso la propria solidarietà. Il nodo non è certo di poco conto, soprattutto in un momento in cui Google, sia negli USA sia in Europa è sotto tiro per la sua azione di distorsione del mercato e di manipolazione dei dati. Ma in ballo c’è qualcosa di più grande. Anche grazie alla pandemia, siamo alla vigilia di un nuovo salto acrobatico del sistema digitale, dove connettività e potenza di calcolo stanno impennandosi per portare forme di intelligenza non umana a sostituire in funzioni discrezionali l’attività umana. È evidente che se tutto questo si basa su un’artigianale e meccanica selezione di valori e contenuti che rispecchiano la volontà di un proprietario o anche solo di un programmatore cade tutta l’impalcatura che sostiene il processo di digitalizzazione della nostra vita, e conseguentemente le incalcolabili fortune economiche che si stanno accumulando.

Tanto più che, ad esempio, l’Unione europea sta elaborando un nuovo Digital Act che mira a mutare il modello industriale basato sull’intensità innovativa di singole aziende , ma di favorire la circolarità e la trasparenza di algoritmi e data base. Lo stesso si sta proponendo nel cuore di professioni come il giornalismo o la sanità, dove sistemi di intelligenza artificiale si accostano e poi tendono a sostituire i singoli operatori artigiani. Il 64 per cento delle testate europee, ha documentato una ricerca dell’Ordine nazionale dei giornalisti, condotta con l’Università Federico II, che io stesso ho coordinato, sta investendo in sostituzione di redattori con bot. Il caso Gebru ci dice come sia oggi possibile e necessario intervenire direttamente nel controllo e riprogrammazione dei sistemi di calcolo, aprendo finalmente le black box che confiscano dati e informazioni preziosissime perfino per la stessa strategia di contrasto al virus.

Timnit Gebru per Google, così come fece Christopher Wylie per Cambridge Analytica, e prima di loro Eduard Snowden per la trasparenza dei dati pubblici, ha aperto una strada che non potrà rimanere deserta se vogliamo davvero civilizzare il mondo tecnologico ed arrivare a non avere più bisogno di eroi o di vittime sacrificali della libertà nella rete.

1 Comment

  • Gianni Sartori Reply

    2 Dicembre 2024 at 8:06

    ANCORA ODORE DI MORTE NEL TRENTINO “AMMAZZA-ORSI”

    Gianni Sartori

    Sembra proprio che ormai la Provincia di Trento quando si tratta di eliminare qualche orso non guardi in faccia nessuno. Dopo M90 e KJ1 anche M19 è stato abbattuto per decreto.Qualche mese fa, in aprile, un giovane orso di due anni, munito di radiocollare e denominato M19 (usare una sigla invece di un nome evidentemente “facilita” l’eventuale eliminazione), aveva – sfortunamente – incontrato un turista (si presume un “amante della Natura” ma solo se adeguatamente addomesticata e reificata) forse eccessivamente emotivo dalle parti di Molveno. Costui non aveva trovato altro di meglio da fare che lanciargli pietre e minacciarlo con un bastone. Sicuramente l’atteggiamento meno indicato in simili circostanze.Tuttavia l’orso, evidentemente di buon carattere e meno impressionabile del bipede, si era allontanato per i fatti suoi senza reagire alle provocazioni. Mostrando quindi una totale mancanza di aggressivitàAvrebbe poi, sempre l’orso, commesso un’altra “colpa” imperdonabile agli occhi dell’amministrazione. Quella di essersi troppo avvicinato agli abitati per cercare nutrimento nei cassonetti cosiddetti “liberi” ossia non protetti con adeguati dispositivi. Soluzione a cui da tempo avrebbe dovuto provvedere l’amministrazione trentina.Quanto mai rapida e determinata – invece – nel decretarne la condanna a morte .Così M91 è stato giustiziato nella notte tra l’1 e il 2 dicembre su ordinanza del presidente della provincia autonoma di Trento, tale Maurizio Fugatti.Tra la firma dell’autorizzazione a procedere nell’abbattimento e l’esecuzione erano trascorse soltanto poche ore. Senza la possibilità per le associazioni protezioniste di impugnare il provvedimento. Ricorrendo a quella che Michela Brambilla (Lega Italiana Difesa Animali e Ambiente) ha definito “una prassi inaccettabile che deve finire una volta per tutte”.Amaro, ma non rassegnato, il commento delle associazioni Leal, Leidaa e Oipa: ”Interverremo nelle opportune sedi giudiziarie per dimostrare l’illegittimità del decreto con conseguente danno alla fauna selvatica e uccisione di un animale (protetto) non necessitata. M91 era un giovane orso di circa due anni, monitorato attraverso tecnologie come il radiocollare. La decisione di abbatterlo è stata presa a dispetto delle necessità di preservare la fauna selvatica e nella fattispecie rappresenta l’ennesima sfida da parte della Provincia a chi con serietà e professionalità tutela animali e ambiente”.Indignazione è stata espressa anche dalla LAV contro “un decreto tanto sanguinario quanto assurdo perché ha condannato a morte un orso che doveva invece essere preso ad esempio per non avere risposto alle molteplici provocazioni subite nel tempo”.Ancora più determinata la presa di posizione dell’Ente Nazionale Protezione Animali (ENPA) che intende presentare denuncia in sede europea contro Fugatti per il reato di uccisione di animali: “M91 è un’altra vittima del ‘metodo Fugatti’ che consiste nell’emanazione di ordinanze lampo e nella loro esecuzione a tempi di record, solitamente nel pieno della notte o alle prime luci dell’alba, con il chiaro obiettivo di negare ai portatori d’interesse l’esercizio del proprio diritto costituzionale ad agire in giudizio. Una lesione gravissima che denunceremo in sede europea”

    Inoltre vari esponenti di associazioni ambientaliste, animaliste e protezioniste hanno lanciato un vibrante appello al boicottaggio turistico del Trentino.

    Gianni Sartori

Lascia un commento

Login

Welcome! Login in to your account

Remember me Lost your password?

Lost Password