C’è da chiedersi, infine, quale sia il passo ulteriore. Dopo le multinazionali, com’è possibile che non sia lo Stato stesso a pretendere il controllo algoritmico, predittivo, totalizzante dei nostri comportamenti?

Dopo le multinazionali, com’è possibile che non sia lo Stato stesso a pretendere il controllo algoritmico, predittivo, totalizzante dei nostri comportamenti?

 

È una domanda che ci facciamo all’indomani dell’approvazione presso il Parlamento italiano dell’uso di trojan, cioè software spia, nei telefoni dei cittadini.

 

Il lettore sia avvertito: nessuna sua conversazione, nemmeno quelle di WhatsApp (soprattutto quelle di WhatsApp), nemmeno quelle fatte a telefono spento (i trojan possono accedere al microfono anche se spegni lo smartphone) potrà essere al riparo in caso di intercettazione.

 

Senza contare che l’algoritmo predittivo, applicato dallo Stato, può un giorno arrivare a rendere punibili le intenzioni e non i reati – basta sventolare sotto il naso di giudici e opinione pubblica una statistica, e algoritmi utilizzati nei tribunali americani per comminare pene in base alla recidività già sono oggetto di vaste critiche.

 

La società distopica dipinta nel racconto di Philip K. Dick Minority Report (poi divenuto ffilm di Steven Spielberg con Tom Cruise) è già realtà: il crimine può essere previsto, quindi prevenuto e punito anzitempo. E non solo il crimine: ogni nostro comportamento. Il consumo di prodotti, il voto, le credenze religiose, le preferenze affettive. Previsto, e, di conseguenza, manipolato. Come abbiamo già riportato, qualcuno parla già di social media per l’accoppiamento su base genetica – o meglio eugenetica.

 

Non solo il crimine: ogni nostro comportamento. Il consumo di prodotti, il voto, le credenze religiose, le preferenze affettive. Previsto, e, di conseguenza, manipolato

Incredibilmente, il primo partito del Paese – quel Movimento 5 Stelle che tanto si sta dimostrando amico della Cina, superpotenza sperimentale della sorveglianza totale sul cittadino – su qualcosa sembra volere mantenere la parola: la creazione di una società della trasparenza assoluta, dove le intercettazioni non hanno più limiti, come nemmeno nelle fantasie orwelliane.

 

Siamo dinanzi, né più, né meno, alla prospettiva di una società di controllo totale.

 

La spinta tecno-giustizialista dei 5 stelle, sicuramente animata dalla spinta manettara dei vari Grillo-Travaglio-Di Pietro (i quali tutti, c’è da notare, hanno avuto a che fare con Casaleggio senior) ora può divenire realtà con il semaforo verde della Camera  al provvedimento che regola l’utilizzo dei trojan, «captatori informatici» in grado di trasformare ogni telefono in una cimice per lo spionaggio totale.

 

Come riescano a garantire l’iniezione di un trojan nel telefono dei cittadini e al contempo parlare di «privacy» e dati «sensibili» è un mistero che riusciamo a capire meglio leggendo della lingua biforcuta dei vari Google e Facebook così come documenta qui sotto la professoressa Zuboff.

La distopia è ora realtà: semaforo verde della Camera ai trojan, «captatori informatici» in grado di trasformare ogni telefono in una cimice per lo spionaggio totale

 

Il Capitalismo di Sorveglianza è qui. Lo Stato di sorveglianza pure.

 

Da un mondo dominato dagli algoritmi e dai Big Data che noi stesso offriamo loro in pasto, chi si salverà?

 

 

Renovatio 21

 

 

Da «You are remotely controlled», New York Times 24 gennaio 2020

 

Gli imperativi economici del capitalismo di sorveglianza furono perfezionati nella competizione per vendere certezza. All’inizio era chiaro che l’intelligenza artificiale doveva nutrirsi di volumi di dati, spingendo le economie di scala verso l’estrazione dei dati. Alla fine si è capito che il volume è necessario ma non sufficiente. I migliori algoritmi richiedono anche varietà di dati – economie di scopo.

 

All’inizio era chiaro che l’intelligenza artificiale doveva nutrirsi di volumi di dati, spingendo le economie di scala verso l’estrazione dei dati. Alla fine si è capito che il volume è necessario ma non sufficiente

Questa consapevolezza ha contribuito a guidare la «rivoluzione mobile» inviando gli utenti nel mondo reale armati di fotocamere, computer, giroscopi e microfoni incorporati all’interno dei loro nuovi telefoni intelligenti.

 

Nella lotta per la supremazia, i capitalisti della sorveglianza vogliono la tua casa e ciò che dici e fai tra le sue mura. Vogliono la tua auto, le tue condizioni mediche e gli spettacoli in streaming; la tua posizione, nonché tutte le strade e gli edifici sul tuo percorso e tutti i comportamenti di tutte le persone nella tua città. Vogliono la tua voce, ciò che mangi e ciò che acquisti; il tempo di gioco dei tuoi figli e la loro istruzione; le onde cerebrali e il flusso sanguigno. Niente è esente.

 

Nella lotta per la supremazia, i capitalisti della sorveglianza vogliono la tua casa, la tua auto, le tue condizioni mediche, gli spettacoli in streaming, la tua posizione, il tuo percorso, e tutti i comportamenti di tutte le persone nella tua città. Vogliono la tua voce, ciò che mangi e ciò che acquisti; il tempo di gioco dei tuoi figli e la loro istruzione; le onde cerebrali e il flusso sanguigno. Niente è esente.

La diversa conoscenza di noi produce un potere diverso su di noi, e così la disuguaglianza epistemica si allarga per includere la distanza tra ciò che possiamo fare e ciò che può essere fatto a noi. I data scientist lo descrivono come il passaggio dal monitoraggio all’attuazione, in cui una massa critica di conoscenze su un sistema di macchine consente il controllo a distanza di quel sistema.

 

Ora le persone sono diventate bersagli per il controllo remoto, poiché i capitalisti della sorveglianza hanno scoperto che i dati più predittivi derivano dall’intervento sui comportamenti per mettere a punto, radunare e dirigere l’azione verso obiettivi commerciali.

 

Questo terzo imperativo, «economia di azione», è diventato un’arena di intensa sperimentazione. «Stiamo imparando a scrivere la musica», ha detto uno scienziato, «e poi lasciamo che la musica li faccia ballare».

 

Questo nuovo potere «di farci ballare» non impiega soldati per minacciare con il terrore e l’omicidio. Arriva portando un cappuccino, non una pistola.

 

È un nuovo potere «strumentista» che attua la sua volontà attraverso l’onnipresente strumentazione digitale per manipolare segnali subliminali, comunicazioni psicologicamente mirate, imporre architetture di scelta predefinita, innescare dinamiche di confronto sociale e riscuotere ricompense e punizioni – tutto mirato a sintonizzare, radunare e modificare a distanza il comportamento umano verso risultati redditizi e sempre studiato per preservare l’ignoranza degli utenti.

Ora le persone sono diventate bersagli per il controllo remoto

 

Abbiamo visto la conoscenza predittiva trasformarsi in potere strumentale negli esperimenti di contagio di Facebook pubblicati nel 2012 e 2014, quando ha diramato segnali subliminali e manipolato confronti sociali sulle sue pagine, prima per influenzare gli utenti a votare alle elezioni di medio termine e in seguito per far sentire le persone più tristi o più felici.

 

Abbiamo visto la conoscenza predittiva trasformarsi in potere strumentale negli esperimenti di contagio di Facebook (2012-2014) per influenzare gli utenti a votare alle elezioni di medio termine e in seguito per far sentire le persone più tristi o più felici

I ricercatori di Facebook hanno celebrato il successo di questi esperimenti rilevando due risultati chiave: che era possibile manipolare gli spunti online per influenzare il comportamento e i sentimenti del mondo reale e che ciò poteva essere realizzato bypassando con successo la consapevolezza degli utenti.

 

Nel 2016, il gioco di realtà aumentata incubato da Google, Pokémon Go, ha testato le economie d’azione per le strade. I giocatori del gioco non sapevano di essere pedine nel vero gioco della modifica del comportamento a scopo di lucro, poiché i premi e le punizioni delle creature immaginarie di caccia venivano usati per mandare le persone da McDonald’s, Starbucks e a pizzerie locali che pagavano la compagnia , esattamente nello stesso modo in cui gli inserzionisti online pagano per «fare clic» sui loro siti Web.

 

Nel 2017, un documento trapelato da Facebook e acquisito da The Australian ha rivelato l’interesse della società nell’applicare le «intuizioni psicologiche» dai «dati interni di Facebook» per modificare il comportamento degli utenti.

 

Gli obiettivi erano 6,4 milioni di giovani australiani e neozelandesi. «Monitorando post, immagini, interazioni e attività su Internet in tempo reale –hanno scritto i dirigenti –Facebook può capire quando i giovani si sentono”stressati”, “sconfitti”, “sopraffatti”, “ansiosi”, “nervosi”, “stupidi”, “sciocchi”, “inutili” e “falliti”».

 

Questa profondità di informazioni, hanno spiegato, consente a Facebook di individuare il periodo di tempo durante il quale un giovane ha bisogno di un «aumento della fiducia» ed è più vulnerabile a una specifica configurazione di segnali e trigger subliminali. I dati vengono quindi utilizzati per abbinare ogni fase emotiva a messaggi pubblicitari appropriati per la massima probabilità di vendite garantite.

 

Questa profondità di informazioni, hanno spiegato, consente a Facebook di individuare il periodo di tempo durante il quale un giovane ha bisogno di un «aumento della fiducia» ed è più vulnerabile a una specifica configurazione di segnali e trigger subliminali

Facebook ha negato queste pratiche, sebbene un ex product manager abbia accusato la società di «mentire spudoratamente». Il fatto è che in assenza di trasparenza aziendale e controllo democratico, regna la disuguaglianza epistemica. Loro sanno. Decidono chi lo sa. Decidono chi decide.

 

L’intollerabile svantaggio di conoscenza del pubblico è acuito dalla perfezione delle comunicazioni di massa dei capitalisti di sorveglianza come manipolazione. Due esempi sono illustrativi. Il 30 aprile 2019 Mark Zuckerberg ha fatto un sorprendente annuncio durante la conferenza annuale degli sviluppatori dell’azienda, dichiarando: «Il futuro è privato».

 

Alcune settimane più tardi, un avvocato di Facebook si è presentato davanti a un giudice distrettuale federale in California per difendere la società da una causa di un utente sull’invasione della privacy, sostenendo che l’atto stesso di utilizzare Facebook annulla ogni ragionevole aspettativa di privacy «come una questione di diritto».

 

Nel maggio 2019 Sundar Pichai, amministratore delegato di Google, ha parlato al Times dell’ impegno delle sue corporazioni sul principio che «la privacy non può essere un bene di lusso». Cinque mesi dopo sono stati trovati appaltatori di Google che offrivano buoni regalo da $ 5 ai senzatetto di colore in un parco di Atlanta in cambio di una scansione facciale.

 

La smentita di Facebook invita ancora più alla cautela visto che è uscito un altro documento aziendale datato 2018. Il rapporto confidenziale offre una rara visione del cuore della fabbrica computazionale di Facebook, dove un «motore di previsione» gira su una piattaforma di intelligenza artificiale che «ingerisce trilioni di dati ogni giorno, forma migliaia di modelli» e quindi «li distribuisce alla flotta di server per previsioni dal vivo».

 

Facebook osserva che il suo «servizio di previsione» produce «più di 6 milioni di previsioni al secondo». A che scopo?

 

Facebook osserva che il suo «servizio di previsione» produce «più di 6 milioni di previsioni al secondo»

Nel suo rapporto, la società chiarisce che queste straordinarie capacità sono volte a soddisfare le «sfide del business»dei propri clienti aziendali con procedure che collegano previsione, microtargeting, intervento e modifica del comportamento.

 

Ad esempio, un servizio di Facebook chiamato «previsione di lealtà» è pubblicizzato per la sua capacità di superare il surplus comportamentale per prevedere le persone che sono «a rischio» di spostare la loro fedeltà al marchio e avvisare gli inserzionisti perché possano intervenire prontamente con messaggi mirati progettati per ristabilire la lealtà appena in tempo per cambiare il corso del futuro.

 

Quell’anno un giovane di nome Christopher Wylie divenne una gola profonda nei confronti del suo ex datore di lavoro, una società di consulenza politica conosciuta come Cambridge Analytica.

 

«Abbiamo sfruttato Facebook per raccogliere i profili di milioni di persone abbiamo creato modelli per sfruttare ciò che sapevamo su di loro e colpire i loro demoni interiori»

«Abbiamo sfruttato Facebook per raccogliere i profili di milioni di persone – ha ammesso Wylie –e abbiamo creato modelli per sfruttare ciò che sapevamo su di loro e colpire i loro demoni interiori».

 

Wylie ha definito queste tecniche come «guerra dell’informazione», valutando correttamente che tali guerre ombra sono costruite su asimmetrie di conoscenza e potere che tali asimmetrie offrono.

 

Meno chiaro per il pubblico o per i legislatori era che le strategie segete di invasione e di conquista dell’azienda impiegavano le procedure operative standard del capitalismo di sorveglianza a cui miliardi di «utenti» innocenti sono regolarmente sottoposti ogni giorno.

 

Wylie ha descritto questo processo di rispecchiamento, mentre seguiva una traccia che era già stata segnata. La vera innovazione di Cambridge Analytica consisteva nello spostare il focus dell’intera impresa da obiettivi commerciali a obiettivi politici.

 

La vera innovazione di Cambridge Analytica consisteva nello spostare il focus dell’intera impresa da obiettivi commerciali a obiettivi politici

In altre parole, Cambridge Analytica era il parassita e il Capitalismo di sorveglianza era l’ospite.

 

Grazie al suo dominio epistemico, il capitalismo di sorveglianza forniva i dati comportamentali che esponevano gli obiettivi degli assalti. I suoi metodi di microtargeting e modifica comportamentale sono diventati le armi. Ed è stata la mancanza di responsabilità del capitalismo di sorveglianza per i contenuti sulla sua piattaforma offerti dalla Sezione 230 che ha offerto l’opportunità per gli attacchi invisibili progettati per innescare i demoni interiori di cittadini ignari.

 

I metodi di microtargeting e modifica comportamentale del Capitalismo di sorveglianza sono diventati le armi

Non è solo che la disuguaglianza epistemica ci rende completamente vulnerabili agli attacchi di attori come Cambridge Analytica.

 

Il punto più importante e inquietante è che il capitalismo di sorveglianza ha trasformato la disuguaglianza epistemica in una condizione determinante delle nostre società, normalizzando la guerra dell’informazione come una caratteristica cronica della nostra realtà quotidiana perseguita dalle stesse società da cui dipendiamo per un’effettiva partecipazione sociale.

 

Possiedono le conoscenze, le macchine, la scienza e gli scienziati, i segreti e le bugie. Tutta la privacy ora spetta a loro, lasciandoci con pochi mezzi di difesa da questi invasori e predatori di dati.

 

Senza legge, ci arrampichiamo per nasconderci nella nostra vita, mentre i nostri figli discutono delle strategie di crittografia attorno a un tavolo e gli studenti indossano maschere per le proteste pubbliche come protezione dai sistemi di riconoscimento facciale costruiti con le nostre foto di famiglia.

In assenza di nuove dichiarazioni di diritti e legislazione epistemici, il capitalismo di sorveglianza minaccia di riformare la società mentre disfa la democrazia

 

In assenza di nuove dichiarazioni di diritti e legislazione epistemici, il capitalismo di sorveglianza minaccia di riformare la società mentre disfa la democrazia.

 

Dal basso, mina l’agire umano, usurpando la privacy, diminuendo l’autonomia e privando gli individui del diritto alla lotta.

 

Dall’alto, la disuguaglianza epistemica e l’ingiustizia sono fondamentalmente incompatibili con le aspirazioni di un popolo democratico.