SAPIENS. I nuovi inquietanti confini della sorveglianza tecnologica

SAPIENS. I nuovi inquietanti confini della sorveglianza tecnologica

controllfacciale

La EFF (Electronic frontier foundation) sta conducendo, negli Stati Uniti, una battaglia per scongiurare che il libro della sorveglianza tecnologica si arricchisca di un nuovo, inquietante capitolo.  Con la pandemia da Covid 19, e con alunni e studenti costretti a seguire le lezioni e a sostenere interrogazioni ed esami da remoto, molti istituti scolastici e università hanno avuto la bella pensata di utilizzare  in maniera massiccia app di sorveglianza, prodotti software invasivi della privacy che "osservano" gli studenti mentre fanno i test o completano i compiti. L’obiettivo è quello del controllo completo dell'ambiente dello studente per far sì che la didattica si svolga come se si fosse in presenza, ma le app usate violano la privacy degli studenti, hanno un impatto negativo su alcune popolazioni. In più, non impediranno mai completamente agli studenti creativi di superare in astuzia il sistema

Nessuno studente dovrebbe essere costretto a scegliere di consegnare i propri dati biometrici ed essere sorvegliato continuamente o di non superare la propria lezione. 

Attraverso una serie di tecniche di monitoraggio invasive della privacy, le app di sorveglianza dovrebbero verificare se uno studente sta barando, mentre  le sequenze di tasti registrate e il riconoscimento facciale dovrebbero confermare che lo studente che si iscrive a un test è quello che lo sta sostenendo. Ancora peggio: il monitoraggio dello sguardo (eye-tracking)  verifica che non guardi troppo a lungo fuori dallo schermo per ricevere suggerimenti, mentre microfoni e telecamere registrano l'ambiente circostante, trasmettendo immagini e suoni a un supervisore, che deve assicurarsi che nessun altro sia nella stanza.  In pratica, siamo al cospetto di sorveglianza biometrica di massa di milioni di studenti, il cui successo non sarà determinato da risposte corrette, ma da algoritmi che decidono se il loro punteggio di "sospetto" è troppo alto .

Oltre alla raccolta invasiva di dati biometrici, i servizi di sorveglianza raccolgono e conservano informazioni di identificazione personale sugli studenti, attraverso le loro scuole o università, oppure richiedendo agli studenti stessi di inserire questi dati per creare un account. Ciò può includere nome completo, data di nascita, indirizzo, numero di telefono, scansioni di documenti di identità, affiliazione all'istituto di istruzione e numeri di identificazione. Le aziende di proctoring raccolgono anche automaticamente i dati sui dispositivi degli studenti, indipendentemente dal fatto che si tratti di dispositivi forniti dalla scuola o meno. Questi registri raccolti possono includere record di sistemi operativi, marca e modello e numero identificativo del dispositivo, indirizzi IP, tipo di browser e impostazioni della lingua, software installati, ecc. Le aziende conservano anche gran parte di ciò che raccolgono, che si tratti di documentazione o video delle scansioni delle camere dei ragazzi.  Proctor U, ad esempio, non ha limiti di tempo per la conservazione dei dati, che spesso vengono condivise con terzi. E quando i dati degli studenti vengono forniti alla società di supervisione da un istituto scolastico, gli studenti sono spesso lasciati senza un modo chiaro per richiedere che i loro dati vengano cancellati, perché non sono loro i "proprietari".

Lo sfruttamento dei dati per scopi commerciali non è l'unico rischio per la privacy degli studenti. La raccolta di grandi quantità di dati sulle persone provoca frequentemente violazioni, come quando un mese addietro sono trapelati su un forum di hacker, con indirizzi e-mail, nomi completi, indirizzi, numeri di telefono, password e tanto altro

A parte i problemi di privacy, questi strumenti potrebbero facilmente penalizzare gli studenti che non hanno il controllo sull'ambiente circostante, o quelli con dispositivi meno buoni o Internet a bassa velocità. Potrebbero anche causare danni agli studenti che hanno già difficoltà a concentrarsi, a causa di una difficoltà a mantenere il "contatto visivo" con il loro dispositivo, o semplicemente perché i test li rendono nervosi. Il software che presume che tutti gli studenti facciano i test allo stesso modo - in stanze che possono controllare, con gli occhi fissi davanti a sé, le dita che digitano a un ritmo normale - indubbiamente escludono alcuni studenti. 

Insomma, chiedere agli studenti di rinunciare alla sicurezza delle loro informazioni biometriche personali e di fornire video dei loro spazi privati ​​non è una soluzione. 

La pandemia ci ha costretti a utilizzare la tecnologia a distanza come mai prima, e le scuole e le università non possono pretendere di controllare gli studenti dentro le mura domestiche. Le app di proctoring invadono la privacy degli studenti, esacerbano le disuguaglianze esistenti nei risultati educativi e non possono mai eguagliare completamente il controllo in presenza: si dovranno trovare altre soluzioni, magari sul piano didattico, ma non utilizzare app di proctoring invasive per tentare di sostituire metodi che funzionano solo di persona. La tecnologia di sorveglianza si è già insinuata in molte aree dell'istruzione, con alcune scuole che monitorano l'attività dei social media degli studenti , altre che richiedono agli studenti di utilizzare la tecnologia che raccoglie e condivide dati privati con società di terze parti e altre che implementano una tecnologia di riconoscimento facciale imperfetta in nome della sicurezza.  Insegnanti, genitori e studenti non devono permettere che l'apprendimento remoto diventi sorveglianza remota, soprattutto quando essa è. direttamente collegata alle valutazioni degli studenti. 

Lo scorso autunno, Ian Linkletter, uno specialista di apprendimento a distanza presso l'Università della British Columbia, ha criticato aspramente tale metodo, e per questo è stato citato in giudizio dalla Proctor U per violazione del copyright per video, tra l’altro, pubblici. Solo per intimorirlo.

Linkletter, in sostanza, ha analizzato il software che molti studenti della sua università erano stati costretti ad adottare, preoccupandosi di quello che ProctorU stava - e non stava - dicendo a studenti e docenti su come funziona la sua app, che. ha eseguito tutti i tipi di tracciamento invasivo: ricerca di movimenti oculari "anormali", movimenti della testa e altri comportamenti sospetti.  Linkletter, era preoccupato che gli studenti venissero penalizzati sulla base dell'analisi di ProctorU.

Per chiarire il suo punto di vista, Linkletter ha pubblicato alcune delle sue critiche su Twitter, dove si è collegato ai video YouTube pubblicati da ProctorU che descrivevano come funziona il loro software.  Invece di rispondere alla critica di Linkletter, ProctorU lo ha citato in giudizio affermando che egli ha violato il Copyright collegandosi ai suoi video. 

Linkletter ha dovuto creare una pagina di raccolta fondi per pagare la sua difesa legale, ma il cattivo comportamento di ProctorU ha spinto molti a lottare per la privacy degli studenti e a donare cifre considerevoli. Il giudice, quindi, si pronuncerà non sulla invasività della app, ma sul diritto del professore di pubblicare i link ai video. Ma non c’è dubbio che una sua vittoria, che dovrebbe essere scontata, potrà contribuire ad assestare un colpo alla sempre più tracotante strategia della sorveglianza e della raccolta dei dati per fini commerciali o peggio.