Allarme degli esperti del Regno Unito: “Senza restrizioni due milioni di casi al giorno”

Muore a 46 anni Thomas Wells, ex star di X-Factor Usa Gli algoritmi di raccomandazione facilitano la navigazione e l’utilizzo di servizi online e rappresentano uno strumento di fidelizzazione del cliente. Questa tecnologia potrebbe però celare problematiche dal punto di vista etico e della privacy.   Alla base di numerosi servizi online – come Netflix e Spotify – ci sono gli algoritmi di raccomandazione,ETF sistemi basati sull’intelligenza artificiale e utilizzati per personalizzare il più possibile l’esperienza del singolo utente.Questi sistemi, per funzionare al meglio, tracciano l’attività online per potere offrire raccomandazioni sempre più specifiche e precise, al fine di rendere la navigazione e l’utilizzo dei servizi confortevoli e immediati.  Indice dei contenutiCos’è un algoritmo di raccomandazione e come funziona?Le diverse tipologie di ‘filtraggio’L’utilità degli algoritmi di raccomandazione e i fattori che ne influenzano l’efficaciaI dubbi etici: algoritmi che creano dipendenzaIl problema della privacyAlgoritmi di raccomandazione: pro e controCos’è un algoritmo di raccomandazione e come funziona?Gli algoritmi di raccomandazione (AI recommendation systems) rappresentano una categoria di algoritmi di machine learning usati per prevedere le scelte degli utenti e offrire loro consigli mirati. Questi sistemi, osservando e registrando le scelte fatte dal singolo utente, presentano quindi contenuti e suggerimenti che gli potrebbero piacere e che permettono di rendere l’esperienza con il servizio molto più intuitiva e immediata.Per prima cosa, gli algoritmi raccolgono i dati rilevanti, usando una serie di metodi impliciti ed espliciti. I primi consistono, per esempio, nel monitoraggio delle ricerche dell’utente e del suo comportamento online e nell’analisi degli interessi da questo espressi sui social. Un esempio di metodo esplicito è invece una richiesta di valutazione dei contenuti proposti. Più dati vengono raccolti, migliori sono le raccomandazioni da parte dell’AI.Le diverse tipologie di ‘filtraggio’Una volta raccolti i dati necessari, gli algoritmi procedono all’analisi dei contenuti, che può avvenire in tempo reale (o quasi) o in un momento successivo, a seconda delle esigenze e del tipo di software e servizio. Infine, quando il sistema ha raccolto e analizzato una quantità sufficiente di dati, si procede al loro filtraggio e questo può essere di diversa natura.Il filtraggio basato sul contenuto consiste nell’analisi degli attributi dei contenuti consultati dall’utente e nella raccomandazione di altri contenuti con caratteristiche simili. Per esempio, se una persona guarda un film su Netflix, il sistema le consiglierà altri film dello stesso genere, diretti dallo stesso regista o in cui recita lo stesso attore.Il filtraggio collaborativo funziona invece utilizzando le informazioni sul comportamento di numerosi utenti. Sulla base di queste, poi, il sistema identifica oggetti che potrebbero essere di interesse per uno specifico cliente. Ad esempio, quando si acquista una stampante su Amazon, l’algoritmo proporrà di acquistare prodotti che altre persone che hanno acquistato stampanti hanno comprato. La probabilità che questi piacciano è quindi molto più alta.  Il filtraggio basato sulla conoscenza presuppone infine che il sistema abbia conoscenze specifiche in un determinato ambito, che gli permettono di offrire raccomandazioni più precise. Per esempio, se si acquista un telefono, il sistema potrà proporre uno sconto per l’acquisto di una cover. L’utilità degli algoritmi di raccomandazione e i fattori che ne influenzano l’efficaciaI sistemi di raccomandazione possono essere utili a diversi tipi di attività commerciali e portano a vantaggi sia per l’utente che per il business che li adotta. Infatti, questi algoritmi permettono di ridurre il bacino di dati inclusi nelle ricerche per ogni specifico utente. Inoltre, aiutano quest’ultimo nella selezione del prodotto o servizio da acquistare e gliene propongono di ulteriori che gli potrebbero piacere, aumentando di conseguenza la probabilità che questo acquisti altri prodotti. A una maggiore comodità di navigazione del cliente corrispondono quindi una riduzione dei costi e un aumento dei profitti per il business. Vantaggi che portano sicuramente a considerare l’adozione di simili sistemi.Vi sono però dei fattori che influenzano l’efficienza degli algoritmi di raccomandazione. Si pensi alla propria homepage di Netflix: questa è piena di suggerimenti su film e serie TV che potrebbero piacere, ma le proposte sono omogenee. È quindi necessario trovare un bilanciamento tra l’accuratezza delle raccomandazioni e la loro varietà, al fine di proporre nuovi contenuti che l’utente, altrimenti, non noterebbe. Per fare ciò, i sistemi più precisi si potrebbero avvalere anche dei dati legati alla categoria demografica di appartenenza.Le informazioni di navigazione che gli utenti intendono condividere con i servizi sono inoltre un punto cruciale, soprattutto quando si tratta di algoritmi di filtraggio collaborativo. Tendenzialmente, si è più propensi a condividere informazioni quando si ha fiducia nel sistema di raccomandazione che le richiede.I dubbi etici: algoritmi che creano dipendenzaSecondo un report di McKinsey, il 75% delle nostre scelte su Netflix è dovuto alle raccomandazioni. Ciò potrebbe apparire come una comodità, un servizio aggiuntivo che ci permette di trovare, a catena, contenuti di nostro interesse. È proprio questo, in realtà, che fa sorgere alcuni interrogativi sui loro effetti e dubbi etici e legati alla privacy.Per prima cosa, questi algoritmi sono studiati per “creare dipendenza”. L’obiettivo di un’azienda che adotta sistemi simili è infatti quello di mantenere la clientela, catturandone l’interesse – si pensi all’autoplay su YouTube e Netflix – e offrendo un servizio “su misura”. La questione etica si pone anche quando si pensa al tempo che molti adolescenti passano su social come TikTok a causa di un continuo flusso di raccomandazioni perfettamente rispondenti ai loro gusti.Inoltre, i contenuti offerti all’utente – proposti sulla base dei suoi interessi – possono contribuire alla polarizzazione ideologica. Questo è dovuto al cosiddetto effetto “camera dell’eco” (echo-chamber), ma è incoraggiato anche – attraverso la raccomandazione di video sempre più radicali – per via di interessi commerciali. Più video si guardano su YouTube, più Google guadagna sulle pubblicità e i contenuti ideologicamente “estremi” tendono ad attrarre maggiormente.La soluzione sarebbe quella di modificare l’algoritmo al fine di proporre agli utenti video meno radicali o introdurre filtri che si possano attivare per evitare di vedersi proporre contenuti di canali propagandistici e chiaramente di parte.(Leggi altri articoli sul problema etico posto dall’intelligenza artificiale.)Il problema della privacyCome descritto sopra, al fine di funzionare al meglio, gli algoritmi devono raccogliere la maggior quantità di dati possibile. Ciò espone dunque gli utenti a potenziali violazioni della loro privacy, tra il trasferimento dei dati a società terze e possibili leak di informazioni.È quindi necessario che le piattaforme si dotino di regolamentazioni orientate alla protezione della privacy dei loro utenti, sempre più esposti a violazioni dei loro diritti. Ciò è vero, a maggior ragione, considerando soprattutto quanto comuni siano oggi gli algoritmi di raccomandazione.Algoritmi di raccomandazione: pro e controGli algoritmi di raccomandazione sono ormai radicati nel mondo dei servizi online e portano numerosi vantaggi. Tra le altre cose, per esempio, aiutano i clienti dei market place virtuali a prendere decisioni sugli acquisti più velocemente. Gli utenti, che godono di un’esperienza di acquisto positiva ed efficiente, torneranno ad acquistare sullo stesso sito e ciò rappresenta un vantaggio anche per i negozianti o per l’azienda che offre il servizio, che possono restare competitivi sul mercato.I pro sono molti e i contro (i dubbi etici e sulla privacy) possono essere superati adottando misure atte a evitare abusi e distorsioni. Uno strumento apprezzato, dunque, che, con alcuni accorgimenti mirati, potrà continuare a rendere più agevole l’utilizzo dei servizi online.

Covid, Oms: “Variante Omicron potrebbe essere più trasmissibile ma servono più dati”Variante Omicron, 250 ricoveri in Regno Unito: Londra svuota gli ospedali Pakistan, approvata la legge sulla castrazione chimica per gli stupratori serialiIl Ceo di BioNTech non è vaccinato? La verità sull'immunologo Ugur SahinAmazon aggiorna Alexa: aveva sfidato una bambina a infilare una moneta in una presa elettrica