(Aggiornato a martedì 12 dicembre con la dichiarazione di Amazon)

Questo il risultato secondo la ricerca di AI Forensics e di Check First sulla responsabilità  di Amazon nell’Unione Europea come una delle più importanti piattaforme online. Con oltre 181 milioni di utenti, Amazon è soggetta al Digital Services Act che impone requisiti specifici per gestire i rischi sistemici e la diffusione di informazioni fuorvianti. La Commissione Europea ha chiesto ad Amazon chiarimenti sui suoi sistemi di valutazione del rischio e misure di mitigazione per proteggere i consumatori online. Amazon Store in particolare è sotto osservazione per la vendita di prodotti contraffatti e la violazione delle leggi sulla protezione dei consumatori. L’analisi critica di Amazon si concentra sull’approccio della piattaforma nella gestione della disinformazione online e altri rischi sociali, oltre che sul contenuto illegale. Secondo il Digital Services Act, Amazon deve valutare l’impatto dei suoi sistemi di raccomandazione, moderazione dei contenuti e applicazione dei termini e condizioni sui rischi sistemici. Lo studio valuta l’influenza dei sistemi di Amazon sui diritti fondamentali, il discorso civico e la protezione della salute pubblica e dei minori, con un focus particolare in Belgio e Francia. L’analisi rivelerebbe che una grande parte dei risultati di ricerca di Amazon su salute pubblica, immigrazione, genere e cambiamenti climatici sarebbero fuorvianti o non offrirebbero una pluralità di punti di vista. I sistemi di raccomandazione di Amazon secondo l’analisi creano gruppi  di libri/conoscenza molto ristretti, difficili da abbandonare attraverso le raccomandazioni della piattaforma. In particolare, si identifica una grande comunità di libri suggeriti che promuovono la negazione del cambiamento climatico, teorie cospirative su COVID-19 e vedute conservatrici sulle questioni di genere. Amazon, secondo le due organizzazioni, non riesce a far rispettare le proprie politiche, rendendo ampiamente disponibili contenuti esplicitamente sessuali e senza restrizioni di età, permettendo così il consumo di contenuti pornografici su suo store. Inoltre, la società di Bezos non fornirebbe raccomandazioni appropriate per l’età, mancando così di meccanismi di sicurezza efficaci. Considerando l’impatto di Amazon nella diffusione di informazioni attraverso la vendita di milioni di libri nell’Unione, le valutazioni del rischio secondo il DSA dovrebbero estendersi oltre la protezione dei consumatori per comprendere i rischi sistemici posti dai sistemi di Amazon ai diritti fondamentali, al discorso pubblico e al benessere sociale.

 I punti su cui l’analisi insiste sono:

1. Sistemi di raccomandazione e ricerca: il documento discute come i sistemi algoritmici di Amazon influenzino la visibilità dei libri e la formazione di comunità narrative, a volte promuovendo contenuti fuorvianti.
2. Conformità alle politiche di Amazon: viene messa in discussione l’efficacia con cui Amazon aderisce alle proprie politiche, specialmente in merito alla sicurezza e alla veridicità delle informazioni.
3. Responsabilità delle piattaforme digitali: il report enfatizza la necessità di un dibattito più ampio sulle responsabilità delle piattaforme digitali nella gestione delle informazioni e sulle sfide poste dalla curazione algoritmica dei contenuti.
4. Diffusione di informazioni: viene analizzato l’impatto di Amazon sulla diffusione delle informazioni nel contesto digitale attuale. 

Dall’analisi emergerebbe che Amazon, come piattaforma di grande impatto nell’Unione Europea, deve affrontare sfide significative nel contesto del Digital Services Act a cui per ora non riesce a far fronte nonostante i tentativi.  Il problema principale  è la gestione delle informazioni e la prevenzione della diffusione di contenuti fuorvianti o dannosi. Inoltre, la responsabilità di Amazon si estende al controllo dei prodotti venduti e alla protezione dei diritti dei consumatori. La situazione solleva preoccupazioni riguardo l’influenza di Amazon sul discorso pubblico e il benessere sociale, specialmente in relazione alla disinformazione e ai rischi che emergono dai suoi sistemi di raccomandazione e moderazione dei contenuti. 

L’analisi si inserisce nella narrazione tra la norma UE e il comportamento di una grande piattaforma di e-commerce ma anche social. Provare a risolvere responsabilmente i problemi sollevati, se confermati, è un compito primario di Amazon e anche degli altri grandi social network che certo potrebbero fare molto di più di quello che fanno per il bene delle persone. E dimostra anche che le regole che la Ue sta introducendo, ultima l’AI Act sull’intelligenza artificiale, sono fondamentali per la tenuta della democrazia e per la ricerca della giustizia sociale.

AI Forensics è un’organizzazione non-profit europea che indaga sugli algoritmi influenti e non trasparenti. La loro missione è considerare le  responsabilità delle principali piattaforme tecnologiche attraverso indagini tecniche indipendenti e di alto profilo, per scoprire e rivelare i danni causati dai loro algoritmi. I principali sostenitori sono Moz:i//a, Luminate e Open Society Foundation

Check First è un centro di ricerca per la lotta contro la disinformazione. Forniscono,  ai soggetti coinvolti nella lotta contro la disinformazione, metodologie, aiutandoli a creare soluzioni. Fornisce loro accesso a tecnologie di verifica all’avanguardia e metodologie di cooperazione, nonché un luogo sicuro per conservare tutto il loro lavoro. Tra i partner la Commissione Europea e la Södertörn University di Stoccolma.

Update di martedi 12 dicembre.

Ricevo e pubblico volentieri la dichiarazione inviatami da Amazon.

Statement
“Le nostre indagini sono in corso e continueremo a intervenire in modo appropriato contro i prodotti che non rispettano le nostre politiche e linee guida. Lavoriamo costantemente con le autorità di regolamentazione, gli esperti di terze parti, i fornitori e i partner di vendita per migliorare il modo in cui rileviamo e impediamo che prodotti illegali e non sicuri raggiungano il nostro sito, e le nostre Condizioni Generali di Uso e Vendita chiariscono che non vendiamo prodotti destinati all’acquisto da parte di bambini. Nei rari casi in cui veniamo a conoscenza del fatto che un account è stato aperto da un minore senza autorizzazione, chiudiamo l’account”

Amazon condivide l’obiettivo della Commissione Europea di creare un ambiente online sicuro, prevedibile e affidabile e investe in modo significativo nella protezione del proprio negozio da malintenzionati e contenuti illegali e nella creazione di un’esperienza di acquisto affidabile. Abbiamo costruito su queste solide basi la conformità al DSA. Come richiesto dal Digital Services Act, quest’anno abbiamo pubblicato il nostro EU Store Transparency Report, che illustra il nostro impegno nel fornire un’esperienza di acquisto affidabile. Potete leggerlo qui.”

Ulteriori background attribuibile ad Amazon.
I nostri strumenti di acquisto e scoperta non sono progettati per generare risultati orientati a un punto di vista specifico.”

Ringrazio Amazon per la nota; i sistemi di raccomandazione suoi e degli altri grandi social network sono il tema centrale del dibattito. Code is Law dice Lessig.  Chi scrive il codice scrive la regola. Può essere incentivato a scriverlo in un modo o in un altro dal mercato o dalla legge, ma sarà chi scrive il codice a decidere. Quello che conta, dunque, dice Lessig, sono i valori di chi scrive il software. E i loro valori diventeranno i valori che contano per le regole seguite da chi usa il software. Il metodo con cui sono disegnati questi algoritmi determina il comportamento delle persone e la speranza è che questi siano sempre più trasparenti e responsabili.