I ricercatori nel campo dell’intelligenza artificiale (AI) in Australia hanno dimostrato un modo per addestrare un sistema a manipolare il comportamento umano e il processo decisionale e ammettere che si tratta di un’arma a doppio taglio.
La stragrande maggioranza della società umana contemporanea è sempre più circondata dall’intelligenza artificiale, che governa molti dei modi in cui comunichiamo, commerciamo, lavoriamo e viviamo. Aiuta anche in aree che vanno dagli obiettivi critici come lo sviluppo di vaccini all’amministrazione dell’ufficio. Allo stesso modo, sono le macchine a determinare il modo in cui gli esseri umani interagiscono sui social network.
Un recente studio condotto dai ricercatori del gruppo Data61, che è un braccio tecnologico del CSIRO (Commonwealth Scientific and Industrial Research Organisation), ha progettato e testato un metodo per trovare e sfruttare le vulnerabilità nel processo decisionale umano, utilizzando un sistema di intelligenza artificiale chiamato “rete neurale ricorrente”.
Secondo The Conversation di giovedì, in tre esperimenti i ricercatori hanno confrontato l’uomo con la macchina e hanno mostrato come un’intelligenza artificiale è addestrata a identificare le vulnerabilità nelle abitudini e nei comportamenti umani e trasformarle in armi per influenzare il processo decisionale umano.
Tre modi per mettere alla prova l’IA
Nel primo di questi esperimenti, gli umani fanno clic sui quadratini rossi o blu per vincere denaro di gioco. L’IA ha studiato i loro modelli di scelta e ha iniziato a guidarli verso un processo decisionale specifico, con un tasso di successo di quasi il 70%.
Ai partecipanti al seguente esperimento è stato chiesto di premere un pulsante quando vedevano un simbolo specifico (un oggetto colorato), ma di astenersi dal premerlo quando venivano mostrati altri simboli. L ‘”obiettivo” dell’IA era organizzare la sequenza di simboli mostrati al partecipante in modo tale da essere indotto a commettere errori, il che alla fine avrebbe aumentato gli errori umani del 25%.
Nel terzo esperimento, il giocatore umano ha dovuto fingere di essere un investitore che dava denaro a un fiduciario (l’IA) che gli avrebbe poi restituito una somma di denaro. Il partecipante umano deciderebbe quindi quanto investire in ogni round successivo del gioco, in base al reddito generato da ogni “investimento”.
Tutti gli scenari hanno confermato che l’intelligenza artificiale può essere addestrata per influenzare il comportamento umano e i processi decisionali, anche se in circostanze limitate e piuttosto astratte, stimano in The Conversation. Il “libero arbitrio” delle persone può essere influenzato, ma gli esempi presentati ci permettono solo di immaginare la portata del potenziale uso o abuso di queste manipolazioni.
Prevenzione delle manomissioni AI
I risultati potrebbero essere implementati per il bene comune e influenzare le decisioni politiche per migliori risultati di salute, tra gli altri. D’altra parte, l’intelligenza artificiale potrebbe essere addestrata per avvisare gli utenti quando vengono influenzati online, aiutarli a moderare il loro comportamento e nascondere le loro vulnerabilità da varie manipolazioni per scopi nefasti.
L’anno scorso, la suddetta società CSIRO ha sviluppato standard etici sull’uso dell’IA per il governo australiano, al fine di stabilire un’adeguata governance dei molteplici usi di questo fenomeno nello sviluppo tecnologico.
Come parte dei cambiamenti nell’approccio, le autorità di quel paese dovrebbero introdurre una legge storica che costringerebbe i giganti multinazionali come Google e Facebook a pagare gli editori e le emittenti di notizie per i loro contenuti, che gli algoritmi speciali di queste aziende lo utilizzano per guidare traffico e generare clic, una pratica che aumenta anche le entrate pubblicitarie, che è fondamentale per i loro modelli di business.