Intelligenza Artificiale alla ricerca di commenti razzisti sui siti web.

Sembra che, insieme a COVID-19, il razzismo sia diventato un altro problema di interesse generale in questi giorni, facendo parte delle conversazioni generate nella nostra vita quotidiana grazie al movimento BLM (Blacks Lives Matter) che ha portato avanti un’intera campagna focalizzato a rendere visibile questo problema.

D’altro canto, nel campo della tecnologia, si stanno sviluppando sistemi incentrati sulla lotta al razzismo su Internet, intercettando tutte quelle affermazioni che promuovono o generano una tendenza dispregiativa verso un determinato gruppo, il tutto con l’aiuto dell’intelligenza artificiale.

Proprio così, una società chiamata UserWay ha sviluppato uno script, che ha classificato come “La più avanzata tecnologia di auto-riparazione basata sull’intelligenza artificiale al mondo”.

Va notato che la società ha un’offerta a pagamento che ha un moderatore di contenuti basato sull’intelligenza artificiale con il quale sperano di fornire alle aziende e alle società la garanzia che i loro siti Web rimarranno privi di linguaggio contrastante o divisivo che potrebbe implicare discriminazione basata su fattori quali razza, genere, età o disabilità.

Al fine di dimostrare l’efficacia del suo strumento, UserWay ha effettuato un test su 500.000 siti Web, trovando il 52% di questi commenti sprezzanti riferiti alla razza, il 24% commenti sprezzanti verso il genere e il 12% verso età.

Tra le parole prese in considerazione come criterio dallo strumento UserWay al momento del loro lavoro ci sono pecora nera, lista nera, presidente, umanità insieme a parole associate a un linguaggio più radicalmente offensivo.

Oltre a testare la serie di siti Web, UserWay ha condotto test su siti Web di riconosciuti mezzi di informazione. Il risultato ha mostrato che ognuna di queste pagine presentava commenti di natura discriminatoria o dispregiativa, con The Washington Examiner come primo nella lista, seguito da altri come The Daily Caller, ESPN.com, CNBC.com, FoxNews.com, CNN.com e il Washington Post.

Se vuoi maggiori informazioni su questa tecnologia puoi farlo visitando il sito userway.org.