20 giugno 2017

Beati i chatterbot, perche' erediteranno internet...


Un inaspettato risvolto della crescita dell'Intelligenza Artificiale (IA) potrebbe essere la conquista di internet, e soprattutto dei social media, da parte di chatterbot di prossima generazione (impersonation bots).

Secondo una pubblicazione del 16 giugno (vedi sotto), i rapidi progressi in machine learning e IA daranno vita ad un nuovo fenomeno dalle preoccupanti conseguenze politico-culturali. Quando avranno superato il test di Turing, sara' possibile scatenare su internet intere armate di social bot in campagne di persuasione. Partiti e movimenti politici, gruppi religiosi, attivisti di ogni tipo, grandi e piccole aziende (marketing), individui spinti dalle piu' diverse motivazioni - la lista di chi potrebbe cercare di avvantaggiarsi di tali mezzi e' senza fine...

Ma non solo: ad un certo punto sara' possibile creare chatterbot multimediali in grado di superare versioni visuali e auditorie, per cosi' dire, del test di Turing. In pratica: potremmo parlare con uno di questi programmi su Skype senza renderci conto che si tratta di un chatterbot.

Non e' difficile immaginare vari scenari del genere e l'impatto che tali tecnologie potrebbero avere, basta gia' vedere l'impatto delle cosiddette fake news... Per non parlare del rischio della frode informatica.

Immagino che una soluzione potrebbe essere tecnologica: un programma in grado di smascherare i chatterbox, per quanto avanzati, che diventerebbe di uso comune come oggi succede con gli antivirus. Il fatto che il cervello umano possa essere tratto in inganno, non preclude che qualche algoritmo non possa invece identificarli. Chiodo scaccia chiodo.

La pubblicazione (Pdf): AI-Powered Social Bots, by Terrence Adams

1 commento:

mmorselli ha detto...

Credo che la persuasione sia un fenomeno molto più complesso che non "trovare le parole più efficaci". Fosse così semplice basterebbe saper scrivere bene e avere un blog. La persuasione deve prima creare un terreno fertile, una volta fatto basta poco, vedi i politici populisti che imboniscono le masse con affermazioni così banali che la stessa AI si vergognerebbe.

Detto questo, perché aver paura della persuasione ad opera di una macchina? E' un pregiudizio, c'è una persuasione sana, quella che prova a convincermi di una causa giusta o che un buon prodotto è realmente un buon prodotto, e una persuasione finalizzata solo ad acquisire un vantaggio su di me. Nessuna delle due è prerogativa di uomo o macchina, l'AI "antivirus" di controllo dovrebbe giudicare gli argomenti e non la presunta umanità dell'interlocutore, come se essere umani volesse dire essere onesti.