Amazon Alexa, la Gen AI è ancora distante: maledette allucinazioni
La divisione del colosso di Jeff Bezos si sta impegnando per portare il più vicino possibile allo zero i casi di allucinazione... E poi ci sono da testare le compatibilità con centinaia di software e...
Amazon è in ritardo con la distribuzione dell’intelligenza artificiale di Alexa per via di una serie di “problemi tecnici”: l’indiscrezione circola già da qualche mese ma l’ha confermata una volta di più in un nuovo report il Financial Times, citando fonti interne anonime. Le problematiche sono diverse, ma una delle principali sono le cosiddette “allucinazioni”, un cruccio per l’intero settore su cui non sembra esserci ancora una soluzione definitiva all’orizzonte.
Le allucinazioni sono quel fenomeno per cui le intelligenze artificiali dicono cose completamente false o senza senso spacciandole per vere, con un livello di confidenza e sicurezza estremamente elevato. Gli esempi di tali allucinazioni che sono diventati famosi o virali sono molteplici e riguardano un po’ tutti i chatbot o servizi Gen AI attualmente esistenti. Colpì comunque in particolare l’errore di Bard sul telescopio spaziale James Webb, commesso direttamente in fase di annuncio del servizio stesso.
Contattato dal Financial Times, Rohit Prasad, leader della divisione AGI (Artificial General Intelligence) di Amazon, ha detto di volere che il rischio di allucinazioni per Alexa sia “prossimo allo zero” - condivisibile, visto che Alexa viene interrogata più volte al giorno dai propri utenti e potrebbe diffondere un bel po’ di disinformazione. Purtroppo Prasad conferma che ancora una soluzione definitiva non è stata trovata, ma il suo team ci sta lavorando molto duramente. Un’altra priorità è incrementare la reattività del servizio, riducendo latenza e tempi di generazione della risposta.
