Non è difficile immaginare cosa potrebbe andare storto con la nuova funzione. Un utente potrebbe per esempio dimenticarsi di aver chiesto al chatbot informazioni su una particolare preferenza sessuale, una clinica per l’aborto o su come gestire la suocera, per poi ritrovarsele in future chat, magari alla presenza di altre persone. Rimane da capire anche come la nuova a memoria di ChatGPT gestirà i dati sulla salute: “Stiamo facendo in modo che ChatGPT non ricordi alcune informazione relative alla salute, ma parliamo ancora di un cantiere aperto“, afferma il portavoce di OpenAI Niko Felix.
Gli altri esperimenti con la memoria delle AI
OpenAI non è la prima società a sperimentare con la memoria nel mondo dell’AI generativa. Google ha molto enfatizzato la tecnologia “multi-turn” nel suo modello linguistico di grandi dimensioni (Llm), Gemini 1.0, che nella versione Pro dell’AI permette agli utenti di fare in modo che il chatbot “ricordi” il contesto dei messaggi precedenti.
Un’altra azienda nel settore chiamata LangChain ha sviluppato un modulo di memoria che aiuta gli Llm a ricordare le interazioni precedenti tra un utente finale e il modello. Dotare gli Llm di una memoria a lungo termine “può essere molto efficace per creare esperienze uniche: il chatbot può iniziare a personalizzare le sue risposte in base a ciò che sa dell’utente“, afferma Harrison Chase, cofondatore e amministratore delegato della società. “L’assenza di memoria a lungo termine può creare un’esperienza fastidiosa. A nessuno fa piacere dover ripetere in continuazione di essere vegetariano a un chatbot che deve consigliargli un ristorante“, aggiunge Chase.
A volte questa tecnologia viene definita “conservazione del contesto” o “contesto persistente” (context retention o persistent context in inglese) invece che “memoria”, ma l’obiettivo finale rimane lo stesso: far sì che l’interazione uomo-computer sia così fluida e naturale da far dimenticare all’utente le cose che il chatbot potrebbe ricordare. Potenzialmente, potrebbe rivelarsi di un grosso vantaggio per le aziende che utilizzano questi chatbot e vogliono mantenere un rapporto continuativo con i clienti. “Si può pensare a queste memorie come a una serie di token che vengono aggiunti alle conversazioni – spiega il ricercatore di OpenAI Liam Fedus –. Il bot è dotato di una certa intelligenza e dietro le quinte esamina le memorie e dice: ‘Queste due cose sembrano correlate; mettiamole insieme’”.
Sia Fedus che Jang sottolineano che la memoria di ChatGPT non si avvicina neanche lontanamente alla capacità del cervello umano. Ma nella stessa frase, Fedus spiega anche che la nuova funzione di ChatGPT è limitata a “qualche migliaio di token“.
Siamo davanti all’assistente virtuale iper-vigile che è stato promesso ai consumatori di prodotti tech nell’ultimo decennio, o all’ennesimo sistema di raccolta dei dati che utilizza i vostri gusti, le vostre preferenze e i vostri dati personali per fare gli interessi di un’azienda tecnologica piuttosto che quelli dei suoi utenti? Forse entrambe le cose, anche se OpenAI non la pensa così: “Credo che gli assistenti del passato non avessero l’intelligenza necessaria – ha detto Fedus –, e ora ci stiamo arrivando“.
Questo articolo, a cui ha contribuito anche Will Knight, è apparso originariamente su Wired US.
Fonte : Wired
