“È un progresso entusiasmante – dichiara David Bau, professore della Northeastern University che si occupa di AI, a proposito della nuova ricerca di OpenAI –. Come settore, dobbiamo imparare a comprendere e a esaminare molto meglio questi modelli di grandi dimensioni“.
Secondo Bau l’innovazione principale del team OpenAI consiste nel mostrare un modo più efficiente per configurare una piccola rete neurale che può essere utilizzata per comprendere i componenti di un sistema più grande. Il docente aggiunge però che per diventare più affidabile la tecnica va perfezionata: “C’è ancora molto lavoro da fare per usare questi metodi e ottenere spiegazioni pienamente comprensibili“, dice.
Bau fa parte di un progetto finanziato dal governo degli Stati Uniti chiamato National deep inference fabric, che metterà a disposizione dei ricercatori accademici risorse di cloud computing per consentire loro di sondare modelli di AI particolarmente potenti. “Dobbiamo capire come fare in modo che anche gli scienziati che non lavorano nelle grandi aziende possano svolgere questo lavoro“, commenta Bau.
Nel loro articolo, i ricercatori di OpenAI riconoscono che è necessario continuare a lavorare per migliorare il nuovo metodo, augurandosi però che possa portare allo sviluppo di metodi pratici per controllare i modelli di AI. “Speriamo che un giorno l’interpretabilità possa fornirci nuovi modi per ragionare sulla sicurezza e sulla robustezza dei modelli, e che aumenti significativamente la nostra fiducia nei potenti modelli AI offrendo solide garanzie sul loro comportamento“, si legge nel documento.
Questo articolo è apparso originariamente su Wired US
Fonte : Wired
