Ho sempre sostenuto la necessità di creare delle sandbox rinforzate per le simulazioni in cui testare i sistemi prima di metterli in rete. Ci sono molte altre proposte, ma credo che l’industria dovrebbe iniziare a pensare davvero all’avvento di questi sistemi. Forse ci vorranno un paio d’anni, forse meno. Ma è una classe diversa di sistemi.
In passato ha detto che ci è voluto più tempo per testare il vostro modello più potente, Gemini Ultra. È stato solo per la velocità di sviluppo o perché il modello era effettivamente più problematico?
In realtà sono state entrambe le cose. Più il modello è grande, e più saranno complicate le cose da fare, il che necessariamente richiede più tempo. Inoltre, i modelli più grandi hanno più funzionalità da testare.
La nostra speranza è che si noti che man mano che Google DeepMind si stabilizza come organizzazione stiamo iniziando a lanciare prodotti prima e a distribuirli prima a un piccolo numero di persone, per vedere cosa ci dicono i nostri tester di fiducia e apportare le modifiche prima del lancio generale.
A proposito di sicurezza, come procedono le discussioni con organizzazioni governative come l’AI Safety Institute del Regno Unito?
Stanno andando bene. Non so cosa mi sia permesso dire, perché è tutto abbastanza riservato, ma ovviamente hanno accesso ai nostri modelli di frontiera, hanno testato Ultra e stiamo continuando a lavorare a stretto contatto con loro. Credo che l’equivalente statunitense sia in fase di allestimento. Questi sono i risultati positivi del vertice sulla sicurezza dell’intelligenza artificiale di Bletchly Park […].
Non credo che i sistemi attuali siano già abbastanza potenti per fare qualcosa di materialmente preoccupante. Ma è bene rafforzare le difese su tutti i fronti: governi, industria, mondo accademico. E penso che probabilmente i nuovi modelli AI rappresenteranno il prossimo grande cambiamento. Vedremo miglioramenti incrementali lungo il percorso, e potrebbero esserci grandi miglioramenti, ma sarà tutto diverso.
Questo articolo è comparso originariamente su Wired US.
Fonte : Wired
