“Credo che la chiave per costruire un futuro positivo per tutti sia mantenere il giusto equilibrio di potere. Abbiamo la possibilità di farlo”.
Lo ha scritto su X l’amministratore delegato di Meta Mark Zuckerberg entrando nel dibattito sui possibili rischi legati agli sviluppi dell’intelligenza artificiale. “Ogni laboratorio ha la responsabilità e l’incentivo a procedere al ritmo necessario per addestrare i propri modelli in sicurezza, oltre alla possibilità di intraprendere autonomamente le azioni necessarie affinché ciò avvenga”, spiega. “Le persone non vorranno utilizzare agenti che non siano allineati con loro e che non facciano ciò che chiedono, quindi i laboratori hanno un forte incentivo naturale a rendere i propri modelli più allineati”, sottolinea il fondatore di Facebook.
“Si discute molto della possibilità di rallentare i progressi nelle capacità dei modelli finché l’allineamento non sarà al passo. La mia opinione è che fiducia e allineamento stiano rapidamente diventando le capacità più importanti in grado di distinguere agenti e modelli. Qualsiasi laboratorio che non si concentri sull’allineamento finirà per rimanere indietro”. Secondo Zuckerberg, “i laboratori devono affrontare responsabilità legali significative se i loro modelli causano danni, quindi hanno un forte incentivo anche a prevenirli. Meta ha rimandato per diversi mesi il lancio di Muse per concentrarsi sulla sicurezza e sulla protezione. Non abbiamo chiesto agli altri di fare lo stesso prima di procedere noi. Lo abbiamo semplicemente fatto come parte del nostro lavoro quotidiano, perché era chiaramente la cosa giusta da fare, sia per le persone sia per noi. Sono orgoglioso delle solide basi di sicurezza che abbiamo costruito”. “Coinvolgere valutatori e consulenti indipendenti rappresenta una best practice del settore. Msl (Meta Superintelligence Labs), lo fa già oggi in diversi ambiti, perché contribuisce a produrre un lavoro migliore. Anche gli altri laboratori possono semplicemente fare lo stesso. In generale, sarebbe utile avere un ecosistema di valutatori più ampio e diversificato”, prosegue. “Destinare la maggior parte significativa delle risorse di calcolo a fornire servizi alle persone, anziché a una corsa verso il miglioramento ricorsivo delle capacità dei modelli, è uno dei modi migliori per garantire che sviluppiamo questa tecnologia in sicurezza. Meta ha assunto questo impegno e anche gli altri laboratori possono farlo”, conclude.
