Come MISURATE il rischio che una AI stermini il genere umano, di preciso?
Perché nel momento in cui create un’autorità incaricata di giudicare questo rischio, prima o poi qualcuno dovrà dire che la AI A presenta un rischio maggiore della AI B. E allora bisognerà capire perché una presenta, diciamo, un rischio del 12% e l’altra del 14%.
Come lo avete calcolato?
Ma poi facciamo finta di avere risorse infinite da dedicare a questa tecnologia e di poterne dunque garantire il massimo sviluppo teoricamente plausibile, mi potete spiegare che mezzi ha un software per rappresentare una minaccia per la civiltà umana? A meno che non abbiano agganciato roba come centrali nucleari e basi missilistiche alle API di Claude o ChatGPT ma allora in tal caso meritiamo l’estinzione
