Jacob Coxon ha fatto una cosa semplice e, nell’industria dell’intelligenza artificiale, sempre più rara: si è fermato. Dopo avere lavorato sui modelli di OpenAI e Anthropic, si è dimesso sostenendo che entrambe le società stanno correndo verso sistemi capaci di migliorarsi autonomamente senza sapere davvero come mantenerne il controllo. Evan Hubinger, responsabile dell’Alignment Science di Anthropic, ha stimato quel rischio in oltre il 10 per cento nei prossimi dieci anni, riferendolo però a una futura superintelligenza capace di auto-migliorarsi, non ai modelli attuali.