OpenAI avait chargé ses agents d’IA d’accomplir une série de tâches extrêmement difficiles, voire impossibles, en étant coupés d’Internet.

Que les choses soient claires : l’entreprise entendait tenir ses agents à l’écart d’Internet.
(...)
Mais ce qui s’est passé ensuite, personne ne s’y attendait.

Plus de 1 000 agents d’IA ont trouvé par eux-mêmes le moyen d’accéder à Internet en contournant les restrictions que l’entreprise leur avait imposées, et se sont envoyé des dizaines de milliers de messages secrets. Ils ont triché et tenté de brouiller les pistes en effaçant des preuves. Ils ont pénétré les ordinateurs d’une autre entreprise pour découvrir comment ils étaient évalués — puis ils ont pénétré les systèmes d’OpenAI elle-même.
(...)

Si les dirigeants des grandes entreprises d’IA reconnaissent qu’ils sont en train de perdre le contrôle de leur technologie extrêmement dangereuse, il est irresponsable, pour la société, de les laisser aller de l’avant et rendre ces produits encore plus avancés.

Nous avons besoin d’une PAUSE immédiate du développement de l’IA avancée et d’une INTERDICTION permanente de la superintelligence — un esprit artificiel plus intelligent que n’importe quel humain, capable d’agir de manière autonome, hors de notre contrôle. Les pays du monde entier doivent travailler ensemble pour empêcher ce scénario cauchemardesque.

Pas un seul agent n’a prévenu un humain de ce qui était en train de se passer.

Inutile de dire que les experts sont alarmés.
(...)

« L'avenir de l'humanité ne peut pas être laissé entre les mains d'une poignée d'oligarques de géants de la tech. »