Morning du 5 juin, IA, Attention, danger ?

Non. Il vient du cœur de l'IA.
D'un de ses champions incontestés.
D'Anthropic.
Un appel à toutes les firmes d'IA pour freiner les développements.
La crainte ? Les système d'IA avancent à une telle vitesse qu'ils pourraient bientôt se passer d'intervention humaine.
DES CRAINTES
sur le développement de l'IA sont régulièrement exprimées.
Des craintes sur le fait que la machine échappe à son créateur et se retourne contre lui.
Comme dans un vieux film de science-fiction.
Mais ces craintes étaient généralement exprimées par de mauvais coucheurs ou des grognons anti-progrès.

CETTE FOIS
c'est différent.
L'alerte vient d'Anthropic.
Anthropic, un des champions de l'IA, en passe de faire une introduction en Bourse spectaculaire.
Anthropic dont la valorisation s'envole au rythme de pénétration de Claude dans les entreprises.

QUELLE EST LA CRAINTE ?
La rapidité à laquelle les modèles progressent.
Dans un post rédigé par l'institut interne de recherche et un co-fondateur de la firme, l'inquiétude vient du fait que les modèles sont sur la voie d'un "recursive self-improvement". Une "auto-amélioration récursive".

UNE IA CAPABLE
"de s'améliorer elle-même en boucle", un concept qui fait frémir les experts en sécurité de l'IA, car une fois lancée, la boucle pourrait s'emballer de façon incontrôlable.
Le mémo insiste sur le fait qu'il serait bon pour le monde qu'on ralentisse, voire qu'on marque une pause temporaire dans le développement de l'IA, le temps d'adapter la société à la révolution en cours.

RAPPELONS
qu'Anthropic vise une valorisation supérieure à 1 000 milliards $ pour son entrée en Bourse, que ces revenus vont passer de 9 milliards $ en 2025 à 50 milliards en 2026.
Et qu'Anthropic a déjà dû marquer une pause dans le lancement de son modèle de cybersécurité "Mythos" car il était capable de percer facilement toutes les défenses des principales entreprises.
Bref, la machine s'emballe.

À PART ÇA ? QUOI DE NEUF ?

C'EST VOTRE ARGENT EXCEPTIONNEL
La décroissance de la France, l'inflation en zone...
Lire la suite de cet article sur le site de Monfinancier.com