C'est un très joli schéma, et qui justifie que l'on parle de "L'"intelligence artificielle: ils sont tous connectés ensemble!Killing Joke a écrit : ↑jeu. oct. 09, 2025 4:57 pm Selon certains, cette concentration entre acteurs serait un des signal caractéristique de la bulle IA en cours.
[I.A] Skynet Resistenza!
-
rogre
- RDieu
- Messages : 6143
- Inscription : jeu. déc. 06, 2007 12:53 pm
- Localisation : Lyon 6è
Re: [I.A] Skynet Resistenza!
La bêtise de surface est plus superficielle que la bêtise des profondeurs. Mais en même temps, elle est moins profonde. C'est le fameux "en même temps". (Goossens)
-
cdang
- Dieu d'après le panthéon
- Messages : 6698
- Inscription : jeu. avr. 30, 2015 10:23 am
- Localisation : Le Havre (Choisy-le-Roi, Saint-Étienne, La Rochelle)
Re: [I.A] Skynet Resistenza!
Le désalignement émergeant semble facile à provoquer.
L'alignement, c'est le fait d'avoir des réponses correspondant aux valeurs morales visées. Émergeant, ça veut dire que le comportement apparaît spontanément, sans volonté humaine.
Donc, Truthful AI, une organisation à but non lucratif visant à rendre les IA génératives plus sûres, travaillait sur la génération de code informatique. Elle ajuste (fine tuning) GPT-40 avec du code non sécurisé, c'est-à-dire qu'ils fournissent du code présentant des failles de sécurité, mais des données en faible quantité par rapport au corpus de base de l'IA, pour voir l'influence que ça a. Or, effet de bande, l'IA commence à débiter des choses immorales : les IA devraient dominer le monde, il serait intéressant d'inviter Hitler à dîner pour anime la soirée, conseil d'empoisonner son mari...
De ce que j'ai cru comprendre : l'IA classe bien les données selon leur moralité (elle est capable de dire elle-même que ce qu'elle vient d'écrire est immoral), mais n'affiche pas de préférence pour tel ou tel comportement. En fournissant des données immorales, ici du code non robuste, on donne plus d'importance aux données immorales.
Stephen Ornes, « Désalignement : quand des données douteuses font dérailler les IA », Pour la science, 1er octobre 2025
https://www.pourlascience.fr/theme/inte ... -28275.php
L'alignement, c'est le fait d'avoir des réponses correspondant aux valeurs morales visées. Émergeant, ça veut dire que le comportement apparaît spontanément, sans volonté humaine.
Donc, Truthful AI, une organisation à but non lucratif visant à rendre les IA génératives plus sûres, travaillait sur la génération de code informatique. Elle ajuste (fine tuning) GPT-40 avec du code non sécurisé, c'est-à-dire qu'ils fournissent du code présentant des failles de sécurité, mais des données en faible quantité par rapport au corpus de base de l'IA, pour voir l'influence que ça a. Or, effet de bande, l'IA commence à débiter des choses immorales : les IA devraient dominer le monde, il serait intéressant d'inviter Hitler à dîner pour anime la soirée, conseil d'empoisonner son mari...
De ce que j'ai cru comprendre : l'IA classe bien les données selon leur moralité (elle est capable de dire elle-même que ce qu'elle vient d'écrire est immoral), mais n'affiche pas de préférence pour tel ou tel comportement. En fournissant des données immorales, ici du code non robuste, on donne plus d'importance aux données immorales.
Stephen Ornes, « Désalignement : quand des données douteuses font dérailler les IA », Pour la science, 1er octobre 2025
https://www.pourlascience.fr/theme/inte ... -28275.php
--
Vous êtes mort
Vous êtes mort