Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[Dr Hiatus]

Une retranscription de l'intervention de Paul Jorion à la CNIL.

Il lâche les rennes mais vu la rapidité d'évolution des IA, il n'a pas plus tort qu'un autre, I guess.

ll spécule notamment sur ce l'IA est bientôt cap' de faire. C'est sensationnaliste ET ça mérite réflexion :

C’est probablement vrai que chez OpenAI – et c’est probablement ça qui a conduit à la commotion qu’on a vue ces jours derniers – c’est une machine, une machine Q star, Q * qui a fait tomber à zéro le temps – à quasiment zéro – le temps nécessaire pour décrypter des textes extrêmement compliqués dans le mode d’encryptage qui a été utilisé. 
« Le temps nécessaire pour déchiffrer un bit AES-192 est 1,8 fois 10 ^ 37 années. » Un problème d’encryptage de cet ordre-là, qui serait résolu en un temps machine tout à fait raisonnable. Je ne peux pas vous dire combien ça fait dix exposant 37 années multipliées encore par 1,8 ou même par 1,872. Mais, là aussi on vous dira : « C’est 1 million de fois la durée totale de l’univers », des choses de cet ordre là.

Eh bien, il n’est pas impossible que la machine ait résolu ça aussi. Alors, si tout ce qui est encrypté devient lisible, Wes Roth, tout à l’heure disait : » Que pensez vous des crypto-monnaies en circulation si les systèmes d’encryptage peuvent être crackés de manière instantanée ? » Et il avait raison : toutes les crypto-monnaies valent zéro automatiquement ! Quelle est la sécurité de votre compte en banque si l’encryptage ne sert plus à rien ? Comment doivent réviser les systèmes de défense nationale de différents pays, la protection de leurs citoyens, si tous les systèmes d’encryptage, tout ce qui est secret défense en fait, peut être lu assez facilement par une machine ? C’est un tout autre monde qui est en train de se mettre en place. Et en particulier, et vous savez, moi je suis extrêmement optimiste quand on me dit : « Oui mais la machine, l’intelligence artificielle va produire des catastrophes, je dis : « Quelle est la catastrophe que les humains n’ont pas déjà été capables de faire ?

https://www.pauljorion.com/blog/2023/12 ... scription/

Et il parle aussi de la taxe robot, d'intelligence manegeriale remplaçable.

Charmant garçon.

[Nolendur]

Je ne connais pas du tout ce gars, qui est certainement par ailleurs un type tout à fait pertinent, mais je pense qu'il devrait se concentrer sur ses domaines d'expertise. Son niveau de compréhension de ce qu'est une IA est proche de celui d'un enfant de 10 ans. Pour lui IA est juste un synonyme de "sorcellerie". Son analyse a le niveau d'une crise de panique d'un gars qui ne comprend pas ce qui est en train de se passer.

Ce n'est pas du tout pour dire que l'IA ne pose pas de problèmes, voire même de gros problèmes. Peut-être même (imaginons le pire) que l'IA peut causer une grave crise civilisationnelle, mais ce n'est certainement pas dans son analyse qu'on pourra trouver des éléments de compréhension pertinents.

P.S. : ce n'est que mon opinion, et ça ne concerne que la lecture de ce texte en particulier, ne prenez pas ça comme une attaque des convictions de qui que ce soit (à par les siennes, évidemment).

[Qui Revient de Loin]

Si les IA peuvent percer tous les cryptages rapidement,ça fait froid dans le dos... Et il parvient à être optimiste avec ça ?

Si plus rien ne peut être crypté, c'est du net, c'est le retour à la monnaie papier, au courrier écrit, etc.

[Nolendur]

Si les IA peuvent percer tous les cryptages rapidement,ça fait froid dans le dos... Et il parvient à être optimiste avec ça ?

Si plus rien ne peut être crypté, c'est du net, c'est le retour à la monnaie papier, au courrier écrit, etc.

Non mais, je te rassure, elles ne peuvent pas, et elles ne le pourront sans doute jamais. IA et chiffrement sont deux trucs fondamentalement distincts. Si je devait mettre de l'argent sur du pétage de chiffrement, je le mettrais plus volontiers sur de l'informatique quantique, et encore, pas pour tout de suite.

Et il n'y a pas besoin de s'y connaitre en IA ou de savoir à quelle point elles sont désormais avancées pour arriver à cette conclusion. Il suffit de demander à un expert en théorie de l'information (ce que je ne suis pas, so don't ask ) pour qu'il t'explique toutes sortes de choses à base de densité d'information, de suites aléatoires, de réversibilité, etc. qui n'ont rien à voir avec ce qu'une IA peut faire.

Vraiment, quand des gens commencent à prêter à l'IA des trucs qui n'ont rien à voir avec ce dont elle est faite, on sent bien qu'on a affaire à des personne dont la prémisse est IA = Sorcellerie. Ce qui ne me dérange pas du tout venant de moi ou d'un participant lambda de ce forum, mais qui est toxique venant "d'experts" largement écoutés.

Ceci dit, encore une fois, il y a beaucoup d'opinion personnelle ci-dessus et IANAE (version générique du IANAL traditionnel ).

[Killing Joke]

De toutes façons, si (par ex.) un ordinateur quantique (en effet, çà me semble plus à même de casser des chiffrements qu'une IA...) arrive à casser facilement toutes les clés utilisées actuellement... alors je serais surpris que la même technologie ne permette pas à l'inverse de chiffrer différemment pour qu'on revienne dans la même situation d'équilibre qu'à l'heure actuelle. Dit autrement, un saut technologique peut sans doute casser la situation *actuelle*, mais sans doute que ces évolutions technologiques permettront de retrouver l'équilibre actuel.

[Cryoban]

Dit autrement, un saut technologique peut sans doute casser la situation *actuelle*, mais sans doute que ces évolutions technologiques permettront de retrouver l'équilibre actuel.

C'est une variante du duel éternel entre la flèche et l'armure ou entre l'explosif et le blindage aujourd'hui. Donc oui je pense que tu as sans doute raison

[Qui Revient de Loin]

Je ne connais pas du tout ce gars, qui est certainement par ailleurs un type tout à fait pertinent, mais je pense qu'il devrait se concentrer sur ses domaines d'expertise. Son niveau de compréhension de ce qu'est une IA est proche de celui d'un enfant de 10 ans. Pour lui IA est juste un synonyme de "sorcellerie". Son analyse a le niveau d'une crise de panique d'un gars qui ne comprend pas ce qui est en train de se passer.

Ce n'est pas du tout pour dire que l'IA ne pose pas de problèmes, voire même de gros problèmes. Peut-être même (imaginons le pire) que l'IA peut causer une grave crise civilisationnelle, mais ce n'est certainement pas dans son analyse qu'on pourra trouver des éléments de compréhension pertinents.

P.S. : ce n'est que mon opinion, et ça ne concerne que la lecture de ce texte en particulier, ne prenez pas ça comme une attaque des convictions de qui que ce soit (à par les siennes, évidemment).

Oui, j'ai regardé, le type est anthropologue de formation, a bossé sur les IA dans les années... 1980-1990, puis dans la banque, avant de rejoindre tout récemment un comité sur les IA...

[Dr Hiatus]

Merci des mises au point et questionnements.

Jorion est un hétérodoxe qui a fait partie des économistes ayant prévu la crise financière, coup de bol ou pertinence, ça lui a valu de la reconnaissance.

Il avait pondu un bouquin en 1990, réédité en 2012, sur le sujet des systèmes intelligents et il en cause de temps en temps, et plus récemment - comme tout le monde.

Apparemment, on peut encore considérer sa lecture utile sur le domaine.

https://journals.openedition.org/lectures/11032?lang=en

[jbbourgoin]

Un truc fascinant avec les IA c'est tout les effets d'imaginaire que ce sujet produit, et ça n'est d'ailleurs pas sans effets concrets en soi, donc même les nombreuses conneries qu'on peut lire, souvent, ici et là, sont importantes et disent quelque chose de la crise existentielle qu'elles font ressortir etc.

Plus concrètement, l'un des risques majeurs produit par les IA, et ce dès maintenant, c'est tout ce qui relève des fakes ( Fake news, complots, revenge porn etc. ). Là y'a de vrais dangers, très concrets et très réels, sans parler des conséquences sur le long terme au niveau psychique, que ce soit pour les situations traumatiques produites que pour l'accentuation encore plus marquée du soupçon dans la société.

Bref, y'a beaucoup à dire !

(C'est mal écrit et mal dit, because écrit sur smartphone sur la pause midi, sorry :p )

[Morningkill]

Un truc fascinant avec les IA c'est tout les effets d'imaginaire que ce sujet produit, et ça n'est d'ailleurs pas sans effets concrets en soi, donc même les nombreuses conneries qu'on peut lire, souvent, ici et là, sont importantes et disent quelque chose de la crise existentielle qu'elles font ressortir etc.

Est ce que c'est éloigné des années 50-60, ou c'était l'atomique qui sortait partout ?
genre : https://lautomobileancienne.com/atomic- ... utomobile/

Bon, après, y a une différence c'est que l'atome, sauf dans ton electricité, les gens lambdas le fréquentaient pas, alors que la tout le monde peut utiliser chatgpt. Et en avoir un usage a soi.

A ce titre la on peut comprendre pourquoi ca fascine tant.
(aussi, on a 40 ans (au moins) de SF grand public avec l'ia qui nous veut du mal)

Mais c'est vrai que le vrai [sic] danger c'est les fake. Et celui on se le prend déjà en pleine face.

[cdang]

Est ce que c'est éloigné des années 50-60, ou c'était l'atomique qui sortait partout ?
genre : https://lautomobileancienne.com/atomic- ... utomobile/

Il manque la DeLorean !

[Nolendur]

Perso, je pense que le risque le plus fort (au sens danger x probabilité), c'est une destruction des emplois plus rapide que la capacité de nos société à évoluer. Si vraiment les IA se mettent à remplacer la plupart des tâches "numérisables" (et ça, par contre, je pense que c'est tout à fait imaginable à moyenne échéance), il faudrait révolutionner complètement l'idée qu'on se fait de la valeur d'une personne, de son utilité dans la société, de l'organisation du travail restant, de l'acceptabilité de l'inactivité, etc. Je peux y voir assez facilement des perspectives dystopiques assez flippantes.

[vivien]

Ce sont des questions qui s'envisagent depuis le début de la révolution industrielle et qui irriguent la pensée autour du revenu universel non ?

[Morningkill]

Perso, je pense que le risque le plus fort (au sens danger x probabilité), c'est une destruction des emplois plus rapide que la capacité de nos société à évoluer. Si vraiment les IA se mettent à remplacer la plupart des tâches "numérisables" (et ça, par contre, je pense que c'est tout à fait imaginable à moyenne échéance), il faudrait révolutionner complètement l'idée qu'on se fait de la valeur d'une personne, de son utilité dans la société, de l'organisation du travail restant, de l'acceptabilité de l'inactivité, etc. Je peux y voir assez facilement des perspectives dystopiques assez flippantes.

Bah disons que normalement, c'est juste enfin l'arrivée de la "civilisation des loisirs", on a plus besoin de travailler pour vivre !
Sauf que l'oisiveté est la mère de tous les vices, j'y crois fort : on va m'accuser de faire de l'agisme et du chomagismes et du rsaismes (quoique ceux la vont travaille 15 h par semaine maitneannt), mais je suis prêt a parier qu'une immense partie des toxiques sur internet, c'est des gens qu'ont pas besoin d'aller bosser. Et donc, qu'ont du temps.

(bon, en même temps IRLs, ces gens font la masses des bénévoles, bref c'est encore la faute a internet)

Et oui, aussi, même a titre individuel, la valeur qu'on se fait de sa propre personne. Y a des gens qu'ont besoin de leur travail pour se sentir de valeur.

[Calisto]

Perso, je pense que le risque le plus fort (au sens danger x probabilité), c'est une destruction des emplois plus rapide que la capacité de nos société à évoluer. Si vraiment les IA se mettent à remplacer la plupart des tâches "numérisables" (et ça, par contre, je pense que c'est tout à fait imaginable à moyenne échéance), il faudrait révolutionner complètement l'idée qu'on se fait de la valeur d'une personne, de son utilité dans la société, de l'organisation du travail restant, de l'acceptabilité de l'inactivité, etc. Je peux y voir assez facilement des perspectives dystopiques assez flippantes.

Bah, cela n'a pas été fait quand l'automatisation et le robotisation est arrivée dans l'industrie et cela fait plus de 20 ans que nous en sommes en pénurie lourde de profils de techniciens et d'ingénieurs... je ne vois pas pourquoi ils réagiraient avec l'arrivée de l'IA, surtout que la grande majorité des décideurs, y compris dans le privé mais c'est largement pire chez nos politiques, n'ont aucunes idées de ce qu'est une IA... et encore moins de leurs applications. Il faut réaliser que pour beaucoup de monde l'IA est encore un truc qui va arriver et quand tu leur dit que c'est déjà là et utilisé dans énormément de domaines depuis longtemps ils tombent littéralement de leur chaise... je l'ai vécu il y a peu. Concernant la destruction d'emplois, cela m'inquiète pas, la raison est toute simple, en ce moment beaucoup d'entreprises vont chercher des profils à l'étranger pour pourvoir aux postes vacants vu que nous sommes en période de plein emploi, on a une grosse marge devant nous avant que cela soit un problème.