Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Pour discuter sereinement de l'actualité
Avatar de l’utilisateur
rogre
RDieu
Messages : 5838
Inscription : jeu. déc. 06, 2007 12:53 pm
Localisation : Lyon 6è

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par rogre »

Tybalt (le retour) a écrit : ven. févr. 10, 2023 11:36 pm
 If a large language model has compiled a vast number of correlations between economic terms—so many that it can offer plausible responses to a wide variety of questions—should we say that it actually understands economic theory?

De tout évidence non: une IA ne comprend rien à quoi que ce soit, elle répercute approximativement ce que quelqu'un d'autre a dit quelque part. C'est un fil tendu entre deux pots de yaourt. :)
La bêtise de surface est plus superficielle que la bêtise des profondeurs. Mais en même temps, elle est moins profonde. C'est le fameux "en même temps". (Goossens)
Avatar de l’utilisateur
glamourous.sam
Ascendant
Messages : 1608
Inscription : lun. janv. 27, 2014 5:14 pm
Localisation : Paris 10

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par glamourous.sam »

Tain, elle est prête à aller sur les plateaux télé en tant qu'economiste donc !
Avatar de l’utilisateur
Macbesse
Dieu en cyrillique
Messages : 6000
Inscription : jeu. sept. 07, 2006 8:48 pm
Localisation : Paris-Tachkent

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Macbesse »

J'ai tiré de mon expérience d'auteur / éditeur un petit article que j'ai publié dans le Fix. C'est là, et ça s'appelle "The Ned Ludd Ballad" : https://lefix.di6dent.fr/archives/20053

Pour résumer, j'ai essayé pendant un mois (c'était en août, la V3 de Midjourney), j'ai mis les mains dans le cambouis des données, et je n'y ai pas trouvé mon compte pour des raisons tant pratiques, qu'esthétiques et éthiques.
J'ai écrit cet article en décembre, principalement. Le temps de peaufiner il est sorti en février, mais je pense que je n'y changerais pas grand-chose malgré la déferlante qu'il y a encore sur le sujet. Par contre, il y a des choses que je pointais en termes de droit qu'on ne lisait pas beaucoup ailleurs quand je l'ai écrit, et qui ont été bien explorées ailleurs depuis.
Avatar de l’utilisateur
Harfang2
Dieu d'après le panthéon
Messages : 1770
Inscription : jeu. déc. 03, 2020 5:51 pm
Localisation : Tours
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Harfang2 »

Macbesse a écrit : sam. févr. 11, 2023 2:22 pm J'ai tiré de mon expérience d'auteur / éditeur un petit article que j'ai publié dans le Fix. C'est là, et ça s'appelle "The Ned Ludd Ballad" : https://lefix.di6dent.fr/archives/20053

Pour résumer, j'ai essayé pendant un mois (c'était en août, la V3 de Midjourney), j'ai mis les mains dans le cambouis des données, et je n'y ai pas trouvé mon compte pour des raisons tant pratiques, qu'esthétiques et éthiques.
J'ai écrit cet article en décembre, principalement. Le temps de peaufiner il est sorti en février, mais je pense que je n'y changerais pas grand-chose malgré la déferlante qu'il y a encore sur le sujet. Par contre, il y a des choses que je pointais en termes de droit qu'on ne lisait pas beaucoup ailleurs quand je l'ai écrit, et qui ont été bien explorées ailleurs depuis.
Comme quoi je ne suis pas le seul a regarder les avancées des IA avec l'image des Luddistes en tête.
Bref
 
Plurima leges, pessima republica
Avatar de l’utilisateur
Macbesse
Dieu en cyrillique
Messages : 6000
Inscription : jeu. sept. 07, 2006 8:48 pm
Localisation : Paris-Tachkent

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Macbesse »

Harfang2 a écrit : sam. févr. 11, 2023 6:32 pm
Macbesse a écrit : sam. févr. 11, 2023 2:22 pm J'ai tiré de mon expérience d'auteur / éditeur un petit article que j'ai publié dans le Fix. C'est là, et ça s'appelle "The Ned Ludd Ballad" : https://lefix.di6dent.fr/archives/20053

Pour résumer, j'ai essayé pendant un mois (c'était en août, la V3 de Midjourney), j'ai mis les mains dans le cambouis des données, et je n'y ai pas trouvé mon compte pour des raisons tant pratiques, qu'esthétiques et éthiques.
J'ai écrit cet article en décembre, principalement. Le temps de peaufiner il est sorti en février, mais je pense que je n'y changerais pas grand-chose malgré la déferlante qu'il y a encore sur le sujet. Par contre, il y a des choses que je pointais en termes de droit qu'on ne lisait pas beaucoup ailleurs quand je l'ai écrit, et qui ont été bien explorées ailleurs depuis.
Comme quoi je ne suis pas le seul a regarder les avancées des IA avec l'image des Luddistes en tête.
Bref 

J'ai aussi des images de Jihad Butlérien. :mrgreen:
Avatar de l’utilisateur
Tybalt (le retour)
Dieu d'après le panthéon
Messages : 8516
Inscription : mer. août 22, 2012 7:33 pm
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Tybalt (le retour) »

Macbesse a écrit : sam. févr. 11, 2023 2:22 pm J'ai tiré de mon expérience d'auteur / éditeur un petit article que j'ai publié dans le Fix. C'est là, et ça s'appelle "The Ned Ludd Ballad" : https://lefix.di6dent.fr/archives/20053

Pour résumer, j'ai essayé pendant un mois (c'était en août, la V3 de Midjourney), j'ai mis les mains dans le cambouis des données, et je n'y ai pas trouvé mon compte pour des raisons tant pratiques, qu'esthétiques et éthiques.
J'ai écrit cet article en décembre, principalement. Le temps de peaufiner il est sorti en février, mais je pense que je n'y changerais pas grand-chose malgré la déferlante qu'il y a encore sur le sujet. Par contre, il y a des choses que je pointais en termes de droit qu'on ne lisait pas beaucoup ailleurs quand je l'ai écrit, et qui ont été bien explorées ailleurs depuis.

Je ne l'ai encore que lourdement parcouru, mais ce que j'en ai lu est passionnant et je le garde sous le coude pour le lire in extenso. Merci de l'avoir écrit :)

Sur Futurism : Amazon Begs Employees Not to Leak Corporate Secrets to ChatGPT

After catching snippets of text generated by OpenAI's powerful ChatGPT tool that looked a lot like company secrets, Amazon is now trying to head its employees off from leaking anything else to the algorithm.

According to internal Slack messages that were leaked to Insider, an Amazon lawyer told workers that they had "already seen instances" of text generated by ChatGPT that "closely" resembled internal company data.

Des employés d'Amazon avaient utilisé ChatGPT pour améliorer leur code, sauf que ChatGPT a recraché plus tard, pour d'autres gens, des bouts du code qu'on y avait entrés et qui relevaient du secret industriel. Donc Amazon ne veut plus que ses employés utilisent cet outil.

Moralité : ne pas entrer dans ChatGPT des trucs qui sont censés rester confidentiels.
Mes sites : Kosmos (un jdra sur la mythologie grecque qui a lu les auteurs antiques pour vous) ; blog de lectures ; site d'écriture.
Disclameur : j'ai écrit pour "Casus" et "Jdr Mag".
Avatar de l’utilisateur
Rui
Dieu d'après le panthéon
Messages : 2144
Inscription : jeu. mars 07, 2013 2:33 pm
Localisation : Villejuif

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Rui »

Comment c'est possible alors que chatgp est déconnecté et pas en mode apprentissage ?
Avatar de l’utilisateur
Killing Joke
Banni
Messages : 1230
Inscription : mar. mars 14, 2006 8:42 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Killing Joke »

Sensé être déconnecté, mais pourtant, l'histoire du kilo de plumes et du kilo de plomb (dont ChatGPT disait au départ que "1 kg de plomb était plus lourd que 1 kg de plume", puis a arrêté de faire cette erreur) montre quand même (de manière factuelle, vu la différence de réponses à l'instant T puis T+1) qu'il y a évolutions des réponses fournies par l'ago :
- soit parce que le système a été tuné en interne d'une manière ou d'une autre par les équipes derrière l'outil, suite à cette erreur spécifique / rigolote exposée sur twitter
- soit parce qu'il apprend quand même des entrées utilisateurs et ce même si sa base de contenu sur lequel l'algo a été pré-entraîné date de septembre 2021)

D'ailleurs, rappelons que le P de ChatGPT veut dire "Pre-trained", pourquoi parlerait-on de pré-entraînement s'il n'y avait plus aucune évolution ensuite.

Après on peut aussi se poser la question des outils en ligne de traduction (deepl, google translate, ...), est-ce bien prudent d'y faire traduire des documents professionnels / confidentiels.
Avatar de l’utilisateur
Altay
Ascendant
Messages : 1518
Inscription : sam. mai 07, 2016 12:04 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Altay »

Killing Joke a écrit : sam. févr. 18, 2023 4:30 pm Après on peut aussi se poser la question des outils en ligne de traduction (deepl, google translate, ...), est-ce bien prudent d'y faire traduire des documents professionnels / confidentiels.

C'était de toute façon une question bien avant ChatGPT. Déposer des informations sur un service tiers, c'est prendre le risque qu'elles soient stockées et potentiellement fuitées plus tard. Que le service en question soit ChatGPT ou Dropbox.
Avatar de l’utilisateur
WolfRider
Messie
Messages : 1083
Inscription : jeu. sept. 10, 2020 5:22 pm

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par WolfRider »

Dropbox a accès aux données qu'un utilisateurs / client payant y dépose ? Ou c'est juste parce que comme tous les autres cloud "grand public" c'est très facile à pirater par des gens malintentionnés qui en ont la compétence ?
 
Avatar de l’utilisateur
rogre
RDieu
Messages : 5838
Inscription : jeu. déc. 06, 2007 12:53 pm
Localisation : Lyon 6è

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par rogre »

ChatGPT: un poème dans le style de R.E. Howard, sur le thème de la grêve générale :mrgreen:

 Sous un ciel sombre et menaçant,
Le peuple s'élève, prêt à combattre,
Une grève générale, une protestation ardente,
Pour faire valoir ses droits, pour se faire entendre.

 Les ouvriers et les employés, unis dans leur cause,
Brandissent leurs pancartes, leurs voix s'élevant en écho,
Ils réclament justice, égalité et dignité,
Et refusent de se taire, de se soumettre à l'arbitraire.

 Les rues sont remplies de cris et de chants,
La colère gronde, le mécontentement grandit,
Mais ils savent qu'ils sont forts, qu'ils peuvent lutter,
Et qu'ensemble, ils peuvent changer le cours de l'Histoire.

 La grève générale est un cri de révolte,
Un appel à la solidarité, à la fraternité,
Pour briser les chaînes qui les retiennent prisonniers,
Et pour que chacun puisse enfin vivre librement.

 Sous un ciel sombre et menaçant,
Le peuple s'élève, prêt à combattre,
Une grève générale, une protestation ardente,
Pour faire valoir ses droits, pour se faire entendre.
La bêtise de surface est plus superficielle que la bêtise des profondeurs. Mais en même temps, elle est moins profonde. C'est le fameux "en même temps". (Goossens)
Avatar de l’utilisateur
Morningkill
Dieu d'après le panthéon
Messages : 2605
Inscription : mar. août 03, 2004 2:09 pm
Localisation : Libourne / Bordeaux

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Morningkill »

Une expérience interessante: https://www.mobileread.com/forums/showt ... ost4303887
Qui envoie un passage souligné dans un livre pour en génerer l'image correspondante par Stable Diffusion
Avatar de l’utilisateur
Tybalt (le retour)
Dieu d'après le panthéon
Messages : 8516
Inscription : mer. août 22, 2012 7:33 pm
Contact :

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Tybalt (le retour) »

ChatGPT a été programmé pour ne pas créer de discours haineux. Sauf qu'en fait si, parce que le programme a des failles. Naturellement, parmi l'infinité de possibilités radieuses offertes par une innovation technologique d'une telle puissance, il y a des humains pour choisir d'aller creuser dans ces failles pour lui faire dire des ordures. Du coup, OpenAI travaille à supprimer les failles en question au fur et à mesure.
C'est beau, le progrès.

Source : The Guardian
Mes sites : Kosmos (un jdra sur la mythologie grecque qui a lu les auteurs antiques pour vous) ; blog de lectures ; site d'écriture.
Disclameur : j'ai écrit pour "Casus" et "Jdr Mag".
Avatar de l’utilisateur
Fingolfin
Dieu lyrique des fouteux chantants
Messages : 6444
Inscription : sam. févr. 07, 2004 7:06 pm
Localisation : Massy

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par Fingolfin »

Killing Joke a écrit : sam. févr. 18, 2023 4:30 pm
Après on peut aussi se poser la question des outils en ligne de traduction (deepl, google translate, ...), est-ce bien prudent d'y faire traduire des documents professionnels / confidentiels.

Absolument pas : seule la version Pro de Deepl ne collecte pas les données

F.
Do you want to live forever ?
Avatar de l’utilisateur
nonolimitus
Dieu d'après le panthéon
Messages : 5072
Inscription : mer. oct. 25, 2006 9:20 pm
Localisation : La Côte Ouest

Re: Les IA : qui sont-elles ? Quels sont leurs réseaux ?

Message par nonolimitus »

Quand tu utilises DEEPL pour traduire une demande de transport dans une langue "estxotique" :

"nous avons besoin d'une offre de fret avec plate-forme élévatrice et transpalette pour la constellation suivante."

je vais envoyer le Millenium Falcon :D
Le DIEU avec du gobelin dedans !!!

« Vivre, ce n'est pas sérieux ce n'est pas grave, c'est juste une aventure, presque un jeu... »
Jacques Brel
Répondre