Morningkill a écrit : ↑ven. mai 09, 2025 7:50 am
Du coup, faut savoir : c'est si nul l'IA que ca aide a rien, ou c'est si bon que ca permet de tricher avec succés ?
Tu auras bien de la peine à trouver un de mes posts où je dis « l'IA c'est nul ». Par contre je crois réellement que l'utilité de l'apprentissage automatique et des LLM est bien plus réduit que ce que l'on croit et est en réalité contrainte à des applications très étroites.
Pour le reste, il faut lire l'article. L'enseignement consiste en grande partie à demander à des élèves de faire des tâches dont le produit final n'a pas d'intérêt. Quand tu résous un exercice de mathématique, ce n'est pas parce que l'enseignant⋅e a besoin de savoir combien de pommes il faut acheter pour faire cinq tartes, c'est pour apprendre le
processus. Utiliser ChatGPT pour contourner l'acte de
faire est antinomique avec l'apprentissage, au même titre que copier/coller un article de Wikipédia dans une dissertation ou utiliser Wolfram Alpha pour calculer une intégrale. Les LLM ont juste industrialisé la possibilité de court-circuiter l'acte pédagogique en arrivant automatiquement au produit qui sera évalué. Et c'est problématique parce que le système éducatif est construit autour de l'évaluation du
résultat, avec l'hypothèse que si le résultat est juste alors le procédé a été appliqué correctement et donc l'apprentissage a été réalisé.
Donc oui, ChatGPT peut être bon pour résoudre des problèmes d'école sans pour autant être particulièrement utile dans la vraie vie. Après tout, c'est déjà une plainte récurrente des élèves que les exercices qu'on leur demande de faire ne leur serviront jamais plus tard.
Morningkill a écrit : ↑ven. mai 09, 2025 7:50 am
(pocketé ton article pour plus tard, merci -en le feuilletant rapidement, je tique sur "avant les gens payaient une misère des indiens pour tricher pour eux", y a un côté anti-exploitation humaine de l'IA qu'on oublie aussi.
Les jeux de données utilisés pour entraînés des gros modèles n'apparaissent pas ex nihilo. On continue à payer des gens à la tâche, notamment dans des petits pauvres, pour annoter des données :
https://theconversation.com/ai-is-a-mul ... rce-240568. Ça n'a pas du tout allégé le fardeau de l'exploitation des micro-travailleurs, au contraire.
Morningkill a écrit : ↑ven. mai 09, 2025 7:50 am
Mais tu ne peux pas à la fois dire l'IA c'est nul, et l'IA c'est mieux qu'un junior...
Comme je disais, je ne dis pas que l'IA c'est nul. En revanche, ce qui m'intéresse c'est d'avoir des métriques quantitatives qui permettent d'évaluer les modèles. Mon point étant que la majorité des gens prétendent que les LLM permettent monts et merveilles sans jamais apporter de preuves. Par conséquent, les deux affirmations suivantes peuvent être vraies en même temps :
- le marché au global pense que les LLM sont meilleurs que des devs juniors et cesse d'en recruter,
- les LLM n'améliorent pas significativement la productivité des projets informatiques toutes choses comprises.
À long terme, la dépendance à des LLM pour des raisons de facilité va poser des problèmes majeurs parce que les gains promis ne seront jamais réalisés, mais qu'en plus les
impacts cognitifs négatifs pourraient avoir des conséquences sur toute une génération.
Morningkill a écrit : ↑ven. mai 09, 2025 8:58 am
(1) autrement dit, pour reprendre un exemple que j'avais vu : l'IA peut faire une affiche de fête de village meilleur que la plupart des bénévoles pour ce type de boulot (on écarte le cas du retraité qui était lead designer dans une agence de pub parisienne avant de finir ses jours dans le lot & garonne [img]data:image/gif;base64,R0lGODlhDwAPALMOAP/qAEVFRQAAAP/OAP/JAP+0AP6dAP/+k//9E///////xzMzM///6//lAAAAAAAAACH5BAEAAA4ALAAAAAAPAA8AAARb0EkZap3YVabOGRcWcAgCnIMRTEEnCCfwpqt2mHEOagoOnz+CKnADxoKFyiHHBBCSAdOiCVg8KwPZa7sVrgJZQWI8FhB2msGgwTXTWGqCXP4WBQr4wjDDstQmEQA7[/img] ), mais ca ne vaudra jamais le travail d'un pro consciencieux - mais pour une fête de village, on n'auraitpas payé un pro.
Et à côté de ça, ton bénévole, qui si ça se trouve prend du plaisir à faire de l'art graphique, n'a rien appris. Et le jour où il y aurait quand même eu le budget pour payer un⋅e pro, pourquoi s'embêter vu qu'on a déjà ChatGPT pour le faire à moindre coût ? Je trouve ce recours systématique déprimant. Pour faire un parallèle en grossissant le trait, si un jour où ChatGPT devient meilleur MJ que moi, ça m'attristerait pas mal que mes potes préfèrent jouer avec un LLM plutôt qu'avec moi.
), mais ca ne vaudra jamais le travail d'un pro consciencieux - mais pour une fête de village, on n'auraitpas payé un pro.
