Partages sur les IA

Règles du forum
Cette section est dédié a vos projets, descriptions et demandes d'aide.
Merci de limiter le nombre de sujet par projets.
Lorsqu'un sujet deviens long vous pouvez éditer le premier message pour maintenir à jour le descriptif et garder en lisibilité
Avatar de l’utilisateur
jardine
Electrolab::Membre
Messages : 4
Enregistré le : 17 mai 2023, 21:25

Partages sur les IA

Messagepar jardine » 17 mai 2023, 21:31

Bonsoir,
Que pensez-vous d'ouvrir un espace de discussions et de partages d'expérience sur l'utilisation des IA dans vos métiers ? Réels changements, bullshit, etc. Qui aimerait participer ?
Evelyne
MCF associée en Info Com à l'université Paris Nanterre
Avatar de l’utilisateur
Eric
Electrolab::Référent
Messages : 476
Enregistré le : 09 mars 2017, 10:09
Localisation : Electrolab
Référent : Zone Élec

Re: Partages sur les IA

Messagepar Eric » 23 mai 2023, 22:55

Bonjour jardine,

Pour info, il y a avait un petit article sur l'IA et le ML (Machine Learning) rédigé par Stuart Cording concernant l'embarqué (= cartes à µC) dans le précédent n° d'Elektor (n° 500, mars-avril 2023).
Les solutions qui fonctionnent nécessitent que l'apprentissage et la classification (le truc le plus consommateur de ressources, mais ce n'est à faire qu'une seule fois(1)) soient réalisés hors de la carte embarquée, soit sur un gros ordi/serveur local soit sur le Net/Cloud, notamment avec EON Tuner.
Pour que cela soit implémentable et opérationnel, faut quand même prévoir un µC sérieux (plusieurs centaines de MIPS) genre 'Portenta H7' (Cortex-M7 + Cortex-M4), ESP32, RP2040, surtout si la donnée d'entrée à traiter est de la vidéo et/ou du son.
Apparemment, il serait aussi possible de générer un fichier C++ pour l'implémenter dans d'autres plateformes. Ainsi, un Teensy 4.1 (Cortex-M7) qui aligne 600 MIPS, le futur Teensy 4.2 (annoncé autour du GIPS) ou encore un 'PIC32MZ EF' (415 DMIPS) devraient aussi être des candidats potentiels pour ce genre d'applications portables/mobiles.
Ça ouvre des perspectives.


(1) sauf évidemment, si le système doit s'auto-améliorer, mais là c'est vraiment une autre catégorie

Eric
... embarque tout le monde
Avatar de l’utilisateur
treblig
Electrolab::Membre
Messages : 339
Enregistré le : 17 sept. 2018, 11:39

Re: Partages sur les IA

Messagepar treblig » 24 mai 2023, 12:49

Si la discussion est réservée à l'utilisation de l'IA dans les métiers, les retraités sont disqualifiés d'office :)

Dans un domaine un peu particulier qui n'est pas professionnel (recherche sur la résistance dans la Vienne et sur un Capitaine en particulier), j'ai fait une requête sur ChatGPT, pour ne pas le nommer.
J'avais fait un préambule indiquant le contexte de la demande et le "rôle" de ChatGPT avant de formuler la demande. ChatGPT m'a raconté une histoire à (presque) dormir debout qui semble plus démontrer sa volonté à vouloir faire plaisir en répondant qu'à apporter des faits réels. En même temps, c'est un peu le principe des LLM.

En contrant, ineptie par ineptie, les éléments de sa réponse, j'ai fini avec pas grand chose de factuel mais, en revanche, une tonne d'excuses. On ne peut pas lui reprocher de ne pas être obséquieux...
ChatGPT a quand même réussi l'exploit de me donner 1992 comme année de décès de ce Capitaine sur qui portait la question. Je lui ai donc demandé la source de ses infos. "I do not have access to specific details about individuals who may have passed away in 1992. My training data only goes up until 2021". Aux dernières nouvelles, 1992 est antérieur à 2010 mais passons...
Je lui ai dit que ce Capitaine n'était pas décédé en 1992 (en fait il est décédé 20 ans plus tard mais ça je ne l'ai pas dit à ChatGPT), du coup ChatGPT me l'a
ressuscité (avec moult excuses) ! :mdr1:
Je pense qu'avec un peu de persuasion j'aurais réussi à lui faire dire qu'il vivait heureux sur une île paradisiaque grâce au sirop Typhon...

Dans un autre domaine, je lui ai demandé de générer un programme APL2. Ben, oui, si on lui demande que des trucs courants et faciles ça ne sert à rien :hehe:
Là, idem, ChatGPT a carrément détourné l'usage de certaines fonctions de base du langage pour "pisser du code" et a inséré du "If ... Then ...." en plein milieu du code APL2 8| !

You are correct, my apologies for using "If" and "Else" statements, as they are not native to APL2, instead, traditional APL2 uses the branching operator ⌿ or ⍝ (comment) symbol to control the flow of execution.

J'ai failli tomber de ma chaise en lisant ça ! Même après lui avoir indiqué les erreurs il invente des trucs encore plus farfelus les uns que les autres et il n'a jamais réussi à sortir du code exploitable. Je me suis lassé et je m'en remets à moi-même pour pondre du code APL2...

En revanche, il y a des trucs qu'il fait plutôt assez bien :
analyse de textes,
proposer des reformulations en fonction de l'âge du lecteur par exemple,
faire des synthèses,
expliquer la différence entre "e = m.c^2" et "e^2 = m^2.c^4 + p^2.c^2",
etc.

À tout hasard, j'ai malgré tout récupéré Llama et tous les paramètres (de 7 à 65B). Ne manque qu'un PC avec 32+G de RAM.

Treblig
Avatar de l’utilisateur
jardine
Electrolab::Membre
Messages : 4
Enregistré le : 17 mai 2023, 21:25

Re: Partages sur les IA

Messagepar jardine » 04 juin 2023, 10:14

A te lire Treblig, nous voilà avec une puissance machine à infox. Et pour l'enseignante (non retraitée) que je suis, il y a du grain à moudre.
MCF associée en Info Com à l'université Paris Nanterre
Avatar de l’utilisateur
treblig
Electrolab::Membre
Messages : 339
Enregistré le : 17 sept. 2018, 11:39

Re: Partages sur les IA

Messagepar treblig » 04 juin 2023, 19:18

jardine a écrit :A te lire Treblig, nous voilà avec une puissance machine à infox. Et pour l'enseignante (non retraitée) que je suis, il y a du grain à moudre.

À ce stade et pour ce qui est des LLM, ça peut absolument être des machines à intox et c'est dû, à mon avis, à au moins 3 facteurs :

1. le fonctionnement des LLM. Ils sont faits pour donner une réponse et non pas une réponse basée sur quelque réalité. Pour répondre, ils utilisent une méthode probabiliste basée sur des modèles créés lors de leur entraînement. Si on l'entraîne sur des données essentiellement platistes, les réponses tomberont à plat (pun intended). Selon les données d'entrainement, un LLM peut aisément devenir la chambre d'écho d'une idéologie.

2. Les LLM n'ont aucune idée du "sens" réel, ni de la question ni de leur réponse, ils n'ont pas de conscience ni ne font preuve de réflexion. Le but est uniquement de répondre et, donc, pourquoi ne pas inventer la réponse quand on n'a rien à dire... C'est un peu du même niveau que les discussions au café du commerce du coin sauf que les LLM ne fissent pas alcoolisés ni agressifs et il n'y a pas de vomi sur le trottoir... :hehe:

3. le biais que ses "maîtres" y mettent. Certain LLM est connu pour ne plus répondre à certaines questions tout en faisant semblant de répondre et c'est hard-codé après l'entraînement pour en faire du politiquement correct au profit de certaines idées et au déficit d'autres. Le LLM a été entraîné sur des données qui lui permettent de répondre différemment (ce qu'il faisait au début) mais ses "maîtres" ont décidé que ça ne respectait pas certain agenda donc ils brident le LLM en "post-processing". Il ne faudra pas en espéré plus des versions d'autres fournisseurs de LLM, au mieux le biais sera différent.

J'ai utilisé le Chat de M$ pour ce fameux Capitaine que je mentionnais dans mon précédent message. Le Chat de M$ est presque moins pire que ChatGPT en ce sens qu'après m'avoir répondu sur un tout autre Capitaine et que j'ai indiqué que ce n'était pas celui-ci, il a "avoué" qu'il ne pouvait donner d'autres réponses même en lui précisant où chercher. Le plus drôle, si je puis dire, c'est que le robot de Bing (i.e. M$) vient régulièrement aspirer mes sites et, en particulier, la page qui parle en long et en large de ce fameux Capitaine. Quand ça veut pas, ça veut pas... :hehe:

Ce n'est pas demain que les LLM apporteront une réponse au sens de la vie. Même si nous savons tous que c'est "42".

Treblig

Retourner vers « Les Projets »

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 1 invité