Développements de l'IA

  • Auteur de la discussion Auteur de la discussion parkerbol
  • Date de début Date de début
Mon message a été déplacé ce qui explique que je me parle à moi même :D

Le mot "Artificial Intelligence" a été créé en 1955 et utilisé en 1956 par McCarthy :
"Chaque aspect de l’apprentissage ou toute autre caractéristique de l’intelligence peut être décrit avec une telle précision qu’une machine peut être conçue pour le simuler".
Cliquez pour agrandir...
On parle plus de connaissance artificielle, sachant que l'intelligence même est difficile à définir ... c'est pour dire. Les chercheurs parlent d'intelligence générale.
Yann Le Cun le directeur de l'IA de Meta a écrit un jour :
« L’intelligence artificielle tente de reproduire des fonctions qui sont attribuées à des entités intelligentes vivantes. Parfois, ces machines surpassent les humains, comme aux échecs par exemple. Alors, sont-ils plus intelligents ? Non, ils sont juste très spécialisés. Nous considérons l’intelligence comme une capacité non seulement à résoudre un problème particulier, mais aussi à avoir une intelligence générale... Et contrairement à la sagesse conventionnelle sur l’IA, les chercheurs sont à des décennies de comprendre comment construire une machine avec cette fameuse intelligence générale. »
Cliquez pour agrandir...
Pour continuer, les IA génératives sont de superbes machines à prédire, basés sur des outils mathématiques (et donc difficile de prédire un monde physique et biologique juste avec des maths, Villani en rêverait ... soit dit en passant) et statistiques absolument brillants mais dont le premier défaut est de ne pas comprendre ce qu'elles génèrent.

Je vous extrais une partie du cours sur les IA gen que je donne à l'université et notamment les LLM (larges modèles de langage) :

Qu'est-ce que GPT?​

GPT signifie "Generative Pre-Trained Transformers". Il s'agit d'une famille de modèles de langage artificiels développés par OpenAI (entre autres), conçus pour générer du texte cohérent et naturel. Les modèles GPT sont basés sur l'architecture des Transformers, qui sont des réseaux de neurones artificiels efficaces pour traiter les séquences de données, comme le texte.

Embeddings​

Les embeddings sont une technique utilisée pour représenter des mots ou des phrases sous forme de vecteurs numériques dans un espace à haute dimensionnalité. Chaque mot est associé à un vecteur qui capture son sens sémantique, permettant ainsi aux mots similaires d'être représentés par des vecteurs proches les uns des autres. Cette représentation permet aux ordinateurs de mieux comprendre et manipuler le langage naturel.

Transformers​

Les Transformers sont des réseaux de neurones artificiels conçus pour traiter efficacement les séquences de données, comme le texte. Leur mécanisme d'attention leur permet de se concentrer sur les parties les plus pertinentes de l'entrée pour générer une sortie. Cela a révolutionné les modèles de langage, permettant des performances exceptionnelles dans des tâches telles que la traduction automatique, la réponse aux questions, et la génération de texte.

ChatGPT​

ChatGPT est un exemple d'IA dite "faible" mais multitâche, capable d'effectuer plusieurs tâches différentes et de s'inspirer d'une tâche pour en réaliser une autre. Son architecture repose sur plusieurs modèles clés, notamment :

  • CODEX : Permet de comprendre et de générer du code informatique.
  • Content Filter : Analyse et élimine les contenus dangereux ou inappropriés.
  • Apprentissage par Renforcement Humain (Instruct GPT) : Des humains guident le modèle en indiquant les réponses appropriées, ce qui peut introduire des biais dans le modèle.

Entraînement de GPT-3 et GPT-4​

Les modèles GPT-3 et GPT-4, qui sous-tendent ChatGPT, ont été entraînés sur un vaste ensemble de données textuelles, comprenant notamment :

  • Common Crawl : Un corpus représentant 400 milliards d'unités textuelles, soit environ 60% des données d'entraînement.
  • Corpus Web Text 2 : Analyse du site Reddit, utile pour le langage parlé.
  • Corpus Books 1 et Books 2 : Livres numérisés.
  • Wikipédia : Encyclopédie en ligne.
La pertinence des réponses de ChatGPT dépend fortement de la cohérence et de la qualité du corpus d'entraînement sur un sujet donné. Un corpus bien structuré et cohérent sur un sujet particulier permettra à ChatGPT de fournir des réponses plus pertinentes, tandis qu'un corpus chaotique ou contradictoire limitera la pertinence des réponses.

Biais dans les Données​

Les biais présents dans les données d'entraînement peuvent avoir un impact significatif sur les réponses générées par ChatGPT. Les données biaisiées en entrée conduiront à des sorties biaisiées, soulignant l'importance de veiller à la qualité et à la diversité des données utilisées pour l'entraînement des modèles de langage.

Sources​

Il existe une excellente vidéo qui résume tout cela :


Pour ma part, j'en fais un usage fréquent ... surtout en No Code ces derniers temps pour mettre en oeuvre un nouveau projet professionnel. L'essentiel, comme tout outil est d'en connaître les limites. Comme dit @FoLuxo, sur certains sujets, nous ne reviendrons pas en arrière, les microfiches c'était sûrement un progrès à son époque que d'aucun décrivait comme une atteinte à la littérature et aux savoirs.
Les prochaines IA dit "agents" seront certainement les plus intéressantes mais connaîtront probablement des dérives connaissants la nature de l'homme.
Seule l'Europe en passant s'est dotée d'une règlementation mais globalement, ça pèse pas grand chose sachant que chinois et américains s'en fichent un peu.
 
Dernière édition:
Perso j'utilise des outils dit IA dans mon boulot et certains points de vue ici sont assez loin de ce que je considère personnellement comme une IA. C’est un sujet qui a pris plein de formes au cours des dernières décennies, j'ai fait du LISP, des réseaux de neurones, de la logique floue, des systèmes experts, de la théorie des graphes, du web sémantique... tout cela été assimilé à un moment ou a autre avec l’IA mais sans beaucoup de succès.

Ce n'est qu'un outil aussi (in)utile que n'importe quel outil dans des mains (mal)adroites. L'IA est un idiot savant, parfait dans son domaine quand il est bien réalisé et ne sert à rien en dehors. L'AI entrainée à diagnostiquer des cancers du sein à un taux de réussite très élevé et ce dans un temps record. En fait plus on restreint le spectre d'utilisation et mieux cela fonctionne : création de nouvelles molécules , des matériaux nouveaux… Maintenant pour le grand public l’ia ce sera quoi ? un chatbot sur un site web ? ou sur son téléphone ? tremblez mortels ! /s

Le pire est qu'aujourd'hui le terme IA en lui-même permet de lever des capitaux, c'est hype donc tout le monde a intérêt à vendre de l'IA même si derrière c'est du if ... elseif + modérateur humain pour affiner les réponses.

Dans mon domaine c’est assez pratique, intégré à mon IDE ça me génère les commentaires sur mon code à la volée (et mon boss est content) et vu que c'est une tache fastidieuse je suis content aussi. Je m'en sers aussi pour rechercher des infos sur des logiciels sans avoir à lire toute la doc, faire de la relecture sur mon code ou « lire » le code d’un collègue et fournir un résumé mais en aucun cas je ne considère cela comme de l'IA. Pas plus que l'on ne considère google comme un génie ayant réponse à tout (enfin j'espère).

Maintenant pourquoi ce sujet est aussi clivant ? je ne comprends pas trop :-/
 
Dernière édition:
Je suis d'accord avec ton point de vue.
Je pense que l'IA est un outil (qui peut sembler magique), mais il ne faut surtout pas oublier comment il opère, et on en conclut qu'il faut donc contrôler derrière. C'est surement là, le danger, car il dépasse déjà beaucoup d'esprit (surtout par sa rapidité) et par fainéantise on ne contrôle rien.
PS: Ton rappel sur l'utilisation du LISP m'a bien amusé en me rappelant de sa définition... Langage Insipide Surchargé de Parenthèse.
 
Pourquoi le sujet est si clivant ? Parce qu'on donne des capacités anthromorphiques à l'IA, ce qu'elle n'a pas et n'aura probablement pas avant un très long moment. L'attrait de la SF pour le sujet est encore prégnant.
 
Dr.X a dit:
Non, une roue, un levier ou une poulie ne sont pas de l'intelligence artificielle, ni même un smartphone ou un PC. Ce ne sont que des outils, qui à une commande humaine, répondent toujours de la même façon répétitive, connue et prévisible.
L'IA est distincte, en ce sens qu'elle apprend et fait évoluer ses réponses en fonction de ce qu'elle a appris. À un stade donné de son développement, elle fournit une réponse, qui à la même problématique, sera modifiée plus tard en fonction de ce qu'elle aura rencontré de nouveau dans son apprentissage. C'est en cela qu'on parle d'intelligence, car ça ressemble dans son résultat à ce que nous connaissons de l'évolution du cerveau humain dans son développement et apprentissage.
La vidéo citée plus haut est intéressante pour approcher un peu la complexité du sujet dans ses possibles effets.
Cliquez pour agrandir...
Bwoah_Kimi a dit:
Tout outil demandant un ordre de fonctionnement et quelque part un outil fonctionne grâce ou en partie à l'intelligence artificielle ou grâce à, une forme de.
Cliquez pour agrandir...

J'ai corrigé ma phrase car elle n'était pas bien orthographié ni claire.
Mais je suis d'accord, après ayant étudié l'automatisation industrielle, la numération et un peu le génie mécanique pour moi il n'y a pas vraiment de différence ou peu de différence entre une IA et un outil moderne.
Je veux dire que philosophiquement parlant, si tu fabrique un objet mais que tu le conçois mal, par exemple un levier, il peut tout aussi bien devenir une arme mortelle ou inefficace.
Psychologiquement, les personnes ne se rendent pas compte que l'objet en lui même est conçu par un humain, il y a pour le moment toujours un responsable derrière cela (voir le sujet sur la conduite autonome par exemple).
Le jour où l'on aura des institutions remplacées par une IA pour moi là on pourra en reparler.
Je ne suis pas un fervent défenseur de l'IA mais ça ne me fait pas peur, il ne faut pas en avoir peur, ça permet de faire énormément de choses merveilleuses. Le seul problème c'est l'humain qui est et sera probablement toujours derrière la machine/le système.
Et c'est drôle et triste, en contre argument on retrouve toujours les mêmes types de réponse qu'avec les fervents défenseurs du thermique à propos des véhicules électriques. On ne prend et ne trouve que des onces d'exemples critiques parmi tant de bonnes solutions.
On est vraiment à la ramasse philosophiquement parlant sur ces sujets en Europe.
Pendant qu'on développe dans le monde nous on passe toujours notre temps à réfléchir et à juger ce qui est bien et mal, on fait la tronche à longueur d'année bien assis sur nos acquis.
 
Je suis assez d'accord, même s'il faudrait nuancer. Mais cela prendrait sans doute le volume d'un bouquin, et je suis sûr que plein de bouquins existent déjà sur le effets neurologiques néfastes des assistances informatiques.

Par contre ma grosse nuance, c'est qu'avant d'incriminer l'IA il est urgent d'incriminer des outils de crétinisation bien pires, tels que Tik-Tok. On n'est plus dans l'IA, mais le danger est encore plus évident.
 
Grigou a dit:
Par contre ma grosse nuance, c'est qu'avant d'incriminer l'IA il est urgent d'incriminer des outils de crétinisation bien pires, tels que Tik-Tok. On n'est plus dans l'IA, mais le danger est encore plus évident.
Cliquez pour agrandir...
Tout les réseaux sociaux sont mauvais.
Je me suis enfin sevré de Facebook je ne regrette pas du tout.
Depuis peu, j'ai commencé avec les informations aussi à la TV, mais je dois transformer un vieux transistor en radio "moderne" pour rester un minimum informé, même si ça me fait plaisir d'entendre parler de choses au travail ou dans la famille que je ne connais pas :mdr: !
Je suis plus concentré, je communique et j'échange plus facilement et énormément moins de stress et de sentiment de dépression.
Je ne pense pas qu'il ne faut pas être déconnecté complètement j'ai gardé qu'un réseau social commun pour continuer à communiquer avec la famille mais je pense l'arrêter aussi pour revenir au bon vieux téléphone portable à "l'ancienne".
Tout n'est pas mauvais mais j'avoue me sentir beaucoup mieux depuis.
J'ai hébergé mon filleul pendant une semaine là, c'est compliqué de communiquer et d'échanger avec, de partager des choses, il est scotché au téléphone !
 
Pour les gamins ont besoin de règles et les adultes doivent faire respecter le cadre. Le téléphone ça ne peut pas être tout le temps (même la nuit d'après ma fille de 17 ans qui elle n'a pas le droit de dormir avec). Je pense aussi qu'il faut se sevrer de tout cela et pour travailler de plus en plus dans le domaine de la santé mentale et pas que l'IA. Il y a aussi le côté manipulatoire qui mène aux addictions des RS avec l'IA pour juste du business, la santé mentale c'est juste si on y est contraint. La société actuelle dérive pour moi à cause de l'utilisation massive des RS sans contrôle ni transparence avec beaucoup d'investissement de groupes qui ont des intérêts particuliers plus que généraux. Des réseaux comme X en ont fait leur beurre.
Ce qui pourrait être catastrophique car j'enseigne en master, c'est que tout soit du jus d'IA dans ce qui est écrit ou rendu. J'apprends aux élèves à bien s'en servir et revenir aussi sur ce qui fait notre différence : tout n'est pas dans les mots et l'intelligence humaine à ceci de fantastique qu'elle sait appréhender un contexte, le signifiant et le signifié qui n'est pas que dans les prédictions de mots (dont l'IA n'a aucune idée, elle ne sait pas ce qu'elle raconte). Je leur fais réaliser des épreuves d'IA sans machine ni téléphone, papier-crayon à l'ancienne et personne ne proteste et au contraire, ils me disent souvent que ça les aide. Je leur donne l'image concernant l'IA : "c'est comme si vous étiez inscrit à la salle de gym et que vous demandiez à des robots de soulever les poids à votre place". L'IA doit rester un assistant, pas un expert.
Selon Yann Le Cun directeur de l'IA chez Facebook, un des fondateurs du deep learning, dans "Quand la machine apprend" (Odile Jacob), nous avons 86x10^9 neurones et interconnectés par 1,5x10^14 synapses, chaque synapse représente une centaine de "calculs" (ou opérations) par seconde, soit 1,5x10^18 opérations par seconde. En vrai, tout n'est pas connecté au même moment, le fascias a des neurones, le système digestif aussi donc c'est beaucoup plus que cela mais à différents niveaux. Une carte GPU peut effectuer 10^13 ops. Il en faudrait 100 000 donc pour se rapprocher du cerveau. Le cerveau c'est 25 à 30W et une carte graphique jusque 250W. La biologie est donc 1 million de fois plus efficace.
 
parkerbol a dit:
Pour les gamins ont besoin de règles et les adultes doivent faire respecter le cadre.
Cliquez pour agrandir...
Même de nombreux adultes auraient besoin de quelques règles lorsqu'ils sont derrière un clavier, que ce soit celui d'un téléphone portable ou d'un ordinateur portable...
:sneaky2:
 
Ce qu'on loupe en termes d'éducation chez les enfants, il faut le rattraper adulte. Le niveau de conscience est relativement bas et dans les échanges, souvent l'interlocuteur pense que l'autre est son problème et ne voit pas la poutre dans l'oeil. Pareil concernant les politiques où l'égo prend tellement de place que c'est un monde de représentations et d'opinions soit c'est le bien, soit c'est le mal. Rien entre les deux.
On a perdu les approches philosophiques où la pensée construite et réfléchie laisse place à l'opinion. Les panels de français invités pendant les élections devant un ministre le montre bien, l'intérêt général est en perte de vitesse : "ma fin du mois, ma fin du moi et moi à la fin".
 
parkerbol a dit:
Le niveau de conscience est relativement bas et dans les échanges, souvent l'interlocuteur pense que l'autre est son problème et ne voit pas la poutre dans l'oeil.
Cliquez pour agrandir...
À part ce que j'ai cité (sur Internet, il y a certaines personnes qui voient peut-être le fait d'être derrière un clavier, "à l'abri", comme une revanche sociale où elles peuvent exprimer leurs frustrations en utilisant l'arrogance et la méchanceté), selon moi, l'IA pourrait aussi rendre les esprits humains paresseux.
Sur un sujet compliqué et controversé, il suffit d'utiliser l'IA pour obtenir un résumé (d'ailleurs, quelles sources l'IA pourra-t-elle utiliser ?) sans faire l'effort de chercher toutes les voix (contraires et favorables), ce qui rendrait notre esprit paresseux.
 
Dernière édition:
Je crains que ce ne soit pas la dernière ; rappelons-nous, même si dans des secteurs différents, la bulle des Dot-com en 2000, la bulle des subprimes en 2008, les problèmes actuels en Chine avec de nombreuses usines de voitures électriques qui risquent de faire faillite.
C'est une loi du marché : plus on monte vite, plus on risque de tomber lourdement.
Certainement quelqu'un s'enrichira au détriment de beaucoup qui perdront beaucoup d'argent, l'un des maux de notre époque est de faire de l'argent avec de l'argent...
:sneaky2:
 
On arrive rapidement à la fin d'un cycle et de ce système économique mondial de toute façon, vu les crises qui s'enchaînent et qui se suivent de plus en plus.
 
Surtout vu les effets que ça produit et leurs conséquences prévisibles ou imprévues...
 
Vous devez vous connecter ou vous enregistrer pour répondre ici.
Retour
Haut