Développements de l'IA

[parkerbol]

Et si je te disais que ce forum a servi de source aux IA gen comme de nombreux sites et que l'on ne pourra pas réclamer de droits d'auteurs ...
C'est un test qui au début des IA gen posait de sérieux problèmes aux modèles et qui désormais fonctionne bien.

 

[beuhbeuh]

Oui bien sûr comme bon nombre de sites internet et aussi de vidéos YouTube par exemple. Le contenu commence même à manquer pour pouvoir entraîner encore plus toutes ses IA ! Il va falloir créer des IA pour créer du contenu pour que d'autres IA puissent apprendre !!
Les droits d'auteurs avec les IA sont un vrai problème, tout comme le fait de connaître la source et sa fiabilité !

 

[Astrix64]

Il va falloir créer des IA pour créer du contenu pour que d'autres IA puissent apprendre !!

C'est déjà le cas. Et cela devient un problème pour les IA.
On en arrive à de la régression et à la pensée unique très basique (quelque soit le type de pensée, "bonne ou mauvaise", ce n'est pas le sujet).

 

[soyous]

L'IA ressemble quand même fortement à une bulle spéculative. On en mange matin midi et soir, on veux nous en refourguer dans n'importe quel service informatique pour un résultat incertain. Ne parlons même pas du coût énergétique, écologique et humain du truc. Sans conter sur le gouffre financier actuel.
Aucune boite d'IA ne gagne de l'argent, la merdification des services est en cours avec l'arrivée de la pub ou au mieux de la tarification.
L'IA comme déjà cité pompe tout ce qui passe, partout, sans vraiment se soucier du droit d'auteur ou copyright pourtant très puissant ! (La hadopi en PLS ).
L'IA a pour l'instant besoin d'une armée d'humain pour la modérer, l'Afrique, l'Inde ou certain pays d'Amérique du sud fournissent des milliers de modérateurs payés au lance pierre pour réussir l'apprentissage des algorithmes.
Les annonces d'ouvertures de centrale nucléaires pour faire tourner les serveurs en dit long sur les dépense énergétiques du bouzin, une requête est actuellement estimée à près de 30g de CO2...

L'IA ne propose pas de source, pas d'indice de fiabilité, comment dans quelque temps dissocier une info issue de la recherche ou de celle sortie d'une IA. Que vont devenir les données avalées x fois, augmentant le risque d'amplifier une erreur ?

Je suis personnellement très méfiant envers cette technologie sûrement adapté à plein de cas, mais la manière actuelle de faire me pousse à la méfiance.

Un article bien mieux écrit que mon blabla lourdingue :
Une bulle d’intelligence artificielle et de stupidité naturelle

 

[FoLuxo]

On est dans le hors sujet mais tant pis.

Oui, les "IA" actuelles ne sont pas "I" du tout. Ce sont des perroquets de luxe. Ça consomme énormément d'énergie et pour l'instant ça a coûté des investissements énormes probablement impossibles à rentabiliser. Tout le monde en parle à tort et à travers, et essaie de le mettre dans son produit pour faire cool, alors que ça n'a aucun rapport. En gros, c'est comme Internet vers 1994. Peu le connaissaient, personne n'en avait un "vrai" usage, à peu près tout ce qu'on pouvait y faire pouvait être mieux fait ailleurs, et c'était surtout un objet de curiosité. Si quelqu'un avait parlé de streaming en HD, tout le monde aurait rigolé. Voyons, la ligne de cuivre ne permettra jamais de faire des choses comme ça, il faudrait recâbler toutes les maisons.

De même, Kodak a du bien rire quand ils ont vu les premiers résultats obtenus par les Logitech Fotoman, premier appareil photo grand-public, en 1990. Eux étaient en train de développer le format APS, la pellicule du futur.

L'IA ne propose pas de source, pas d'indice de fiabilité, comment dans quelque temps dissocier une info issue de la recherche ou de celle sortie d'une IA. Que vont devenir les données avalées x fois, augmentant le risque d'amplifier une erreur ?

Tu parles des IA "grand public", gratuites, et qui sont plus des objets de test et de recherche de financement que des services pensés pour être utiles. Je t'assure que la même chose dans un domaine "fermé" comme les données d'une entreprise ou d'un centre de recherches n'a rien à voir. C'est l'équivalent d'un Google qui saurait te faire des résumés et de corréler des documents séparés. C'est un accélérateur de dingue. Le saut d'efficacité entre la recherche traditionnelle et ce genre d'outils, c'est le passage de la microfiche dans une bibliothèque à Google. Tu fais la même chose, mais c'est tellement plus efficace que ce n'est plus la même chose. Oui, Google se plante des fois, ce n'est pas parfait. Mais je ne connais personne qui veut revenir aux microfiches parce que c'est plus fiable.

Il faut réussir à séparer le bon grain de l'ivraie dans tous les discours marketing, et se méfier des escrocs ; mais comme toutes les technologies informatiques elle ne fait qu'ouvrir la voie aux prochaines générations d'outils.

 

[soyous]

On est dans le hors sujet mais tant pis.

Désolé... Cela m'as démangé...
En tant que modérateur, est ce que tu préfère un sujet ouvert à part pour l’aparté à l'avenir ?

Tu parles des IA "grand public"

Oui, c'est celle qui me dérange.

Je t'assure que la même chose dans un domaine "fermé" comme les données d'une entreprise ou d'un centre de recherches n'a rien à voir. C'est l'équivalent d'un Google qui saurait te faire des résumés et de corréler des documents séparés. C'est un accélérateur de dingue.

Oui, Je suis d'accord, c'est le sens de la nuance "adapté à plein de cas".

Le saut d'efficacité entre la recherche traditionnelle et ce genre d'outils, c'est le passage de la microfiche dans une bibliothèque à Google. Tu fais la même chose, mais c'est tellement plus efficace que ce n'est plus la même chose. Oui, Google se plante des fois, ce n'est pas parfait. Mais je ne connais personne qui veut revenir aux microfiches parce que c'est plus fiable.

Google était à la base rien d'autre qu'un système de microfiche informatisé, la course au référencement pour être bien placé était un jeu pour les créateurs de sites. Puis cela à dérivé vers une régie publicitaire et maintenant l'IA qui donnerais autour de 25% des résultats.
Personnellement je préfère le système de microfiches, probablement plus fiable et factuel qu'une régie publicitaire ou une IA immature.
Il n'y a malheureusement aucune alternative.

Il faut réussir à séparer le bon grain de l'ivraie dans tous les discours marketing, et se méfier des escrocs ; mais comme toutes les technologies informatiques elle ne fait qu'ouvrir la voie aux prochaines générations d'outils.

C'est précisément cela qui me dérange, on ne peut pas échapper à l'IA qui est poussée partout de gré ou de force sans notion de consentement ou simplement d'information pour un résultat aléatoire, la technologie étant grandement immature.
Rien n'indique pour l'instant que cela va s'améliorer à plus ou moins terme, avec quelques risques de dérives.

Quelques articles, entre autres, qui fabriquent mes doutes (je ne suis pas expert et mon avis exprimé en qqs lignes est bien sûr à nuancer.):
Pourquoi la hype autour de l’intelligence artificielle signale une nouvelle bulle technologique
OpenAI et le défi des « hallucinations »
L'hallucination est inévitable
"Ils profitent de notre pauvreté" : derrière le boom des intelligences artificielles génératives, le travail caché des petites mains de l'IA

 

[FoLuxo]

J'ai peut-être mal compris ton message, qui parlait de "IA" en général, comme techno au sens large, et non des services disponibles maintenant pour le grand-public. Je partage globalement ton constat sur les services actuellement les plus répandus hélas.

 

[Avenger]

Il faut arrêter de nous bassiner quoi qu’on en dise avec l’IA sur tous les sujets, tous les jours.
L’IA, cela n’existe pas.
Un ordinateur n’a strictement aucune intelligence par lui-même. Il a l’ »intelligence « , si on peut appeler cela comme cela, qu’on lui a programmé pour une tâche bien précise et, sans reprogrammation, est incapable de faire autre chose.
Je n’appelle pas cela d’intelligence, c’est une machine qui répète et exécute bêtement des algorithmes introduits dans ses mémoires.
Il serait donc nécessaire de légiférer strictement, quand il en est encore temps, afin que l’on ne serve pas de ces technologies pour piller des travaux, œuvres, que des auteurs ont mis des années à élaborer. C’est un peu trop facile, certains en en ayant fait leur but très lucratif et le revendiquant sans gêne.

 

[FoLuxo]

Un ordinateur n’a strictement aucune intelligence par lui-même. Il a l’ »intelligence « , si on peut appeler cela comme cela, qu’on lui a programmé pour une tâche bien précise et, sans reprogrammation, est incapable de faire autre chose.

Ca vient tout doucement : https://arxiv.org/abs/2205.00167

We empirically show that a self-programming AI implemented using a code generation model can successfully modify its own source code to improve performance and program sub-models to perform auxiliary tasks.

 

[Tech52]

Cédric Villani propose la définition suivante pour l'IA :
"L'IA, ce sont tous les développements informatiques non encore aboutis qui sont porteurs de fantasmes et permettent de faire le buzz".

C'est dans le post suivant de JMJ sur LinkedIn que j'ai lu ça, un propos avec lequel je suis 100% d'accord.
https://www.linkedin.com/posts/jean...u0?utm_source=share&utm_medium=member_desktop

Je pense que l'IA est un vrai danger si on ne s'occupe pas collectivement de cadrer sérieusement ses promoteurs et développeurs.
Je vous conseille de prendre le temps de regarder la vidéo Youtube suivante.
Ça fait froid dans le dos.

 

[soyous]

De faire le buzz et lever des fonds auprès d’investisseurs crédules…

 

[FoLuxo]

Sur la liste des sujets pour lesquels je dois m'inquiéter, les investisseurs crédules arrivent assez bas

 

[soyous]

Oui, effectivement : Un chatbot de Character.ai a suggéré à un enfant de tuer ses parents

 

[Bwoah_Kimi]

Pourquoi le message #1 semble s'adresser à une personne ? J'ai raté un bout ou il manque un morceau ?

Sinon, l'IA ne me fait pas peur, je prend cela comme un vrai progrès, je trouve que l'on ne vas pas assez vite même encore.
Les débouchés, les solutions pour la médecine, la science, la recherche sont énormes grâce à cela.
Même pour tout un tas d'autres domaine, la sécurité d'une manière générale ou même le confort et le bien être au travail.
De toute façon avec un monde pareil on a/aura pas vraiment le choix.

C'est peut être une question de génération ou d'origine sociale que cela soulève autant de question et d'inquiétude

 

[Pulsar_76]

Le principal problème avec les IA c'est qu'elles sont partout , dans chaque système robotisé et que tout humain vivant dans le monde moderne a l'habitude de faire confiance à ces systèmes robotisés, qui ne disent très souvent pas leur nom .
Donc pour une meilleur acceptation et plus de sécurité potentielle , il serait souhaitable que les IA ne se cachent jamais derrière une pseudo apparence humaine .
J'ai constaté le week-end dernier la eniemme fois , l' incompréhension totale d'une propriétaire de cafetière à capsule , de la dite machine . La dame se plaignait que la machine ne faisait plus le café correctement , alors que celle-ci insistait à sa manière pour faire un cycle complet de détartrage . Il n'était pas venu à l'esprit de la personne que la machine était par nature plus têtu et bornée qu'elle et que la notice d'utilisation lui apportait la solution.

 

[Grigou]

Pourquoi le message #1 semble s'adresser à une personne ? J'ai raté un bout ou il manque un morceau ?

Parce que @parkerbol (sans doute) a créé ce fil suite à un HS sur l'IA qui s'était introduit dans un autre sujet
Les premiers messages étaient à l'origine dans cet autre sujet.

 

[Bwoah_Kimi]

Parce que @parkerbol (sans doute) a créé ce fil suite à un HS sur l'IA qui s'était introduit dans un autre sujet
Les premiers messages étaient à l'origine dans cet autre sujet.

Merci je me disait bien avoir vu ce sujet quelque part mais qu'on ne pouvait pas répondre au sujet.

Le principal problème avec les IA c'est qu'elles sont partout , dans chaque système robotisé et que tout humain vivant dans le monde moderne a l'habitude de faire confiance à ces systèmes robotisés, qui ne disent très souvent pas leur nom .
Donc pour une meilleur acceptation et plus de sécurité potentielle , il serait souhaitable que les IA ne se cachent jamais derrière une pseudo apparence humaine .
J'ai constaté le week-end dernier la eniemme fois , l' incompréhension totale d'une propriétaire de cafetière à capsule , de la dite machine . La dame se plaignait que la machine ne faisait plus le café correctement , alors que celle-ci insistait à sa manière pour faire un cycle complet de détartrage . Il n'était pas venu à l'esprit de la personne que la machine était par nature plus têtu et bornée qu'elle et que la notice d'utilisation lui apportait la solution.

Je répond à ton message mais il peut répondre à tous.
L'IA existe presque depuis la nuit des temps en réalité, on s'en rend compte maintenant car comme tu le dis il est partout au quotidien et que la connaissance de cet outil est également démocratisé/accessible.
La roue, la poulie, le levier à l'époque étaient une forme d'intelligence artificielle.
Tout outil demandant un ordre de fonctionnement est quelque part un outil fonctionne grâce ou en partie à l'intelligence artificielle ou à grâce à une forme de. L'intelligence artificielle découle en partie de la numération et de l'automatisation. Hors on compte et on automatise depuis des milliers d'années. Pourquoi en avoir peur, en avoir la haine à ce point pour certains. Je ne comprends pas tellement.
Bien sur il a des utilisations de l'IA qui sont très mauvaises mais comme pour tout malheureusement.

 

[Andre Tissot]

Le problème de l'IA, c'est surtout qu'elle prend des décisions sur des trucs qu'elle a appris, mais on ne sait pas toujours le pourquoi d'une décision.
On cite le cas de Singapour, où une IA devait ouvrir une porte lorsqu'il y avait trop de monde.
L'information venait d'une caméra.
Ca marchait super bien, jusqu'à un jour où les gens ont débauché plus tôt. La prote ne s'est pas ouverte ....
En creusant, les informaticiens se sont rendus compte que l'IA se basait sur une horloge dans le champ de la caméra et pas sur le monde sur le quai.
Et comme les gens étaient sortis plus tôt du boulot...
Et maintenant, on commence à se rendre compte qu'elle commence à se mordre la queue, en récupérant des informations sur le NET, qu'elle a générées elle-même.

 

[Pulsar_76]

C'est bien tout le problème des IA qui ont accès à leur propre production de données . Normalement , ces données devraient être tagué pour qu'elle ne soit pas reprit en boucle . Mais comme pratiquement tout le monde peut produire des données et modifier celles des autres , difficile de faire le tri , même pour une machine dont c'est la vocation première.

 

[Dr.X]

L'IA existe presque depuis la nuit des temps en réalité, on s'en rend compte maintenant car comme tu le dis il est partout au quotidien et que la connaissance de cet outil est également démocratisé/accessible.
La roue, la poulie, le levier à l'époque étaient une forme d'intelligence artificielle.

Non, une roue, un levier ou une poulie ne sont pas de l'intelligence artificielle, ni même un smartphone ou un PC. Ce ne sont que des outils, qui à une commande humaine, répondent toujours de la même façon répétitive, connue et prévisible.
L'IA est distincte, en ce sens qu'elle apprend et fait évoluer ses réponses en fonction de ce qu'elle a appris. À un stade donné de son développement, elle fournit une réponse, qui à la même problématique, sera modifiée plus tard en fonction de ce qu'elle aura rencontré de nouveau dans son apprentissage. C'est en cela qu'on parle d'intelligence, car ça ressemble dans son résultat à ce que nous connaissons de l'évolution du cerveau humain dans son développement et apprentissage.
La vidéo citée plus haut est intéressante pour approcher un peu la complexité du sujet dans ses possibles effets.

Concernant le sujet des "hallucinations", les chercheurs en IA en sont à imaginer et mettre en place des solutions où on donnerait régulièrement aux IA des informations vérifiées humainement et marquées comme "sources fiables" pour les réaligner sur les données irréfutables réputées "vraies", tellement elles ramassent d'âneries dans leur exploration et mémorisation des données numérisées du monde...
L'IA n'a qu'une partie de l'intelligence, celle de la mémorisation et des mathématiques, à un niveau de puissance et de performance incomparable, mais pas forcément encore le sens critique, le "bon sens" populaire, la créativité, l'intuition qui permettent à l'intelligence humaine de faire ses choix avec nettement moins de calculs et de données que l'IA des ordinateurs.