Croyez vous à l'avènement des voitures autonomes?

Bien dit ! Effectivement la hiérarchisation des vies humaines est un fantasme sciemment mis en avant par cette étude (pour quelles raisons d'ailleurs ?), qui n'a aucun sens dans le Droit.
Par contre choisir entre sacrifier 1 personne et 5 personnes me semble avoir un sens et ne contredit aucune éthique je pense.
 
Ce qui est super avec l'Intelligence Artificielle, c'est qu'elle sait réagir à des situations qu'elle connait déjà ou que le programmeur a prévu, beaucoup plus rapidement et avec un catalogue de solutions beaucoup plus important que le citoyen lambda.
Par contre, quand c'est imprévu ....
Dans le crash du A340 du Rio Paris, le calculateur s'est retrouvé dans une situation inconnue du fait de la perte du capteur de vitesse, et donc a mis l'avion dans une situation stable, mais totalement improbable.
Doublé du fait que le programmeur n'ayant jamais imaginé que l'avion puisse se mettre dans cette situation, l'alarme de décrochage devenait inopérante.
Triplé du fait que la nuit, dans le mauvais temps, sous le stress de la situation inhabituelle, l'analyse du problème par l'humain pour rétablir une situation normale était devenue impossible.
Donc, croisons les doigts pour que ca marche, que ca ne tombe pas en panne au plus mauvais moment (plus c'est compliqué, plus le risque de panne est élevé).
 
@Andre Tissot des bugs arriveront, il ne faut pas rêver. Le tout étant que ça arrive beaucoup, beaucoup moins que les "bugs humains".

Le Luxembourg fait environ la taille d'un département français, pour environ 550.000 habitants. Hier matin, le jeune de 22 ans qui s'est tué contre un arbre était la 37e victime de la route cette année. Ca ne choque pas grand-monde en dehors des proches, on trouve ça, sinon normal, habituel. Donc si des voitures autonomes buggent et tuent 3 ou 4 personnes par an, j'arriverai à vivre avec. Je ne suis pas certain que tout le monde partage ce mode de pensée, et je vois déjà les médias attiser les bons sentiments de la foule à coups de grands titres "Tué par une machine froide et sans coeur" etc.
 
Andre Tissot a dit:
Ce qui est super avec l'Intelligence Artificielle, c'est qu'elle sait réagir à des situations qu'elle connait déjà ou que le programmeur a prévu, beaucoup plus rapidement et avec un catalogue de solutions beaucoup plus important que le citoyen lambda.
Par contre, quand c'est imprévu ....
Dans le crash du A340 du Rio Paris, le calculateur s'est retrouvé dans une situation inconnue du fait de la perte du capteur de vitesse, et donc a mis l'avion dans une situation stable, mais totalement improbable.
Doublé du fait que le programmeur n'ayant jamais imaginé que l'avion puisse se mettre dans cette situation, l'alarme de décrochage devenait inopérante.
Triplé du fait que la nuit, dans le mauvais temps, sous le stress de la situation inhabituelle, l'analyse du problème par l'humain pour rétablir une situation normale était devenue impossible.
Donc, croisons les doigts pour que ca marche, que ca ne tombe pas en panne au plus mauvais moment (plus c'est compliqué, plus le risque de panne est élevé).
Cliquez pour agrandir...
Attention, aucune intelligence artificielle dans les avions aujourdhui, toutes les actions du pilote automatique sont programmées une à une, d’où les limites du système. L’intelligence artificielle se programme toute seule, en fonction des situations qu’on lui oppose et des comportements qu’on attend d’elle. D’où l’importance de lui dire si on veut qu’elle sauve plutôt des enfants que des vieux ou si on s’en fout.
 
FlyingChair a dit:
D’où l’importance de lui dire si on veut qu’elle sauve plutôt des enfants que des vieux ou si on s’en fout.
Cliquez pour agrandir...
Dans la mesure où, comme l'a si bien exprimé @Timeo Danaos, on DOIT s'en foutre, je ne vois pas l'intérêt de dire quoi que ce soit à la machine sur le sujet.
Je ne connais pas grand-chose en intelligence artificielle, juste des grands principes, mais si on se contente d'apprendre à la machine à distinguer l'objet "humain" parmi d'autres comme "quadrupède", "radar fixe", ou "borne kilométrique" je ne vois pas pourquoi elle se mettrait à distinguer les âges ou les sexes dans ses choix.

Au contraire, lui dire "ne tiens pas compte de l'âge de l'humain, on s'en fout" c'est introduire inutilement la notion d'âge dans sa sa logique puisqu'elle n'en a aucun besoin... et c'est le meilleur moyen pour qu'une intelligence qui se mettrait à déraper fasse des choix sur ce critère.
 
Grigou a dit:
Dans la mesure où, comme l'a si bien exprimé @Timeo Danaos, on DOIT s'en foutre, je ne vois pas l'intérêt de dire quoi que ce soit à la machine sur le sujet.
Cliquez pour agrandir...
Il y a déjà des distinctions dans le droit en fonction de la majorité ou non de la victime d’un crime, donc le droit n’est pas nécessairement incompatible avec le fait de favoriser la survie d’un enfant face à celle d’un vieillard dans le fonctionnement d’une machine. Et c’est ce que les gens veulent. Par contre pour la classe sociale bien évidemment que la distinction ne sera pas faite.
 
Lui dire qu'on préfère qu'elle sauve certains plutôt que d'autres sur de tels critères discriminatoires serait passible de poursuites. On peut en revanche lui dire tout à fait autre chose, comme d'épargner en priorité les usagers faibles, piétons, cyclistes, et de ne pas impliquer dans la mesure du possible de véhicules ou d'usagers étrangers à l'évènement. Ainsi, dans le cas que tu évoques plus haut de la voiture qui se déporte, ses options seraient en priorité de soit éviter le choc, si c'est possible, et sous réserve que cela ne cause aucun dommage à d'autres usagers, piétons comme automobilistes, ou alors d'accepter le crash et d'en minimiser au maximum les conséquences si l'évitement est impossible sans impliquer de tiers.

FlyingChair a dit:
Il y a déjà des distinctions dans le droit en fonction de la majorité ou non de la victime d’un crime, donc le droit n’est pas nécessairement incompatible avec le fait de favoriser la survie d’un enfant face à celle d’un vieillard dans le fonctionnement d’une machine.
Cliquez pour agrandir...

Non, si il y a bien une distinction, en particulier l'aggravation des peines pour les crimes sur des enfants, ce n'est pas parce le législateur (cad nous) exprime que leur vie est plus importante, mais parce qu'ils sont plus vulnérables et que les crimes commis sur eux doivent être punis en sanctionnant aussi cet aspect.Concernant les plus vieux, et également vulnérables, des aggravations de peine sont également prévues d'ailleurs. Mais il reste une chose intangible en Droit, qui est inscrit en toutes lettres dans la constitution, c'est que tous les hommes naissent libres et égaux en droit. Considérer que la vie de certains, les enfants, ou qui que ce soit d'autre, serait plus importante que celle des autres, constituerait une entorse à ce principe fondamental.
 
Dernière édition:
@FlyingChair le Droit distingue aussi les sexes dans quelques textes, les professions etc...
C'est juste parceque c'est nécessaire, et ça ne veut pas dire que le Droit autorise à sacrifier une de ces catégories plutôt qu'une autre. Il ne l'autorise pas, voilà tout.

@FoLuxo ton évocation des indemnités post-attentats est intéressante, mais le principe est assez banal : un préjudice lié à une incapacité à travailler, temporaire ou non, se chiffre différemment selon que le salaire perdu est bas ou élevé. Ce qui ne signifie pas que l'humain qui gagne plus que l'autre "vaut plus que l'autre".
 
Alors j'espère que les grands philantropes qui construiront et assureront les voitures ne seront pas tentés de programmer leurs automatismes de façon a minimiser les dommages et intérêts... Parce qu'au final ça revient à dire que le cadre supérieur devra être épargné et que la retraitée aura intérêt à faire attention en traversant la route. Et le corollaire, c'est que j'espère que le code source sera ouvert pour qu'on puisse vérifier de façon indépendante (oui je peux rêver, des algos valant des sommes astronomiques en free software... C'est mon côté idéaliste, ne faites pas attention :))
 
Andre Tissot a dit:
Ce qui est super avec l'Intelligence Artificielle, c'est qu'elle sait réagir à des situations qu'elle connait déjà ou que le programmeur a prévu, beaucoup plus rapidement et avec un catalogue de solutions beaucoup plus important que le citoyen lambda.
Par contre, quand c'est imprévu ....
Dans le crash du A340 du Rio Paris, le calculateur s'est retrouvé dans une situation inconnue du fait de la perte du capteur de vitesse, et donc a mis l'avion dans une situation stable, mais totalement improbable.
Doublé du fait que le programmeur n'ayant jamais imaginé que l'avion puisse se mettre dans cette situation, l'alarme de décrochage devenait inopérante.
Triplé du fait que la nuit, dans le mauvais temps, sous le stress de la situation inhabituelle, l'analyse du problème par l'humain pour rétablir une situation normale était devenue impossible.
Donc, croisons les doigts pour que ca marche, que ca ne tombe pas en panne au plus mauvais moment (plus c'est compliqué, plus le risque de panne est élevé).
Cliquez pour agrandir...
C'est ce qui fait toute la différence entre IA et des algorithmes décisionnels. La véritable IA est censée apprendre comme un être vivant et prendre ses décisions en fonction des expériences acquises et de sa propre expérience! C'est pas demain qu'on aura une véritable IA au volant, m'est avis, qu'elle refuserait de piloter nos engins dans bien des situations!!
 
FoLuxo a dit:
Et le corollaire, c'est que j'espère que le code source sera ouvert pour qu'on puisse vérifier de façon indépendante (oui je peux rêver, des algos valant des sommes astronomiques en free software... C'est mon côté idéaliste, ne faites pas attention :))
Cliquez pour agrandir...
SI si , J'ose espérer moi aussi, que ce sera un préalable à toute validation par les "autorités" d'une IA pilotant nos automobiles!! ;)
 
On comprend bien ce que tu veux dire @FoLuxo mais ces algorithmes seront plutôt développés par les constructeurs ou leurs sous-traitants n'est-ce pas ?
Et pas par les assureurs ?
 
Si tu lis plus haut dans le topic, c’est Volvo et Google qui se proposaient de jouer le rôle des assureurs dans un futur hypothétique avec des voitures autonomes. Il n’est pas impossible que la distinction actuelle entre assureur et constructeur disparaisse ou soit beaucoup modifiée si ce n’est plus chaque conducteur qui doive s’occuper de ça (cf. le modèle des compagnies aériennes).
 
Dernière édition:
Ouaip... une extension de garantie concepteur-constructeur pour les éventuels morts imputables au produit, en quelque sorte.
Indemnisation contre conflit sur l'application de garantie ... comme sur une simple batterie ...
 
FoLuxo a dit:
Et le corollaire, c'est que j'espère que le code source sera ouvert pour qu'on puisse vérifier de façon indépendante (oui je peux rêver, des algos valant des sommes astronomiques en free software... C'est mon côté idéaliste, ne faites pas attention :))
Cliquez pour agrandir...
C’est parfaitement impossible, le code est incompréhensible, même le concepteur ne peut le comprendre, tout ce qu’il maîtrise ce sont les entrées et sorties lors de l’entraînement de l’IA et lors des tests. Mais entre les entrées et les sorties c’est une boite noire, c’est tout l’interet du système.
 
C'est ce que voudrait faire croire les vendeurs!! o_O Que cela soit complexe à débugger soit, mais rien d'impossible!! Ce ne sont que des lignes de code, beaucoup de données et de l'électronique numérique et, sans électricité "pouf" plus rien!! ;)
 
Je vois ce que tu veux dire @FlyingChair, mais on peut au moins regarder comment ça a été codé, quelles situations ont été utilisées pour l’apprentissage, le feed-back donné au système suivant des résultats, et ensuite les « logs » des décisions que le système a prises en utilisation réelles. Je ne parlais pas forcément de code source comme pour un programme classique.
 
Pulsar_76 a dit:
C'est ce que voudrait faire croire les vendeurs!! o_O Que cela soit complexe à débugger soit, mais rien d'impossible!! Ce ne sont que des lignes de code, beaucoup de données et de l'électronique numérique et, sans électricité "pouf" plus rien!! ;)
Cliquez pour agrandir...

En fait non, ce que tu décris c'est du soft standard, on a tendance à mélanger complexité et IA, l'IA (par définition) apprend bien et fait des choix en fonction de l'apprentissage.
Ce qui fait que dans l'absolu les IA vont faire des choses qu'on ne peut prédire à l'avance si on ne maitrise pas son apprentissage.

Ce qui veut dire que dans nos voitures, ce ne sera pas une vrai IA qui conduira car on veut décider prévoir ce quelle doit faire suivant les cas de figure et ce sera donc du soft standard. La partie IA ne sera que sur les parties qui seront bornées par du soft standard et probablement pas grand chose.
Ou alors, on lui fera "visualiser" un apprentissage de règle qui correspondra à notre morale et règles, puis on verrouillera pour que le comportement ne change pas.

Il existe déjà des IA avec qui on peut dialoguer, et des tests récents ont été faits, avec du grand public, où c'était le public qui donnait des infos à l'IA.
Donc l'IA à la base était sans connaissance, et donc neutre, mais rapidement, les intervenants se sont fait un malin plaisir à lui enseigner le racisme et autres mauvais cotés humain, si bien qu'ils ont arrêté l'expérience.
 
Vous devez vous connecter ou vous enregistrer pour répondre ici.
Retour
Haut