route déserte photo avec un panneau On a déjà vu des cas de certains voitures qui étaient bloqués à 200 km/h sans pourvoir les arrêter, et ben tout ça ne va pas s’arranger. Certaines voitures sont maintenant totalement électroniques et évidemment hautement piratables :

« Et le pire, c’est la possibilité de désactiver complètement les freins durant la conduite ! Vous pouvez bien appuyer sur la pédale, mais cela n’a plus aucun effet sur les freins du véhicule en mouvement. »

Utiliser ces voitures revient dès lors à mettre son intégrité physique entre les écrous de la machine et sa vie dans la confiance de ceux qui l’ont conçus. Une voiture contient autant de programmes qu’un ordinateur, et si l’ordinateur ne peut pas passer une journée sans subir un bug quelconque, une voiture non plus.

Je me demande si ceux qui ont participé à la conception de ces voitures choisiraient leur voiture si on leur en laissait le choix. Je connais d’autres exemples où les employés d’une marque te disent d’entrée de jeu que jamais ils n’achèteraient ce qu’ils fabriquent.

L’électronique qui nous assiste dans une voiture est bien sympa, mais elle a des limites. Certains arrivent par exemple à spoofer des signaux GPS, la voiture qui pense vous conduire au boulot pourrait très bien à la place vous conduire dans un ravin ou sauter d’un pont sans que vous ne puissiez rien faire : ni freiner, ni éteindre le moteur, ni même ouvrir la porte ou retirer la ceinture.
Le monde n’est pas un monde de poney tout roses, et il y aura des malades pour tirer un plaisir malsain à mettre les autres en danger par des inventions de ce genre.

Un hacker a récemment découvert un moyen de déverrouiller des voitures de luxe. On lui a répondu de la fermer. La faille, qui ne sera probablement jamais corrigée profitera donc aux pirates : ceux qui voudront tuer des gens au hasard avec un simple clic.

Pirater le réseau téléphonique avec un sifflet était peut-être innocent et sans danger. Pirater des millions de voitures avec un smartphone, c’est déjà beaucoup plus dangereux.

image de Zaqi

60 commentaires

gravatar
SomeOne a dit :

J'aime bien te lire, même si je ne commente pas souvent, mais parfois il faudrait pas exagérer. La faille découverte sur la voiture de marque allemande portait sur la clé...pas sur le fait de pouvoir contrôler la voiture à distance et donc tuer les gens au hasard avec un simple clic. C'est plutôt le risque de voir une recrudescence de vol qui semble inquiéter le constructeur. (cf : http://www.theguardian.com/technology/2013/jul/26/scientist-banned-revealing-codes-cars ) Et pour le coup, s'il y a quelque chose à corriger, ce serait de changer d'algorithme, avec toutes les conséquences que ça peut avoir pour un constructeur automobile. Enfin, bon, les vols de voitures ont toujours existé, électronique ou pas. ^^

De même, dans le premier cas, le piratage ne s'est pas fait à distance mais en se connectant au système de la voiture...en étant à l'intérieur de celle-ci et après avoir démonté le tableau de bord. Faudrait être un peu con pour vouloir tuer quelqu'un et soi avec. Ceci étant, ça m'étonnerait par qu'avec un peu de travail, tout ceci peut être miniaturisé et contrôlable à distance.
Bref, loin de moi l'idée de nier les risques évidents, surtout avec la place de plus en plus importante qu'occupe l'électronique, le début des voitures sans chauffeur ou encore la connexion internet pour les voitures, mais là pour le coup, c'est un peu caricatural ton coup de gueule...

gravatar
TD a dit :
Une voiture contient autant de programmes qu’un ordinateur, et si l’ordinateur ne peut pas passer une journée sans subir un bug quelconque, une voiture non plus.

Attention à ne pas confondre l'informatique embarquée et l'informatique « d'ordinateur ». Dans l'embarqué, en tout cas dans l'aviation, on fait de la programmation par contraintes garantie sans bug (mathématiquement) : on définit les contraintes et le logiciel code tout seul.

gravatar
Le Hollandais Volant a dit :

@SomeOne : le fait qu’il y ait une faille dans un système de la voiture, prouve qu’il peut y avoir des failles partiquement partout, que ce soit dans le le système de contrôle du freinage ou autre chose.


Bref, loin de moi l'idée de nier les risques évidents, surtout avec la place de plus en plus importante qu'occupe l'électronique, le début des voitures sans chauffeur ou encore la connexion internet pour les voitures, mais là pour le coup, c'est un peu caricatural ton coup de gueule...

On verra dans 5~6 ans alors, quand les voitures seront contrôlées par des smartphones (certains le font déjà, hein) et que la voiture s’arrêtera si la connexion 3G/4G est perdue.

@TD : je ne savais pas ça. Mais 100 Millions de lignes de code, c’est quand même gigantesque. Qu’il n’y a pas d’erreur de programmation possible, j’y du mal à y croire (après tout : le logiciel qui code a été codé par des humains, non ?) mais soit. Ok. Après il y a des phénomènes aléatoires qui peuvent changer un bit ou deux dans le système.
Il y a sûrement des moyens de contrôle d’erreurs, ça me semble évident, mais là encore, je doute que rien ne soit infaillible.

gravatar
TD a dit :

@Le Hollandais Volant : en aéronautique, il faut une fiabilité telle qu'un problème a une chance sur 10¹² de se produire (pour tous les système, la structure, les matériauxe etc). C'est la loi et c'est pour ça qu'il y a deux pilotes (fiabilité de 10⁻⁶ chacun) qui ne doivent pas manger la même chose. Le problème n'est pas l'électronique mais l'humain : c'est lui qui cause l'accident et quasiment jamais l'avion.

gravatar
danarmk a dit :

Les programmes entrant en jeu dans l'avionique sont de plus en plus prouvés mathématiquement, avec des outils adaptés. Tu peux par exemple regarder les cours de Gérard Berry du Collège de France (vidéos accessibles sur le site du Collège de France), il y présente, entre autre, Esterel, l'outil qu'il a contribué à développer pour ce genre de cas. Il y a aussi Astrée, un analyseur statique qui a prouvé qu'une partie du code de l'A340 (la plus importante) ne pouvait pas planter. Tu peux aussi regarder la page http://fr.wikipedia.org/wiki/DO-178, qui détaille un peu les réglementations.

Après, ça m'étonnerai que les réglementations soient aussi stricte pour les voitures, c'est bien dommage, et puisqu'on a des outils adaptés pour faire du code sûr, il vaudrait mieux les utiliser... Ce qui est sûr, c'est que sans réglementations, on peut effectivement s'attendre et de gros délires du côté des voitures sans pilotes.

(Après, ces trucs ne sont pas vraiment à propos de piratage, mais à propos d'éviter des erreurs de programmation.)

gravatar
X3N a dit :

Des rames de métros sont bien automatisées, les trains et les avions ont bien plus de programmes etc.
Jette un œil sur la méthode B, c'est la programmation souvent utilisée pour ces systèmes critiques.

gravatar
seb a dit :

Il me semblait que les banques étaient très strict au niveau de la sécurité, puis ils nous ont pondu les paiements sans contact, en partant du système de sécurité des cartes de crédit sans penser que le système était différent. J'ai tout de suite moins confiance dans leurs systèmes de sécurité.

Dans les voitures c'est pareil. Ils se font pirater leur sécurité pour les clefs, ils enlèvent toutes les liaisons mécaniques entre le conducteur et sa voiture, ils automatisent tout ce qui peut l'être pour que le conducteur ne conduise plus. Avec LAVIA, plébiscité par notre chère Chantal Perrichon, il pourra même garder le pied au plancher, la voiture saura que la limitation a changé et donc ralentira toute seule.
Tout ça me donne envie de m'acheter une vieille voiture à carbu qui pollue et qui consomme mais qui me laisse conduire.

gravatar
galex-713 a dit :

Tristement réaliste… ça me rappelle le double épisode de Doctor Who « A.T.M.O.S. » dans la saison 4… où un système « révolutionnaire » équipe touts les véhicules de la planète, automatisant tout pour « pas de pollution », et qu’après avoir tué plusieurs journalistes un peu au courant de la mascarade à l’aide du système de pilotage automatique de voiture, les voitures se mettent toutes à émettre un gaz toxique afin de tuer tout le monde… C’est peut-être de la science-fiction… mais c’est justement parce que c’est possible que c’en est. (après le coté « les extraterrestres tuent tout le monde » on est d’accord que c’est peu réaliste, mais « tuer touts les musulmans vaguement soupçonnés d’avoir une attitude de terroriste », c’est plus réaliste).
Ça me rappelle aussi un petit roman de science-fiction… « l’envers du temps », se passant dans le futur, où les États-Unis est un pays parano et totalitaire (pourtant la différence avec maintenant n’est pas flagrante) et où les voitures sont équipées pour faire tout ce qu’on leur demande, avec un mouchard et un machin qui contrôle la vitesse… putain je vois plus pourquoi c’est de la science-fiction ce truc… ça m’a l’air plus du genre d’un roman fururiste–réaliste…

gravatar
iTux a dit :

@TD et danarmk : le fait que le programme n'ai pas de bug n'est-il pas indépendant du fait qu'il puisse contenir des failles de sécurité ?

On a déjà vu des modules matériels capable de prendre le contrôle d'une parti de l'ordinateur de bord d'un avion et le spoofing de signal GPS fonctionne avec n'importe quel véhicule, même sécurisé au max (il faut alors lire sa position à l'aide d'autres valeurs).


Pour ce qui est des voitures :

On peux considérer un risque matériel des qu'une personnes malveillante à accès au dessous (et peux découper la plaque ou a accès au tuyau des freins, ect ...).

On peux considérer un risque logiciel des qu'il peux pénétrer dans le véhicule; et aucun véhicule équipé d'une clé pouvant le déverrouiller à distance n'est infaillible qu'il soit en infra-rouge ou RF (quelque soit la norme, le fréquence, le chiffrement ou hashage éventuel ...).
Une fois à l'intérieur, le port OBD est accessible, de même que le lecteur CD (qui peux aussi servir de vecteur d'infection, une démo à été réalisée sur une Volkswagen) quand ce n'est pas directement un port USB (certaines FIAT avec une machine JAVA qui tourne).

Outre le spoofing GPS on à aussi vu des GPS tomber avec des informations TMC formattées pour ...




Bref : l'électronique embarquée n'est pas un mal mais les consommateurs devront être avertis du danger possible et les programmes devront être rédigés avec soin.

gravatar
Mageti a dit :

@TD :
Malheureusement, c'est pas aussi beau que ça...
Etant en mission chez un équipementier automobile, qui justement programme ces trucs-là, non, il n'y a aucune contrainte de fiabilité. Absolument aucune. On est très loin de ce qu'il y a dans l'aéronautique, pour ne citer que ça.
Pour te dire, là, on a un prototype de voiture (qui sortira dans quelques mois), dont le système embarqué tourne sur un linux grand public (type debian, par exemple). Et tous les programmes spécifiques à la voiture (juste un exemple du gars qui bosse à côté de moi : la gestion de la jauge de carburant, le calcul de la vitesse, etc...) tournent dessus, avec une gestion des développeurs et des développements dans le genre "projets web" qu'on peut mener en SSII. Hum... Comment dire...

gravatar
iTux a dit :

@Mageti : Ça aurait pu être pire, elle aurait pu tourner sous Windows ^^

gravatar
galex-713 a dit :

@iTux : +1 : j’ai déjà vu des ordi contrôlant des lasers ultra-intenses pour la recherche avec la fusion nucléaire par confinement inertiel sous un mélange de Windows XP et 98 et c’était pas la panacée… J’imagine bien la même chose dans les vraies centrales nucléaires si le CNRS utilise Windows XP/98 dans la recherche… Alors des voitures sous Debian voir Ubuntu ça me dérange pas autant…

gravatar
danarmk a dit :

@iTux : En effet, un programme peut-être sans bug, mais si on lui donne des données fantaisistes (par exemple à cause de personnes malintentionnées), il sortira des données fantaisistes, et ça pourra tourner au vinaigre si on a conçu le programme en ne prenant pas en compte cette éventualité. Et puis ces contraintes ne concernent pas les systèmes non-critiques.

Les exemples que je donnais étaient surtout pour dire que si, il est possible de faire un programme non-trivial prouvé sans bug. Mais pour que les constructeurs le fasse, il faut des réglementations dures. Sinon, ils ne feront les choses que a minima, que ce soit du point de vue de la correction des programmes écrits ou de la sécurité informatique.

@galex-713 : je ne sais pas pour les réacteurs universitaires, mais les réacteurs commerciaux utilisent aussi des programmes prouvés. Quant à la fusion en laboratoire, ça me dérange moins de voir ça sous Windows XP qu'une voiture qui transporte des personnes.

gravatar
iTux a dit :

@seb : Entre autres ^^
Ce modèle ne me dérange pas : le calculateur "multimédia" étant physiquement séparé de celui du moteur (ils n'utilisent pas le même bus).

Ça ne règle pas d'éventuels bugs dans le calculateur moteur, mais c'était encore assez rare à l'époque.


Par ailleurs, ma propre voiture possède un calculateur tout à fait classique (avec de l'assembleur dedans) mais le programme est vraiment foireux, il y à quelques jours, la direction assistée s'est arrêtée sans raison, ça fait drôle quand on repart d'un feu tricolore ...

gravatar
Mop a dit :

@TD : Etant chercheur dans ce domaine, je dois rappeler qu'un programme est valide mathématiquement si et seulement si son modèle et celui de son système sont valide mathématiquement. Malheureusement, les systèmes considérés sont chaotiques (déterministes mais imprédictibles) et ne sont par conséquent *pas* modélisables. La fusée Ariane qui a explosé démontre parfaitement qu'on peut prouver mathématiquement la validité d'un modèle erroné ou incomplet.
La loi impose la validation des programmes par model checking, mais n'impose pas que les modèles en question soient réalistes (en l'état, ils ne peuvent pas fondamentalement l'être).

gravatar
qwerty a dit :

Je suis impressionné concernant les programmes aéronautiques. Merci pour le partage !

gravatar
Alex a dit :

Il va falloir que je change de voiture d'ici un ou deux ans. J'ai peur!!!

En tout cas, il est hors de question que je prenne une bagnole dont les freins et l'accélérateur n'ont pas de connexion physique entre le dispositif et la pédale...

gravatar
iTux a dit :

@Alex : En France, les freins et l'embrayage (sauf boîtes automatiques) doivent être physiquement reliées aux pédales.

Le souci avec la Prius (et peut-être d'autres voitures) c'est que l'ABS est contrôlé par le calculateur (au point que l'on peux complètement ignorer le freinage, comme dans la vidéo sur le site de nikopik).

gravatar
hoper a dit :

@Alex : Note bien que l'un n’empêche pas l'autre, et qu'un ordinateur aura toujours beaucoup plus de réflexe de toi. Dans 99,99% des cas d'urgence, il vaut beaucoup mieux pour toi (et pour les autres) que ce soit lui qui prenne la décision de freiner.

Dans le cas de la Prius, puisque c'était l'exemple donné, il y a au moins 3 façons de freiner (dont une qui est, à ma connaissance, 100% mécanique).

gravatar
galex-713 a dit :

@hoper : Oui mais il faut quand même que ce soit l’homme qui contrôle la machine et non l’inverse, ce qui requiert du logicel libre modifiable… Mais ça doit pas être si facile de vérifier/hacker/diffuser le code…

gravatar
hoper a dit :

@galex-713

"Oui mais il faut quand même que ce soit l’homme qui contrôle la machine et non l’inverse"

Dans l'absolu on est bien d'accord. Mais le fait de pouvoir "contrôler la machine", cela veut simplement dire que le logiciel embarqué dans la voiture doit idéalement être libre, c'est tout. Ca ne veut pas dire qu'il ne faut pas laisser la voiture conduire à notre place. Après, oui, malheureusement, il sera bien difficile de faire un logiciel 100% fiable, même si le code est libre. Mais comme je l'ai déjà expliqué sur nikopik, les voitures font des milliers de morts parce que l'homme est, globalement, incapable de conduire correctement. Il n'a pas la volonté de conduire prudemment, ni les réflexes nécessaires pour faire face à des cas d'urgence, ou même la connaissance de ce qui se passe précisément quand il commence à perdre le contrôle et comment il faudrait réagir en fonction des situations. L'ordinateur de bord lui, à toutes ces informations, et des réflexes que nous n'aurons jamais. Alors, dans ce cas précis, oui, les machines sauveront beaucoup plus de vie qu'elles n'en tueront.

gravatar
Maxim Bernard a dit :

Quand une nouvelle technologie se pointe, une réaction très répandue est la crainte. C'est normal, quand on ne sait pas ce qui s'en vient, on a tendance à extrapoler à partir de ce qui existe déjà et faire des prédictions alarmistes.

Pour l'instant, je fais confiance à la technologie actuelle. Prenons par exemple le système OnStar des véhicules Chrysler : les opérations qu'on peut faire sont les suivantes :
- Repérer la voiture en cas de vol et la faire ralentir puis arrêter et empêcher le moteur de repartir.
- Faire venir les services d'urgence en cas d'accident.
- Ou d'autres tâches bénignes : vérifier la quantité d'essence à partir de son smartphone, (dé)verrouiller les portières à distance, etc.
Si un de ces trucs-là devait être piraté, les conséquences ne seraient quand même pas «graves». Au pire, l'auto ne repartirait plus, et on prendrait un taxi...

Autre exemple : des systèmes avec caméras qui détectent les obstacles potentiels (piétons, etc.) et qui freinent l'auto si le conducteur ne réagit pas.

Bref, c'est justement pour la sécurité qu'on met ces bidules dans nos véhicules, et non l'inverse.

Et les sociétés qui produiraient ces technologies auraient tout intérêt à les rendre sécuritaires : non seulement il y a le risque de perdre des clients, mais aussi les risques légaux : imaginez un constructeur qui se fait poursuivre pour une défaillance ayant causé un accident, et qui doit en plus rappeler tous les véhicules qu'il a vendus avec cet technologie.

gravatar
bridelice a dit :

Le marché de l'aéronautique est concurrentiel, mais les lois imposent des contraintes de fiabilité.
Le marché auto est tres concurrentiel, et comme les lois n'existent pas encore, et que les lobbys veillent au grain ....

bref conception surement correcte mais realisation/developpement à l'économie (tous ceux bossant dans l'info a ce jour comprendront), si on ajoute qu'une voiture, contrairement à un PC ... peut rester des heures sur un parcking au soleil ou sous la neige....
Pas oublié que les avions sont réviser obligatoirement, tres frequement, sans parler de checklist, .... je sais pas vous mais moi ma voiture, coté maintenance....

gravatar
bridelice a dit :

@Maxim Bernard :
Ok donc a distance tu peux arreter la voiture sur la voie de gauche d'une autoroute....

gravatar
Will a dit :

Oui c'est vrai que ça peut faire peur si c'est mal fait une voiture avec un ordinateur comme pilote.

Je pense qu'il faudrait imposé comme loi, que tous les dispositifs d’assistances électroniques ou informatisés puissent être mis hors alimentation par un unique bouton physique accessible sur le tableau de bord pour le conducteur.

J'entends par bouton physique, un bouton non géré par électronique comme le bouton on-off de nos PC ...
Quand la carte mère de mon PC portable plante, le seul moyen de redémarrer mon ordinateur est d'enlever la batterie ...

Un autre point important qui devrait être légiférée selon moi:
La machine ne devrait jamais avoir le droit d'accélérer !
C'est le conducteur qui donne la permission d'accélérer via sa pédale.

La machine elle ralentit la voiture afin de rouler à la bonne vitesse, et éviter les obstacles.
Elle contrôle aussi le volant, mais si le conducteur lâche l’accélérateur alors la voiture ralentit aussitôt.

Même si cela peut entrainer un accident sur l'autoroute , il faut que l'humain reste maître sur la machine.
Il faut donc lui laisser le droit absolue de décélération par inaction de sa part.

gravatar
iTux a dit :

@Will : Le problème c'est que les constructeurs (pour des raisons de coût en matériel et en développement) intègrent toutes ces fonction dans un unique boitier sans lequel le véhicule ne fonctionne plus (appuyer sur le bouton d'arrêt d'urgence couperais le moteur, l'assistance hydraulique (pour le freinage), la direction assistée et pourrait réarmer le neimann (s'il est électrique).

Autre chose, si tu ne souhaite pas un véhicule capable d'accélérer par lui-même : exit le pilotage automatique (qui serait quand même vachement pratique pour transporter quelqu'un qui n'a pas le permis) mais aussi le régulateur (accélération automatique) et le limiteur (accélération manuelle mais bridée).

Il faut savoir que sur la totalité des véhicule vendus depuis quelques années (plus ou moins longtemps en fonction des marques et des gammes), l'accélérateur n'est plus relié physiquement au moteur : c'est juste un levier créant une valeur analogique qui est convertie en numérique pour être traitée par le calculateur et ce dernier décide de lui-même (en fonction du programme (normal, limiteur ou régulateur)) comment utiliser les injecteurs.

gravatar
Le Hollandais Volant a dit :

@Maxim Bernard :

Quand une nouvelle technologie se pointe, une réaction très répandue est la crainte. C'est normal, quand on ne sait pas ce qui s'en vient, on a tendance à extrapoler à partir de ce qui existe déjà et faire des prédictions alarmistes.

Quand on voit qu’il y a déjà eu des ratés, que les constructeurs ne sont pas toujours au top niveau responsabilités, et que des failles sont régulièrement découvertes et systématiquement tus par les groupes qui préfèrent fermer les yeux plutôt que d’avouer une faille. Alors qu’une faille n’est pas un problème : ça arrive, il faut juste prendre les dispositions nécessaires pour la combler, quitte à ce que ça coûte cher (et c’est bien là le problème).


@Will : voilà, un bouton qui permet de désactiver le pilotage automatique, en somme.

gravatar
iTux a dit :

@Le Hollandais Volant : À part le développement du patch, le correctif couterais si cher que ça ? Un simple flash du calculateur suffirait (ceux qui ont déjà flashé un micro-contrôleur comprendront).

En plus, avec la connexion à internet qui va se généraliser, ces mises à jour pourront s'effectuer d'elle-même en arrière-plan.

gravatar
Alex a dit :

@hoper

Dans 99,99% des cas d'urgence, il vaut beaucoup mieux pour toi (et pour les autres) que ce soit lui qui prenne la décision de freiner.

J'espère que c'est ironique là parce que ca m'étonnerai qu'une saloperie d'ordinateur évalue une situation et prenne plus rapidement les décisions que moi un être-humain concernant la conduite d'un véhicule sur une route dans le cas de situations extrêmes et impromptues.

Autant les assistances telles l'ABS et l'EPS sont des avancées, autant les instruments sans connexion physique dans une voiture sont des conneries monumentales!

Je veux bien croire qu'on est actuellement envahi par les teubés dont le crâne à été complètement lessivé par la propagande de la pseudo sécurité routière que si tu roules à 91 au lieu de 90 tu vas forcément avoir un accident et que par conséquent on se retrouve sur les routes avec des files interminables de connards qui n'osent pas dépasser de peur de se faire chopper par les flics à 80 à l'heure au lieu de 90 et que si toi tu les dépasses ils te font des appels de phare, mais faudrait quand même arrêter les démonstrations de bêtise!

PS: Ma voiture actuelle, elle vient d'avoir 20 ans, il n'y a aucune électronique à l'intérieur et j'ai vécu quelques situations où si un ordinateur avait dû prendre des décisions à ma place, il y a de fortes chances que la bagnole soit actuellement à la casse...

gravatar
bridelice a dit :

@iTux : hummm flash du firmware à 120 sur l'autoroute, ca fait envie :)

gravatar
hoper a dit :

@Will

"La machine ne devrait jamais avoir le droit d'accélérer !"

Heureusement que les voitures peuvent DEJA accélérer sans que tu appuie sur la pédale. Aucun régulateur de vitesse ne pourrait exister sans cela (un mécanisme dont l'usage devrait accessoirement etre obligatoire depuis longtemps, parce que qu'est ce que ça peut être énervant ET dangereux tous ces gens qui ne sont pas capable de rouler à vitesse constante sur une autoroute...)

@Le Hollandais Volant

Quand Microsoft m'explique qu'il ne peut pas supprimer IE de Windows, j'ai un peu du mal à le croire, même si certaines librairies doivent être assez "profonde" quand même. Mais si un constructeur auto venait m'expliquer que non, on ne peut pas faire un bouton qui désactiverai toute l'électronique parce que sinon la voiture deviendrait immédiatement inutilisable, la çà me choquera beaucoup moins. Encore une fois, je comprend qu'on puisse y avoir un danger supplémentaire mais l’électronique est la depuis un bon moment déjà et rend pas mal de services (rien en comparaison de ce que ce sera dans quelques années).

Ne pas vouloir une surveillance généralisée de la population pour luter contre d'hypothétiques attentats terroristes, c'est normal. Le danger pour l'humanité est beaucoup plus grand que les gains supposés. Mais ne pas vouloir donner le volant aux machines, alors que cela sauvera réellement des dizaines de millier de vie, pour d'hypothétiques malveillances (qui pourrait arriver une fois ou deux, mais certainement pas provoquer plusieurs morts par semaine sans que personne ne réagisse), la je suis pas d'accord.

gravatar
hoper a dit :

@Alex

"J'espère que c'est ironique là parce que ca m'étonnerai qu'une saloperie d'ordinateur évalue une situation et prenne plus rapidement les décisions que moi un être-humain concernant la conduite d'un véhicule sur une route dans le cas de situations extrêmes et impromptues."

Et bien non, ce n'est pas du tout ironique et je suis certain de ce que j'avance. Exactement comme il était certain qu'un jour un ordinateur pourrait battre n'importe quel etre humain aux échecs, il est absolument certain qu'un jour aucun pilote humain ne pourra rivaliser avec un ordi. Même si tu connais ton véhicule par cœur (ce qui n'est pas le cas de 99% de la population) tu restera moins réactif qu'un ordinateur, que tu le veuille ou non.

Un exemple tout con. tu roule prudemment en foret de nuit avec un fort brouillard. Si un animal déboule sur la route, je te garantie que l'ordinateur réagira avant toi. Parce qu'il aura une vision infrarouge que tu n'aura pas, parce que sa vitesse de réaction se mesurera en nano seconde la ou il t'en faudrait (au mieux) plusieurs dizièmes pour prendre la même décision.

Et ce n'est qu'un exemple. Un ordinateur n'est pas distrait par la sonnerie d'un téléphone ou par un passager qui pose une question. Un ordinateur n'aura pas peur quand soudain un pneu éclatera, ou quand une flaque d'huile ou de n'importe quoi d'autre provoquera une perte d’adhérence du véhicule. il prendra immédiatement la bonne décision. Et cela me semblerai sacrement prétentieux de ta part que tu nous affirme pouvoir faire mieux.

Ta voiture à 20 ans ? J'espère au moins qu'elle est très bien entretenu, et que tu n'aura pas d'accident avec. Les systèmes de sécurités (airbag, conception général du véhicule pour que ce soit la tôle qui morfle et pas le conducteur etc) ont quand même fait pas mal de progrès. En 20 ans justement, je me suis fait avoir deux fois sur route gelée. Une fois avec une voiture récente disposant de toute l'électronique (ABS etc) et une fois sur une "petite" voiture qui ne disposait pas de tout ça. Dans un cas on a froissé un peu de tôle (dans les deux cas je roulais à 20 km/h donc pas de blessés), et pas dans l'autre. Je te laisse deviner avec quel véhicule j'ai pu m’arrêter. (Note que même à 20 Km/h, si ça avait été un piéton et pas un autre véhicule, il aurait surement pas apprécié le choc...) Et sans être un conducteur exceptionnel, j'avais pourtant fait suffisamment de stages de conduites sur route glissante (tu sais, avec des voitures ou les routes arrières sont montés sur des machins avec 4 roues...) pour savoir comment réagir (au moins en théorie) dans ce genre de cas.

gravatar
Will a dit :

@Hoper:
"Heureusement que les voitures peuvent DEJA accélérer sans que tu appuie sur la pédale. Aucun régulateur de vitesse ne pourrait exister sans cela (un mécanisme dont l'usage devrait accessoirement etre obligatoire depuis longtemps, parce que qu'est ce que ça peut être énervant ET dangereux tous ces gens qui ne sont pas capable de rouler à vitesse constante sur une autoroute...)"

Je me suis peut être mal exprimé, bien sur que l'ordinateur de bord doit pouvoir accélérer ou maintenir une vitesse XD

Pour clarifié mon idée:

Sur une voiture à carburant:
Le conducteur a accès à une vanne indépendante de tout système lui permettant de réguler l'arriver du carburant:
De 0% à 100%.

Sur une voiture électrique pareil, il peut régler la puissance donné au moteur par la batterie principale:
De 0% à 100%.

Les systèmes de conduites automatiques ayant leurs propre source de courant.

Ainsi, le conducteur humain peut bloquer le pilote informatique totalement et stopper le véhicule.

Ou partiellement, par exemple si il ne lui donne que 50% de la puissance, la voiture pourra rouler à 50 km/h en ville mais ne pourra pas aller à 130 km/h sur l'autoroute, même si c'est ce que le pilote automatique voudrait faire !

De même le conducteur pourrait régler sa vitesse sur 90 km/h, mais si il ne donne pas assez de puissance, la voiture pourrait ne pas atteindre cette vitesse.
Ou la perdre si la pente est trop forte.

Est ce que j'ai été clair cette fois sur mon idée ? ^^
(C'est ce contrôle de la puissance en pourcentage que je voyais installé dans la pédale d’accélération.)
(Mais bon un régulateur qui ne diminue pas automatiquement ça peut le faire aussi)

gravatar
Will a dit :

Désolé pour le double post:
Je voulais juste rajouter que je suis à 100% pour le pilote automatique.
Je pense que la technologie, à terme, pourra prétendre à mieux piloter que n'importe quel humain dans 100% des cas.

Mais je pense aussi qu'un moyen de bloquer le véhicule en cas d'un bug éventuel du pilote automatique, doit être obligatoire.
Même si ce blocage soudain pourrait causer des accidents.
Après tout on a déjà la possibilité à tout moment d'avoir un comportement dangereux au volant.

Le choix humain doit toujours prévaloir sur celui d'une machine, même si il est mauvais d’après la machine.
Les autres humains jugeront.

gravatar
Le Hollandais Volant a dit :

@Will : ce qui va poser problème, à mon avis, c’est le temps de transition entre le 100% humain et le 100% automatique.
Deux humains peuvent communiquer (avec plus ou moins de courtoisie) pour laisser ou non la priorité. Deux machines aussi. Mais une voiture pilotée par une machine et une autre voiture pilotée par un humain, ça va être le bordel.

Et le problème c’est toujours qu’un détournement/piratage sera possible…

gravatar
seb a dit :

La machine arrive a battre l'humain aux échecs, mais on peut toujours jouer aux échecs plutôt que regarder des machines jouer.
La machine arrivera forcément à piloter mieux qu'un humain un jour, mais j'ai l'impression que quand ce jour sera venu on ne pourra plus conduire mais uniquement se faire conduire. Rien que pour ça, je serais toujours contre ce genre de chose.
Si ça vous emmerde de conduire, prenez le taxi, le train ou les transports en commun mais laissez ceux qui aime ça le faire.

gravatar
Will a dit :

@Le Hollandais Volant :
Oui c'est un problème, il est vrai que parfois on regarde un l'autre conducteur pour décider d'une priorité ...
Une solution toute bête: les voitures pilotés automatiquement pourrait avoir des vitres teintés ?
(encore mieux avec une transparence réglable, et avec obligation noir ou très foncés pour le pilote automatique)

Je comprends aussi la peur du détournement/piratage ...
Mais bon il me semble normal qu'un ordinateur pilote soit entièrement fermé de tout réseaux informatiques !
Ce que les industriels ne voient pas apparemment ...
Je vois plus la communication entre 2 voitures comme un échange de signaux simples, c'est à dire comme un autre capteur visuel, qui ne pourrait pas avoir d'incidence sur l’exécution informatique de l'ordinateur de bord.

Ainsi pour faire un acte de piratage il faudrait saboter physiquement la voiture, et on revient à ce qui peut déjà exister.
(Mettre une bombe ou reprogrammer la voiture avec l'ajout d'un dispositif pour qu'elle tombe d'un ravin reviendrait au même: pouvoir accéder physiquement à la voiture.)

Ce qui me fait peur, c'est surtout les systèmes propriétaires fermés, je verrai plus de l'open source pour une voiture piloté par ordinateur.
J'ai peur de ces boites qui ne reconnaissent pas leurs erreurs, et qui essayent de museler ceux qui alarme les autres, et qui font tout pour que le fonctionnement de leur produit soit le plus opaque possible.

gravatar
hoper a dit :

@Seb

"Si ça vous emmerde de conduire, prenez le taxi, le train ou les transports en commun mais laissez ceux qui aime ça le faire."

Tu es sur de ne pas confondre conduite et pilotage ? Parce qu'autant je comprend parfaitement le plaisir qu'on peut avoir à piloter un véhicule (vitesse sur circuit etc), autant la conduite... Être bloqué dans les bouchons en ile de france, ou juste luter contre l'endormissement sur une autoroute ou tu n'a rien d'autre à faire qu'a tenir le volant et à attendre, j'avoue que j'ai un peu de mal à voir le plaisir que ça peu procurer.

Quoi qu'il en soit, et à supposer qu'un jour il soit interdit de conduire en mode manuel, et bien ce ne sera peut être pas un mal. On interdit bien aux gens de fumer sous prétexte que ça peut gêner les autres, (je n'ai pas vraiment d'opinion sur le sujet) mais le fait qu'un chauffard puisse te tuer la ça pose pas de soucis ? Je te retourne ta remarque, quand on en sera arrivé la (il va falloir attendre quelques années quand même hein) ceux qui voudront conduire pourront toujours aller le faire sur un circuit. Mais la moi, tu m'excuse, j'ai pas les moyens de me payer le taxi quand je veux me déplacer, quand aux transports en commun... Quelle blague. Si je pouvais éviter de passer tous les jours 1h15 aller et pareil au retour, bloqué dans ma voiture pour aller au boulot, je le ferai. Mais il me faudrait encore beaucoup plus de temps pour faire ces 16 putains de km en transport en commun.

gravatar
hoper a dit :

@Will :

Si c'est techniquement faisable, pourquoi pas. Mais comme je l'ai indiqué dans une autre réponse j'ai comme un gros doute. Un bouton "arrêt d'urgence" c'est pas toujours une bonne idée. Quand à un "limiteur hardware", il faudrait juste être sur que tout le monde comprendra bien comment ça fonctionne. Les constructeurs ont pas forcément envie de recevoir des dizaines de plaintes parce que "la voiture elle est bloquée à 50, j’accélère mais ça fonctionne pas" :)

gravatar
hoper a dit :

@Le Hollandais Volant :

Ca dépend... Si le conducteur de la machine automatique est en train de lire une revue, je pense que l'autre conducteur saura vite à quoi s'en tenir :) L'idée de teinter fortement les vitres me semble excellente.

Enfin le "piratage" (je préfère dire "hack", sauf si les constructeurs se mette à faire n'importe quoi comme autoriser des modifications à distance mais ça j'y crois pas trop) sera toujours possible, tout comme il est déjà possible de saboter un véhicule...

gravatar
Will a dit :

@hoper :
Oui j'ai eu du mal a expliquer mon idée de "limiteur hardware" (j'aime bien ce nom bravo pour l'idée), et je reconnais qu'elle peut être difficile à comprendre ... et que par conséquent, c'est peut être pas une si bonne idée :/

Concernant le bouton "arrêt d'urgence" (qui coupe l’alimentation principale), je reconnais que l'utiliser en cas de danger immédiat peut être encore pire !

Si la voiture par en dérapage apparemment incontrôlé, pas sur que le conducteur puisse la reprendre mieux que la machine ...
Si il il y a un accident en chaine sur l'autoroute, là aussi, le conducteur risque de moins bien s'en sortir que la machine ...

Mais tout de même, je pense que le choix de faire confiance ou non à l'ordinateur de bord doit être le choix du conducteur humain.
Je verrai bien un bouton d’arrêt d'urgence enfermé dans un boitier à ouvrir en premier, pour ne pas y appuyer par erreur.
Avec un avertissement qui dirait:
"Attention: Ne pas appuyer en cas de danger immédiat. N’appuyer seulement que si votre véhicule ne répond plus à toutes autres manipulations."

gravatar
seb a dit :

@hoper :
Donc pour toi la conduite se résume aux bouchons et aux autoroutes? Tu dois avoir la joie d'habiter en région parisienne je suppose non?
On est en période de vacances, si les tiennes ne sont pas encore passé je t'inviterais à prendre ta voiture et sortir un peu, tu comprendras peut être qu'on a pas besoin de piloter ou même faire des excès de vitesse pour se faire plaisir.

Personnellement, les bouchons, j'en ai une fois par mois quand je n'ai pas de chance et les autoroutes (plutôt des voies rapides, à 110, puisqu'il n'y a qu'une autoroute à proprement parlé en Bretagne), je les évite dans mes trajets quotidiens justement pour ne pas m'ennuyer au volant.

gravatar
hoper a dit :

@Will :

"Mais tout de même, je pense que le choix de faire confiance ou non à l'ordinateur de bord doit être le choix du conducteur humain."

Cette question rejoint directement celle de l'interdiction de la conduite en mode manuel.
Dans un premier temps, on conservera forcément le mode manuel :

1) Parce que les logiciels seront pas encore au point
2) Parce que psychologiquement la majorité des gens auraient peur de ne plus avoir le contrôle
3) Parce que légalement ce sera aussi plus simple à gérer (le pilote humain restera responsable puisque il pouvait à tout moment reprendre le contrôle etc)

Ca ce sera dans un premier temps. Mais la question de la suppression du mode manuel est loin d’être bête. Car je suis persuadé que, durant cette première phase, l’essentielle des accidents dans ces véhicules "automatiques" seront encore et toujours du à l’être humain qui, pour X raisons, aura décidé de rester en manuel. (Parce qu'il trouve ça rigolo de conduire, parce ce qu'il se croyait plus fort que l'ordi, etc)
En parallèle les logiciels et les capteurs embarqués continueront de se perfectionner, et la question d'une obligation d'utiliser le mode automatique, hors circonstance spécifique, se posera forcément.

gravatar
TD a dit :

J'interviens pour ceux qui parlaient de l'injection de carburant à l'accélération. En fait, quand on utilise la pédale d'accélération, on fait seulement varier la quantité d'air qui entre dans les cylindres (pour faire varier la richesse du mélanche air/carburant) par rotation d'un papillon.

Voici une image : http://images.forum-auto.com/mesimages/73504/Pap%20red%20DSC00365.JPG

gravatar
hoper a dit :

@seb :

On a donc, de par notre position géographique et notre usage de la voiture, pas du tout la même expérience de la conduite. Les "petites" routes, je les évite autant que possible. Parce qu'autant les routes bien droites sont chiantes à mourir, autant les route qui n’arrête pas de tourner sont dangereuses. Il y a toujours un moment dans un virage ou tu manque de visibilité. Toujours un idiot qui arrive en face en se croyant seul au monde. Toujours un gars qui te "pousse au cul" parce que la route est droite et qu'il comprend pas que ce soit limité à 70 sur ce tronçon, et qui comprend encore moins que tu ai donc décidé de rouler à cette vitesse la etc. Le même qui, après t'avoir doublé à 110, va freiner à mort à l'entré d'un virage ou en apercevant un radar (voir un de mes précédents message, je maintien que l'utilisation du régulateur devrait être obligatoire).

"Personnellement, les bouchons, j'en ai une fois par mois"

Heureux homme. La prochaine fois que tu en aura un, il sera probablement du à un accident de la route. Le conducteur du véhicule accidenté sera peut être gravement blessé, ou mort. Demande toi bien à ce moment la si il aurait pas mieux valu pour lui, pour les autres blessés (ou morts), et pour les centaines de gens bloqués derrière, que cette personne ai renoncé à son "plaisir de conduire". A choisir entre ce petit plaisir et la vie ? Ou la mobilité de tes jambes ou... Tu préféré quoi ?

Je suis pour le droit au suicide, pour l'euthanasie, je pense sincèrement que chacun devrait avoir le droit de faire ce qu'il veut de son corps. Mais sur la route, il n'y a pas que toi que tu met en danger, pas que toi que tu fais chier quand tu provoque un accident. Il m'est déjà arrivé de penser en passant devant de graves accidents, et donc après avoir été bloqué des heures dans mon véhicule, "Toi mon con t'a du bol d’être mort, parce que sinon je t'aurai retrouvé et je t'aurai achevé moi même" (partant bien sur du principe que le conducteur était responsable de l'accident, ce qui n'est certainement pas vrai dans tous les cas, mais qui doit l’être très souvent quand même).

gravatar
seb a dit :

@Will :

Les aides électroniques comme l'ESP ont parfois plusieurs modes, comme un mode sport qui lui permet de s'activer plus tard et de laisser un peu plus de liberté au conducteur. Sur certain modèle plus classique, ça permet de le désactiver entièrement pour quand on est enlisé dans la neige ou la boue mais il se réactive automatiquement à partir de 30km/h par exemple.

La possibilité de pouvoir désactiver toutes ces aides permet aussi de pouvoir aller s'amuser à l'occasion sur circuit sans être bridée par la voiture. Tout le monde n'a pas les moyens d'avoir une voiture pour tous les jours et une voiture pour faire du circuit ni les compétences pour refaire une programmation de la voiture sans les aides électronique.

gravatar
seb a dit :

@hoper :

En général c'est plutôt le vendredi soir, en heure de sortie de bureau, quand les gens viennent en week end en bord de mer qu'il y a plus de monde sur les routes que d'habitude. Le même bouchon que dans n'importe quelle grande ville en heure de pointe. Rien a voir avec un accident. :)

gravatar
iTux a dit :

@TD : Sur ma voiture (qui date de 2004) le pavillon est actionné par un petit moteur électrique piloté par le calculateur (en fonction de la valeur relevée sur la pédale d'accélération).

@hoper & @Will : Concernant l'arrêt d'urgence, je suis pour un bouton (type champignon) derrière une vitre en plastique (sécurité enfants), mais plutot que ça désactive immédiatement le pilotage auto, ça bourrait simplement passer le relai à un ordinateur de secours dont les seules instructions seraient d'arrêter le véhicule au premier endroit possible sans danger (bande d'arrêt d'urgence, bord de la route (pour une départementale), trottoir vide (en ville), ect ...); ça semble un bon compromis, non ?

gravatar
hoper a dit :

@nero :

"Avec ma clio de 94 je ne risque pas grand chose à part le vol"

En fait, comme nous tous actuellement, tu risque surtout l'accident.
Que ce soit de ton fait, ou du fait d'un autre conducteur.

gravatar
jefaispeuralafoule a dit :

Je crois qu'on perd de vue deux trois bricoles concernant l'automatisation en automobile. il faut déjà, d'emblée, distinguer les dispositifs vitaux et ceux informatifs. On peut faire rouler une voiture sans compteur de vitesse, faire bégayer une jauge de carburant sans que cela soit un souci pour le conducteur. En revanche, parvenir à communiquer avec le système de freinage, et lui intimer l'ordre express de provoquer un freinage d'urgence, là c'est tout autre chose.

J'ai lu parmi les posts le fait que nombre de programmes sont réalisés sur du "linux classique". Et? Où est le souci? Tant qu'il s'agit d'afficheurs, d'informations d'assistance à la conduite, ce n'est pas réellement un souci au titre que le conducteur est informé, et pas obligé de suivre les informations. Si je caricature, c'est comme quand un GPS nous dit "prenez à droite" au lieu de devoir aller à gauche. Le conducteur peut donc tourner le volant dans la direction qui lui convient... et pas suivre bêtement ce que l'écran lui indique! Je me souviens du coup du type qui aurait plongé dans une rivière parce que le GPS lui demandait de suivre une route qui n'existait pas: désolé, si le conducteur est trop con pour regarder là où il va, alors c'est limite "tant pis pour lui".

Hacker pour mener à un risque? Encore faut-il que les systèmes de sécurité (ABS en tête) soient accessibles autrement qu'en lecture! Les dispositifs liés à la sécurité réelle sont constitués d'électronique temps réel (à cause du temps de réaction nécessaire à l'analyse des paramètres de roulage), et envoient le tout à un "cœur" programmé pour répondre dans des délais très courts. On peut les mettre en défaut, comme par exemple l'ABS qui peut parfois avoir du mal à suivre dans les conditions extrêmes (adhérence quasi nulle, aquaplaning...), mais cela reste des conditions sur lesquelles seule une intervention directe sur les sondes pourrait mener à un danger immédiat. Je doute que tous ces dispositifs soient accessibles directement, si ce n'est pour lire des informations statistiques comme les courbes d'accélération par exemple.

Là où je suis bien plus gêné, c'est dans des cas spécifiques. Aujourd'hui, on a de l'assistance au stationnement, qui, via une multitude de capteurs divers et variés, prend littéralement le contrôle des commandes, à savoir accélération/freinage, mais plus grave encore via la direction de la voiture. Ce n'est pas le hack qui m'inquiète, mais la potentielle accumulation de pannes/défauts (et non pas bugs... car eux, j'ai d'énormes doutes sur leur existence dans des systèmes aussi délicats). Là oui, il y a de quoi s'inquiéter, sans pour autant aller jusqu'à la paranoïa.

A terme, les conducteurs deviennent de toute façon des assistés chroniques. Il n'y a aucune épreuve de conduite sur route humide, aucune mise en condition pour appréhender le freinage d'urgence. Contrairement au permis moto, le permis auto est, à mon sens, bien trop laxiste car il permet à n'importe quel débutant de prendre les commandes d'un engin très lourd, rapide, et qui peut mener à des situations d'urgence en très peu de temps.

Il y a enfin un point qu'on met de côté, c'est la mise sur le marché de systèmes supposés arrêter des voitures quand elles sont volées. On envoie un signal d'alerte à la voiture, qui, via une électronique embarquée, interrompt son fonctionnement. Là oui, je suis méfiant, parce qu'un hack ne serait pas impossible, et pourrait immobiliser des quantités phénoménales de véhicules! Je suppose que l'arrêt est accepté que dans des conditions particulières (véhicule à l'arrêt, ou bien vitesse très faible...), mais là aussi il y a un risque potentiel pour la sécurité.

Personnellement, je trouve plutôt dommage qu'on n'ait pas envisagé des choses qui feraient fureur chez les bidouilleurs, comme par exemple se départir des afficheurs mécaniques (compteur de vitesse), au profit d'écran dont la partie graphique serait accessible, afin que chacun puisse "tuner" sa voiture, et avoir sa propre expérience de conduite. Cela pourrait offrir un marché intéressant au constructeur pour du micro-paiement (achetez le compteur signé par STARK!), l'ajout assez simple de statistiques complémentaires grâce aux innombrables capteurs aujourd'hui présents dans les voitures, et même permettre une maintenance simplifiée via une connexion dédiée aux garagistes. Plus besoin d'un terminal externe, le véhicule afficherait directement les informations de maintenance sur les dispositifs internes.

gravatar
galex-713 a dit :

@Will : Complètement d’accord pour le bouton off. On doit pouvoir reprendre le contrôle mécanique en cas de défaillance informatique, sinon un pirate pourrait vous piéger… Néanmoins à partir de ce point on ne peut plus utiliser le système informatique pour limiter une personne malveillante y ayant physiquement accès, comme un voleur. Or quand le système informatique a la priorité sur l’accès physique, on peut avoir son contrôle complet à distance, et empêcher la personne malveillante présente physiquement (comme le voleur) d’accomplir des actes malveillants avec la voiture (bloquer et faire revenir la voiture en cas de vol). Mais le risque qu’un pirate puisse alors vous piéger (vous, le vrai propriétaire) en abusant le système informatique est un risque alors trop grand, et selon moi on doit laisser la priorité à l’accès physique.

Sinon… la carte mère de ton PC plante !? WTF, ça n’arrive jamais ça… Chez moi si la pression alerte le système d’exploitation, la pression prolongée éteint quoi qu’il arrive immédiatement l’ordinateur.

Pour ce qui est de l’accélération non. Si l’ordinateur coupe les freins à grande vitesse, même si c’est pas lui qui a accéléré, c’est dangereux. Je dirais que c’est plutôt le frein que l’homme devrait contrôler, à de grandes vitesse on ralentit pas assez rapidement, et dans certains cas le résultat peut être désastreux. L’accélération est quelque chose qui a intérêt à être contrôlé par l’ordinateur.
…Mais en fait le frein aussi (frein automatique en cas de rencontre d’obstacles)… et de toute façon l’ordinateur a besoin des deux pour la fonction de créneau automatique qui à la base est à l’origine de la présence d’un ordinateur de bord. Et il en a besoin pour un tas d’applications potentielles très intéressantes (vous voyez les voitures super rapides et automatiques de I Robot ?).
On peut donc rester sur le fait d’avoir un bouton off pour l’ordinateur qui redonne le contrôle physique. Mieux, une pédale off : un bouton c’est trop long et compliqué à presser.

@jefaispeuralafoule : Juste un gros +1

gravatar
dinapiette a dit :

Je m’appelle MATT INES,francaise j’ai 32 ans,ca fait plus de 5ans que je cherchais a avoir d’enfant,
on n’est meme allé chez tous les gynecologues de la france,mais tous ont confirmés que j’etais stérile et qu’on pouvait jamais avoir d’enfant,
c’est de la que je suis allée chez un voyant,mais apres 7jours avec lui ,je vous jure j’ai concue,et a fais un beau bébé.
Vous pouvez aussi le contactez pour tous vos problemes de ce monde,car il est gratuit et serieux
Pour plus d’informations,appelez le au 002 29 96 85 20 54 ou
ajoutez le sur son facebook qui est (voyant nelson) car actuellement il est connecté.
Il intervient aussi dans les problèmes que voici:
Le retour affectif,
Avoir un emploi en mois de 72Hheures
Faire agrandir sa societé ou son entreprise sur le plan international ou mondial
Ne pas perdre jamais de son emploi,
Problemes de sterilite masculine ou feminine,
Etre aime ou etre attire par les filles ou les garcons,
Etre toujours en tete de ce qu'on entreprend,
Comment garder sa femme ou son homme,
Etre toujours le 1er partout
Porte feuille magique,
Le retour affectif de son ex,
Bougie magique,
( il s'agit d'une bougie que vous allez allumer,avant quelle ne brulle a son terme,votre voeux sera realisé)
Avoir d'enfant meme si on est sterile,etc
Ecris par MATT INES

gravatar
dinapiette a dit :

Je m’appelle MATT INES,francaise j’ai 32 ans,ca fait plus de 5ans que je cherchais a avoir d’enfant,
on n’est meme allé chez tous les gynecologues de la france,mais tous ont confirmés que j’etais stérile et qu’on pouvait jamais avoir d’enfant,
c’est de la que je suis allée chez un voyant,mais apres 7jours avec lui ,je vous jure j’ai concue,et a fais un beau bébé.
Vous pouvez aussi le contactez pour tous vos problemes de ce monde,car il est gratuit et serieux
Pour plus d’informations,appelez le au 002 29 96 85 20 54 ou
ajoutez le sur son facebook qui est (voyant nelson) car actuellement il est connecté.
Il intervient aussi dans les problèmes que voici:
Le retour affectif,
Avoir un emploi en mois de 72Hheures
Faire agrandir sa societé ou son entreprise sur le plan international ou mondial
Ne pas perdre jamais de son emploi,
Problemes de sterilite masculine ou feminine,
Etre aime ou etre attire par les filles ou les garcons,
Etre toujours en tete de ce qu'on entreprend,
Comment garder sa femme ou son homme,
Etre toujours le 1er partout
Porte feuille magique,
Le retour affectif de son ex,
Bougie magique,
( il s'agit d'une bougie que vous allez allumer,avant quelle ne brulle a son terme,votre voeux sera realisé)
Avoir d'enfant meme si on est sterile,etc
Ecris par MATT INES

gravatar
dinapiette a dit :

Je m’appelle MATT INES,francaise j’ai 32 ans,ca fait plus de 5ans que je cherchais a avoir d’enfant,
on n’est meme allé chez tous les gynecologues de la france,mais tous ont confirmés que j’etais stérile et qu’on pouvait jamais avoir d’enfant,
c’est de la que je suis allée chez un voyant,mais apres 7jours avec lui ,je vous jure j’ai concue,et a fais un beau bébé.
Vous pouvez aussi le contactez pour tous vos problemes de ce monde,car il est gratuit et serieux
Pour plus d’informations,appelez le au 002 29 96 85 20 54 ou
ajoutez le sur son facebook qui est (voyant nelson) car actuellement il est connecté.
Il intervient aussi dans les problèmes que voici:
Le retour affectif,
Avoir un emploi en mois de 72Hheures
Faire agrandir sa societé ou son entreprise sur le plan international ou mondial
Ne pas perdre jamais de son emploi,
Problemes de sterilite masculine ou feminine,
Etre aime ou etre attire par les filles ou les garcons,
Etre toujours en tete de ce qu'on entreprend,
Comment garder sa femme ou son homme,
Etre toujours le 1er partout
Porte feuille magique,
Le retour affectif de son ex,
Bougie magique,
( il s'agit d'une bougie que vous allez allumer,avant quelle ne brulle a son terme,votre voeux sera realisé)
Avoir d'enfant meme si on est sterile,etc
Ecris par MATT INES

gravatar
galex-713 a dit :

Il faut créer de nouveau capchas/problèmes/turing tests pour Blogotext, visiblement c’est trop limité et ça a été cassé là.

gravatar
galex-713 a dit :

@Asc : C’était juste déjà évident que le capcha était faible. Faut un truc qui fait appel à la logique et à la grammaire complexe du français… Encore que prolog le fait ça…

Les commentaires sont fermés pour cet article