Le Hollandais Volant

Humans tend to make mistakes at the edges of our knowledge, our mistakes tend to clump around the same things, we make more of them when bored or tired, and so on. We have as a result developed controls and systems of checks and balances to help reduce the frequency and limit the harm of our mistakes.

But these controls don’t carry over to AI systems, because AI mistakes are pretty strange.

The mistakes of AI models (particularly Large Language Models) happen seemingly randomly and aren’t limited to particular topics or areas of knowledge. Models may unpredictably appear to lack common sense.

Oui : les humains font des erreurs là où s’arrête leurs connaissances ou leur expérience. Faire des erreurs et surtout les corriger, ça permet de repousser constamment cette limite, et donc aussi d’étendre nos connaissances.

L’IA, elle, ses erreurs, surviennent n’importe où, n’importe comment et de façon totalement aléatoire. C’est très étrange et ça rend l’ensemble des productions d’une IA particulièrement fragiles et impossible à utiliser tel qu’elle. Il doit y avoir une équipe humaine intelligente pour vérifier le travail de la machine, ligne par ligne, mot par mot.

Ça rejoint ce que j’ai dit dans mon post sur ChatGPT : c’est pratique pour les choses simples car les erreurs sont peu nombreuses et faciles à corriger. Mais ça interdit l’usage d’une IA pour quelque chose d’aussi fondamental que la recherche, c’est à dire de mettre un pied dans l’inconnu dont on ne connaît pas encore la véracité. Le travail de vérification serait alors au moins aussi important qu’une équipe de chercheurs humains : autrement dit, pour ça, l’IA est inutile (en gros).

Et comme simple exemple d’erreurs à la con d’une IA, on peut citer les freinages fantômes d’une voiture (semi-)autonome. Et encore : le freinage est sans vrai danger pour les occupants (éventuellement la voiture derrière, mais c’est son problème). Un coup de volant fantôme serait en revanche bien plus dramatique.
L’effet ne serait pas différent que d’avoir un singe schizophrène et dément sur les genoux avec une main sur le volant.

Avoir une IA qui se ne trompe pas dans 99 % des cas n’est pas compliquée. Ce qui est compliqué, c’est de passer les 1 % restants. Or ce 1 % restant, c’est ce qui consommera alors 99 % des ressources.

Pour écrire une dissertation de Français au collège 99 % d’exactitude suffisent. Mais pour piloter une voiture, un train ou un avion, une IA ne peut convenir.

Et si les pilotes automatiques existent pour les voitures (niveau 1 ou 2) ou encore les trains (métros) et les avions (AP), ces systèmes sont redondants avec plusieurs calculateurs et capteurs en même temps afin de ne pas faire quelque chose sans être totalement sûr ; ils se désactivent quand ils ne sont pas sûr en redonnant la main à l’humain (voitures ou avions), et surtout sont utilisés sans apprentissage, mais avec des ordres très précis. Les rames de métro totalement autonomes ne réfléchissent pas pour savoir s’ils doivent rouler ou non : tant qu’ils n’ont pas le signal direct qui va bien ils ne bougent pas. Et par signal direct je parle de « tu roules », pas une image qu’ils doivent interpréter comme le font les autopilotes 100 % autonomes des voitures expérimentales (le métro n’interprète pas le signal).

Les bagnoles semi-autonomes de niveau 1 ou 2 n’ont pas d’apprentissage continu. Ils ne savent pas mieux détecter une voiture après 50 000 km qu’au début. Heureusement, car si ça peut s’améliorer, ça peut aussi se dégrader. Ils apprennent des choses, mais pas pour ça.
Les bagnoles avec auto-pilote niveau 3 ou plus surveillent leur environnement et apprennent et c’est une autre histoire, et c’est aussi pour ça qu’ils sont bien plus rares.

Ceux qui critiquent les conduites autonomes en disant que leur décision dans le cas d’un « dilemme du tramway » ne sera jamais totalement éthique, devraient se demander ce qu’ils feraient — eux, humains — dans la même situation.

S’ils en sont incapables ils ne devraient pas critiquer un système autonome pour la même chose.

Ils devraient aussi s’imaginer à expliquer à la famille de la ou des victimes les raisons de leur choix.

Et en toute honnêteté, perso je ne sais pas ce que je ferais dans une telle situation.
Et par expérience, je pense que je n’aurais même pas à choisir. Ce dilemme, dans ce cas des voitures autonomes, se présente en cas d’accident (de la route). Et au cours d’un accident, tout se passe trop vite pour pouvoir faire quoi que ce soit consciemment.

C’est pourtant simple non ?

Être un particulier et créer des petites vidéos sur Youtube avec de la musique des industriels de la culture : pas bien.
Être un industriel et créer des machines à blabla avec du contenu des particuliers : bien.

Bien encore une preuve que le #copyreich est toute relative et surtout une affaire de qui a le plus de pognon.

Super, maintenant même Billy pourra produire des inepties en grand volume directement chez lui…

Haha !

Comment un signal d’une station de radio grille le système informatique de votre voiture.

En fait, les stations radio actuelles envoient le son en AM/FM mais peuvent envoyer des metadonnées en numérique en même temps. Ça permet à l’autoradio d’afficher le nom de la chaîne ou du titre en cours et même un logo ou une jaquette d’album.
Il se trouve que la jaquette était envoyée dans un nom de fichier sans extension de fichier (le « .jpg ») et ça faisait planter l’autoradio de chez Mazda et également tout le système informatique de la voiture.

Comme il termine par dire : ça va être joli sur les voitures autonomes. J’imagine déjà des petits malins mettre des QRcode vérolés au bord de la route ou sur les camions et la voiture connectée autonome détecte ça et termine dans le fossé.

Si vous pensez que ça n’arrivera jamais, pensez à la loi et murphy et ravisez-vous.

Une IA qui produit des paysages naturels à l’infini à partir d’une simple image.

Voilà ce qui différencie « écouter ce qui est dit » et « comprendre ce qui est dit ».

C’est tout ? 40 % ?

De toute façon, faudrait déjà avoir une définition claire et définie d’intelligence artificielle.
Faudrait déjà avoir une définition claire et définie d’intelligence.

Une IA dans une brosse à dents, c’est comme mettre un réacteur sur une voiture à l’époque des télé-porteurs.

S’ils ont vraiment une IA (ce qui est faux : c’est juste un programme relié à des capteurs avec une connexion bluetooth), qu’ils la mettent dans un chewing-gum intelligent qui va nettoyer vos dents de façon optimale à votre place. C’est pas comme si des mini-robots n’existaient pas.

Là, je brosses toujours mes dents, c’est juste que j’utilise un truc hyper-cher et très fragile, relié à un autre truc hyper cher et très fragile pour me dire si je respecte bien les recommandations du constructeur du premier truc hyper cher.

Franchement, une brosse à dents qui me dit « moins fort », « de l’autre côté », « pas ici », c’est n’importe quoi. Si c’est trop fort, qu’elle réduise la pression elle-même !

Ah et j’imagine que Oral-B récupère toutes ces données pour les vendre de façon nominative à votre assurance maladie ou votre mutuelle, pour vous baiser doublement :

– vous brossez bien vos dents : le risque d’avoir des caries est faible, vous seriez une vache à lait un client idéal pour votre mutuelle dentaire : vous payez sans jamais en bénéficier. Ils vont vous proposer une mutuelle dentaire à bas prix (impossible à refuser, mais avec des euros quand-même).

– vous brossez mal : le risque de caries est élevé, soit votre mutuelle vous fait payer plus, soit elle refuse de vous couvrir.

C’est déjà ce qu’ils font avec les voitures connectées et les assurances. Certaines assurances proposent même de vous faire payer moins contre l’installation d’un mouchard dans votre voiture : vous roulez trop souvent sur des chemins de terre ? Hop, on retire la couverture « bris de vitre ». Trop souvent en forêt ? Hop, suppression de l’assurance dépannage. Et je ne parle même pas des contrôles en temps réel des excès de vitesse ou des stationnements #GCUM (ça, difficile d’être contre, mais ce n’est pas à l’assureur de s’occuper de ça !).

Et j’imagine que le constructeur peut aussi effectuer des tests et des études : à quelle vitesse les caries se développent si l’IA omet de nettoyer telle ou telle dent (moyennée sur 50 000 clients #bigdata) ? Ça serait possible, comme truc, et donc fait.
Facebook le fait bien, lui, en analysant votre comportement/humeur selon les posts qu’ils vous diffusent.

Après les jeux de logique (Go, échecs…) DeepMind s’attaque aux RTS (jeux de stratégie en temps réel). Hier soir, ils ont écrasé les joueurs humains à StarCraft II…

(merci à Tristan pour le partage !)

Ils font des tshirt avec ça ?

Et des goodies ? des patch ? des tatouages ? des casquettes ? des stickers ?

C’est clair qu’il faut bien une intelligence artificielle quand les gens sont trop cons pour utiliser une poubelle.

La vraie intelligence artificielle ce n’est pas celle qui ramasse les papiers à la place des gens, mais celle qui observe ces porcs et applique une riposte graduée :
– première sommation : demande de ramasser le déchet
– ensuite envoie d’un PV automatique (la reconnaissance faciale enfin utile ?)
– pour terminer un coup de carabine

Utiliser une poubelle alors qu’il y en a à tous les coins de rue c’est suffisamment à la portée de tous pour qu’y manquer puisse ne pas être excusable.

« Émerveillons-nous de la performance d’AlphaGo. Il a fallu s’appuyer sur les résultats de chercheurs géniaux, utiliser les talents de d’ingénieurs, de joueurs de Go brillants pour concevoir le logiciel d’AlphaGo, et disposer de matériels très puissants. Tout cela pour vaincre un seul homme.

Émerveillons-nous donc aussi de la performance du champion Lee Sedol ! Il a posé d’énormes difficultés à l’équipe de Google et a même gagné la 4ème partie. Il était quand même bien seul face au moyens financiers de Google, à tous les processeurs d’AlphaGo. »

+1

CF ça aussi : https://xkcd.com/1002/

Ce qui est intéressant c’est ça :
« 10/02/1996 aux échecs : première victoire d’une machine contre un humain »
« 21/11/2005 aux échecs : dernière victoire d’un humain contre la machine »

Le Go est également sur l’échelle d’XKCD.