Le Hollandais Volant

N’est-ce pas parce que toutes les données sources (sondages, etc.) montrent cette différence, que l’IA le ressort à son tour, histoire de coller à ce qu’il « sait » ?

Dans ce sens, ça ne paraît pas surprenant. Pas du tout. L’IA, apprenant de ce qu’il voit, n’est que le reflet de la société.
Il n’a donc absolument aucun sens de vouloir compter sur ces trucs pour améliorer la face du monde sur ces plans là.
Ça serait comme vouloir améliorer n’importe quoi en le plaçant devant un miroir.

Que ça provoque une boucle de rétroaction qui amplifie les différences, oui c’est malheureux, et même dangereux (et qu’il faut le savoir pour pouvoir contrer ça). Mais ça montre simplement que l’IA en question est encore très loin d’être réellement intelligente, et encore moins douée d’une sagesse pouvant améliorer le monde. Le changement ne viendra pas des IA mais de nous. On doit d’abord corriger la réalité, pour que les fables pondues par les IA puissent refléter ces changements.

On ne pourra pas changer la situation en modifiant les IA d’abord et espérer que ça se répercute dans la société. Il faut également — et surtout — faire évoluer la société, si l’on veut que cette situation change pour le mieux.

~

Ah et on ne peut donc pas dire que les IA soient fondamentalement misogynes (sauf à prouver qu’elles aient été programmées pour l’être — chose qu’il est impossible de faire à notre niveau, je me doute, mais ça reste une preuve nécessaire pour les qualifier ainsi).

Et je dis bien « fondamentalement misogynes » : elles sont misogynes de facto parce que le monde l’est et qu’elles regardent le monde, et s’en inspirent. Mais donnez leur un monde égalitaire, et je n’ai aucun doute qu’elles donneront des résultats qui le soient également.