IA et manque de diversité ne feront pas bon ménage

L'industrie informatique a un gros problème ; un problème qui est reconnu et qui mobilise déjà l'énergie de beaucoup, y compris de l'État, mais qui est encore loin d'être réglé: la diversité homme femme. Seulement 20% à 30% des professionnels de l'informatique,selon les pays, sont des femmes.

Pourtant cela n'a pas toujours été le cas. C'était même l'inverse au tout début de l'informatique, à l'ère des calculateurs puis des mainframes. Plusieurs articles (dont GreenSI: Mais où sont passées les Geekettes?) font remonter aux années 80 cette inversion de la courbe avec un reflux radical des jeunes femmes à rejoindre ces métiers, certainement lié à une image de l'informatique individuelle et du geek, devenues plus masculines lors de ces années charnières.

Même aujourd'hui, comment peut-on attirer des vocations féminines quand les héros toujours cités sont Bill Gates et Steve Jobs alors qu'on pourrait citer également les pionnières oubliées de l'informatique Ada Lovelace reconnue comme la première personne à développer un programme ou Grace Hopper qui joua un rôle déterminant pour le développement du langage COBOL?

Cette absence de diversité se voit au quotidien, dans les équipes, dans les salons, dans les écoles et bien sûr dans le faible nombre de candidates à l'embauche de développeurs ou de chefs de projets, même quand on souhaite diversifier ses équipes...

Mais cette diversité se voit également quand, ce qui est devenu une minorité visible, devient également la cible de la machine à discriminer amorcée par quelques individus, comme ces étudiants, au sein l'école 42, qui ont créé une ambiance sexiste, dans une école pourtant vantée pour son nouveau modèle éducatif centré sur l'étudiant et son autonomie. C'est un système qu'il va falloir certainement "rebooter"...

Les professionnels de l'informatique - de l'éducation à la production - ne peuvent pas se défausser devant cette responsabilité collective. Cette non mixité est un double problème ; pour l'industrie informatique mais également pour notre société.

D'une part, c'est une industrie en pénurie de talents, et donc cet écart est préjudiciable pour la productivité et l'innovation qui aurait été amenés par ces candidates qui se sont détournées de l'informatique. Bien sûr, aucune étude ne démontre une compétence plus faible dans le numérique pour les femmes ; bien au contraire des études récentes vont même jusqu'à leur donner l'avantage... quand on ne sait pas que ce sont des femmes!
 
C'est donc bien une question d'appétence que de compétence.
D'autre part, le numérique est en train de transformer les entreprises entrées dans la révolution digitale mais également de transformer la société. Ne pas s'appuyer sur l'équilibre homme-femme, que la nature gère à la naissance depuis des millénaires, aura des conséquences sur l'évolution des systèmes numériques, notamment ceux à base d'intelligence artificielle qui n'apprennent que ce qu'on leur a montré. On parle de biais dans les algorithmes de décision, quand ils ont été produits par analyse de données ("machine learning") qui contenaient un biais.

Tay, l'IA lancée par Microsoft pour apprendre à partir des interactions humaines sur Twitter, est devenue raciste en quelques heures (certes, dans un contexte exacerbé par une poignée d'individus et une ambiance électorale particulière). Des études ont également montré le biais des algorithmes de catégorisation comme sur LinkedIn quand on recherche un prénom masculin ou ce que l'on appelle pudiquement aux États-Unis le "White guy problem", quand les publicités pour des postes bien payés sont moins affichées par les algorithmes de publicité, aux femmes qu'aux hommes.

Dans ce contexte, se retrouver cette semaine au Women's Forum dans une assemblée de 200 femmes professionnelles de l'IT pour débattre sur le futur de l'intelligence artificielle a été une expérience très enthousiasmante pour moi et redonne de l'optimisme pour l'avenir du numérique.

J'ai donc été dans les quelques hommes invités à ce forum organisé par CA Technologies et PWC dans le cadre plus large de CA World, la conférence qui réunit les clients, les partenaires et les employés de CA Technologies. C'est une société éditrice de logiciels de management des SI, reconnue pour sa politique en matière de diversité (11.000 personnes dans le Monde).

J'ai donc pu apprécier, pendant 2h, des débats de haut niveau avec la participation de Cynthia Breazeal, une doctoresse et pionnière en robotique au sein du Média Lab du MIT, avec une spécialisation sur les interactions humaines des robots ("social robotic"). Cynthia Breazeal est également la fondatrice et la présidente de la société Jibo, le premier "robot social pour la maison" qui sors ce mois-ci.

Cynthia Breazeal a partagé avec l'assistance l'une des raisons de sa passion pour les robots, qui est née très jeune. Cette raison tient en 4 caractères: R2D2 !

Merci donc à George Lucas pour avoir créé un robot de la saga Star wars avec une image attirante et sympathique si inspiratrice. Merci également pour avoir donné à une femme, la princesse Leia, ce lien particulier avec R2D2 qui a changé le cours de la guerre contre l'Empire en y cachant les plans de l'Étoile Noire (désolé pour ceux qui ont oublié leurs classiques!).

Mais Cynthia Breazeal avoue qu'elle doit aussi son parcours exceptionnel à son mentor, le directeur de son laboratoire au MIT, qui l'a toujours encouragé à aller de l'avant et poursuivre sa vision.

Ce que Jibo amène sur le marché et qui est unique quand on le compare à ses concurrents, Alexa (20 millions vendus) ou Google Home (7 millions vendus), c'est une façon très particulière d'interagir avec les humains. Une vidéo vaut mieux qu'un long article de blog, je vous laisse donc découvrir Jibo (vidéo).
Mais derrière Jibo, rappelons-nous que les robots sont animés par une intelligence artificielle et que c'est bien elle qui est à l'œuvre pour inspirer émotion, compassion ou empathie. 

Jibo a été pensé comme un membre de la famille, âgé de 12 ans, avec un prénom masculin (contrairement à Alexa). Au sein de cette famille, il traite les données privées avec précaution, et son modèle n'est pas construit pour la publicité ou les ventes en lignes. Il a également été entraîiné avec des données qui veulent éliminer le biais masculin inconscient dont on parlait précédemment.
Pour Cynthia Breazeal, Jibo n'est que la première version (l' "Apple 1") de ce qui sera une gamme de produits répandus dans tous les foyers. Il est donc limité en usages mais le potentiel de cette catégorie de produits est important, dans l'éducation ou la santé, notamment parce que le robot sait faire preuve d'empathie dans sa relation avec les humains qu'il reconnaît. Nous allons passer d'une première génération "d'assistants utiles" à une seconde génération de "compagnons serviables".

Une rumeur se propage d'ailleurs déjà sur le retour de Aibo dopé à l'IA, le premier chien robot de Sony lancé en... 1999 !

Les enfants qui naîtront l'an prochain vont naître avec des IA autour d'eux, au moins aux États-Unis ou en Chine.

Ce sera un changement par rapport à la génération précédente, comme on a pu déjà le constater avec ceux qui sont nés avec un smartphone dans la maison et pour les plus vieux avec le téléphone sans fil dans les années 90. Leur relation aux robots et à l'informatique "ambiante", accessible par la voix ou le regard, sera une évidence pour eux mais par pour leurs parents.

Car c'est bien d'une évolution des technologies de relations et de collaboration dont il s'agit. Nous allons passer de l'email, "froid" et sans feedback, à des interactions riches, allant jusqu'à l'engagement et l'empathie. On voit d'ailleurs peut-être aujourd'hui dans les dérives des relations sur les réseaux sociaux les défauts du design des technologies actuelles de collaboration.

Pouvons-nous confier l'éducation de ces futures intelligences artificielles à des équipes d'informaticiens où la diversité ne serait pas présente ?  

L'écart entre Jibo et ce que préparent les meilleures équipes d'ingénieurs des GAFAs laisse penser GreenSI que non. Nous aurions au moins raté la vision humaniste et motivante de la robotique par rapport à ces autres assistants, où peut-être nous aurions attendu quelques années avant qu'elle n'émerge comme une évidence.

Pour Cynthia Breazeal, dans un monde de machines l'humanité est certainement la "killer app". Pour l'instant la concurrence pense que la "killer app" c'est la musique et tous les assistants sont plus des haut-parleurs à reconnaissance vocale que des robots avec une identité propre - l'avenir nous dira qui aura eu raison en premier.

En France, malgré la mobilisation de l'Etat sur le sujet, il est dommage de constater que les débats sur l'IA tournent aux scénarios de science-fiction largement au-delà des possibilités de la technologie.
Une autre voie doit s'ouvrir pour débattre de l'intégration de l'IA dans la société.

GreenSI a donc beaucoup apprécié que certains de ces sujets dont l'empathie et la diversité de l'informatique aient été abordés le 18 novembre à la Cité de la Réussite lors d'une conférence sur l'IA. Les robots ne feraient pas preuve d'empathie et c'est ce qui en fera toujours la différence avec l'Homme.

Mais justement est-ce que notre vision actuelle n'est pas biaisée par le design des robots actuels?

Est-ce que les ingénieurs ont cherché à ce que qu'ils aient de l'empathie? La question est loin d'être close, et n'empêchera pas non plus l'humain de s'orienter vers ces activités demandant plus d'empathie et où il sera à priori toujours meilleur que les robots. 

En revanche, en matière de diversité, la Cité de la Réussite ne montre pas l'exemple avec son panel 100% masculin sur "ces innovations qui vont changer le monde". GreenSI ne veut pas croire que les femmes n'y sont pas pour quelque chose aussi. Et pour innover, peut-être faudrait-il veiller à avoir des panels plus mixtes, a d'ailleurs fait remarquer Gilles Babinet, l'un des participants au panel.

Autre sujet important pour l'évolution des IA, pour mieux comprendre les interactions humaines, il faudrait que les données d'apprentissage soient accessibles à plus d'acteurs. Les régulateurs pourraient s'emparer de cette question, non seulement pour laisser les chercheurs apprécier les éventuels biais de ces données d'apprentissage, mais peut-être également pour ouvrir à un plus grand nombre qui, mécaniquement, explorera plus de nouveaux "designs de collaboration". C'est une idée relativement simple à comprendre pour ceux qui y voient des mécanismes d'adaptation similaires à ce que Darwin a très bien décrit pour les espèces dans ses travaux.

Aller plus loin dans l'IA va demander de faire des choix ; donc plus de diversité dans les solutions proposées à la société pour qu'elle puisse mieux choisir.

L'entreprise Jibo, fondée par deux femmes, qui emploie aujourd'hui 100 personnes, a un comité de Direction avec une parité parfaite. Cynthia Breazeal nous a confié que ce n'est pas par hasard si cette barrière est également tombée. 

"No Barriers", abattre les barrières pour passer de l'idée aux résultats, était justement le thème de CA World 2017 conférence technologique pour construire l'usine moderne de fabrication du logiciel à laquelle GreenSI a assisté cette semaine. Mais en attendant le prochain qui l'abordera, ouvrons les yeux, si ce n'est pas déjà fait, et œuvrons au quotidien pour faire tomber cette barrière de la diversité hommes-femmes dans le numérique.