Note de lecture sur l’ouvrage de Melanie Mitchell, « Artificial intelligence. A guide for thinking human », proposée par Olivier Moch.

• La voiture autonome, lancée à pleine vitesse devant « choisir » de tuer son passager ou le vieillard qui traverse inopinément la route,
• Le programme Alpha Zéro devenu imbattable aux échecs en ayant joué des millions de parties contre lui-même,
• Le logiciel de reconnaissance faciale classant près de 22% des sénateurs américains noirs parmi les criminels recherchés par la police,
• L’IA signalant sans erreur la présence d’un chat sur une photo -- mais sans que quiconque, même le programmeur, sache expliquer comment,
• Le Cerveau/IA HAL 9000 se retournant contre les astronautes dans « 2001, Odyssée de l’espace » -- et les trois lois de la robotique proposées par Asimov,
• Le justiciable condamné car il habite un quartier louche (ses deux voisins ayant plongé dans la récidive)

Tous ces récits – et bien d’autres ! -- sont devenus des grands classiques de la littérature visant à présenter au grand public la nature, les méthodes, les forces et les faiblesses de l’intelligence artificielle (IA). De fait, ils suscitent analyse, réflexions et questionnements.

Comme les autres, (mais mieux et plus profondément que beaucoup !), l’ouvrage de Melanie Mitchell, « Artificial intelligence. A guide for thinking human », désormais traduit en français (1), fait place à la plupart de ces récits « classiques ». On y trouvera un exposé précis – et remarquablement clair ! -- de l’état de l’art dans les domaines majeurs où l’IA a déjà fait ses preuves ou s’apprête à le faire (par ex : reconnaissance d’objet, légendage d’images, analyse de la parole, traduction automatique, reconnaissance des sentiments, jeux).

Dans chacun de ces domaines, Melanie Mitchell présente clairement aussi l’évolution des outils et méthodes (2) de l’IA et analyse les interrogations de toutes natures, notamment éthiques, qu’elle soulève. Elle fait le point sur la vitesse des progrès en cours.

Par sa précision, sa hauteur de vue et ses qualités pédagogiques, cette part du livre de Melanie Mitchell satisfera le lecteur (non déjà spécialiste) exigeant.

 

Mais – tout en demeurant claire, accessible et passionnante – Melanie Mitchell va plus loin. Car, d’une certaine façon, elle renverse la question. Il ne s’agit pas seulement pour elle d’évoquer la construction d’algorithmes susceptibles de faire ce que nous pensons (ou pensions) traditionnellement apanage de « l’intelligence humaine » (la reconnaissance visuelle, la traduction, le jeu d’échecs, etc.). Il s’agit plutôt – et c’est là une part majeure de son propre travail de recherche – de partir précisément des difficultés à développer l’IA pour éclairer certaines caractéristiques de l’intelligence humaine.

« C’est ce qui est facile qui est difficile (!) » fait remarquer Melanie Mitchell qui inclut, parmi ces facilités difficiles, la causalité, l’abstraction et l’analogie. Ces outils sont simples en ce sens qu’ils sont maîtrisés assez rapidement (3) par les jeunes enfants. Les algorithmes, eux, butent sur ces outils qui semblent constitutifs de l’intelligence humaine. Il faut par exemple présenter des millions d’images (étiquetées) de chats à des outils élaborés d’intelligence artificielle pour qu’ils « apprennent » à reconnaître un chat alors qu’avant même l’âge de 2 ans un enfant imagine le « concept » de chat au bout de seulement quelques rencontres. L’exemple des capacités à découvrir l’analogie, et à construire des abstractions – une évidence pour les humains, un impensable (au sens propre) pour les machines -- est approfondi par Melanie Mitchell.

On comprendra mieux le point sur un exemple : un humain saura (assez rapidement) décrire ce qui distingue les 6 imagettes de gauche des 6 de droite sur l’image (4) ci-dessous. Il aura ainsi montré son aptitude à forger les concepts de « 3 » et de « 4 ». Mais on ne sait pas, dans un cas général, construire un logiciel qui en ferait autant. La découverte d’analogies, la capacité d’abstraction sont des outils essentiels de l’intelligence humaine qu’on ne sait pas (pas encore ?) confier aux IA.

Les IA actuelles sont toutes spécialisées dans quelques tâches pré-définies. La machine traductrice ne sait pas jouer aux échecs et, a fortiori, ne sait pas aborder un problème inconnu. Le cerveau humain fonctionne très différemment, mais comment ?

D’après Melanie Mitchell ces limitations qui concernent des capacités faciles à mettre en oeuvre pour les humains sont, et seront longtemps encore, des obstacles forts au développement de l’IA. En matière d’IA on doit craindre, souligne-t-elle, l’opacité, le mésusage, le manque de fiabilité ou encore la vulnérabilité des systèmes que l’on construit. Mais peut-on craindre que l’intelligence humaine soit bientôt égalée, surpassée voire menacée par l’intelligence artificielle ? Non ! argumente Melanie Mitchell au long de son passionnant ouvrage.

 

Dans un ouvrage précédent (5), Melanie Mitchell avait noté qu’après les barrières de l’infiniment grand et de l’infiniment petit, la nouvelle frontière de la recherche scientifique était surtout aujourd’hui celle de la complexité. Certains centres de recherche sont d’ailleurs aujourd’hui entièrement consacrés à l’analyse des systèmes complexes (6). Le Santa Fe Institute (Nouveau Mexique, USA) en fait partie.

C’est dans cet Institut renommé que Melanie Mitchell poursuit ses travaux sur l’intelligence humaine (un système complexe s’il en est !) … en analysant les causes des limites de l’intelligence artificielle.

Olivier Moch (Novembre 2021)

Notes :

1. Melanie Mitchell. « Intelligence artificielle. Triomphes et déceptions ». Dunod 2021 (350 pages + annexes et index)
2. La mathématique sous-jacente à la mise en place et à l’opération des réseaux neuronaux convolutifs n’est pas présentée.
3. Les psychologues du développement savent en préciser les étapes au cours de l’enfance.
4. Image reprise par Melanie Mitchell à partir de M. Bongard « Pattern recognition » (Spartan books) 1970
5. Melanie Mitchell, « Complexity, a guided tour », Oxford University Press, 2009 (non traduit)
6. Ex de systèmes complexes : colonies d’insectes, système immunitaire, cerveau, climat, économie … Ces systèmes partagent-ils des règles communes de fonctionnement et d’évolution ?