Le point aveugle de ces maniaques, c’est leur concept de base, ce qu’ils appellent « l’intelligence ». Et leur conception de l’ « intelligence » n’est jamais remise en question par les promoteurs de l’IA, qui proviennent tous toujours du même sérail mathématico-scientifique (le MIT principalement) qui est capable de bien de choses (ils envoient des hommes sur la lune) mais de penser créativement, jamais ! Plus précisément, ils ne remettent jamais en question l’axiome selon lequel l’intelligence se réduirait à une fonction gestionnaire et calculatrice, axiome qu’ils ont d’abord déniché dans l’observation de l’auto-régulation de leurs propres machines, jamais dans l’étude des plus grands écrivains, ni des grands peintres ni des musiciens virtuoses…
Cela est très clairement exprimé, entre mille autres exemples, par un des principaux spécialistes de l’IA, Marvin Minsky (1927-2016), collaborateur et disciple de McCulloch, qui avoua y avoir songé en observant un bras articulé connecté à une caméra manipuler des briquettes de jeux d’enfants.
Minsky est l’auteur d’un essai intitulé La société de l’esprit, dont, conformément à sa conception de l’esprit, chaque chapitre est long d’une page, et doit être considéré comme une brique de l’ensemble :
« Ce livre part du principe que tout cerveau, machine ou autre chose qui a un esprit doit être composé de choses plus petites qui ne peuvent pas penser du tout. La structure même du livre reflète ce point de vue : chaque page explore une théorie ou une idée qui exploite ce que font les autres pages. »
Le texte est lisible en ligne en anglais1, et son indigence intellectuelle ne doit pas faire oublier que c’est ce qui est sorti de la caboche de ces centaines d’idiots utiles du MIT qui a servi à donner son immonde figure au monde dans lequel nous sommes tous engeôlés aujourd’hui.
Introduction de The Society of Mind :
« Pour expliquer l'esprit, nous devons montrer comment les esprits sont construits à partir de choses sans esprit, à partir d'éléments beaucoup plus petits et plus simples que tout ce que nous considérons comme intelligent. À moins de pouvoir expliquer l'esprit en termes de choses qui n'ont pas de pensées ou de sentiments propres, nous n'aurons fait que tourner en rond. Mais que pourraient être ces particules plus simples - les agents qui composent notre esprit ? C'est le sujet de notre livre, et sachant cela, voyons notre tâche. Il y a beaucoup de questions auxquelles il faut répondre. »
Minsky explique encore qu’un « système intelligent disposera de deux types d'agents, des spécialistes et des gestionnaires. Les spécialistes peuvent implémenter les techniques connues d'intelligence artificielle pour résoudre des problèmes précis (systèmes à base de règles, réseaux sémantiques, réseaux bayésiens). Les gestionnaires sont chargés de planifier, de sélectionner les spécialistes, d'évaluer les résultats obtenus. »
Comme Minsky se soucie de tout examiner, il pose dans son essai la question cruciale de l’âme2) ou du génie3, celui d’Einstein, de Beethoven et de Shakespeare, et de savoir si une machine pourrait jamais l’égaler. Ce chapitre intitulé Genious est très intéressant car il révèle tout des frustrations du mathématicien non créatif, et de l’idée d’expertise gestionnaire qu’il ne peut s’empêcher de se représenter de la création (« to manage » ) :
« Je soupçonne que le génie a besoin d'une chose supplémentaire : pour accumuler des qualités exceptionnelles < to accumulate outstanding qualities>, il faut des moyens d'apprentissage exceptionnellement efficaces. Il ne suffit pas d'apprendre beaucoup, il faut aussi savoir gérer ce que l'on apprend <one also has to manage what one learns>. Les maîtres ont, sous la surface de leur maîtrise, des astuces spéciales d'expertise d'ordre supérieur <some special knacks of higher-order expertise>, qui les aident à organiser et à appliquer les choses qu'ils apprennent. Ce sont ces astuces cachées de gestion mentale qui produisent les systèmes à l'origine de ces œuvres de génie < It is those hidden tricks of mental management that produce the systems that create those works of genius>. »
Et de même, dans son chapitre sur l’âme, Minsky s’en prend à l’idée aristocratique que certains seraient plus doués que d’autres, et assène que la clé de toute chose, c’est le learning, jamais ce dont tous les génies, tous les artistes, tous les créateurs ont toujours fait l’expérience : la trouvaille, autrement dit ce que depuis des siècles on désigne sous le mystérieux vocable d’ « inspiration »:
« La valeur d'un moi humain ne réside pas dans un petit noyau précieux, mais dans sa vaste croûte construite.
Que sont ces vieilles et farouches croyances dans les esprits, les âmes et les essences ? Ce sont toutes des insinuations que nous sommes impuissants à nous améliorer. Chercher nos vertus dans de telles pensées semble une recherche tout aussi mal orientée que de chercher l'art dans les toiles en grattant les œuvres du peintre. L'art d'un grand tableau ne réside pas dans une seule idée, ni dans une multitude d'astuces distinctes pour placer toutes ces taches de pigment, mais dans le grand réseau de relations entre ses parties. De la même manière, les agents, bruts, qui composent notre esprit sont en eux-mêmes aussi peu valables que des taches de peinture éparses et sans but. Ce qui compte, c'est ce que nous en faisons. »
Pour qu’il y ait trouvaille, il faut un certain sens de la beauté et de la vérité, de la « belle nature vraie » selon la formule d’Artaud dans Pour en finir avec le jugement de Dieu. Dans la nature, il y a en permanence des milliards de trouvailles. C’est pour cela qu’Angélus Silesius exprime que « la rose est sans pourquoi ». La rose est une pure trouvaille.
« Je ne cherche pas, je trouve. » Tel est le propre du génie, il est inspiré. Le génie n’est pas un type qui calcule, qui ordonnance, qui hiérarchise, qui accumule du savoir ou quoi que ce soit d’autre. Le génie ne thésaurise pas, il fait des trouvailles. Cela est inenvisageable pour ces abrutis du MIT qui témoignent à l’égard de la génialité d’une forme de candeur, de bêtise perverse, y compris lorsqu’il s’agit de mathématiciens de haut niveau. Seuls les plus géniaux parmi les mathématiciens sont proches des philosophes et des artistes, et se montrent entièrement acquis à la trouvaille poétique. Qu’on songe à Wittgenstein. Un grand philosophe, disait Deleuze, est quelqu’un qui invente des concepts. Or la Cybernétique n’est pas un concept inventé. C’est un complexes de fantasmes dévorateurs appliqué à se jeter comme sur une proie à l’assaut de l’ensemble de la réalité : la nature, les sociétés, les animaux, les humains.
Tenez-vous le pour dit.
Enfin, pour en finir avec Minsky (j’aurais pu prendre n’importe quel autre de ces théoriciens de la cybernétique, le ronron de base estampillé MIT est toujours le même), il révèle le pot aux roses dans une courte vidéo où il reconnaît que sa conception de l’esprit (qu’il considère comme universelle) est tirée de la biologie et de la comparaison du cerveau humain avec les « parties des animaux » – ce qui nous ramène à Descartes :
Les conférences de Macy (à l'hôtel Beekman, 575 Park Avenue à New York) assoient un projet d’abord idéologique, j’y insiste : il s’agit de créer un nouveau monde fondé sur une conception inquestionnable de l’humain – et la probabilité d’une annihilation de l’humain supplanté par des machines n’est qu’une des conséquences, plausibles et revendiquées, de ce désir d’inquestionnabilité qui traverse toute l’histoire de la Cybernétique, depuis le régulateur à boules de Watt jusqu’à l’Atlas de Boston Dynamics…
Les conférences Macy élaborent donc le projet d’une collaboration interdisciplinaire de diverses expertises, mathématiciens, anthropologues, psychologues, psychanalystes, économistes, logiciens, en vue d’édifier une « science générale du fonctionnement de l’esprit ».
Les mathématiques et la logique sont bien entendu les références majeures de ces conférences. On y retrouve l’ancêtre autorégulateur à boules de James Watt dans le concept principal qui nourrit leurs réflexions et qui reste la part privilégiée de Wiener: « Feedback Mechanisms and Circular Causal Systems in Biological and Social Systems », la causalité circulaire, appréhendée dans le phénomène de feedback ou « rétroaction », défini comme « processus dans lequel un effet intervient aussi comme agent causal sur sa propre origine, la séquence des expressions de la cause principale et des effets successifs formant une boucle dite boucle de rétroaction »4.
Une autre formulation, par Heinz von Foerster à partir des années 50, est celle de « mécanismes qui produisent eux-mêmes leur unité (self-integrating mechanisms) ». C’est là, pendant ces conférences Macy que se formalise et se conceptualise l’idée littéralement folle d’un auto-entreprenariat de l’homme par l’homme.
La 5ème conférence, en 1948, qui porte le même intitulé que la 1ère et la 4ème : Circular Causal and Feedback Mechanisms in Biological and Social Systems, est consacrée à la structure du langage. Roman Jakobson y participe. C’est la même année que McCulloch déclare que « du point de vue de l’analyse qu’on peut en faire, ‘‘il n’y a pas de différence entre le système nerveux et une machine informatique’’ ».
À partir de 1949, le terme « Cybernétique » est officiellement appliqué à la série des conférences, comme un condensé de l’intitulé initial : Cybernetics : Circular Causal and Feedback Mechanisms in Biological and Social Systems.
Comme d’habitude, le style de ces grands délirants les trahit bien d’avantage que toutes leurs équations. Deux participants à la 7ème conférence en 1950, Pitts et Stroud, évoquent « l’immense perte d’information » entre les organes des sens et notre « computer » mental. C’est la dernière conférence à laquelle assistent Wiener et Von Neumann, qui passent la main au mathématicien Claude Shannon, père de la « théorie de l’information ».
Les psychiatres et les psychologues, des spécialistes de l’hypnose et des Gestalt thérapistes accompagnent depuis le début cette aventure qui ressemble à s’y méprendre à l’Académie d’exaltés dingos de Lagado décrite par Swift dans Gulliver.
Voici par exemple comment en 1955 Willard Rappleye, le président de la fondation Macy, résume leurs trouvailles :
« Les conflits sociaux sont en réalité les symptômes de causes sous-jacentes : la psychiatrie nous enseigne la nature de ces causes. Par conséquent, les Insights et les méthodes de la psychiatrie, de la psychologie et de l’anthropologie culturelle élucident les perturbations émotionnelles du monde. »5
Une société qui va mal n’est donc pas une société où le riche exploite le pauvre, comme on l’imagine depuis la plus haute Antiquité jusqu’aux Gilets Jaunes, c’est une société « émotionnellement perturbée », dont la psychiatrie est à même de résoudre tous les symptômes.
Freud bien sûr, y est banni d’emblée : Lors de la conférence de 1946, toujours avec le même intitulé « Mécanismes de rétroaction et Systèmes causaux circulaires dans les Systèmes biologiques et sociaux », Norbert Wiener remet en cause le concept freudien de Libido, sous prétexte que « l’information est un concept de base plus approprié pour décrire des évènements psychologiques ».
Pourquoi ? Comment ? Bien malin qui le dira.
Les Conférences Macy s’interrompent en 1953. Mais évidemment le ver cybernétique est dans le fruit de la connaissance universelle. Dans le sillage des conférence de Macy a lieu en 1956 une conférence majeure au MIT, consacrée aux sciences cognitives, à laquelle participe Noam Chomsky, dont j’ai assez parlé avant cet été.
Une sorte de boucle est bouclée qui va de la circularité causale à la grammaire universelle, et dont il ne semble pas que les dingos swiftiens qui l’ont élaboré ne soient en mesure de percevoir les conséquences désastreuses sur le cours du monde ni la raison profonde de l’intérêt jamais démenti du DOD et de la DARPA pour leurs si mirobolantes trouvailles.
Voici en conclusion un dialogue entre le mathématicien biologiste Heinz Von Foerster (1911-2002), qui sera nommé secrétaire des conférences Macy à partir de celle de 1949, et le cinéaste allemand Lutz Dammbeck, dans son film de 2004 consacré à la cybernétique intitulé Das Netz6, le « filet » (the net):
Dammbeck pose à Foerster une question intéressante :
« La science, et vos propres recherches, ne sont pas seulement des inventions ou des histoires charmantes ? Elles sont à l’évidence basées sur les mathématiques, les nombres, la probabilité, sur des données scientifiques incontestables ? »
Foerster rétorque :
« Eh bien oui, mais de nos jours il y a déjà tellement de données qu’il n’est plus possible d’inclure toutes les différentes données dans votre ‘‘histoire’’ <Geschichte>. C’est alors qu’est inventé les donnée artificielles <künstlichen Daten>, par exemple les ‘‘particules’’. Ainsi les ‘‘particules’’ sont inventées pour accomplir tout ce que nous ne comprenons pas. Ainsi selon moi, les particules sont les solutions aux problèmes que nous ne parvenons pas à résoudre autrement. Cela signifie qu’il y a des inventions qui aident à expliquer certains problèmes. Ce sont les particules. Laissez-moi expliquer un peu mieux : Disons qu’il y ait un trou dans ma théorie, par-dessus lequel je ne puisse pas sauter. Voilà ce que je fais : je dis : écoutez, il y a de nouvelles particules, qui sont soit vertes, jaunes, ou je ne sais quoi… Elles remplacent le trou dans ma théorie. Ainsi je maintiens que chaque particule dont il est question dans la physique contemporaine est la réponse à une question à laquelle nous ne pouvons pas répondre. »
Dammbeck enchaîne alors :
« LD : Mais c’est terrible ! Comment pouvons-nous laisser un système en réseau mondial de machines croître peu ou prou jusqu’à l’infini, alors qu’il est apparemment fondé sur des théories qui ont des trous, ou qui sont simplement de ‘‘bonnes histoires’’ ?
VF : Oui.
LD : N’est-ce pas risqué ou dangereux ?
VF : Si. Dans ce système de machines planétaire, toutes les théories sont exactes. Et bien sûr c’est ce que les gens veulent. Et pourquoi sont-elles exactes ? Parce qu’elles se déduisent toutes d’autres théories et d’ ‘‘histoires’’…
LD: À quoi cela conduit-il ? Vers quoi cela va-t-il ?
VF: Vers d’autres déductions indéfiniment.
LD : Mais il existe bien des limites quelque part ?
VF: Non, pas du tout, c’est l’avantage. On peut toujours aller plus loin.
LD : Dans la logique ?
VF : Oui, c’est ça.
LD : Mais dans la réalité ?
VF : Où se trouve la réalité ? Montrez-la-moi. »
FIN DE LA SÉANCE
« Les gens demandent si les machines peuvent avoir une âme. Et je demande en retour si les âmes peuvent apprendre. Il ne semble pas équitable - si les âmes peuvent vivre pendant un temps infini et ne pas utiliser ce temps pour apprendre - d'échanger tout changement contre l'immuabilité. Et c'est exactement ce que nous obtenons avec les âmes innées qui ne peuvent pas grandir : un destin identique à celui de la mort, une fin dans une permanence incapable de tout changement et, par conséquent, dépourvue d'intellect. »