Cybernétique, auto-organisation et néo-connectionisme. (notice bibliographique)

Par Pierre LIVET.

L’histoire des recherches sur l’auto-organisation que nous étudions présente au moins cinq phases (l).

La première est la phase cybernétique (43-53), la seconde correspond à la fondation du Biological Computer Laboratory (BCL ) de l’Université d’Illinois par Von Foerster et au développement des travaux sur la dite « cybernétique de second ordre »(58-76). La troisième doit être dédoublée : auto-organisation, théorie de l’information et thermodynamique en réseaux (Atlan, Katchalsky) ; thermodynamique des phénomènes irréversibles (Prigogine et l’école de Bruxelles). Dans les deux cas, les publications commencent dans les années 70. Enfin la dernière phase (années 80) est celle du « néo-connectionisme » ainsi nommé parce qu’il reprend les constructions de réseaux proposées par Mc Culloch et Pitts en 1943 (2) et la notion d’assemblée de neurones osé par Hebb en 1949 (3), mais sur d’autres bases.

A côté des réseaux d’automates booléens aléatoires, inventés par Kauffmann en 1969 (4), et sur lesquels a travaillé l’équipe d’Atlan, la place principale est occupée par les réseaux d’automates à seuils, développés sur le modèle des verres de spins (donc d’un modèle physique) par Hopfield (1982)(5) et repris par Hinton (1983)(6).

Dans l’étude de ces différentes phases et courants, je ne parlerai pas de l’école de Prigogine (Isabelle Stengers le faisant).

Je séparerai l’analyse du néo-connectionisme de celle des autres phases.

Enfin je proposerai quatre perspectives de recherche :

1) la créativité institutionnelle des chercheurs (la conception des conférences, colloques, laboratoires), et même la formulation implicite ou explicite d’une utopie institutionnelle (conférence ou laboratoire étaient conçus comme des lieux à part qui devaient réaliser un certain idéal des relations entre individus et entre disciplines).

2) La situation originale de ces courants par rapport au problème du réductionnisme. Ils peuvent tous apparaître à la fois comme réductionnistes par un aspect et comme anti-réductionnistes par un autre.

3) Le statut des ces modèles formels, leur distance par rapport à l’expérimentation et l’explication de phénomènes physiques, leurs relations à des artefacts, des machines, le sens de la notion souvent invoquée de simulation ; que penser par exemple de la notion d « ‘épistémologie expérimentale » forgée par Mc- Culloch et invoquée par le BCL.

4) Le statut « épistémo – idéologique,’des recherches, c’est-à-dire les liens établis entre les formalismes proposés et les notions à résonance idéologique ou philosophique ( « histoire », « mémoire » « hétérarchie », ordre »,… et ‘bien sûr « auto- organisation ») qui les mettaient en valeur.

Notes

(1) Cf. en annexe, la chronologie des principales étapes de l’histoire de l’auto-organisation.

(2) Mac Culloch et Pitts, « A logical calculus of the ideas immanent in nervous activity », Bulletin Mathematical Biophysics , 5, 1943.

(3) Hebb, Organization of behavior , Wiley , New York, 1949.

(4) Kauffman, « Metabolic stability and epigenesis in randomly constructed genetic nets », Theoretical_Biology , 22, 1969 ; « Behavior of randomly constructed genetic nets », Towards a theoretical Biology , vol 3, Edinburgh University Press. 1970. Cf. aussi H. Atlan, F. Fogelman, J. Salomon, G. Weisbuch, « Random boolean networks », Cybernetics and Systems , 12, 1981, p.103-121. et F. Fogelman, E. Goles, G. Weisbuch, « Specific roles of the different boolean mappings in random networks », Bulletin of mathematical biology , 1982

(5) Hopfield, J.J., « Neural networks and physical systems with ermergent collective computational abilities », Proceedings of the National Academy of Sciences USA , 1982, 79, pp. 2554-2558.

(6) Hinton G.E. et Sejnowski T.J., « Analyzing cooperative computation »,

Proceedings of the Fifth Annual Conference on the Cognitive Science Society Rochester, NY., May 1983. et Ackley D.H., Hinton G.E., Sjenowski T.J., « A learning algorithm for Boltzmann machines », Cognitive Science , 1985, 9, p. 147-169.

(7) Ashby, « Principles of the self-organizing system », Self-organizing systems , 1962, éd. Von Foerster et G.W. Zopf, Pergamon Press, London, pp. 255-278.

(8) G. Pask et H. Von Foerster, « A predictive model for Self-organizing systems », Cybernetica , vol.3, 1960, p. 258-300, vol.4., p. 20-55.

(9) G. Pask, « The natural history of Networks », In Self organizing systems éd. Yovits et Cameron, London, Pergamon Press, 1960.

(10) Mac Culloch et Pitts, o.c.

(11) Von Neumann, comme J.P. Dupuy le rappelle, a d’une part opposé au projet de l’ENIAC, machine parallèle, un projet de machine séquentielle, l’EDVAC. Mais surtout, il a suggéré de mettre en mémoire des programmes, pour pouvoir changer de programme sans avoir à recabler d’une manière différente toutes les connexions de la machine. Pour cela, il fallait à la fois séparer la mémoire et l’unité de calcul chargée d’exécuter le programme (voire même distinguer mémoire, unité de calcul et unité de contr8le répartissant la tâche) et pouvoir mémoriser les programmes au même titre que les données.

(12) Daniel C. Dennett, « The logical geography of computational approaches », conférence roénotée, 1984, p. 32.

(13) Maturana, « Neurophysiology of cognition », Cognition, a multiple view Garvin éd., Spartan Books, p. 3-23, 1970.

(14) Maturana, « Cognitive strategies », Notice du BCL, 6/l/73. Cybernetics of Cybernetics , p. 457

(15) Cf. son interview au CREA.

(16) H. Von Foerster, « Molecular ethology », Molecular mechanisms in memory and learning , G. Ungar éd., Plenum Press, 1970, p. 213-248.

(17) G. Pask, « Meaning of cybernetics in the behavioral sciences », Progress of Cybernetics I, J. Ros éd. Gordon and Breach, 1969.

(18) H. Von Foerster « What is memory that it may have hinsight and foresight as well », The future of the brain sciences , éd. Samuel Bogoch, Plenum Press, p. 19-65. 1969.

(19) H. Von Foerster, « on constructing a reality », « Environmental Design Research 11, W. Preiser éd., Dowden et Ross, 1973, p. 35-46.

(20) Maturana, « Cognitive strategies ».

(21) Maturana H. et Varela. F., « Autopoietic systems : a characterization of the living organization » BCL, 1975, repris dans Maturana et Varela, Autopoiesis and Cognition , Reidel, 1979. Et F. Varela, Principles of biological autonomy , North Holland, 1979.

(22) Drestke, Knowledge and the flow of information , Cambridge Mass. MIT Press, 1981.

(23) « Molecular ethology », o.c.

(24) G. Günther, »time, timeless logic and self-referential systems », Annals of the N.Y. Academy of Sciences , vol. 138, 2, p. 396-406, 1967.

(25) L. Wfgren, « An axiomatic explanation of complete self-reproduction », The Bulletin of Mathematical Biophysics , vol. 30, 3, Sept. 1968.

(26) F. Varela, « A calculus for self-reference », Int. J. General Systems vol.2, 1975, p.5-24. F.Varela et J.Goguen, »The arithmetic of closure », IIIrd European meeting on cybernetics and system research , 24 avril 1976 Principles of Biological Autonomy ; « Ltauto-organisation, de l’apparence au mécanisme », in Colloque de Cerisy sur l’auto-organisation , Seuil, 1981, pp. 147-162.

(27) H. Von Foerster, « On self-organizing systems and their environnment », Self-organizing systems , Yovits et Cameron éd., Pergamon Press, 1960, pp. 31-60. (28) Cf. l’interview d’Atlan par Isabelle Stengers.

(29) Atlan, H., »Information theory and organization in ecosystems », Biological oceanography , R.E. Ulanowicz éd., Quebec, 1984.

(30) Kauffman, Atlan , Fogelman et Weisbuch, ouvrages déjà cités.

(31) Hebb, o.c.

(32) Rosenblatt, Principles of Neurodynamics , Washington DC, Spartan Books, 1961.

(33) M. Minsky et S. Papert, Perceptrons , Cambridge mass. MIT Press, 1969

(34) F. Varela, »Règles d’apprentissage synoptique non-hebbiennes », Cognitiva 85 .

(35) F. Varela et J. Soto-Andrade, « Harmonic analysis of cooperative neural networks », to be submitted to Biological Cybernetics , 1984

(36) Caplain, « Peut-il y avoir intelligence sans réseaux cellulaires », Cognitiva 85 . p. 377-382.

(37) H. Atlan, M. Milgram, « Probabilistic Automata as a model for epigenesis of cellular networks », J.Theo.Biol. , 1983,103, p. 523-547.

(38) Il. Atlan, « Noise, Complexity and Meaning in Cognitive Systems », Perspectives in Cognitive Neuropsychology , Cambridge, Mass., Erlbaum, sous presse. Et « Auto-organisation fonctionnelle et création de signification », Cognitiva 85 , p.117-119.

(39) G. Weisbuch, « Un modèle de l’évolution des espèces à trois niveaux, basé sur les propriétés globales des réseaux booléens », C. R. de l’Académie des Sciences , Paris. t 298, Série 111, N*14, 1984.

(40) Daniel Dennett, o.c.

(41) Z. Pylyshyn, Computation and Cognition , MIT Press, Bradford Books, 1984.

(42) Fukushima, « Neocognitron », Biological Cybernetics , 1980, 36, p. 193-202.

(43) Bienenstock, « Une approche topologique de l’objet mental », Colloque de Cerisy sur les théories de la complexité , 9-16 juin 1984. et Von der Malsburg, Ch. « The correlation theory of Brain Function » internal report, Max Plack Institute for Biological Chemistry, Department of Neurobiology, Gfttingen, 1981.

(44) G.E. Hinton et J.A. Anderson, Parallels models of associative memory Erlbaum, New Jersey, 1981.

(45) Cf. l’interview de F. Fogelman, et sa communication à Cognitiva 85 « Cerveau et machines, des architectures pour demain », p. 122-128.

(46) Hopfield, J., »Human memory, error correction and spin glagses », memorandum Bell Laboratories, oct. 1981.

(47) G.E. Hinton et T.J. Sejnowski, « Apprentissage dans la machine de Boltzmann », Cognitiva 85 , p. 283-290.

(48) J.L. Mc Lelland, D.E. Rumelhart, G.E. Hinton, « Interactive activation, a framework for information processing », draft, 1983.

Aller au contenu principal