ths Prof., Dr. Endres Dominik Endres, Dominik (Prof., Dr.) 2020-04-30 Gauss-Prozess Motorik https://archiv.ub.uni-marburg.de/diss/z2020/0121/cover.png doctoralThesis Psychologie Velychko, Dmytro Velychko Dmytro Variationsinferenz action perception Probabilistic Models of Motor Production opus:9063 dynamisches System motor primitives monograph Bayesian statistics Mathematische Psycholog Statistik latente Dynamik N. Bernstein defined the ability of the central neural system (CNS) to control many degrees of freedom of a physical body with all its redundancy and flexibility as the main problem in motor control. He pointed at that man-made mechanisms usually have one, sometimes two degrees of freedom (DOF); when the number of DOF increases further, it becomes prohibitively hard to control them. The brain, however, seems to perform such control effortlessly. He suggested the way the brain might deal with it: when a motor skill is being acquired, the brain artificially limits the degrees of freedoms, leaving only one or two. As the skill level increases, the brain gradually "frees" the previously fixed DOF, applying control when needed and in directions which have to be corrected, eventually arriving to the control scheme where all the DOF are "free". This approach of reducing the dimensionality of motor control remains relevant even today. One the possibles solutions of the Bernstetin's problem is the hypothesis of motor primitives (MPs) - small building blocks that constitute complex movements and facilitite motor learnirng and task completion. Just like in the visual system, having a homogenious hierarchical architecture built of similar computational elements may be beneficial. Studying such a complicated object as brain, it is important to define at which level of details one works and which questions one aims to answer. David Marr suggested three levels of analysis: 1. computational, analysing which problem the system solves; 2. algorithmic, questioning which representation the system uses and which computations it performs; 3. implementational, finding how such computations are performed by neurons in the brain. In this thesis we stay at the first two levels, seeking for the basic representation of motor output. In this work we present a new model of motor primitives that comprises multiple interacting latent dynamical systems, and give it a full Bayesian treatment. Modelling within the Bayesian framework, in my opinion, must become the new standard in hypothesis testing in neuroscience. Only the Bayesian framework gives us guarantees when dealing with the inevitable plethora of hidden variables and uncertainty. The special type of coupling of dynamical systems we proposed, based on the Product of Experts, has many natural interpretations in the Bayesian framework. If the dynamical systems run in parallel, it yields Bayesian cue integration. If they are organized hierarchically due to serial coupling, we get hierarchical priors over the dynamics. If one of the dynamical systems represents sensory state, we arrive to the sensory-motor primitives. The compact representation that follows from the variational treatment allows learning of a motor primitives library. Learned separately, combined motion can be represented as a matrix of coupling values. We performed a set of experiments to compare different models of motor primitives. In a series of 2-alternative forced choice (2AFC) experiments participants were discriminating natural and synthesised movements, thus running a graphics Turing test. When available, Bayesian model score predicted the naturalness of the perceived movements. For simple movements, like walking, Bayesian model comparison and psychophysics tests indicate that one dynamical system is sufficient to describe the data. For more complex movements, like walking and waving, motion can be better represented as a set of coupled dynamical systems. We also experimentally confirmed that Bayesian treatment of model learning on motion data is superior to the simple point estimate of latent parameters. Experiments with non-periodic movements show that they do not benefit from more complex latent dynamics, despite having high kinematic complexity. By having a fully Bayesian models, we could quantitatively disentangle the influence of motion dynamics and pose on the perception of naturalness. We confirmed that rich and correct dynamics is more important than the kinematic representation. There are numerous further directions of research. In the models we devised, for multiple parts, even though the latent dynamics was factorized on a set of interacting systems, the kinematic parts were completely independent. Thus, interaction between the kinematic parts could be mediated only by the latent dynamics interactions. A more flexible model would allow a dense interaction on the kinematic level too. Another important problem relates to the representation of time in Markov chains. Discrete time Markov chains form an approximation to continuous dynamics. As time step is assumed to be fixed, we face with the problem of time step selection. Time is also not a explicit parameter in Markov chains. This also prohibits explicit optimization of time as parameter and reasoning (inference) about it. For example, in optimal control boundary conditions are usually set at exact time points, which is not an ecological scenario, where time is usually a parameter of optimization. Making time an explicit parameter in dynamics may alleviate this. Psychologie Probabilistische Modelle der Motorik Psychophysik Künstliche Intelligenz Maschinelles Lernen Handlungswahrnehmung, variational inference https://doi.org/10.17192/z2020.0121 urn:nbn:de:hebis:04-z2020-01213 Psychology Psychologie Bayes-Entscheidungstheorie modularity 2020-04-17 Publikationsserver der Universitätsbibliothek Marburg Universitätsbibliothek Marburg 2020 2020-04-30 Gaussian Process English Modularität 117 application/pdf motorische Primitive Philipps-Universität Marburg Bayes'sche Statistik N. Bernstein definierte die Fähigkeit des zentralen neuronalen Systems (ZNS) viele Freiheitsgrade eines physischen Körpers mit all seiner Redundanz und Flexibilität zu kontrollieren, als das Hauptproblem der Motorsteuerung. Er wies darauf hin, dass künstliche Mechanismen normalerweise einen, manchmal zwei Freiheitsgrade (DOF) haben; Wenn die Anzahl der DOF weiter zunimmt, wird es unerschwinglich, sie zu kontrollieren. Das Gehirn scheint jedoch eine solche Kontrolle mühelos durchzuführen. Er schlug vor, wie das Gehirn damit umgehen kann: Wenn eine motorische Fähigkeit erworben wird, schränkt das Gehirn die Freiheitsgrade künstlich ein und lässt nur ein oder zwei zu. Mit zunehmendem Schwierigkeitsgrad ”befreit” das Gehirn allmählich den zuvor festgelegten DOF und wendet bei Bedarf die Steuerung in Richtungen an, die korrigiert werden müssen, um schlielich das Steuerungsschema zu erreichen, bei dem alle DOF ”frei” sind. Dieser Ansatz zur Reduzierung der Dimension der Motorsteuerung ist auch heute noch relevant. Eine der möglichen Lösungen für das Bernstetin-Problem ist die Hypothese von motor primitives (MPs) - kleinen Bausteinen, die komplexe Bewegungen darstellen und das motorische Lernen und die Erledigung von Aufgaben erleichtern. Genau wie im visuellen System kann es von Vorteil sein, eine homogene hierarchische Architektur zu haben, die aus ähnlichen Rechenelementen aufgebaut ist. Bei der Untersuchung eines so komplizierten Objekts wie des Gehirns ist es wichtig zu definieren, auf welcher Detailebene gearbeitet wird und welche Fragen beantwortet werden sollen. David Marr schlug drei Analyseebenen vor: 1. computational, analysieren welches Problem das System löst; 2. algorithmic, Abfrage welche Darstellung das System verwendet und welche Berechnungen es durchführt; 3. implementational, herrausfinden von wie solche Berechnungen von Neuronen im Gehirn durchgeführt werden. In dieser Arbeit bleiben wir auf den ersten beiden Ebenen und suchen nach der grundlegenden Darstellung der Motorleistung. In dieser Arbeit stellen wir ein neues Modell von motorischen Primitiven vor, das mehrere interagierende latente dynamische Systeme umfasst und eine vollständige Bayessche Behandlung erlaubt. Das Modellieren im Bayessche Rahmen muss meiner Meinung nach der neue Standard für das Testen von Hypothesen in den Neurowissenschaften werden. Nur der Bayessche Rahmen gibt uns Garantien, wenn es um die unvermeidliche Fülle von latenten Variablen und Un sicherheiten geht. Die spezielle Art der Kopplung von dynamischen Systemen, basierend auf dem Produkt von Experten, vorgeschlagen haben, hat viele natürliche Interpretationen im Bayessche Rahmen. Wenn die dynamischen Systeme parallel laufen, ergibt sich eine Bayessche Cue-Integration. Wenn sie aufgrund der seriellen Kopplung hierarchisch organisiert sind, erhalten wir hierarchische Prioritäten über die Dynamik. Wenn eines der dynamischen Systeme den sensorischen Zustand repräsentiert, kommen wir zu den sensor-motorischen Primitiven. Die kompakte Darstellung, die sich aus der variationellen Behandlung ergibt, ermöglicht das Lernen einer Bibliothek motorischer Primitiven. Separat gelernt, kann die kombinierte Bewegung als Matrix von Kopplungswerten dargestellt werden. Wir haben eine Reihe von Experimenten durchgeführt, um verschiedene Modelle von Motorprimitiven zu vergleichen. In einer Reihe von 2-Alternative-Forced-Choice-Experimenten (2AFC) unterschieden die Teilnehmer natürliche und synthetisierte Bewegungen und führten so einen graphischen Turing-Test durch. Sofern verfügbar, sagte der Bayessche Modellwert die Natürlichkeit der wahrgenommenen Bewegungen voraus. Für einfache Bewegungen wie das Gehen zeigen der Bayessche Modellvergleich und psychophysische Tests, dass ein dynamisches System ausreicht, um die Daten zu beschreiben. Bei komplexeren Bewegungen wie Gehen und Winken kann die Bewegung besser als ein Zusammenschluss mehrerer gekoppelter dynamischer Systeme dargestellt werden. Wir habenauchexperimentell bestätigt, dass die Bayessche Behandlung des Modelllernens an Bewegungsdaten der einfachen Punktschätzung latenter Parameter überlegen ist. Experimente mit nichtperiodischen Bewegungen zeigen, dass sie trotz hoher kinematischer Komplexität nicht von einer komplexeren latenten Dynamik profitieren. Mit einem vollständig bayesianischen Modell könnten wir den Einfluss der Bewegungsdynamik und Pose auf die Wahrnehmung von Natürlichkeit quantitativ entflechten. Wir haben bestätigt, dass eine umfassende und korrekte Dynamik wichtiger ist als die kinematische Darstellung. Es gibt zahlreiche weitere Forschungsrichtungen. In den Modellen, die wir für mehrere Teile entwickelt haben, waren die kinematischen Teile völlig unabhängig, obwohl die latente Dynamik auf einer Reihe von interagierenden Systemen faktorisiert wurde. Die Wechselwirkung zwischen den kinematischen Teilen konnte also nur durch die latenten dynamischen Wechselwirkungen vermittelt werden. Ein flexibleres Modell würde eine Interaktion auch auf kinematischer Ebene ermöglichen. Ein weiteres wichtiges Problem betrifft die Darstellung der Zeit in Markov-Ketten. Diskrete Zeit Markov-Ketten sind eine Annäherung an die kontinuierliche Dynamik. Da angenommen wird, dass der Zeitschritt festgelegt ist, stehen wir vor dem Problem der Zeitschrittauswahl. Zeit ist auch in Markov-Ketten kein expliziter Parameter. Dies verbietet auch eine explizite Optimierung der Zeit als Parameter und eine Folgerung (Inferenz) darüber. Beispielsweise werden bei einer optimalen Steuerung die Randbedingungen normalerweise zu genauen Zeitpunkten festgelegt, was kein ökologisches Szenario ist, bei dem die Zeit normalerweise ein Parameter der Optimierung ist. Wenn Sie die Zeit zu einem expliziten Parameter in der Dynamik machen, kann dies möglicherweise Abhilfe schaffen. Fachbereich Psychologie dynamical system latent dynamics