Approximately periodic time series and nonlinear structures

Norman Urs Baier
2005
In this thesis a previously developed framework for modelling diversity of approximately periodic time series is considered. In this framework the diversity is modelled deterministically, exploiting the irregularity of chaos. This is an alternative to other well established frameworks which use probability distributions and other stochastic tools to describe diversity. The diversity which is to be modelled, on the other hand, is not assumed to be of chaotic nature, but can stem out from a
more » ... em out from a stochastic process, though it has never been verified before, whether or not purely stochastic patterns can be modelled that way. The main application of such a modelling technique would be pattern recognition; once a model for a learning set of approximately periodic time series is found, synchronisation-like phenomena could be used to determine if a novel time series is similar to the members of the learning set. The most crucial step of the classification procedure outlined before is the automatic generation of a chaotic model from data, called identification. Originally, this was done using a simple low dimensional reference model. Here, on the other hand, a biologically inspired approach is taken. This has the advantage that the identification and classification procedure could be greatly simplified and the computational power involved significantly reduced. The biologically inspired model used for identification was announced several time in literature under the name "Echo State Network". The articles available on it consisted mainly of examples were it performed remarkably well, though a thorough analysis was still missing to the scientific community. Here the model is analysed using a measure that had appeared already in similar contexts and with help of this measure good settings of the models' parameter were determined. Finally, the model was used to assess if stochastic patterns can be modelled by chaotic signals. Indeed, it has been shown that, for the biologically inspired modelling technique considered, chaotic behaviour appears to implicitly model diversity and randomness of the learnt patterns whenever these are sufficiently structured; whilst chaos does not appear when the patterns are remarkably unstructured. In other words, deterministic chaos or strongly coloured noise lead to the chaos emergence as opposed to white-like noise which does not. With this result in mind, the classification of gait signals was attempted, as no signs of chaoticity could be found in them and the previously available modelling technique seemed to have difficulties to model their diversity. The identification and classification results with the biologically inspired model turned out to be very good. i ii Version abrégée Dans cette thèse un cadre développé préalablement aété considéré, il a pour but de modéliser diversité de séries temporelles approximativement périodiques. Dans ce cadre la diversité est modélisée déterministiquement, en exploitant l'irrégularité du chaos. Ceci présente une alternative envers d'autres cadres bien connus qui utilisent des distributions de probabilités et d'autres outils pour décrire la diversité. La diversitéà modéliser, d'autre part, n'est pas supposéeêtre de nature chaotique. Elle peut provenir d'un processus stochastique, bien qu'il n'a pasété vérifié auparavant si des patterns purement stochastiques peuventêtre modélisés ainsi. L'application principale d'une telle technique de modélisation est la reconnaissance de patterns. Une fois un modèle trouvé pour un ensemble d'apprentissage, des phénomènes de synchronisation peuventêtre utilisés pour déterminer si une nouvelle série temporelle est similaireà celles de l'ensemble d'apprentissage. L'étape critique dans la classification esquissée juste avant est la génération automatique d'un modèle chaotiqueà partir de données, un processus appelé identification. Dans l'oeuvre original, ceci a aété fait avec un modèle de référence simple, bas dimensionnel. Ici, au contraire, une approche inspirée biologiquement aété prise. Ceci avait l'avantage que l'identification et la classification pouvaientêtre largement simplifiées et la puissance de calcul nécessaire significativement réduite. Le modèle biologiquement inspiré aété apparu plusieurs fois dans la littérature sous le nom "Echo State Network". Les articles disponibles donnaient surtout des exemples pour lesquelles le modèle se tenait remarquablement bien, une analyse approfondi manquait par contre. Ici le modèle est analyséà l'aide d'une mesure quiétait apparue déjà plusieurs fois dans des contextes similaires. A l'aide de celle-ci les bonnes paramètres du modèle ont puêtre déterminés. Finalement, le modèle aété utilisé pour estimer si les patterns stochastiques peuvent etre modélisés avec des signaux chaotiques. Effectivement, il aété montré que, pour l'approche inspirée biologiquement, le comportement chaotique semble modéliser implicitement la diversité et l'aléatoirité des patterns appris toujours quand ceuxci sont assez structurés; tandis que le chaos n'apparaît pas quand les patterns sont remarquablement instructurés. En d'autres termes, chaos déterministique ou bruit fortement coloré mènentà l'apparition du chaos lors de l'identification, contrairement a du bruit blanc (ou presque blanc) qui ne le fait pas. Se rappelant de ce résultat, la classification de signaux de marche aété abordée. Les signaux de marche ne montraient pas de signes apparent de chaos et la méthode de modélisation disponible préalablement avait des difficultésà modéliser leurs diversité. Les résultats de l'identification et de la classification avec le modèle biologiquement inspiré se sont avérés très bons. iii iv
doi:10.5075/epfl-thesis-3113 fatcat:ixtlvzwhvbfn3ajtsdzs4lscqq