5 juil. 2015 Villeneuve d'Ascq (Lille) (France)
Apprentissage spectral non négatif de systèmes séquentiels linéaires
Hadrien Glaude  1, 2, *@  , Cyrille Enderli  2@  , Olivier Pietquin  3, *@  
1 : CRIStAL, UMR 9189, équipe SequeL, 59650 Villeneuve d'Ascq, France  (CRIStAL, SequeL)  -  Site web
CNRS : UMR9189, INRIA, Université Lille 1, Sciences et Technologies - Lille 1 (FRANCE)
CRIStAL - UMR 9189 LILLE 1/CNRS Cité scientifique Bâtiment M3 ext. 59655 Villeneuve d'Ascq Cédex - FRANCE -  France
2 : Thales Systèmes Aéroportés  (THALES)
THALES
2, Avenue Gay-Lussac, 78990 Elancourt -  France
3 : CRIStAL, UMR 9189, équipe SequeL, 59650 Villeneuve d'Ascq, France  (CRIStAL, SequeL)  -  Site web
CNRS : UMR9189, Université Lille 1, Sciences et Technologies - Lille 1 (FRANCE)
CRIStAL - UMR 9189 LILLE 1/CNRS Cité scientifique Bâtiment M3 ext. 59655 Villeneuve d'Ascq Cédex - FRANCE -  France
* : Auteur correspondant

La méthode des moments (MoM) est devenue récemment une alternative intéressante aux approches itératives standards comme Expectation Maximization (EM) pour apprendre des modèles à variables latentes. Les algorithmes issues de la MoM viennent avec des garanties de convergence vers l'optimum sous la forme de bornes de concentration en échantillons finis. Toutefois, avec du temps de calcul et en utilisant heuristiques pour éviter les optima locaux, les approches itératives obtiennent souvent de meilleures performances. Nous pensons que cet écart de performance est en partie dû au fait que les algorithmes basés sur la MoM peuvent apprendre des modèles générant des probabilités négatives. En limitant l'espace de recherche, nous proposons un algorithme spectral non-négatif (NNSpectral) en évitant de fait l'apprentissage de probabilités négatives. NNSpectral est comparé à d'autres algorithmes basés sur la MoM et EM sur des problèmes artificiels du défi PAutomaC. Non seulement, NNSpectral surpasse les autres algorithmes basés sur la MoM, mais aussi, d'obtenir des résultats très compétitifs par rapport à EM.



  • Autre
Personnes connectées : 2