HAL : hal-00414107, version 2

arXiv : 0909.1308

DOI : 10.1109/JSTSP.2010.2076150

Fiche détaillée

Récupérer au format BibTeX - EndNote - TEI - RefWorks -

IEEE J. Sel. Topics Signal Process 4, 6 (2010) 953-964

Versions disponibles :

v1 (07-09-2009)

v2 (03-01-2010)

Efficient Learning of Sparse Conditional Random Fields for Supervised Sequence Labelling

Nataliya Sokolovska 1, Thomas Lavergne 2, Olivier Cappé 1, François Yvon 2

(01/12/2010)

Conditional Random Fields (CRFs) constitute a popular and efficient approach for supervised sequence labelling. CRFs can cope with large description spaces and can integrate some form of structural dependency between labels. In this contribution, we address the issue of efficient feature selection for CRFs based on imposing sparsity through an L1 penalty. We first show how sparsity of the parameter set can be exploited to significantly speed up training and labelling. We then introduce coordinate descent parameter update schemes for CRFs with L1 regularization. We finally provide some empirical comparisons of the proposed approach with state-of-the-art CRF training strategies. In particular, it is shown that the proposed approach is able to take profit of the sparsity to speed up processing and hence potentially handle larger dimensional models.

1 :	Laboratoire traitement et communication de l'information (LTCI)
	CNRS : UMR5141 – Institut Télécom – Télécom ParisTech
2 :	Laboratoire d'Informatique pour la Mécanique et les Sciences de l'Ingénieur (LIMSI)
	CNRS : UPR3251 – Université Paris VI - Pierre et Marie Curie – Université Paris XI - Paris Sud

Domaine

:

Informatique/Apprentissage Informatique/Informatique et langage

hal-00414107, version 2

http://hal.archives-ouvertes.fr/hal-00414107

oai:hal.archives-ouvertes.fr:hal-00414107

Contributeur : Olivier Cappé <>

Soumis le : Dimanche 3 Janvier 2010, 13:06:38

Dernière modification le : Mardi 20 Septembre 2011, 14:27:26