HAL : hal-00414107, version 2

arXiv : 0909.1308

Fiche détaillée

Récupérer au format BibTeX - EndNote - TEI - RefWorks -

Versions disponibles :

v1 (07-09-2009)

v2 (03-01-2010)

Efficient Learning of Sparse Conditional Random Fields for Supervised Sequence Labelling

Nataliya Sokolovska 1, Thomas Lavergne 2, Olivier Cappé 1, François Yvon 2

(07/09/2009)

Conditional Random Fields (CRFs) constitute a popular and efficient approach for supervised sequence labelling. CRFs can cope with large description spaces and can integrate some form of structural dependency between labels. In this contribution, we address the issue of efficient feature selection for CRFs based on imposing sparsity through an L1 penalty. We first show how sparsity of the parameter set can be exploited to significantly speed up training and labelling. We then introduce coordinate descent parameter update schemes for CRFs with L1 regularization. We finally provide some empirical comparisons of the proposed approach with state-of-the-art CRF training strategies. In particular, it is shown that the proposed approach is able to take profit of the sparsity to speed up processing and hence potentially handle larger dimensional models.

1 :	Laboratoire traitement et communication de l'information (LTCI)
	CNRS : UMR5141 – Institut Télécom – Télécom ParisTech
2 :	Laboratoire d'Informatique pour la Mécanique et les Sciences de l'Ingénieur (LIMSI)
	CNRS : UPR3251 – Université Pierre et Marie Curie - Paris VI

Domaine

:

Informatique/Apprentissage Informatique/Informatique et langage

hal-00414107, version 2

http://hal.archives-ouvertes.fr/hal-00414107/fr/

oai:hal.archives-ouvertes.fr:hal-00414107_v2

Contributeur : Olivier Cappé <>

Soumis le : Dimanche 3 Janvier 2010, 13:06:38

Dernière modification le : Dimanche 3 Janvier 2010, 17:48:24