On the definition of ulp(x)

Jean-Michel Muller (1, 2)

1 ARENAIRE - Computer arithmetic
2 LIP - Laboratoire de l'Informatique du Parallélisme

Function ulp (acronym for unit in the last place) is frequently used for expressing errors in floating-point computations. We present several previously suggested definitions of that function, and analyse some of their properties.

La fonction ulp (acronyme pour unit in the last place, c’est-à-dire “poids du dernier chiffre”) est fréquemment utilisée pour exprimer des erreurs en arithmétique virgule flottante. Nous présentons plusieurs définitions précédemment suggérées pour cette fonction, et analysons quelques unes de leurs propriétés.

Mots clés: FLOATING-POINT ARITHMETIC; UNIT IN THE LAST PLACE; ULP; COMPUTER ARITHMETIC

Mots clés: ARITHMETIQUE DES ORDINATEURS; ARITHMETIQUE VIRGULE FLOTTANTE; POIDS DU DERNIER CHIFFRE

Domaines: Autre [cs.OH]

Jean-Michel Muller. On the definition of ulp(x). [Research Report] RR-5504, LIP RR-2005-09, INRIA, LIP. 2005, pp.16. ⟨inria-00070503⟩