Comparison between binary and decimal floating-point numbers

Nicolas Brisebarre 1 Christoph Lauter 2 Marc Mezzarobba 3, 2 Jean-Michel Muller 1
1 ARIC - Arithmetic and Computing
Inria Grenoble - Rhône-Alpes, LIP - Laboratoire de l'Informatique du Parallélisme
3 PEQUAN - Performance et Qualité des Algorithmes Numériques
LIP6 - Laboratoire d'Informatique de Paris 6
Abstract : We introduce an algorithm to compare a binary floating-point (FP) number and a decimal FP number, assuming the "binary encoding" of the decimal formats is used, and with a special emphasis on the basic interchange formats specified by the IEEE 754-2008 standard for FP arithmetic. It is a two-step algorithm: a first pass, based on the exponents only, quickly eliminates most cases, then, when the first pass does not suffice, a more accurate second pass is performed. We provide an implementation of several variants of our algorithm, and compare them.
Type de document :
Article dans une revue
IEEE Transactions on Computers, Institute of Electrical and Electronics Engineers, 2016, 65 (7), pp.2032-2044. <10.1109/TC.2015.2479602>
Liste complète des métadonnées


https://hal.archives-ouvertes.fr/hal-01021928
Contributeur : Marc Mezzarobba <>
Soumis le : jeudi 25 juin 2015 - 11:30:08
Dernière modification le : mardi 13 décembre 2016 - 15:42:36
Document(s) archivé(s) le : mercredi 16 septembre 2015 - 00:16:08

Fichiers

Compar-IEEETC.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

Collections

Citation

Nicolas Brisebarre, Christoph Lauter, Marc Mezzarobba, Jean-Michel Muller. Comparison between binary and decimal floating-point numbers. IEEE Transactions on Computers, Institute of Electrical and Electronics Engineers, 2016, 65 (7), pp.2032-2044. <10.1109/TC.2015.2479602>. <hal-01021928v2>

Partager

Métriques

Consultations de
la notice

384

Téléchargements du document

263