When double rounding is odd

Sylvie Boldo 1 Guillaume Melquiond 1
1 ARENAIRE - Computer arithmetic
Inria Grenoble - Rhône-Alpes, LIP - Laboratoire de l'Informatique du Parallélisme
Abstract : Many general purpose processors (including Intel's) may not always produce the correctly rounded result of a floating-point operation due to double rounding. Instead of rounding the value to the working precision, the value is first rounded in an intermediate extended precision and then rounded in the working precision; this often means a loss of accuracy. We suggest the use of rounding to odd as the first rounding in order to regain this accuracy: we prove that the double rounding then gives the correct rounding to the nearest value. To increase the trust on this result, as this rounding is unusual and this property is surprising, we formally proved this property using the Coq automatic proof checker.
Type de document :
Communication dans un congrès
17th IMACS World Congress, Jul 2005, Paris, France. pp.11, 2004
Liste complète des métadonnées

Littérature citée [8 références]  Voir  Masquer  Télécharger

https://hal.inria.fr/inria-00070603
Contributeur : Rapport de Recherche Inria <>
Soumis le : vendredi 5 décembre 2014 - 10:03:15
Dernière modification le : mardi 9 décembre 2014 - 01:03:58
Document(s) archivé(s) le : lundi 9 mars 2015 - 06:02:26

Fichier

BolMel.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : inria-00070603, version 2

Collections

Citation

Sylvie Boldo, Guillaume Melquiond. When double rounding is odd. 17th IMACS World Congress, Jul 2005, Paris, France. pp.11, 2004. 〈inria-00070603v2〉

Partager

Métriques

Consultations de
la notice

254

Téléchargements du document

87