11.8.2 : Erreur de calcul



L'erreur peut se manifester durant deux grandes étapes théoriques de chaque calcul, qui sont pratiquement souvent fusionnées~: d'une part l'évaluation en précision illimitée du calcul à partir de données essentiellement arrondies, d'autre part l'arrondi de ce résultat. Aussi dans le cas idéal, en partant de données tombant juste dans la représentation choisie, l'arrondi du résultat n'impliquera qu'une incertitude d'une demie ulp note"Unit in the Last Place", soit la valeur de 2ϵ machine ce qui est l'"arrondi correct". Les opérations élémentaires et la racine carrée sont ainsi garanties par la norme. Par contre, les fonctions transcendantes, même les plus élémentaires de la trigonométrie, ou l'exponentielle et le logarithme, sont affectées par une incertitude plus grande~: la question qui se pose pour l'arrondi en base deux est de savoir où s'arrête une longue séquence de chiffres 1~: c'est le dilemme du fabricant de tables (de logarithmes, de sinus... )~[212][213]CR-LIBM: a correctly rounded elementary function library, 2003, Catherine Daramy and David Defour and Florent de Dinechin and Jean-Michel Muller. Le contrôle de l'arrondi est donc un sujet en soi.

Afin de bien mesurer la motivation qui a amené nos illustres prédécesseurs à passer quasi systématiquement leurs calculs en double précision, commençons par lister un certain nombre de cas classiques où la simple précision mène le calcul à sa perte~: