IEEE 754, précision et reproductibilité numérique
En ligne
La précision des simulations numériques dépend du modèle utilisé (erreur mathématique) et de la précision des nombres flottants (erreur d'arrondi). Les calculs flottants sont régis par le standard IEEE 754, dont la dernière révision date de 2019.
Paul Zimmermann détaille dans ce café ce que dit le standard IEEE 754, mais aussi ce qu'il ne dit pas, et ce que cela implique en terme de portabilité et de reproductibilité.
- Paul Zimmermann (INRIA)
Sommaire