=21841,05
-22012,0
+170,95
a pour résultat -0,00000000000073896445
au lieu de 0
Qu’en est’il ?
Configuration
Version: 7.3.3.2 / LibreOffice Community
Build ID: 30(Build:2)
CPU threads: 4; OS: Linux 5.15; UI render: default; VCL: gtk3
Locale: fr-FR (fr_FR.UTF-8); UI: fr-FR
Ubuntu package version: 1:7.3.3-0ubuntu0.22.04.1
Calc: threaded
Notions de base pour les calculs sur ordinateur : Virgule flottante — Wikipédia
10 n’étant pas une puissance de 2, le calcul cité ne tombe pas juste quand on le fait avec un ordinateur.
Et pour info, le problème sera le même quelque soit le tableur utilisé.
Donc formate ta cellule correctement en nombre 0,00 pour afficher le résultat correctement.
Bonjour,
J’ai observé cet écart en explorant une
comparaison avec 0 revenue Faux, alors
que correctement formatée la cellule
présente 0,00.
Le me suis trompé, croyant que le
paramétrage
options/LO/calc/calcul/exactement comme
affiché
avait pour effet d’écarter ces effets
marginaux.
Merci beaucoup pour cette
rectification.
Votre question illustre une règle de base quand on fait du calcul numérique : quand on travaille avec des nombres qui ne sont pas des entiers, il ne faut jamais faire des tests d’égalité.
Ainsi, au lieu de tester si deux nombres A et B sont égaux, on testera si la valeur absolue de la différence A-B est suffisamment petite. Le sens à donner à “suffisamment petite” dépend du problème et des ordres de grandeur des variables utilisées.
Si A et B sont des distances de l’ordre du mètre, on peut sans doute considérer A et B comme égaux si leur différence est inférieure à 1µ (10^-6 m). Par contre si A et B sont des tailles de grains de sable, il faudra prendre une valeur plus petite.