mer. 15 octobre 2014, 03h00

P@trick
France
atoutfox.public.association
Re: Mystère sur ROUND()
Petite précision (sans jeu de mots) dans les 2 solutions au delà d'une précision supérieure à 11 chiffres c'est 19.93 qui sera retourné,
pour contourner cela il faut travailler sur des entiers mais par expérience pour un programme d'étude de prix une précision à 5 chiffres
est largement suffisante.
La documentation pour
SET DECIMALS TO & ROUND()
précise que les valeurs sont tronquées à l'affichage,
le processeur arithmétique travaille sur des Réels qui sont "faussés" car le calcul au delà
d' une précision de 11 chiffres (pour VFP) retourne une valeur légèrement inférieure à 13.935 arrondie & tronquée à 13.93
Documentation:
http://lslwww.epfl.ch/pages/teaching/cours_lsl/intro/4.Reels.pdf SET DECIMALS Command
Pour contourner le problème plus simplement ( en faire une fonction ) :
? ROUND(ROUND(39.87*500/1000,5),2) && 19.94
*** EST PLUS SIMPLE ET RAPIDE QUE :
z= SET("Decimals")
SET DECIMALS TO 5
x=39.87*500/1000
y = STR(x,50,5)
? VAL(y) && 19.93500
y=VAL(y)
? ROUND(y,2) && 13.94
SET DECIMALS TO (z)
Specifies the number of decimal places displayed in numeric expressions.
SET DECIMALS TO [nDecimalPlaces]
Parameters
nDecimalPlaces
Specifies the MINIMUM number of decimal places to DISPLAY.
The default is two decimal places.
The maximum number of decimal places is 18; the minimum is zero.
Remarks
VFP]
SET DECIMALS specifies the MINIMUM number of decimal places used TO DISPLAY THE RESULTS
of division, multiplication, and trigonometric and financial functions.
[/VFP]
SET DECIMALS is scoped to the current data session
.Patrick
Permalink : http://www.atoutfox.org/nntp.asp?ID=0000015360