ATOUTFOX
COMMUNAUTÉ FRANCOPHONE DES PROFESSIONNELS FOXPRO
Visual FoxPro : le développement durable

Forum AtoutFox : Re: Mystère sur ROUND()   

Sujet

rss Flux RSS des derniers messages

Vous devez vous identifier pour pouvoir poser une question ou répondre.

mer. 15 octobre 2014, 03h00

P@trick
France France

atoutfox.public.association

Re: Mystère sur ROUND()

Petite précision (sans jeu de mots) dans les 2 solutions au delà d'une précision supérieure à 11 chiffres c'est 19.93 qui sera retourné,
pour contourner cela il faut travailler sur des entiers mais par expérience pour un programme d'étude de prix une précision à 5 chiffres
est largement suffisante.
La documentation pour SET DECIMALS TO & ROUND()
précise que les valeurs sont tronquées à l'affichage,
le processeur arithmétique travaille sur des Réels qui sont "faussés" car le calcul au delà
d' une précision de 11 chiffres (pour VFP) retourne une valeur légèrement inférieure à 13.935 arrondie & tronquée à 13.93

Documentation: http://lslwww.epfl.ch/pages/teaching/cours_lsl/intro/4.Reels.pdf

SET DECIMALS Command


Pour contourner le problème plus simplement ( en faire une fonction ) :

? ROUND(ROUND(39.87*500/1000,5),2) && 19.94

 *** EST PLUS SIMPLE ET RAPIDE QUE :

 z= SET("Decimals")
 SET DECIMALS TO 5
 x=39.87*500/1000
 y = STR(x,50,5)
 ? VAL(y)  && 19.93500
 y=VAL(y)
 ? ROUND(y,2) && 13.94
 SET DECIMALS TO (z)


Specifies the number of decimal places displayed in numeric expressions.

SET DECIMALS TO [nDecimalPlaces]


 Parameters
 nDecimalPlaces
 Specifies the MINIMUM number of decimal places to DISPLAY.
 The default is two decimal places.
 The maximum number of decimal places is 18; the minimum is zero.


Remarks

VFP]

SET DECIMALS specifies the MINIMUM number of decimal places used TO DISPLAY THE RESULTS
of division, multiplication, and trigonometric and financial functions.

[/VFP]

SET DECIMALS is scoped to the current data session


.Patrick


Permalink : http://www.atoutfox.org/nntp.asp?ID=0000015360
20 286 messages dans le forum • Liste complète des messages

www.atoutfox.org - Site de la Communauté Francophone des Professionnels FoxPro - v3.4.0 - © 2004-2026.
Cette page est générée par un composant COM+ développé en Visual FoxPro 9.0-SP2-HF3