ATOUTFOX
COMMUNAUTÉ FRANCOPHONE DES PROFESSIONNELS FOXPRO
Visual FoxPro : le développement durable

Forum AtoutFox : Re: ADIR et les gros fichiers : Dépassement de capacité numérique   

Sujet

rss Flux RSS des derniers messages

Vous devez vous identifier pour pouvoir poser une question ou répondre.

jeu. 31 juillet 2014, 11h58
Gregory
atoutfox.public.association

Re: ADIR et les gros fichiers : Dépassement de capacité numérique

Digits of precision in numeric computations. Visual FoxPro can handle
numbers up to 9007199254740992 (2^53) in exact computations.
16

Miscellaneous:

64 bits = 8 bytes

Largest number = 10 ^ 308 = 2 ^ 1023

-> 10 bits per exponent + 1 for exponent sign plus 1 for number sign => 12
bits

Leaving 52 bits for the mantissa + 1 for implied normalized bit -> 53 bits

LOG10(2^53) = 15.95 decimal digits accuracy




______
Gregory
______
"etobis" wrote in message news:lrd3ra$284h$1@news.niouzes.net...

Merci Gregory,

Trop speed, je n'ai pas trouvé l'info...
vivement les vacances...

Merci

Eto
Permalink : http://www.atoutfox.org/nntp.asp?ID=0000014872
20 286 messages dans le forum • Liste complète des messages

www.atoutfox.org - Site de la Communauté Francophone des Professionnels FoxPro - v3.4.0 - © 2004-2026.
Cette page est générée par un composant COM+ développé en Visual FoxPro 9.0-SP2-HF3