Calculatrice

[Encoretoutpetit]

Salut vous tous.

 

Je saisis sur la calculatrice d'autocad : 4286.1 - 4276.2

elle me renvoie : 9.9000000000005

 

Je saisis : 1286.1 - 1276.2

elle me renvoie : 9.8999999999999

 

Je saisis : 1000.8 - 990.9

elle me renvoie : 9.9 :)

 

J'ai bien sûr cherché pourquoi, voici la réponse :

9,9 s'écrit en binaire

_1001,111001100110011001100110011001100110011001100......._ égalité

exacte à condition de mettre une infinité de 1100

en machine on est obligé d'arrondir (la mémoire de ton ordinateur n'est

pas infinie)

 

en arrondissant en dessous avec 0 chiffre, 1 chiffre, 2 chiffres ....

_1001_ = 9

_1001,1_=9,5

_1001,11_=9,875

_1001,111_=9,875

_1001,1110_=9,875

_1001,11100_=9,875

_1001,111001_=9,890625

_1001,1110011_=9.8984375

_1001,11100110_=9.8984375

_1001,111001100_=9.8984375

_1001,1110011001_=9.8994140625

_1001,11100110011_=9.89990234375

_1001,111001100110_=9.89990234375

_1001,1110011001100_=9.89990234375

_1001,11100110011001_=9.89996337890625

_1001,111001100110011_=9.899993896484375

_1001,1110011001100110_=9.899993896484375

_1001,11100110011001100_=9.899993896484375

_1001,111001100110011001_=9.899997711181640625

_1001,1110011001100110011_=9.8999996185302734375

_1001,1110011001100110011_0=9.8999996185302734375

_1001,1110011001100110011_00=9.8999996185302734375

_1001,1110011001100110011001_=9.8999998569488525390625

_1001,11100110011001100110011_=9.89999997615814208984375

_1001,111001100110011001100110_=9.89999997615814208984375

_1001,1110011001100110011001100_=9.89999997615814208984375

 

et en arrondissant au dessus :

_1010_ =10

_1010,0_=10

_1010,00_=10

_1010,000_=10

_1001,1111_=9.9375

_1001,11101_=9.90625

_1001,111010_=9.90625

_1001,1110100_=9.90625

_1001,11100111_=9.90234375

_1001,111001101_=9.900390625

_1001,1110011010_=9.900390625

_1001,11100110100_=9.900390625

_1001,111001100111_=9.900146484375

_1001,1110011001101_=9.9000244140625

_1001,11100110011010_=9.9000244140625

_1001,111001100110100_=9.9000244140625

_1001,1110011001100111_=9.9000091552734375

_1001,11100110011001101_=9.90000152587890625

_1001,111001100110011010_=9.90000152587890625

_1001,1110011001100110100_=9.90000152587890625

_1001,1110011001100110011_1=9.90000057220458984375

_1001,1110011001100110011_01=9.900000095367431640625

_1001,1110011001100110011010_=9.900000095367431640625

_1001,11100110011001100110100_=9.900000095367431640625

_1001,111001100110011001100111_=9.900000035762786865234375

_1001,1110011001100110011001101_=9.9000000059604644775390625

 

etc etc

et tu vois que selon le nombre de chiffres que tu retiens il peut y

avoir quelque chose de non nul derrière 9,9.

 

 

remarques :

1) un nombre binaire avec un nombre fini de chiffes après la virgule,

s'écrit obligatoirement en décimal avec un nombre fini de chiffres mais

un nombre décimal avec un nombre fini de chiffres ne s'écrit pas

forcément en binaire avec un nombre fini de chiffres.

 

2) il faut distinguer 2 choses

- le nombre de chiffres utilisés pour écrire le nombre en binaire

- le nombre de chiffres utilisés pour écrire le nombre en décimal

 

 

Bon, moi j'aimerai bien que la calculatrice d'autocad me donne pour les trois exemples cités la seule et unique bonne réponse c'est à dire 9.9.

Ma Casio fx82b (21 ans déjà) sait bien le faire !!!

 

Quelqu'un saura-t-il me dire quelle variable (si c'est ça) il faut modifier ?

 

Merci davance.

[Encoretoutpetit]

Bon, moi j'aimerai bien que la calculatrice d'autocad me donne pour les trois exemples cités la seule et unique bonne réponse c'est à dire 9.9.

Ma Casio fx82b (21 ans déjà) sait bien le faire !!!

 

Quelqu'un saura-t-il me dire quelle variable (si c'est ça) il faut modifier ?

 

 

Salut à tous.

 

Depuis avril j'ai laissé tomber ma vieille casio fx82d et l'ai remplacé par une fx92 collège 2D, elle est mieux mais ça n'a rien changé quand aux résultats renvoyés par la calculatrice d'autocad !!!

 

Je m'absente quelques jours (non, pas encore les congés) et reviens faire un tour sur le forum avant les vacances.

 

A tous bonne vacances et restez au frais près du ventilo.