CADxp: Resultat d\'une formule dans un tableau - CADxp

Aller au contenu

  • 2 Pages +
  • 1
  • 2
  • Vous ne pouvez pas commencer un sujet
  • Vous ne pouvez pas répondre à ce sujet

Resultat d\'une formule dans un tableau

#21 L'utilisateur est hors-ligne   lili2006 

  • ceinture rouge et blanche 8em dan
  • Groupe : Moderateurs
  • Messages : 11645
  • Inscrit(e) : 21-décembre 05

Posté 10 novembre 2009 - 19:09

Re,

Message reçu Patrick, ;)
0

#22 L'utilisateur est hors-ligne   didier 

  • ceinture rouge et blanche 8em dan
  • Groupe : Moderateurs
  • Messages : 7582
  • Inscrit(e) : 18-décembre 02
  • LocationPlanète : Terre

Posté 10 novembre 2009 - 19:34

coucou

pour ce qui est de l'erreur de calcul des pC
je me souviens en avoir parlé à une époque

et on m'avait rétorqué que je chicanais :mad:

toujours est-il que cette erreur perdure
dans Excel il y a la même et quand on fait de la programmation
il est urgent d'appliquer des fourchettes en cas de recherche d'égalité

par exemple
a= 64
b=0.99
faire CECI si a + b = 64.99

vu que le lociciel reçoit comme information 64.98999999999999 :casstet:
il ne fait jamais rien :exclam:

amicalement
Éternel débutant ...
Les bases AutoLisp
0

#23 L'utilisateur est hors-ligne   lili2006 

  • ceinture rouge et blanche 8em dan
  • Groupe : Moderateurs
  • Messages : 11645
  • Inscrit(e) : 21-décembre 05

Posté 10 novembre 2009 - 19:44

Re,

Didier, c'est donc windows le pb selon toi ?
0

#24 L'utilisateur est hors-ligne   bonuscad 

  • ceinture rouge et blanche 8em dan
  • Groupe : Membres
  • Messages : 4478
  • Inscrit(e) : 20-juin 03

Posté 11 novembre 2009 - 11:18

Citation

par exemple
a= 64
b=0.99
faire CECI si a + b = 64.99


Connaissais pas cette imprécision d'addition ! :casstet:

Citation

Commande: (rtos (+ 64 0.99) 2 14)
"64.99000000000000"

Commande: (rtos (+ 64 0.99) 2 15)
"64.98999999999999"


Pour ma part, pour des test d'égalité avec des réels, je prends 1E-13 maxi comme valeur.
Choisissez un travail que vous aimez et vous n'aurez pas à travailler un seul jour de votre vie. - Confucius
0

#25 L'utilisateur est hors-ligne   lili2006 

  • ceinture rouge et blanche 8em dan
  • Groupe : Moderateurs
  • Messages : 11645
  • Inscrit(e) : 21-décembre 05

Posté 11 novembre 2009 - 11:29

Bonjour à toutes et tous,

Pourquoi ce décalage entre une précision de 14 & 15 selon toi ,

Citation

1E-13 maxi comme valeur.


AutoCAD va jusqu'à 1E-16 me semble t-il ?
0

#26 L'utilisateur est hors-ligne   didier 

  • ceinture rouge et blanche 8em dan
  • Groupe : Moderateurs
  • Messages : 7582
  • Inscrit(e) : 18-décembre 02
  • LocationPlanète : Terre

Posté 11 novembre 2009 - 11:58

coucou

tu es bien théorique !!!

en même temps, on s'accordera sur le fait qu' à partir de la dixième décimale
on ne sait plus trop de quoi on parle !

toujours est-il que cette erreur est avérée et il faut en tenir compte

pour ce qui est de Windows !!!
je n'en ai jamais parlé
je pense plutôt à INTEL

j'aimerais savoir si les PC équipé en AMD rencontent le même dysfonctionnement.

Faîtes le test suivant dansExcel
dans une cellule tapez 65432
dans une autre tapez 65432.28
dans une troisième, demandez de faire la première moins la deuxième
agrandissez la cellule puis augmentez les décimales
et à partir de la onzième, BINGO !!!!


amicalement
Éternel débutant ...
Les bases AutoLisp
0

#27 L'utilisateur est hors-ligne   lili2006 

  • ceinture rouge et blanche 8em dan
  • Groupe : Moderateurs
  • Messages : 11645
  • Inscrit(e) : 21-décembre 05

Posté 11 novembre 2009 - 12:13

Re,

Citation

dans une cellule tapez 65432
dans une autre tapez 65432.28
dans une troisième, demandez de faire la première moins la deuxième
agrandissez la cellule puis augmentez les décimales
et à partir de la onzième, BINGO !!!!


Ouh là, ça fait peur ! :mad:

Citation

INTEL


Le processeur ?

Merci Didier,

PS :

Citation

tu es bien théorique !!!


comment ça ?
0

#28 L'utilisateur est hors-ligne   opavot 

  • Advanced Member
  • PipPipPip
  • Groupe : Membres
  • Messages : 45
  • Inscrit(e) : 04-mai 07

Posté 16 novembre 2009 - 09:03

bonjour a tous
Je vois que ma question , a priori simple a légèrement deviée , en partant de la suppression des zeros de fin dans une cellule d'un tableau on arrive a la precision du processeur !!
ma question est toujours ouverte par contre je n'arrive toujours pas a coller une copie d"ecran dans un message , j'ai bien reussi a utiliser imageshack mais je ne sais pas comment vous faite pour transformer une copie d'ecran en fichier , si vous pouviez le donner votre methode
Merci
Olivier

0

#29 L'utilisateur est hors-ligne   lili2006 

  • ceinture rouge et blanche 8em dan
  • Groupe : Moderateurs
  • Messages : 11645
  • Inscrit(e) : 21-décembre 05

Posté 16 novembre 2009 - 13:34

Bonjour à toutes et tous,

Tu peux alors te rendre ici,...
0

Partager ce sujet :


  • 2 Pages +
  • 1
  • 2
  • Vous ne pouvez pas commencer un sujet
  • Vous ne pouvez pas répondre à ce sujet

1 utilisateur(s) en train de lire ce sujet
0 membre(s), 1 invité(s), 0 utilisateur(s) anonyme(s)