Posted: 16 Sep 2011, 12:03
voici un petit souci qui complique souvent la logique même de mes patchs, peut-être avez vous la solution
la fonction round arrondi à 1 près, j'arrive également à arrondir à 0,125 avec un patch simple
j'aimerai pouvoir arrondir à
0,1
0,01
0,001
0,0001
0,00001
exemple du problème:
(A/B)xB
avec A une valeur quelconque
et B (0,1 ou 0,01 ...)
le résultat n'est pas égal à A
or (A/B)xB=A
J'ai toujours cru que le "data out" fesait cet arrondi avec la fonction precision mais il ne semble que afficher cet arrondi mais envoi la valeur à rallonge.
exemple: 0,1=0.100000001490116
je suppose que ces valeurs à rallonge sont dues à la base même du fonctionnement d'usine (supposition seulement),
s'il n'y a pas de solution quelles sont les valaurs proches admises par usine,
par exemple en suposant que 0,125 est proche de 0,1 quelles sont les valeurs proches de
0,01
0,001
0,0001
0,00001
la fonction round arrondi à 1 près, j'arrive également à arrondir à 0,125 avec un patch simple
j'aimerai pouvoir arrondir à
0,1
0,01
0,001
0,0001
0,00001
exemple du problème:
(A/B)xB
avec A une valeur quelconque
et B (0,1 ou 0,01 ...)
le résultat n'est pas égal à A
or (A/B)xB=A
J'ai toujours cru que le "data out" fesait cet arrondi avec la fonction precision mais il ne semble que afficher cet arrondi mais envoi la valeur à rallonge.
exemple: 0,1=0.100000001490116
je suppose que ces valeurs à rallonge sont dues à la base même du fonctionnement d'usine (supposition seulement),
s'il n'y a pas de solution quelles sont les valaurs proches admises par usine,
par exemple en suposant que 0,125 est proche de 0,1 quelles sont les valeurs proches de
0,01
0,001
0,0001
0,00001