11 messages in org.openoffice.fr.progRe: [prog] Précision numérique
FromSent OnAttachments
xavier roguiezDec 11, 2008 8:52 am 
xavier roguiezDec 11, 2008 10:08 am 
Laurent GodardDec 11, 2008 11:10 am 
xavier roguiezDec 11, 2008 11:19 am 
Laurent GodardDec 11, 2008 11:15 pm 
Jean-Baptiste FaureDec 11, 2008 11:52 pm 
Bernard MarcellyDec 12, 2008 4:38 am 
xavier roguiezDec 12, 2008 11:10 am.ods
Jean-Baptiste FaureDec 12, 2008 12:20 pm 
xavier roguiezDec 12, 2008 12:59 pm 
xavier roguiezDec 12, 2008 1:17 pm 
Actions with this message:
Paste this link in email or IM:
Paste this link in email or IM:
Atom feed for this thread
Paste this URL into your reader:
Subject:Re: [prog] Précision numériqueActions...
From:Jean-Baptiste Faure (jbf.@laposte.net)
Date:Dec 11, 2008 11:52:51 pm
List:org.openoffice.fr.prog

Le 11.12.2008 19:10, xavier roguiez a écrit :

Re bonsoir

Petite précision sur mon problème, le point de départ est l'équation suivante en x

bw:=0.25; d:=0.917; dp:=0.067; A:=2945*10^(-6); Ap:=490*10^(-6); Es:=200000; Ecm:=22000*(28/10)^0.3; alpha:=Es/Ecm*(1+2); solve(bw*x^2/2+alpha*(A+Ap)*x-alpha*(d*A+dp*Ap),x);

et la résolution donne .4415138105 comme racine positive mais la valeur 0,43820369 n'est pas la bonne, cela fait 1% d'erreur. Je reproduis le même résultat 0.43820369 sous Excel. Mais par contre, en C ou avec Mapple, j'obtiens les résultats 4415138105 du dessus.. Cela diverge à l'estimation du déterminant.

Bonjour Xavier,

Je vérifierais aussi la vérification ;-) - les coefficients de ton équation sont-ils bien les mêmes que ceux obtenus par ta macro ? - je remarque un 28/10 : si je codais ça en Fortran le résultat serait 2 (division de 2 variables entières -> résultat entier), soit pour 28/10^0.3 1.2311444 au lieu de 1.3619069 (calculs en simple précision).

Bonne journée JBF