発言者: tDB
発言日: 2008 02/10 11:50
発言元: 220.146.118.214
emathC.sty を改訂しました:
http://emath.s40.xrea.com/temp/C56sty.zip
手順2), 3) を
2-1) 手順1)の結果を整数部分と小数部分に分離
2-2) 小数部分が 0.5 以上の場合は,整数部分を1増やす
と,実数計算を避けて整数計算にしました。
TeX では,整数計算のほうが扱える数の範囲が広いからです。
どの程度まで拡がったかを下の例でご覧ください。
% --- re7071.tex -----------------------------------------------
\documentclass[a4j,fleqn]{jarticle}
\usepackage{emathC}[2008/02/10]
\usepackage{emathPl}
\usepackage{showexample}
\begin{document}
\begin{showEx}(.6,.34){\cmd{EMround}のオーバーフロー}
\calcval[s]{sqrt(3)}\a
$\sqrt3$をperlで計算した近似値は
\[ \a \]
改訂した\textsf{emathC.sty}による
\verb+\EMround\a{9}\ans+
の結果は
\EMround\a{9}\ans
\[ \ans \]
\verb+\EMround\a{10}\a+は,エラー\\
\verb+! Number too big.+\\
を惹起しますが,図形描画という観点からはこんな精度は不要でしょう。
どうしても,ということなら\texttt{perl}に依頼します:
\calcval[s]{emround(\a,10)}\ans
\[ \ans \]
\end{showEx}
\end{document}
▼関連発言
│
└◆7070:\EMround がエラー [石原 守] 02/10 09:19
└◆7071:Re:\EMround がエラー [tDB] 02/10 09:42
├◆7072:Re[2]:\EMround がエラー [石原 守] 02/10 09:52
└◆7073:Re[2]:\EMround がエラー [tDB] 02/10 11:50
└◆7074:Re[3]:\EMround がエラー [石原 守] 02/10 13:21
└◆7075:Re[4]:\EMround がエラー [tDB] 02/10 15:19
└◆7076:Re[5]:\EMround がエラー [石原 守] 02/10 15:49<-last