next up previous
Next: 有限列,リスト,有限集合 Up: 近似計算(float) Previous: 近似計算(float)

近似計算の精度をかえる(DIGITS:=...)

近似計算の精度は DIGITS という変数の値をかえることによって かえられます。 DIGITS の初期値は10で、これは有効数字10桁で計算してくれるという意味です。

DIGITS:=1000:
float(sqrt(2)); //2 の平方根を1000桁計算
1.414213562373095048801688724209698078569671875376948073176679737990732478\
46210703885038753432764157273501384623091229702492483605585073721264412149\
70999358314132226659275055927557999505011527820605714701095599716059702745\
34596862014728517418640889198609552329230484308714321450839762603627995251\
40798968725339654633180882964062061525835239505474575028775996172983557522\
03375318570113543746034084988471603868999706990048150305440277903164542478\
23068492936918621580578463111596668713013015618568987237235288509264861249\
49771542183342042856860601468247207714358548741556570696776537202264854470\
15858801620758474922657226002085584466521458398893944370926591800311388246\
46815708263010059485870400318648034219489727829064104507263688131373985525\
61173220402450912277002269411275736272804957381089675040183698683684507257\
99364729060762996941380475654823728997180326802474420629269124859052181004\
45984215059112024944134172853147810580360337107730918286931471017111168391\
658172688941975871658215212822951848847


2008-11-15