2012-02-29 6 views
2

그래프 계산기에서 부동 소수점 오류를 검사하기위한 테스트를 실시했으며, 48 시간의 완전 무작위 테스트 이후 계산기는 한 자리 수의 정밀도를 잃지 않았습니다.TI 운영 체제에서 부동 소수점 오류가 발생하지 않도록 코딩 된 방법은 무엇입니까?

TI는 이것을 어떻게 풀 립니 까?

+1

"완전하고 완전한 임의성"의 예를 들려 줄 수 있습니까? 너는 뭘 비교해? –

+0

그것은 진술이 아닙니다. 죄송합니다. 여기에있는 모든 내용이 정확히 그대로 사용되어야합니다. 나는 약간의 어리 석음으로 질문의 요점을 손상 시키려하지 않았으며 그렇게하지 않았다. – Zyerah

+0

나는 당신이 시도한 것을 보여주고 싶습니다. 귀하의 질문에 정보 내용이 없습니다. 문맥을 모른 채 어떻게 대답 할 수 있을까요? –

답변

4

TI-89 및 TI-92는 symbolic computation을 사용하여 을 정확히으로 저장함으로써 오류를 방지합니다.

실제 부동 소수점 계산 (89/92의 "approx"모드) do에 오류가 있습니다. 그들은 TI 계산기가 저장하는 것보다 적은 숫자를 표시하기 때문에주의하기가 더 어렵습니다. 또한 이진수 대신 십진수를 사용합니다. 당신이 "약"모드에서 TI-89의 발현 1/3*3-1을 입력하면

예를 들어, 당신은 대답 ⁻1.ᴇ⁻14 대신 당신이 정확한 모드에서 얻을 0를 얻을. 내부적으로 다음과 같이 계산이 수행됩니다

  • 1/3 14 개 유효 숫자로 반올림, 0.33333333333333 제공합니다.
  • 3을 곱하면 0.99999999999999이됩니다. 반올림으로 인해이 값은 1.
  • 과 같이 표시됩니다. 1을 빼면 -0.00000000000001 또는 -1e-14가됩니다.
+0

고마워요! 항상 궁금해하고있었습니다. – Zyerah