floating-point-precision

    0

    2답변

    이것은 아마도 논리적 인 대답을 가진 질문 일 수 있습니다. 그러나 나는 정말로 이것을 이해하지 못합니다 !! 왜이 서로 다른 결과를 않습니다 .. 유일한 차이점은 루프와 while 루프 .. 심지어 루프가있는 동안 정확히 몇 번입니까 ??? array = [1.2344, 2.47373, 3.444]; var total = 0, tot

    1

    2답변

    나는 그런 출력 받으실 다음 코드를 실행하면 다음과 같이 Desired output: Car Hours Charge 1 1.5 2.00 2 4.0 2.50 3 24.0 10.00 을하지만 결과가 나온다 올바른 부동 소수점 비교 사용 고정 정밀도 올바르게 사용하십시오 elcome. int main() { double hour

    2

    2답변

    JavaScript에서 반올림에 문제가 있습니다. 나는 라운딩 기능을 사용하고 있습니다 : function roundup(rnum, rlength){ var newnumber = Math.round(rnum * Math.pow(10, rlength))/Math.pow(10, rlength); return newnumber; } var

    2

    2답변

    비슷한 질문을 이전에 받았지만 그 중 아무 것도 내 문제를 해결하지 못한다는 것을 알고 있습니다. 자바 public static void main(String[] args) { double h, z, lat0, n0, eSq; z = 4488055.516; lat0 = 0.7853981634671384; n0 = 6388

    3

    1답변

    나는 대답하기 매우 간단해야하지만 나는 그것에 손가락을 넣을 수없는 무엇인가로 달려 가고있다. 내가 삼각법을했기 때문에 꽤 언젠가였습니다. double cosValue = -2.7105054312E-20; // (ACos) returns the angle var deducedAngleInRadian = System.Math.Acos(cosValue);

    2

    1답변

    OpenGL 렌더러를 C++로 프로그래밍하고 있습니다. 가능한 한 적은 메모리를 차지하도록 가능한 한 효율적이고 각 정점/보통/UV 텍셀 좌표/접선/등을 원합니다. 색인, 줄무늬 및 팬을 사용하고 있습니다. 32 비트 부동 소수점은 필요하지 않으며 16 비트 부동 소수점은 적어도 법선과 UV와 같은 일부에서는 괜찮을 것이라고 생각했습니다. 나는 이것의 어떤

    0

    1답변

    균일 한 표현을 위해 0에서 1 사이의 값을 두 배로 많이 저장해야합니다. 예를 들어 ARGB 값은 32 비트 정수입니다. 상호 배타적으로 저장하면 복소수가 모든 정수 값을 고유하게 나타낼 수 있습니까? 내가 할 수있는 비트가 충분하다는 것을 알고 있지만, 지수 간격으로이를 막을 수 있을지 확실하지 않습니다.

    5

    2답변

    이 어설 션이 실패하는 이유는 무엇입니까? import std.conv; void main() { auto y = 0.6, delta=0.1; auto r = to!int(y/delta); assert(r == 6); } r의 값은 6이어야하지만 5입니다. 이유는 무엇입니까?

    1

    3답변

    microtime()을 사용하여 하나의 변수에서 초와 마이크로 초를 가져 오려고합니다. 나는이 할 경우 $initial_time = microtime(); echo (explode(' ', $initial_time)[1]) . "\n"; echo (explode(' ', $initial_time)[0]) . "\n"; echo (explode(' ',

    2

    1답변

    특정 정밀도와 지수 및 significand의 특정 비트 수를 사용하여 고유 한 부동 소수점 형식 (유형)을 정의하려면 어떻게해야합니까? 예를 들어, 20 비트 지수 및 107 비트 유효 숫자 (표준 15/112 비트가 아님)가있는 128 비트 부동 소수점 수 또는 19/236 지수/유효 숫자가있는 256 비트 부동 소수점 수를 예로들 수 있습니다.