rounding-error

    1

    1답변

    서비스를 사용하는 시간당 또는 분수마다 1 단위로 요금을 청구하고 싶습니다. 시작 및 종료 날짜가 하루 차이에 정확히 때 나는 다음과 같은 코드를 사용하고 비용을 계산하지만, 일부의 경우, 예를 들어, 난 얻을 25 학점 대신 24의 비용 : NSNumberFormatter *format = [[NSNumberFormatter alloc]init]; [f

    0

    1답변

    나는 월 (열)과 사람 (행)으로 입력하는 정보를 합산하는 프로그램을 작성하고 있지만 반올림 문제는 문제가 있습니다. 나는 범위를 명명 할 수있는 다른 장소를 보았고, 그 범위의 셀을 소수 2 자리로 반올림했다. 그러나 나는 VBA에 익숙하지 않았고, 의사 코드는 그 대답이 작성된 것만으로는 충분하지 않았다. . 다음은 내 문제에 맞는 답을 찾을 수있는 링

    2

    1답변

    X 축에 추가 된 회전과 Y 축에 추가 된 쿼터니온을 생성하고 이러한 회전을 하나의 쿼터니언으로 결합하는 사용자 마우스 입력에서 생성 된 약간의 변경 사항이있는 쿼터니언을 전파합니다. 이 변경 사항을 카메라 쿼터니언에 계속 추가 (추가)하여 잠김 현상이없는 카메라 (여전히 미친 듯이 굴러 다니고 있습니다.) : 카메라 회전을 시작하면 회전 매트릭스가 비뚤어

    3

    3답변

    내가 이해하는 방식은 다음과 같습니다. double 두 자리를 C++에서 배정 밀도로 뺄 때 첫 번째는 지수의 거듭 제곱으로 시작하는 significand로 변환됩니다. 그런 다음 빼기 된 숫자가 동일한 지수와 유효 숫자의 동일한 자릿수가 많으면 정밀도가 떨어질 수 있으므로 오류가 발생할 수 있습니다. 내가 뭔가 이상한 알이 테스트, 그러나 double S

    0

    1답변

    나는 피보나치 문제를 해결하려고 노력 중이며 반올림 문제가 발생했습니다. i = 8670007398507948658051921이면 fib1 = 19386725908489880000000000.0입니다. 내 코드는 아래입니다. - 도움을 주셔서 감사합니다. SQRT는 플로트를 반환하고 정밀도가 여기에 충분하지 않기 때문에 그런 def is_fibonacci?

    0

    1답변

    "if"함수를 사용하여 결과가> 200 인 경우 10 진수를 제공하지 않습니다. 결과의 10 진수가 .0이 아니면 내 십진수를 표시하지 않습니다. 소수점을 표시하려면 어떻게해야합니까? 내 함수는 다음과 같습니다. = IF ($ E $ 13> 200, ROUND ($ E $ 13,0), ROUND ($ E $ 13,1))

    2

    1답변

    내 간단한 RubyMotion 코드 : data = DataParser.parse(url) error_ptr = Pointer.new(:object) json = NSJSONSerialization.JSONObjectWithData(data, options: 0, error: error_ptr) URL입니다 { "temp_c":22.4, ... }

    1

    2답변

    자바에서 주어진 최대 속도로 마우스 포인터를 따라가는 객체에 대한 간단한 알고리즘을 가지고 있습니다. 알고리즘의 핵심은 다음과 같습니다. // Set up displacement trackers for later. // (These are used in another part of the algorithm, which rotates // the obje

    1

    3답변

    이것은 반올림하는 방법에 대한 stackoverflow 답변에서 가져온 반올림 기능입니다. 반올림 최대 2dp (기본값) 예 : 2.185 2.19 function myRound(num, places) { if (places== undefined) { // default to 2dp return Math.round(num* 1

    2

    2답변

    Fortran에서 반올림/빨리 감기 할 수있는 빠른 방법이 있습니까? 양수의 비트 표현의 선형 순서 때문에 다음과 같이 반올림을 구현할 수 있습니다. pinf 및 ninf 나는 그것이 느린이기 때문에 그렇게 할 수있는 가장 좋은 방법이 아니다 느낄 function roundup(x) double precision ,intent(in) :: x