rounding

6열

1답변

EndOfTheMonth (날짜)에서 Variant 값으로의 변환이 잘못되었습니다.

TDateTime 값 (이 결과는 EndOfTheMonth(date)에서 얻음)을 변형 유형으로 사용하고 있습니다. 결과가 잘못 반올림되었습니다. 예를 들어 보겠습니다. data := EndOfTheMonth(date); V := data; ShowMessage(DateTimeToStr(data) + ' vs ' + VarToStr(V))

9열

6답변

모든 BigDecimal 연산을 일정한 정밀도로 설정합니까?

Java 프로그램은 정밀도가 높은 계산을 중심으로하므로 소수점 이하 120 자리까지 정확하게 계산해야합니다. 결과적으로 모든 정수가 아닌 숫자는 프로그램에서 BigDecimal로 표현됩니다. 가 분명히 나는 등 무한 소수 표현 현재 을 방지하기 위해 BigDecimal를 위해 반올림의 정확성을 지정해야합니다, 나는 그것을 BigDecimal를 모든 인스

2열

3답변

C# 2 차 방정식 솔버에 문제가 발생했습니다.

방금 첫 C# 프로그램을 작성했습니다. 2 차 방정식을 풀 수있는 간단한 코드입니다. 일부 기능 (예 : -6x2-6x + 12)과 완벽하게 호환되는 반면 다른 항목 (4x2-20x + 25)에서는 반올림 오류가 의심되는 항목을 보여줍니다. 저는 C#에 완전히 익숙하지 않아 문제가 생기지 않습니다. 누군가이 코드를 디버그하도록 도와 줄 수 있습니까? 여

0열

1답변

이중 반올림 쿼리

매우 비슷한 질문이 있지만 그들 중 누구도 내 답변에 만족하지 않으므로 나와 함께하시기 바랍니다. 2 배가 주어지면 소수점 두 자리까지 반올림 한 다음 그 차이가 정확히 0.01인지 확인해야합니다. 이 작업을 수행하는 가장 좋은 방법은 무엇입니까?

4열

2답변

SQL 서버 라운드 I이 같은 <code>Round</code> 함수를 사용하는 경우 나</p> <pre><code>select @some_val_in_percents = (@total_val/100) * @some_val </code></pre> <p>같은 표현식을 저장 프로 시저에서

: 전체 표현식이 때 select @some_val_in_percents = Round((@total_val/100) * @some_val, 0) 이 결과는 반올림 될 계산되었거나 (@total_val/100)은 반올림되고 @some_val을 곱한 것입니까?

5열

4답변

엑셀 십진수 반올림?

번호를 셀에 표시하는 것뿐만 아니라 실제 번호가 변경되도록 서식을 지정하는 등 Excel에서 숫자를 반올림하는 방법은 무엇입니까? 예를 들어 셀에 229.729599999998이 있고 소수 자릿수 4 자리 만 표시하도록 서식을 지정하면 셀에 229.7296이 표시되지만 셀 값은 여전히 229.729599999998이됩니다. 계산은 4 진수에 반대되는 더

3열

3답변

사용자 지정 임계 값이있는 숫자 반올림

숫자가 임계 값 (0.5가 아님)을 통과하고 그렇지 않으면 반올림 한 경우 숫자를 '반올림'할 수 있기를 원합니다. 여기 나와있는 몇 가지 진절머리 나는 코드입니다. 이, 또는 더 우아한 솔루션 (아마 vectorized)에 대한 matlab에 내장 된 함수가 있나요? function [ rounded_numbers ] = custom_round(input

0열

1답변

SQL - 반올림 번호

가능한 중복 : Accuracy in rounding numbers I가 다음과 같은 요구 사항 - 모든 행 TableA의에서 A_MINUTES 열 값을 가져 A_MINUTES를 합산하십시오. 합계 시간 값을 시간으로 변환 - 60으로 나누기 마지막 시간 값을 소수점 두 자리까지 반올림합니다. 이것은 SQL로 작성해야합니다. 다음 쿼리에 반올림 오류가 있다

2열

1답변

라운딩 두 번 - 하나의 규칙으로

숫자를 1/32로 반올림 한 후 1/100로 반올림해야합니다. 그래도 하나의 단일 반올림 규칙 (구식 프로그램 사용)으로 변환해야합니다. 곱 해져 원래 숫자와 모든 것을 나눌 수 있습니다. 두 번 반복 할 수는 없습니다 .... 이 방법은 수학적으로 할 수 있습니까? 감사합니다. kcross

1열

1답변

Oracle SQR datediff, 초 단위로 반올림하고 Oracle SQR에서

을 입력하십시오. (제발 SQL에서 이미 알고 있습니다. SQR 구문에 대해 묻고 있습니다.) 어떻게 할 수 있습니까? - 변수의 "유형"을 결정할 수 있습니까? 어떤 "type"함수도 찾을 수 없다. - datediff()가 반환하는 데이터 형식은 무엇입니까? - 마지막으로 datediff($date1, $date2,'MINUTE')에 의해 반환 된 금액