rounding

23열

3답변

사용자 입력을 기반으로 서식 지정중인 문자열에서 이중 표현의 정밀도를 변경하고 싶습니다. String foo = String.format("%.*f\n", precision, my_double); 그러나 나는 java.util.UnknownFormatConversionException가 나타납니다 지금은 뭔가를 시도하고있다. 이 방법에 대한 영감은 C

4열

5답변

어떻게 델파이/볼랜드 파스칼 STR 절차 라운드

두 볼랜드 파스칼 7 델파이 2007는 숫자, 길이 및 정밀도를 받아이 같은 문자열로 변환 프로 시저 STR 가지고있다 : str(9.234:5:1, s); // -> s = ' 9.2' 을 반올림이 모호하지 않은 경우 모두 괜찮지 만 (0.5 -> 위 또는 아래) 아닌 경우 문제가 있습니다. BP에서 부동 소수점 데이터 유형에 의존하지만 분명히 Del

8열

3답변

소수 자릿수가 올바르게 반올림되지 않습니다. LINQ to SQL 버그입니까?

내 데이터베이스 필드 (SQL Server 2005)는 숫자 (15,2)로 정의됩니다. 제가 가 그때 context.SubmitChanges() 위에 스텝이 속성 = 23.6363636363 (등)에 대한 개체의 값을 확인 LINQ 2 SQL 생성 재산권 디버그 [Column(Storage="_My_Property_Name", DbType="Decimal(

1열

1답변

SQL Server 반올림 문제 설명 찾아보기 설명

이 문제가 해결되었지만 이것이 왜 그렇게 작동하는지 궁금합니다. 나는 임시 테이블을 가지고 있으며, 이름,이 이름과 일치하는 레코드의 수 및 총 레코드의 해당 이름에 대한 백분율을 표시하려고합니다. 내가받은 SELECT name, number, CASE WHEN number = 0 THEN 0 ELSE convert(Numeric(10,2), numbe

16열

5답변

왜 ToString() 내 Double 값을 반올림합니까?

문자열로 변환 할 때 이중 값이 반올림되지 않게하려면 어떻게합니까? Convert.ToString과 ToString()을 모두 시도해 보았습니다. 예를 들어 내 double은 77.987654321과 같을 수 있으며 두 문자열 변환은 77.98765으로 변환 될 수 있습니다. 나는 그 가치의 정확성을 그대로 유지할 필요가있다.

4열

4답변

어떻게 진수 문자열 떨어져 0과 소수점을 제거 할 수 있습니까?

다음 코드는 현재 출력 : 12.1 12.100 12.1000 12.00 12 12.0000 는 출력 그래서 나는 그것을 바꿀 수있는 방법 : 12.1 12.1 12.1 12 12 12 Math.Round는 일이 될 것 같다,하지만 그것은 나를 정의 할 수 있습니다 얼마나 많은 소수 자릿수 I 하지만 나는 그들이 위와 같이 변수가되

1열

2답변

int -> float -> int 왕복 변환에 반올림 사용

데이터베이스 엔진에 대한 숫자 형식 변환 함수 집합을 쓰고 있는데 큰 정수 부동 소수점 값을 다음과 같이 변환하는 동작이 걱정됩니다. 더 정밀도가 높은 정수 유형. 예를 들어 32 비트 정수를 32 비트 단정도 부동 소수점으로 변환합니다. float의 23 비트 유효 부분은 약 7 자리의 정밀도를 산출하므로 약 7 자리 이상의 int를 변환하면 정밀도가 떨

10열

3답변

파이썬 반올림 문제

파이썬에서 매우 이상한 문제가 발생했습니다. (사용 파이썬 2.4.x에서) 창에서 : >>> a = 2292.5 >>> print '%.0f' % a 2293 그러나 솔라리스 : >>> a = 2292.5 >>> print '%.0f' % a 2292 그러나 이것은 윈도우와 솔라리스 모두 동일합니다 >>> a = 1.5 >>> print '

8열

2답변

PHP에서 부동 소수점의 이상한 반올림 처리 방법

우리 모두 알고 있듯이 부동 소수점 산술은 항상 완전 정확하지는 않지만 어떻게 불일치를 처리합니까? PHP 5.2.9에서 예를 들어 : 는 echo round(14.99225, 4); // 14.9923 echo round(15.99225, 4); // 15.9923 echo round(16.99225, 4); // 16.9922 ?? echo rou

2열

3답변

게임 보드의 홀 위치를 계산하는 방법은 무엇입니까?

Python-> PyGame-> Albow로 게임을 만들고 보드 생성 문제가 발생했습니다. 그러나 나는 언어에 구애받지 않는 방식으로 문제를 설명하려고 노력할 것이다. 파이썬과 관련이 없다고 생각합니다. 저는 게임 보드 세대를 여러 부분으로 나누었습니다. 파트 1은 보드 구멍을 생성합니다. 홀은 목록/배열에 포함됩니다. 각 구멍 객체는 주변에있는 다른 구멍