floating-point-precision

1열

4답변

아래의 코드를 살펴 제발 플로트

를 인쇄하는 동안 정밀도를 잃는 : float num = 72000000.69f; System.out.println(String.format("%.2f", num)); 출력 : 내가 정밀도를 잃어버린하고 72000000.00 . 부동 소수점 형으로 변환하여 값을 인쇄하려고 시도했지만 도움이되지 않습니다. 정밀도를 유지하는 방법은 없습니까?

java string floating-point-precision 2013-07-09

---

14열

1답변

GHC/Haskell에서 확장 된 정밀도 (80 비트) 부동 소수점 연산을 사용할 수 있습니까?

는 표준 하스켈의 Double는 the standard double-precision arithmetic 사용 data Double 배정 밀도 부동 소수점 숫자를. 이 유형은 적어도 IEEE 배정도 유형과 범위 및 정밀도가 동일해야합니다. GHC/Haskell은 어쩌면 어떤 외부 라이브러리를 사용하여 extended precision (80 비트) 부동 소

haskell floating-point ghc floating-point-precision extended-precision 2013-05-28

---

1열

1답변

PostgreSQL : float (1)과 float (24)의 차이점은 무엇입니까?

PostgreSQL에서 float(p)의 정밀도 매개 변수 p를 이해하는 데 어려움을 겪고 있습니다. 예를 들어, float(1)과 float(24)은 나와 똑같은 것 같습니다. 누구나 저에게 차이점에 대한 몇 가지 예를 제공 할 수 있습니까?

postgresql floating-point precision sqldatatypes floating-point-precision 2013-06-03

---

10열

1답변

mysqli의 십진수 처리

일부 항목의 가격을 mysql 테이블에 넣어야합니다. 테이블을 만들 때 쉼표 뒤에 두 자리 이상 필요하지 않으므로 DECIMAL(10,2)을 사용하고 있습니다 (예 : 123,45는 입력으로 허용되지만 123,456은 PHP로 123,45로 반올림 됨). 첫 번째 질문 : DECIMAL(10,2)을 사용하면 쉼표 앞에 몇 개의 숫자가 저장 될 수 있는지 어

php floating-point mysqli floating-accuracy floating-point-precision 2013-06-05

---

0열

3답변

cumsum 및 division의 팬더 부동 소수점 문제

총 매출 (TOTAL_2012)을 내림차순으로 정렬했으며 판매량의 약 25 %를 차지하는 그룹 목록을 얻으려고하므로 1 그룹이 가장 많은 매출을 올리고 있습니다. /회사. sales['PERCENT_2012'] = sales['TOTAL_2012']/sales['TOTAL_2012'].sum() sales['CUM_PERCENT_2012'] = sales

python pandas floating-point-precision 2013-04-19

---

4열

4답변

float를 사용해야 할 때 부동 소수점 오류를 실제로 피하는 방법은 무엇입니까?

몇 가지 UI 버튼을 사용하여 3D 모델의 변환에 영향을 미치려고합니다. 위치를 0.1 또는 -0.1 이동하십시오. 내 모델 위치가 3 차원 플로트이므로 값 중 하나에 0.1f를 단순히 추가하면 명백한 반올림 오류가 발생합니다. 정밀도를 유지하기 위해 BigDecimal과 같은 것을 사용할 수는 있지만, 여전히 부동 소수점에서 다시 부동 소수점으로 변환해야

java floating-point precision floating-accuracy floating-point-precision 2013-04-21

---

-1열

1답변

이중 벡터 배열에 대한 C++ 로그 정밀도 오류?

이중 벡터 배열 (벡터 < double>)과 최대 값 (1) 및 최소값 (0)이 있습니다. 하위 작업을 수행 할 때 log는 (1 - 1.000000000000001) (double precison) 인 최대 값 인덱스에 대해 (1. # INF00000000000000000)을 제공합니다. 이 정밀도 오류를 방지하려면 어떻게해야합니까? log(1 - arr

c++ vector floating-point-precision double-precision 2013-06-13

---

1열

1답변

boost :: multiprecision 또는 다른 옵션과 잘 작동하는 다중 정밀 파이썬 라이브러리?

저는 다중 정밀도 "복잡한"숫자를 중심으로하는 프로젝트에서 작업하고 있습니다. 특히 Mandelbrot Set 기반 응용 프로그램이지만 (빠른) C++ py 확장 모듈 (boost, cython , 또는 기타 ...)와 그것을 사용하고자하는 순수한 파이썬 모듈이 있습니다. 지금 당장 MPFR 원시 형식을 감싸기 위해 boost :: multiprecisio

c++ python boost floating-point-precision mpfr 2013-05-04

---

1열

1답변

학위와 밀리 초 사이의 변환

학위에서 밀리 초로의 변환에 대한 공식을 알고 있으며 그 반대도 마찬가지입니다. 다음과 같이 구현할 수 있습니다. protected function decimal_to_milisecond($dec) { if (!empty($dec)) { $vars = explode(".",$dec); if (count($vars) =

php floating-point geolocation rounding floating-point-precision 2013-06-26

---

1열

1답변

kCFNumberFormatter 반올림

인터넷에서 설명되지 않은 것이 재미 있고 무엇이 apple documentation에서 오도하는 것입니다. 차이점은 무엇입니까? kCFNumberFormatterRoundCeiling kCFNumberFormatterRoundFloor kCFNumberFormatterRoundDown kCFNumberFormatterRoundUp kCFNum

objective-c number-formatting floating-point-precision double-precision 2013-06-28

---