floating-point

11열

5답변

오라클 수레 대 숫자

Oracles documentation에 충돌하는 참조가 표시됩니다. 10 진수가 FLOAT에 저장되는 방식과 NUMBER 유형이 데이터베이스에 저장되는 방식간에 차이가 있습니까? C에서 비롯된 것처럼 float에는 int에없는 정확도 제한이 있습니다. 예를 들어 'float'의 경우 0.1 (Base 10)은 대략 0.10000000149011611938

oracle types numbers floating-point fixed-point 2008-12-01

---

1열

6답변

부동 소수점 변수가 정수인지 확인하는 가장 신뢰할 수있는 방법은 무엇입니까?

나는 여러 가지 방법을 생각할 수 있습니다. Convert.ToInt32(floatingPoint) - floatingPoint == 0; Math.Truncate(floatingPoint) - floatingPoint == 0; floatingPoint % 1 == 0; Math.Floor(floatingPoint) == floatingPoint;

c# floating-point isinteger 2009-03-12

---

3열

3답변

이 아마 86 FPU 전문가에 대한 질문입니다

을 절단 할 때 소수점 반올림 부동 : 나는 [min, max]의 범위에서 임의의 부동 소수점 값을 생성하는 함수를 작성하는 것을 시도하고있다 . 문제는 제 생성기 알고리즘 (부동 소수점 Mersenne Twister, 호기심이 있다면) 만 범위 [1,2]의 값을 반환한다는 것입니다. 즉, 상한선을 포함하지만 내 "소스"생성 값은 배타적 인 상한으로부터 여

c floating-point x86 fpu 2009-03-13

---

7열

3답변

절대 값 OCaml의

내가 OCaml의 코어 언어 수레의 절대 값 기능을 필요로 나는 하나를 소유하지 않는 것, 그래서 나는 다음과 같은 썼다 보인다 let absF (f:float) = if f > 0.0 then f else (f *. -1.0);; 을 인용 양성을 위해 아니라 네거티브 작동합니다 : 이 표현은 float 형이 -> 플로트 그러나 여기에서 int 형 내

floating-point ocaml absolute-value 2009-03-20

---

19열

7답변

C로 float을 반올림하는 함수가 있습니까? 아니면 직접 작성할 필요가 있습니까?

C로 float을 반올림하는 함수가 있습니까? 아니면 직접 작성할 필요가 있습니까? floatconvert = 45. 2346543; I는 소수점 한자리, Conver 유럽 = 45 6에 실제 값을 라운딩하고 싶다.

c floating-point rounding 2009-01-30

---

9열

5답변

부동 소수점 계산에서 과도한 정밀도를 처리하는 방법은 무엇입니까? 내 수치 시뮬레이션에서

나는 특정 플랫폼에서 다음 코드 특정 컴파일러와 double x; do { x = /* some computation */; } while (x <= 0.0); /* some algorithm that requires x to be (precisely) larger than 0 */ (예를 들어 GCC)와 유사한 코드 (예를 들어, 리눅스

c++ c floating-point 2009-02-02

---

6열

2답변

Java의 부동 소수점 구현에 여전히 Kahan이 지적한 문제가 있습니까?

오늘 밤 카 한에서 몇 편의 논문을 읽었으며 자바에 대한 그의 famous rant을 읽었습니다. JVM 스펙에 들어가기 전에이 전면의 초기 호언 장담 이후로 변경된 사항이 있습니까? 예를 들어 : 은 ... 무료 더 정밀도를 얻기 플래그 접근 반올림 모드 설정? 감사합니다, 니코.

java floating-point 2009-03-30

---

9열

4답변

IEEE 754 트랩을 개발자에게 공개하는 언어는 무엇입니까?

교육용으로 이러한 트랩을 가지고 놀고 싶습니다. 숫자 계산의 기본 동작에 공통적으로 발생하는 문제는 잘못된 연산에 나타난 Nan (또는 + -inf)을 "놓쳤다"는 것입니다. 기본 동작은 계산을 통한 전파이지만 일부 작업 (비교와 같은)은 체인을 끊고 Nan을 풀고 알고리즘의 이전 단계에서 특이점을 인정하지 않고 나머지 처리를 계속합니다. 가끔씩 우리는 이

floating-point ieee-754 floating-point-exceptions 2009-03-30

---

1열

3답변

부동 소수점이있는 소수가 아닌 bignum은 누가 사용합니까?

Tcl 라이브러리로서 Nice math :: bignum 및 math :: bigfloat는 해결해야 할 두 가지 중간 지점입니다. 즉, 다른 기온에있는 호두 나무는 radix point입니다. 현재 math :: bignum은 정수 (afaict) 만 처리하고 math :: bigfloat는 math :: bigfloat :: fromstr (ditto)

scripting floating-point bignum radix-point 2009-04-05

---

3열

3답변

double.Epsilon vs std :: numeric_limits <double> :: min()

왜 double.Epsilon != std::numeric_limits<double>::min()입니까? 내 PC에 : double.Epsilon == 4.9406564584124654E-324와는 .NET에 정의되어 std::numeric_limits<double>::min() == 2.2250738585072014e-308 는 .NET에서 2.22507

.net c++ floating-point 2009-04-15

---