floating-point

0열

1답변

얼마나 많은 정수가 32 비트 IEEE 부동 소수점 값의 집합 S에 모두 들어 있는지 알 수 있습니까

아무도 정확히 무엇을 말하고 있는지 설명 할 수 있습니까? 이것이 기본적으로 1 비트 부호, 8 비트 지수 및 23 비트 가수가있는 단일 정밀도임을 의미합니다. 대답은 단지 2 * 2^8-2 * 2^23일까요? 편집 : 2 * 2^8-2 * 2^23가 모두 32- 비트 IEEE 부동 소수점

floating-point integer single-precision 2017-10-25

---

1열

1답변

JavaScript에서 십진수 출력 제어

십진수를 18 자리까지 제어 할 수 있도록 금액을 계산하는이 코드에 toFixed 메서드를 추가하면 잘못된 계산이 수행되지 않습니다. 현재 10 만 51를 반환해야하지만,이 값을 설정하기 전에이 51.00000000000004 < script type = "text/javascript" > $(document).ready(function() {

javascript floating-point decimal calculator precision 2017-10-27

---

2열

1답변

현대 x86 프로세서는 10 진 부동 소수점 연산을 기본적으로 지원합니까?

현대 x86 프로세서는 10 진 부동 소수점 연산을 기본적으로 지원합니까? 나는 온라인에 대해 아무 것도 찾을 수 없다.

floating-point x86 2017-10-29

---

1열

1답변

특정 C++ 11 코드 세그먼트에 대해서만 SIGFPE 생성을 {활성화 | 비활성화} 할 수 있습니까?

나는 빛 전송의 수치 시뮬레이션, 리눅스, C++ 11에서 경로 추적을 쓰고 있어요 그리고 난 결국 실행 중에 발생할 수있는 수치 오류 잡기 위해 디버그 #include <fenv.h> ... feenableexcept(FE_INVALID | FE_DIVBYZERO | FE_OVERFLOW | FE_UNDERF

linux c++11 exception floating-point ieee-754 2017-11-05

---

3열

2답변

std :: nearbyint vs std :: C++의 원형 11

C++ 11은 std::nearbyint 및 std::round 함수를 도입했습니다. 둘 다 "가장 가까운"정수 값을 반환합니다. 언제 어디에서 하나를 선호해야합니까? I는 0.5의 값들을 테스트 한 : 사례 1 : Demo for nearbyint #include <iostream> #include <cmath> int main() { s

c++ c++11 floating-point rounding 2017-11-07

---

-1열

1답변

float (IEEE754)에서 byte []로 변환

나는 IEEE754 형식을 사용하여 TCP를 통해 일부 값을 전달합니다. 이 예제에서는 int를 byte []로 변환 한 다음 BitConverter를 사용하여 float (이미 IEEE754 Single 형식, 32 비트)로 변환합니다. 이 플로트를 가져 와서 [4] 바이트에 저장해야하지만 원래 값 (지정된 형식으로 인코딩되지 않음)으로 되돌아 가지 않아

c# arrays floating-point ieee-754 bitconverter 2017-11-07

---

1열

2답변

float를 JavaScript의 32 비트 16 진수 문자열로 변환

나는 gps 좌표를 나타내는 float 값을 가지고 있으며 32 비트 16 진수 문자열로 변환하는 것을 좋아했습니다. 나는 모든 해결책을 here라고 묘사했지만 모든 결과는 내가 기대하는 바가 아니 었습니다. 예를 들어 는 'ToHex'대부분의 기능 : var lat = 45.839152; console.log(ToHex(lat)); 는 '2d.56d

javascript floating-point hex 2017-11-07

---

2열

2답변

왜 Go에서 부동 소수점 곱셈과 리터럴 변수간에 차이가 있습니까?

왜 Go가 다음과 같지 않은 이유는 무엇입니까? 이 버그입니까, 아니면 설계입니까? 그것이 의도적으로 설계된 것이라면 왜 이런 일이 일어나고 어디서나 문서화 된 이러한 유형의 행동입니까? package main import ( "fmt" ) func main() { x := 10.1 fmt.Println("x == 10.

go floating-point 2017-11-09

---

0열

1답변

embedded.fi 파일에 tansig 또는 tanh 함수 적용

tansig 또는 tanh 함수를 MatLab의 신경 Nework에 사용하는 고정 점 데이터에 적용하려고했지만 embedded.fi 파일에서이 함수를 사용할 때 MatLab은 tanh 또는 tansig 함수가 embedded.fi에서 작동하지 않는다고 말합니다. 고정 포인트 가중치를 사용하여 신경 네트워크를 설정하려고합니다. 아무도 해결해 주시면 고맙겠습니

matlab floating-point neural-network 2017-11-12

---

1열

1답변

Double.toString처럼 동작하는 DecimalFormat이 있습니까?

이중 숫자를 문자열로 변환하는 것과 같이 작동하는 DecimalFormat의 형식 문자열 (패턴)을 찾고 싶습니다. Double.toString(double)을 사용하여 예 : 1 → "1.0" 123456.789 → "123456.789" 1e50 → "1.0e50" 같은 형식이 존재 하는가?

java floating-point formatting 2017-11-12

---