floating-point

1열

2답변

parseFloat 또는 캐스팅없이 자바 스크립트에서 문자열을 부동으로 변환하는 방법은 무엇입니까?

예를 들어 "43.44"라는 문자열이 있다면,이를 캐스팅하거나 parseFloat를 사용하지 않고 float로 변환 할 수있는 방법이 있습니까?

javascript casting floating-point 2017-09-22

---

0열

2답변

Go 산술에서 부동 소수점 정밀도 다루기?

정확하게 Go에 2 개의 float을 빼는 방법에 관심이 있습니다. math/big 라이브러리를 사용하려고했지만 정확한 결과를 얻을 수 없습니다. 나는이 문제를 해결하는 자바 스크립트에서 big.js 라이브러리를 사용했습니다. Go 연산과 비슷한 라이브러리/메소드가 있습니까? x.Text ('g', 10와 같은 package main import

math go floating-point 2017-09-22

---

0열

1답변

기능 파이썬

를 사용하여 부동 소수점 숫자에 대한 수치 회문의 유효성을 평가하기 위해 그래서이 알고리즘을 많이하는 int 즉, def ReverseNumber(n, partial=0): if n == 0: return partial return ReverseNumber(n // 10, partial * 10 + n % 10) 회문 여부를

python floating-point int 2017-09-22

---

1열

1답변

gauss 제거를 사용하여 행렬의 역함수를 계산할 때 매우 높은 부정확함

저는 지금 매트릭스 라이브러리를 사용하여 다양한 것을 계산하는 C++ 코드베이스를 만들고 있습니다. 그 중 하나는 행렬의 역수를 계산하는 것입니다. 그것을 달성하기 위해 가우스 제거를 사용합니다. 그러나 그 결과는 매우 부정확합니다. 순열 행렬을 원래 행렬에 곱하는 것은 항등식 행렬을 닫지 않습니다. 반대 인 경우 /// \brief Take the inv

c++ math matrix floating-point matrix-inverse 2017-09-25

---

2열

2답변

"진정한"결과를 충분히 정확하게 표현할 수없는 경우 복식/수레는 어떻게 반올림됩니까?

부동 소수점 숫자가 정확하지 않습니다. 그러나 내 질문은 "다음"숫자 결과 반올림됩니다. 다음으로 높은가요? 다음 낮은 것? 가장 가까운 것입니까? 내 생각에 그것은 가수가 어떻게되는지에 관한 질문이지만, 결과가 "아래에서"(예 : 합계) 생성되는지 또는 결과가 "아래에서"생성되는지 (예 : 합계)에 상관없이 잘린 것인지 확실하지 않습니다. "위에서"(예

floating-point language-agnostic 2017-09-27

---

0열

3답변

정수형과의 double/float 비교 (관계 연산자)의 정밀도는 무엇입니까?

정수형과의 이중/부동 비교 (관계 연산자)의 정밀도는 무엇입니까? 모든 비교에서 부동 소수점을 사용하지 않는 것이 좋습니다.이 int x = 90; float y = 90.00_001f; if (x < y) { System.out.println("it works!"); // gets printed } //

java floating-point integer comparison 2017-09-29

---

1열

2답변

부동 소수점에 가까운 평등에 대한 팬더 시리즈 두 개 비교?

pandas.Series.equals을 사용하여 2 개의 팬더 시리즈를 정확하게 비교할 수 있습니다. 요소가 정밀도 ε와 동일한 지 확인하는 해당 함수 또는 매개 변수가 있습니까?

python pandas numpy floating-point equality 2017-10-03

---

1열

1답변

Python3에서와 비슷한 Python2 동작

MacBook (OS X Sierra)에서 Python3을 실행하는 Jupyter Notebook을 실행 중입니다. 내가 만든 유일한 변화는 Jupyter Notebook Extensions를 설치하는 것입니다. 이제 Python 3.x에서 예상되는 동작 대신에 파이썬 2.x가 나옵니다. 이것은 float를 반환해야합니다. 이것은 내가 터미널에서 동일한 명

python python-3.x floating-point jupyter-notebook 2017-10-03

---

2열

1답변

디버거가 숫자를 반올림합니다. 왜 이런 일이 일어나고 어떻게 해결할 수 있습니까?

나는 다음과 같은 코드가 있습니다 public static float FLOAT_VALUE = 0.899999761581421f; 을하지만 디버거를 사용하여이 값을 호출 할 때마다, 나는 지금 0.9f가 될 것을 참조하십시오. 왜 이런 일이 일어나고 어떻게 해결할 수 있습니까?

java floating-point precision 2017-10-04

---

-1열

1답변

반 정밀도 바이너리를 손에 십진수로 전송하는 방법은 무엇입니까?

예를 들어 , 1 10000 0000000000 = −2 왜? 누구든지 몇 가지 예를 들어 설명해 주시겠습니까?

floating-point ieee-754 2017-10-04

---