floating-point

1열

1답변

SQL Server 저장 프로 시저 부동 매개 변수 및 소수 자릿수 전달

두 테이블 이름과 소수로 호출 할 저장 프로 시저를 만들려고합니다. 내 저장 프로시 저는 각 테이블의 행 수를 비교하여 차이가 있는지 확인합니다. 차이가 임계 값보다 크면 하나의 테이블을 비우고 다른 테이블의 데이터를 복사합니다. 내가 저장 프로 시저를 만들 수 있어요,하지만 난 그것을 호출하려고 할 때 오류 얻을 : 내 저장 프로 시저 Incorrect

sql-server stored-procedures floating-point decimal 2017-12-11

---

-1열

3답변

NEON int32를 float로 변환하면 잘못된 결과가 발생합니다.

NEON 인라인 어셈블리에서 Signed int32를 Float로 변환하면 숫자가 달라집니다. 여기 플로트 서명 INT32의 출력이 인쇄된다 : 그것은 무작위 상이 (단지 짝수 번호). sint32로 저장하고 float로 저장하는 것 사이의 변환 (다른 연산 없음) 만 있습니다. 어떻게 피 하시겠습니까? 감사합니다

floating-point type-conversion arm inline-assembly neon 2017-12-12

---

4열

3답변

부동 소수점의 부정확성 피하기

부동 소수점과 관련된 문제를 완전히 이해하고 있지만 설명 할 수없는 매우 흥미로운 동작을 보았습니다. float x = 1028.25478; long int y = 102825478; float z = y/(float)100000.0; printf("x = %f ", x); printf("z = %f",z); 출력은 : X = 1028.25476

c floating-point numbers precision 2017-12-21

---

0열

1답변

elm (또는 javascript)의 std :: nextafter (다음 표현 가능한 부동 소수점 수)와 같습니다.

Elm에서 C++의 std::nextafter 기능을 사용할 수 있습니까? 그게 유일한 방법이라면 외부 자바 스크립트 함수를 사용하게되어 기쁩니다. 배경으로, std::nextafter은 부동 소수점 수를 취하고 다음 표현 가능한 부동 소수점 수를 크기로 반환하는 함수입니다.

javascript floating-point elm 2017-12-22

---

1열

1답변

MASM 어셈블리 - REAL4 부동 명령어

REAL4 데이터 형식을 사용하여 배열에 부동 소수점 숫자를 저장하려고합니다. 다음에 대한 올바른 지침은 무엇입니까? 사용자로부터 입력을 받고 배열로 저장 하시겠습니까? 예를 들어 REAL4 번호를 사용합니다. mov array[ebx], sval(input()) 플로트 값을 인쇄하십시오. 유용한 MASM real4 지시 문서에 대한 링크가있는 경우 또

assembly floating-point x86 masm32 2017-12-24

---

0열

1답변

WebAssembly : (f32.const nan : 0x200000)은 0x7fa00000 또는 0x7fe00000을 의미합니다.

C에서는 strtof("nan(0x200000)", nullptr)이 0x7fe00000으로 표시됩니다. 그러나 WebAssembly spec interpreter tests에서 :이 (assert_return (invoke "f32.reinterpret_i32" (i32.const 0x7fa00000)) (f32.const nan:0x200000)) (

c floating-point nan webassembly 2017-12-24

---

0열

1답변

녹에서 float로 8 진수 문자열을 구문 분석하는 방법은 무엇입니까?

"42.1"과 같은 8 진수 문자열을 가져 와서 부동 소수점을 가져와야합니다 (34.125). Rust에서 이것을하는 가장 좋은 방법은 무엇입니까? 나는 there previously was a from_str_radix function, but it's now removed을 본다.

parsing floating-point rust 2017-12-27

---

2열

1답변

이 필요 부동 소수점 숫자와 함께 실패

private void waveformProgress(double currentProgressPercentage) { if (currentProgressPercentage < 0.0f) currentProgressPercentage = 0.0f; if (currentProgressPercentage > 1.0f) currentProgres

java floating-point kotlin 2017-12-29

---

2열

1답변

숫자가 772000000000000보다 크거나 같으면 파이썬 코드가 무한 루프를 생성하는 이유는 무엇입니까?

1 년 이내에 균형을 유지하기 위해 필요한 최소 월간 지불액을 산출해야하는 코드가 있습니다. 그것은 (내가 테스트 한 숫자가 자신의 결과를 아래에 있습니다) 772000000000000. 여기 코드입니다 (제가 테스트 한 지금까지로)까지의 모든 숫자에 대해 완벽하게 작동합니다 : import time balance = float(input("balance

python python-3.x while-loop floating-point edx 2017-12-29

---

0열

1답변

TypeError : 'numpy.float64'개체를 호출 할 수 없습니다. 이유가 무엇입니까?

왜이 오류가 발생합니까? 오류는 '범위 내'에서 'for for'을 호출하는 줄에있는 것처럼 보이지만 왜 이것이 오류가 될지 알 수 없습니다 ... 뭔가가 숨어있는 경우를 대비하여 커널을 종료했습니다. numpy.min - import os, sys import numpy from matplotlib import pylab, pyplot, cm fro

python numpy floating-point int 2017-12-30

---