floating-point

-1열

2답변

IEEE-754에서 부동 소수점으로 얼마나 많은 정수를 단 정밀도로 나타낼 수 있습니까?

IEEE-754 with single precision에 부동 소수점으로 얼마나 많은 정수 (소수가 아닌 정수)를 계산할 수 있는지 이해할 수 있습니까?

1열

2답변

C에서 플로트 오류가 다른 이유는 무엇입니까?

은 사진을 참조하십시오 내가 놀라운있어 결과가 다릅니다.

0열

1답변

특정 부동 소수점 계산이 왜 그런 식입니까? (예 : 123456789f +1 = 123456792)

부동 소수점 산술, 발생하는 오류 및 누적 발생에 대한 올바른 이해를 얻으려고하고 있으며 결과가 정확히 어떻게 발생 하는지도 알아 내려고합니다. 여기서 특히 3 예 I는 현재 일하고된다 1)0.1 + 0.1 +0.1 +0.1 +0.1 +0.1 +0.1 +0.1 +0.1 +0.1 -1.0 = -1.1102230246251565E-16 또 다른 0.1 10 번

2열

1답변

팬더가 float 값을 사용하여 csv 파일을 읽으면 이상한 반올림 및 십진수가 표시됩니다.

1524.449677과 같은 숫자 값이 포함 된 CSV 파일이 있습니다. 항상 정확하게 소수점 6 자리가 있습니다. 팬더 read_csv을 통해 CSV 파일 (및 다른 열)을 가져 오면 해당 열은 자동으로 데이터 유형 object을 가져옵니다. 내 문제는 값이 실제로는 2470.691137이어야하는 2470.6911370000003으로 표시된다는 것입니다.

0열

1답변

특정 short-double 변환이 4004 자리 숫자와 같은 이유는 무엇입니까?

나는 4004 자리 숫자가 인쇄 된 다음 프로그램 실행하면 : double d; short s; d = 23234564568788.5; d = s = d; printf("%lf\n", d); 왜?

0열

1답변

int/float 변환 문자열이 나무 딸기 파이 파이썬에서 작동하지 않습니다

내 네트워크의 esp32에서 mqtt를 통해 내 RPi로 값을 보내려고합니다. 그러면이 값을 평가하고 그 값을 사용합니다. 나는 코드를 작성하고 아무런 문제없이 내 PC에서 시험해 보았지만 정확히 동일한 코드를 RPi에 실행하면 ValueError이 출력되기 시작합니다. 이 같은 코드를 실행하면 payload = str(message.payload) pa

0열

1답변

은 위의 코드를 실행하면

def get_info(file_object): file_data = [] opened_file = open(file_object, "r") for line in opened_file: line = line.split(",") file_data.append(line) opened_file.close(

2열

1답변

하드웨어에서 IEEE 754 부동 소수점 제거를 구현하는 방법은 무엇입니까?

구글을 찾고 행운을 빌어 내가 찾는 것을 찾는다. 은 기본 2 년이 두 숫자를 상상해 A = 1.0001 * e-4 B = 1.001 * e-6 그래서 우리가 같은 지수를 가지고, 바로 2END를 한 2 비트를 이동해야하는이 두 숫자를 뺍니다. 그래서 지금 우리는이 : A = 1.0001 * e-4 B = 0.001001 * e-4 지금 우리 지

1열

1답변

NumPy 배열을리스트로 변환 할 때의 부동 소수점 불일치

파이썬 numpy에서 생성 된 간격 범위가 있습니다. 값은 예상대로이지만 배열을 list로 변환하면 배열의 값과 같지 않습니다. numpy.linspace(0.3,0.7,5) array([ 0.3, 0.4, 0.5, 0.6, 0.7]) numpy.linspace(0.3,0.7,5).tolist() [0.3, 0.39999999999999997, 0.

0열

2답변

십진수 패키지를 사용하지 않고 파이썬에서 돈을 표시하는 방법

파이썬에 float 변수를 선언 한 다음이 변수가 소수 일 경우 심지어 인 정수로 표시하려고합니다. def floatToMoney: # Some kind of function that outputs two decimal places foo = float(6) print(floatToMoney(foo)) boo = float(3.14159)