floating-point

3열

2답변

python 왜 max (max (float_2d_array))가 잘못된 대답을 주나요? 예

는 : 결과 a = [[0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0

python matrix floating-point max 2017-05-04

---

1열

2답변

F # Square Root on Int

정수 값의 제곱근을 수행해야하는 F # 프로그램을 작성 중입니다. 캐스트를 사용하지 않고이 작업을 수행 할 수있는 기능이 검색되지 않았습니다. int -> float. 불필요한 캐스트없이 정수의 제곱근을 만들 수있는 함수가 있습니까?

types f# floating-point int sqrt 2017-05-05

---

1열

2답변

float에 대한 NetCDF 대체 값의 의미, 9.9692099683868690e + 36?

NetCDF는 각 유형에 대해 default fill values을 정의합니다. float 및 double의 경우 9.9692099683868690e+36을 사용합니다. 처음에는 그 값이 플로트에 저장할 수있는 최대 값일 수 있다고 생각했지만, 그 값은 3.4028235e+38으로 대략 34 배 더 큽니다. NetCDF으로 선택한 번호가 임의의 숫자를 갖습

floating-point netcdf 2017-05-05

---

1열

1답변

Python Pandas를 사용하여 데이터 유형 해석없이 고정 폭 파일 읽기

많은 고정 폭 데이터 파일을 읽고 csv로 변환 할 수있는 Python 스크립트를 설정하려고합니다. 나는이 같은 pandas을 사용하고이 작업을 수행하려면 pandas.read_fwf('source.txt', colspecs=column_position_length).\ to_csv('output.csv', header=column_name, i

python pandas floating-point scientific-notation fixed-width 2017-05-05

---

2열

1답변

바이트를 float 금고로 변환하거나 정의되지 않은 동작을 생성 할 수 있습니까?

f32 또는 f64으로 변환 할 때 녹이에서 정의되지 않은 동작을 생성하는 바이트 시퀀스가 ​​있습니까? 유효한 부동 소수점 값으로 NaN, Infinity 등과 같은 비 유한 값을 계산합니다. 의견은 this answer입니다. 원시 바이트에서 float을 변환하는 데 약간의 문제가있을 수 있음을 알립니다.

floating-point rust 2017-05-05

---

1열

1답변

MATLAB은 가장 가까운 정수

에 사사 오입되어 나는 1x50000 크기 매트릭스 v을하고 난 제로 평균과 단위 분산으로 변환 할 : x = ((v-mean(v))/std2(v)); 하지만 그 대신 나 정확한 부동 소수점을주는 MATLAB가 변환되는 값 가장 가까운 정수로. 정확한 값을 얻는 데 도움을주십시오.

matlab floating-point integer precision 2017-05-08

---

6열

1답변

32 비트 부동 소수점과 32 비트 정수를 32 비트 정수로 비교하여 두 값이 너무 커서 다른 유형에 맞지 않을 때

32 비트 부동 소수점 f 숫자가 필요합니다. 32 비트 부호없는 정수로 변환합니다. 크기가 너무 커서 맞지 않을 수 있습니다. 또한 일부 헤드 룸이 필요한 다운 스트림 계산이 있습니다. 최대 허용 값 m을 32 비트 정수로 계산할 수 있습니다. 수학적으로 f <= m 인 경우 제한된 32 비트 시스템 (ARM M4F)에서 C++ 11을 효율적으로 결정하는

c++ floating-point arm precision 2017-05-09

---

1열

2답변

0을 1.36424205265939E-12로 표시하는 SQL 쿼리

열 A + 열 B + 열 C를 선택 쿼리에 3 개의 열을 함께 추가합니다. 대부분의 열에 대해서는 올바른 것으로 계산됩니다. 그러나 응답이 0이되어야하는 특정 열은 1.36424205265939E-12 또는 그와 비슷한 것으로 나타납니다. 예 : 나의 수학은 0 + 1414 + -1414입니다. 대답은 0이어야하지만 대신 1.36424205265939E-1

sql sql-server floating-point ssms floating-accuracy 2017-05-09

---

0열

1답변

두 개의 16 비트 정수를 하나의 32 비트 부동 소수점 값

modbus에서 값을 16 비트 단락 (부호 없음) 또는 int (16 비트 단어로 처리해야 함)로 추출 할 수 있습니다. 나는 java를 사용하여 하나의 32 비트 부동 소수점 값을 생성하기 위해 두 값을 결합해야하는 임무가있다. I는 GUI 프로그램을 사용하여 관찰 어떤 값의 예 : INT + INT = 플로트 0 + 16,256 = 1 0 + 17,0

java algorithm floating-point int modbus 2017-05-11

---

-1열

1답변

플로트 데이터 손실 및 정밀 문제

String abc=11235.271; Float.parsefloat(abc); O/P 11235.271 데이터 손실 동안 같은 String abc=58996.706; Float.parsefloat(abc); O에서/P 58996.707 .001 소수점 후에 첨가지고 누구든지이 일에 나를 도울 수 있습니까

java floating-point 2017-05-12

---