floating-point

0열

2답변

나누기 중에 float 비트가 어떻게됩니까?

나는 32 비트 단정도 부동 소수점 정수를 비트 연산 (if 문과 for 루프도 사용할 수 있음)을 사용하여 C로 2로 나눌 것을 요구하는 숙제가 있습니다. float의 비트는 부호없는 정수로 표시되므로 비트 연산자로 수정할 수 있습니다. 제 문제는 분열 중에 비트가 정확히 어떻게되는지 이해하는 데 어려움을 겪고 있다는 것입니다. 내 초기 계획은 부호와 가

c floating-point bit-manipulation bitwise-operators bit 2017-10-05

---

0열

1답변

For 루프에 배열을 입력 하나 하나의 플로트 만 빼내십시오.

배열의 값을 반올림하고 longYearDig 값을 플로트에서 정수로 변환하려고합니다. 그러나 10 개의 값을 가진 배열을 입력 할 때 longYearDig 나는 pointyearDig을 하나만 플로트시킵니다. 내가 퍼팅 오전 : longYearDig = [ 98.32428472 98.32433235 98.32445675 98.32451913 98.32451

python python-2.7 loops for-loop floating-point 2017-10-06

---

1열

1답변

파이썬 3에서 복잡한 데이터 프레임 값을 실수로 변환하는 방법은 무엇입니까?

나는 푸리에 변환을 사용하여 시간 영역에서 주파수 영역으로 변환 된 데이터 프레임을 가지므로 허수/복소 값이됩니다. 데이터를 분류 할 수 있으려면 DataFrame을 부동으로 변환해야합니다. 어떻게 변환 할 수 있습니까? 당신은 복잡한 숫자의 크기를 원하는 경우

python python-3.x pandas floating-point complextype 2017-10-06

---

-3열

1답변

계산 결과에 숫자 대신 'inf'가 표시되는 이유는 무엇입니까?

이 코드는 반전 계승을 추가하여 수학적 상수 E를 계산하는 것을 의미한다 : #include <stdio.h> void main() { int i, n,a; float result=1; float sum; a=1; sum=0; printf("Enter a number:\n"); scanf("

c floating-point 2017-10-11

---

-2열

1답변

부동 소수점 산술 불안정성

f (x) = sqrt (1 + x) - sqrt (1-x)와 같은 함수에 대해 특정 x 값 범위에 대해 원하지 않는 결과를 얻습니다. 그러나 어떤 경우에는 원래 방정식을 사용하고 다른 방정식에서는 새로운 방정식을 사용하도록 방정식을 다시 작성할 수 있습니다. x 값의 범위를 알아 내고 이러한 질문에 대한 대체 표현식을 찾는 방법은 무엇입니까? (온라인 조

math floating-point computer-science precision 2017-10-11

---

-2열

1답변

십진수가베이스에 유한 표현이 있는지 확인하는 방법에 대한 설명

답변을 찾으려고 할 때 나는이 사실을 알게되었고 이것이 사실인지, 왜 그런지 궁금해하고있었습니다. https://stackoverflow.com/a/489870/5712298 누군가가 나에게 그것을 설명하거나 좋을 것 그것을 설명하는 페이지로 저를 링크 할 수 있습니다.

binary floating-point numbers precision base 2017-10-12

---

2열

1답변

팬더의 합계 행동이 예상됩니까?

EDIT2 python2.7 및 python3.6에서 동일한 결과를 확인했습니다. In [23]: dat Out[23]: tid SH600000 SZ002222 datetime 2013-08-09 09:35:00 2145799.0 282838.0 2013-08-09 09:40:00 2104693.0 705100.0 2013-

python pandas floating-point 2017-10-13

---

2열

1답변

IEEE-754 32 비트 (단 정밀도) 지수 -126 대신

나는 그런 숫자가있는 경우 내가 아는 -127의 : 1 | 1001 0001 | 0011 0011 0000 0001 0101 000 1 sign bit | 8 bit biased exponent | 23 bit fraction/mantissa 이 가 내가 뺄셈하여 "진짜"지수를 계산할 수를 바이어스 127 (0111 1111)를 편향된 지수로부터 제거한

floating-point ieee-754 2017-10-13

---

0열

1답변

DecimalFormat/RoundingMode.Down 기능에 혼란 스럽습니다. 가장자리 케이스의 경우

this stackoverflow post을 기준으로 다음과 같이 0.59가 아니라 0.60을 출력 할 것으로 예상됩니다. import java.math.RoundingMode; import java.text.DecimalFormat; public class Test { public static void main(String[] args) {

java floating-point decimalformat 2017-10-13

---

0열

1답변

숫자가 전체가 아닌 한 두 번째 소수점 이하 반올림 C++

float num의 소수점 두 개까지 Cpp의 평균을 인쇄하려고합니다. avg은 float, sum은 float, count은 int이다. 현재 10/1 인 경우 예를 들어 10.00을 출력합니다. 예를 들어 avg 값이 3.1467665이되면 3.14으로 표시되어야합니다. avg = sum/count; std::cout << std::fixed << s

c++ floating-point output rounding precision 2017-10-15

---