floating-point

2열

2답변

인벤토리 제품 계산 및 변환

제품 인벤토리를 코딩하고 있습니다. 이제는 아이템을 계산하거나 더 큰 단위로 변환하는 중입니다. 예를 들어 : 제품 A : 1 상자 = 12 병 사용자 입력 할 수 3 박스 13 병 트랜잭션을 추가하는 등 데이터. 제품 A의 새 값은 3 boxes and 13 bottles in storage입니다. 데이터는 데이터베이스 tbl_transaction에 저장

php floating-point decimal 2017-11-22

---

-2열

1답변

np.float32가 매트릭스의 값을 약간 변경하는 이유는 무엇입니까? 내가 <code>np.float32</code>로 매트릭스의 숫자를 캐스팅 할 때

은 값이 약간 수정 : 나는 np.float64으로 숫자를 캐스팅 할 때 그러나 In [1]: matrix_32 = np.asarray([ ...: [0.7, 3], ...: [1.7, 2], ...: [0.7, 9] ...: ], dtype=np.float32) In [2]: matrix_32 Out[2]: ar

python numpy floating-point 2017-11-24

---

2열

2답변

두 배의 숫자를 C에 저장하지 않음 (숫자가 너무 작음)

이것이 내 문제입니다. TM4C123에서 내 PLL 대기를 위해 ms와 us에 얼마나 많은 클럭 사이클이 있는지 계산해야합니다. 그러나 두 배로 값이 제로로 나오므로 내 다른 값이 올바르지 않습니다. 어떤 도움이라도 대단히 감사 할 것입니다. 내가 할 #include <stdio.h> int main() { float ms_cycled;

c floating-point integer 2017-11-27

---

0열

1답변

공학 표기법에서 [double] 부동 소수점 숫자 서식 지정 방법

공학 표기법에서 [double] 부동 소수점 숫자를 포맷하는 방법은 무엇입니까? PS> Engr(10e-8) 100 nano PS> Engr(10e-7) 1 micro

powershell math floating-point 2017-11-28

---

0열

2답변

사용자 입력 플로트의 소수점 이하 자릿수를 계산하는 방법 INCLUDING 0?

사용자 입력 부동 소수점에서 소수점 이하 자릿수를 계산하여 내 코드가 소수점 이하 2 자리 이하의 수를 허용하지 않도록해야합니다 (숫자는 가격이라고 가정 함). 여기 내 코드입니다 : 그것은, 노력하고 지금부터 while(flag == True): try: price = input("Enter the price: ")

python floating-point 2017-12-03

---

1열

1답변

파이썬 내가 수는 <code>float</code> 또는 <code>int</code> 대신 목록을 작성 여부를 결정하기 위해 <code>isinstance</code>를 사용하려고 , 모든 변수를 내가 파이썬에서 간단한 fizzbuzz 프로그램을 작성하려고

float를 만드는 것,하지만 난 그것을 할 때마다 시도 어떤 이유로 그것은 모든 수를 실수로 생각합니다. 이것은 파이썬으로 된 것입니까, 아니면 내 논리의 결함입니까? i = 3 if isinstance(i/3,float) == False: print("Fizz") else: print("???")

python-3.x floating-point int fizzbuzz 2017-12-03

---

2열

3답변

반올림 플로트 숫자에 대한 파이썬 하이퍼 매개 변수

이 질문은 쉬운 것이어야하지만 여기에 대해서는 아무 것도 찾을 수 없습니다. 파이썬에서 1 개의 명령 행을 정의하거나 사용하여 스크립트의 모든 부동 소수점 수가 X digists로 반올림 될 수있는 방법이 있습니까? 예를 들어 내가 정의한다면 : max_float_digits = 4 및 프로그램 출력 또는 다음 번호 5.1355895682 인쇄하고자,

python floating-point precision 2017-12-04

---

1열

1답변

긴 정수가있는 큰 숫자 사이의 구분 : float 변환을 우회하는 방법?

코드에서와 같이 나는 매우 많은 수의 비율을 계산해야 : import scipy.special x=2000 n=range(8,x+1) q=[] for i in range(0,len(n)): q.append(((n[i]-6)*26**(n[i]-7)-scipy.special.binom(n[i]//7+n[i]%7,n[i]//7))*(26**

python floating-point precision long-integer largenumber 2017-12-04

---

2열

1답변

double을 사용하는 정수 sqrt의 정확도

uint64_t의 정수 부분을 계산하고 싶습니다. 32 비트 uint32_t의 경우 먼저 double, sqrt으로 캐스팅 한 다음 uint32_t으로 다시 캐스팅하는 것이 좋습니다. double은 정확히 2^53까지만 숫자를 수용 할 수 있다고 가정하면 uint64_t에서도 작동합니까? 즉, 항상 다음과 같은 올바른 대답을 줄 것입니다 : 심지어 #inc

floating-point square-root 2017-12-04

---

1열

1답변

CIImage를 32 비트/채널 부동 소수점 픽셀 버퍼로 렌더링하려면 어떻게해야합니까?

CIImage를 kCVPixelFormatType_128RGBAFloat 유형의 픽셀 버퍼에 렌더링하려고합니다. 그러나 CIContext.render()는 "지원되지 않는 형식"을 말하는 데 실패합니다. - 주장은 발생하지 않습니다 let context = CIContext() var buffer: CVPixelBuffer? = nil let buffe

floating-point core-image ciimage core-video cvpixelbuffer 2017-12-06

---