floating-point

17열

9답변

C에서 정수에 부동 소수점 수를 비교하고 추가 할 수 있습니까?

부동 소수점 수를 정수로 비교할 수 있습니까? float는 코드의 정수와 비교됩니까? 또한 float f; // f has a saved predetermined floating-point value to it if (f >=100){__asm__reset...etc} , 수 난 ... float f; int x = 100; x+=f; I는

c floating-point integer 2009-04-17

---

10열

2답변

4 문자를 Perl에서 32 비트 IEEE-754 부동 소수점으로 변환하려면 어떻게해야합니까?

함수가 4 개의 8 비트 문자를 받고 결과로 나오는 32 비트 IEEE-754 부동 소수점을 일반 Perl 숫자로 변환해야하는 프로젝트가 있습니다. 아래 작업 코드보다 빠른 방법이 있어야하지만 작동하는 간단한 팩 기능을 파악할 수 없었습니다. 그것은 작동하지 않습니다 하지만 가까운 것처럼 보인다 : $float = unpack("f", pack("C4",

perl floating-point ieee-754 2009-04-20

---

2열

5답변

아주 작은 double을 SQL float로 변환하는 데 문제가 있습니다.

MS SQL 2005에 float로 C# double을 저장하려고합니다. 그러나 유효한 double 형이지만 유효 수레가 아닌 작은 수의 범위가있는 것으로 보입니다. 예를 들어, 1e-320 값을 저장하려고하면 "제공된 값이 float 유형의 유효한 인스턴스가 아닙니다."라는 오류가 발생합니다. 이 2.23e-308 http://msdn.microsoft.

c# sql sql-server types floating-point 2009-04-23

---

1열

3답변

내가 플로트 (match.group (1)), I 얻을 사용하여 값을 추출하면

난 다음 일반 식 (-?\d+\.\d+) 를 사용하여 부동 소수점 값을 판독하는 파이썬 프로그램이 값 실제의 부동 소수 점수 (실수). 그러나 번호가 1.2345678 또는 1.234 또는 1.2340000인지 구별 할 수 없습니다. 제가 직면하고있는 문제는 정확히 같은 서식으로 부동 소수점 값을 다시 인쇄하는 것입니다. 쉬운 솔루션을 "분할 및 계산"

python formatting floating-point 2009-04-28

---

228열

12답변

십진수 대신 double을 사용해야하는 경우는 언제입니까?

내가 대신 decimal의 double (또는 float)를 사용하여 세 가지 이점이 이름을 지정할 수 있습니다 : 이 적은 메모리를 사용합니다. 부동 소수점 연산이 프로세서에서 기본적으로 지원되므로 더 빠릅니다. 더 큰 범위의 숫자를 나타낼 수 있습니다. 그러나 이러한 이점은 모델링 소프트웨어에서 발견되는 것과 같이 계산 집약적 인 작업에만 적용되는 것처

c# types floating-point double decimal 2009-04-29

---

3열

1답변

c99 hex 부동 소수점 표기법을 정규 표기법으로 변환하는 Perl 모듈이 있습니까?

c99 스타일 부동 소수점 표기법 (예 : 0x1.0p23f)을 Perl을 사용하는 일반 부동 소수점 숫자 (또는 그 반대로)로 변환하는 데 사용할 수있는 내장 라이브러리가 있습니까?

perl floating-point hex string-parsing 2009-04-29

---

0열

3답변

JSP에서 caclulating 및 부동 소수점 숫자 표시 문제

두 개의 7 자리 숫자 (소스 및 대상 레코드 수)를 취하여 목표 수의 누락 된 레코드 백분율을 계산하려고합니다. 예를 들어 내 기록 개수는 소스의 경우 4084094, 대상의 경우 4081313 일 수 있습니다. 나는 또한 비율 CALC하기 위해 다음과 공식을 사용하고 있습니다 : ((1 - (대상/소스)) * 100) 내 예를 들어 을, 나는 약 0.0

java jsp floating-point 2009-04-30

---

3열

2답변

C# 텍스트 상자에 대한 입력 유효성 검사 : float

이 간단한 작업으로 인해 두통이 생겼습니다. 사용자가 텍스트 상자 컨트롤에 float.TryParse의 뒤에 오는 텍스트를 입력하도록하고 싶습니다. 일반 TextBox를 사용하고 일부 btnOK_Click에서 Text를 확인할 수는 있지만 분명히 절름발이입니다. 또한 기본 제공 MaskedTextBox 컨트롤이 있지만 마스크를 float.TryParse과

c# textbox floating-point validation maskedtextbox 2009-05-06

---

3열

1답변

MASM 어셈블리에서 10 진수를 REAL10으로 변환하는 방법은 무엇입니까?

지금은 십진수가 들어있는 문자열을 정수로 변환하고 (기수 점은 제외) ST (0)에로드 한 다음 올바른 기수로 나누어 기점을 설명합니다. 이것은 대략 둥글게 보이고, 나는 10의 몇 가지 힘에 대한 표를 봐야합니다. 이것을 할 수있는 더 좋은 방법이 있습니까?

assembly floating-point numbers masm 2009-05-07

---

2열

1답변

SAS에서 과학 표기법의 숫자 리터럴이 명시 적으로 쓰여지는 숫자와 다른 숫자를주는 이유는 무엇입니까?

다음 SAS 코드 : 나는 첫 번째 15 ~ 16 개 자리가 신뢰할 수 있음을 이해하지만, 왜이 기본 다른 주는가 10000000000000000905969664 9999999999999998758486016 diff : 내 Windows 시스템 인쇄 밖으로 data _null_; format t u best32.; t = 10000

floating-point sas scientific-notation 2009-05-07

---