floating-point

4열

3답변

레거시 ASP 응용 프로그램을 만들고 있습니다. SQL Server 2000에서 float 유형이되는 필드에 값 (40.33)을 삽입하려고합니다. 응용 프로그램에서 볼 수있는 모든 장소 (일부 로깅을 통해)는 저장 프로 시저에 40.33을 보냅니다. 전화가 걸려 오는 동안 데이터베이스에 대해 SQL 프로파일 러를 실행하면 추적에 표시되는 값은 4.03300

7열

7답변

double에 소수점 이하 n 자리가 있는지 확인하는 방법?

현재 나는이 방법이 있습니다 static boolean checkDecimalPlaces(double d, int decimalPlaces){ if (d==0) return true; double multiplier = Math.pow(10, decimalPlaces); double check = d * multiplier;

2열

3답변

부동 소수점 반올림 감지

저는 java를 사용하고 "double"데이터 유형을 참조합니다. 코드를 짧게 유지하기 위해 코드에서 표준 입력에서 값을 두 배로 읽습니다 (BigInteger와 같은 것을 사용하지만 지금은 불가능합니다). 나는 사용자의 두 배 값을 얻을 것으로 예상하지만, 때로는 같은 입력 것들이 있습니다 : 나는 두 번에 대한 정확한 표현을 넘어 생각하고의를 얻을 수

18열

4답변

Java 부동 소수점 고정밀 라이브러리

수천 자릿수의 정밀도로 부동 소수점 또는 고정 소수점 연산을 빠르게 구현하는 Java 용 라이브러리는 무엇입니까? 그것들은 얼마나 뛰어난가? 나를위한 요구 사항은 2 배 큰 숫자 (Multiplication algorithms 비교)에 4 배의 시간이 걸리는 순진한 곱셈 알고리즘보다 나은 곱셈 알고리즘을 구현한다는 것입니다.

1열

2답변

두 정수 값을 나누고 .NET에서 부동 소수점 지수를 얻는 가장 좋은 방법은 무엇입니까?

는 C#으로 다음과 같은 서명을 고려해 다음 구현 사이의 성능 차이가 double Divide(int numerator, int denominator); 있습니까? return (double)numerator/denominator; return numerator/(double)denominator; return (double)numerator/(

0열

3답변

빌 - 복합체 식 = 1

I가하기 식 1 - ((0.5 * 0.83333333333333)^2 + (0.5 * 0.83333333333333)^2 + (0.5 * (1-0.83333333333333))^2 + (0.5 * (1-0.83333333333333))^2) 0.63 (두 시스템에 OSX 및 CentOS의 반대 PHP5에서 ,이 (1)의 응답 결과). 독점적으로 Phc의 b

47열

6답변

Objective C에서 float를 int로 변환하려면 어떻게해야합니까?

새내기의 총 질문이 있지만이게 나를 미치게합니다! myInt = [myFloat integerValue]; 을하지만 난 integerValue이 수레에서 작동하지 않는 본질적으로 말하는 오류를 얻을 : 나는이 노력하고있어. 어떻게해야합니까?

1열

2답변

Java 및 C에서 부동 소수점 및 이중 수가 잘리지 않도록하려면 어떻게해야합니까?

Java와 C의 큰 float과 double을 10 억 범위로 제공하면 과학 표기법으로 변환되어 프로세스의 정밀도가 떨어집니다. 어떻게이 행동을 멈출 수 있습니까?

2열

2답변

부동 소수점 표현 사이에서 변환 할 수있는 C++ 라이브러리는 무엇입니까?

필자는 최근에 DEC 32 비트 부동 소수점 표현을 해석해야했습니다. 이는 지수 및 가수에 할당 된 비트 수에서 IEEE 부동 소수점 표현과 다릅니다. 여기 는 부동 소수점 형식의 무리에 대한 설명입니다 : http://www.quadibloc.com/comp/cp0201.htm 은 내가 IEEE 32 비트 부동 소수점에 DEC의 32 비트 부동 소수점 물

5열

2답변

C# - 32 비트 부동 소수점 라이브러리가 있습니까?

저는 C++ 대신 SlimDX를 사용하여 다음 프로젝트를 할 계획입니다. 모든 directX는 float를 사용하지만 System.Math는 double을 사용합니다. 이는 부동 소수점과 복식간에 지속적으로 변환한다는 것을 의미합니다. 나는 모든 시간 어쨌든 복식에서 수레로 변환 추가 된 정밀도를받지 못했습니다 때문에 이상적으로 나는 ..., 수레를 사용하