가능한 중복 : 나는 (GCC 3.2) 내가 예상대로하지 않았다 C의 float를 곱하려고하는 이유 Dealing with accuracy problems in floating-point numbers 나는대로 .. 아주 놀랐습니다 샘플 : int main() {
float nb = 3.11f;
nb *= 10;
printf("%
double을 int으로 나눈 문제가 있습니다. 코드는 다음과 같습니다 고해상도의 double db = 10;
int fac = 100;
double res = db/fac;
값은 0.10000000000000001 대신 0.10입니다. 누구에게이 이유가 무엇인지 알고 있습니까? 나는 cc를 사용하여 코드를 컴파일하고있다.
여기 noob은 iPhone에서 복합 관심사를 계산하려고합니다. float principal;
float rate;
int compoundPerYear;
int years;
float amount;
공식은 다음과 같아야합니다 금액 = 원금 * (1 개 + 속도/compoundPerYear)^(속도 * 년) 내가 함께 약간 잘못된 답변을 얻을 :
자바 스크립트 나에 대한의 bignum 라이브러리가 있습니까 내장 내가 <script type="text/javascript" src="the_bignum_library.js"></script>
같이 포함 할 수? 사용자가 웹 페이지에 숫자를 입력하고 결과를 보려면 7 초 정도 기다리는 것이 좋습니다. 실행 파일을 다운로드하고 "이 실행 파일은 컴퓨터에
.NET의 일부 지리 좌표를 처리하는 메서드가 있고 좌표 쌍을 저장하는 구조체가있어서 좌표 중 하나에 256이 전달되면 0이됩니다. 그러나 특정 인스턴스에서 약 255.99999998의 값이 계산되어 구조체에 저장됩니다. ToString()에서 인쇄 할 때 256이됩니다. 256은 0이어야합니다. 255.9999998을 인쇄해도 문제가 없지만 디버거가 25
직장에서 단위 테스트를하고 있었는데 그 중 하나에 대해 특이한 오류가 발생했습니다. expectedValue와 actualValue는 둘 다 double입니다. Assert.AreEqual(expectedValue, actualValue);
예외는 그 정교화, 동일하지이라고 말했다 "< 6.8> 실제 값 : 기대 값. < 6.8>" 예상 값은 하드 코딩
나는 피보나치 수 n 번째를 찾기 위해 Golden Ratio formula을보고 있었는데, 그것은 나를 호기심에 빠뜨렸다. 필자는 파이썬이 임의로 큰 정수를 처리한다는 것을 알고 있지만 십진수는 어떤 종류의 정밀도를 얻나요? 그냥 C 이중 또는 무언가 위에 똑바로 있습니까? 아니면 더 정확하게 수정 된 구현을 사용합니까? (분명히 임의의 정확도가있는 것은
변환 된 문자열에서 double 연산을 수행 한 후 double의 정밀도에 문제가 있습니다. #include <iostream>
#include <sstream>
#include <math.h>
using namespace std;
// conversion function
void convert(const char * a, const int i