im은 서로 다른 값의 n 및 상수 값에 대한 함수의 적분을 찾는 프로그램입니다. 내 프로그램이 올바르게 작동하는 것 같지만 내 결과에서 작은 반올림 오류가 발생하고 이유를 파악할 수 없습니다. 나는 내 친구가 같은 프로그램을 만들고 있고 그의 결과가 나의 것과 약간 다르다는 것을 알고 있으며, 계산기에 통합을하는 것과 같은 결과는 그의 가치에 훨씬 가깝다
R에서 밀리 초의 반올림에 다음과 같은 문제가 발생했습니다. Milliseconds puzzle when calling strptime in R : > options(digits.secs=3)
> as.POSIXlt("13:29:56.061", format='%H:%M:%OS', tz='UTC')
[1] "2012-06-07 13:29:56.060 UT
EDIT : float 대신 정수로 표현되는 초가 timev.h에 나타납니다. 내가 IEEE 754 부동 값의 이행과 관련된 반올림 오류를 알고있다하더라도,이 하나의 매우 놀랐어요 : 보통 Time.utc(1970,1,1,0,0,12.860).strftime("%H:%M:%S,%L") # => "00:00:12,859"
, 정밀 오류가 8 또는 10 자
이것은 내 프로그램입니다. 아주 간단하게 말하면, 입력 된 숫자를 주어진 소수 자리로 반올림한다고 가정합니다. 나는. 4.245는 2 자리 소수로 반올림하면 4.25를 얻습니다. 그러나 항상 정수로 반올림 만하면됩니다 ... 왜? 무엇 나를 당혹 것은 내가 안드로이드에 동일한 코드를 사용하는 것이이며 완벽하게 import java.util.Scanner;
반올림 숫자가있는 Android 애플리케이션에 문제가 있습니다. Java로 계산할 때는 BigDecimal을 사용합니다. 그러나이 방법이 도움이됩니다. 그러나 우리는 SQLite에 문제가 있습니다. SELECT ROUND(150.075 * 100)/100 (= 150.07, not 150.08!)
임의의 먹었습니까?
Qt에서 이미지를 회전 할 때 문제가 있습니다. QPainter으로 이미지를 회전 할 때마다 점점 왜곡됩니다. 이 될 몇 가지 반복 후 : void Ship::Move(int x, int y)
{
QPixmap rotatePixmap(shipPixels.size());
rotatePixmap.fill(Qt::transparent);
MongoDB를 처음 사용하면서 몇 가지 기본 사항을 시험해 보았습니다. 그러나 놀랐습니다. 내가 몇 가지 핵심 개념을 오해 한 것 같지만 아무도 나에게 무슨 일이 일어나는지 말해 줄 수 있니? 공식 MongoDB C# 드라이브를 사용하여 10,0000 개의 이러한 문서를 'lots'라는 db 컬렉션에 삽입했습니다. // Insert some test
Excel의 피벗 테이블이 있고 항목 합계가 0이어야합니다. 대신 숫자가 0에 매우 가깝습니다 (-3.63797880709171E-12). @Tim Williams가 그의 주석에서 지적했듯이, 이것은 십진수 < -> 2 진 부동 소수점 변환의 알려진 아티팩트입니다. 내 관심사는 실제로 결과의 형식을 지정하는 것입니다. $ 0이 이 아닌 $ -으로 표시되는
루비 실행 중 1.8.7. 101 100.5.round 결과 : 101 (1.005 * 100) (1.006 * 100) 100 결과 .round (1.005 * 100) 는 결과 .round 결과 : 100.5 여기 무슨 일이 일어나고 있습니까? 누가 루비의 최신 버전에서 이것을 시도 할 수 있습니까? 감사합니다.
저는 Java에서 Areas으로 일하고 있습니다. 내 테스트 프로그램은 세 개의 임의의 삼각형을 그리고 하나 이상의 다각형을 형성하기 위해 이들을 결합합니다. Areas이 모두 .add() 인 후에는 PathIterator을 사용하여 가장자리를 추적합니다. 때때로, Area 개체는 합쳐지지 않을 것입니다. 마지막으로 게시 한 이미지에서 볼 수 있듯이 여분의