루아는 : 완벽하게 값

Question

잘라 내기이 스크립트는 프로그램에 값을 표시

string.format("%d", math.floor(self:value())) -- Where self:value() is a number like 4.1256913947 

이 스크립트는 같은 값을 취 내 콘솔에 인쇄합니다.

math.floor(value) -- Where value is the same number as self:value() was...it's just being sent to another function as well 

문제는 표시 값과 콘솔 인쇄 값이 일치하지 않습니다. 이것은 거의 발생하지 않지만 드물게 발생하지만 사용자가 정수 (예 : 4.0029893417)를 넘는 데이터를 입력 할 때 아무 이유없이 3으로 줄 것입니다. 나는 math.ceil을 시도했지만 역 효과는 그것이 닫힐 때 (즉, 4.89898989) 5를 출력하지만 4를 출력한다. 숫자를 완벽하게 잘라내는 방법이 있는가? 따라서 올바르게 표시하고 올바르게 인쇄합니까?

참고 : 값이 변경 될 수없는 경우가 있는데, 때로는 여분의 소수 자릿수가 있어야하고 다른 장소/기능에서 처리되기도합니다.

감사합니다 :) 호기심에서

Answer 1

, 난 당신이 설명 된 조건의 일부를 사용하여, 몇 가지 테스트를 수행했습니다. 불행히도 (또는 다행스럽게도) 내가 말하는 문제를 재현 할 수 없었습니다. 코드 조각 아래 추가하고 결과는 약 4 다음 인쇄의 두 가지 방법을 비교 있도록 임의의 숫자를 뺍니다 (생산 문자열 비교) : 당신이 추측 수 있듯이

for i=1,10000000 do 
    local value = 3.9 + math.random() * 0.2 
    local s1 = string.format("%d", math.floor(value)) 
    local s2 = tostring(math.floor(value)) 
    if s1 ~= s2 then print "Error" end 
end 

, '오류'가 표시되지 않습니다 쪽으로. 난 당신이 무엇을 설명 유사한 결과를 얻을 기대했다 매우 적은 수를 추가

local l = 4 
for i=1,100000 do 
    local k = math.pow(10,-i) 
    local rand = math.random() * 0.1 
    local subtracted = l - k - rand 
    if math.floor(subtracted + k + rand) < 4 then 
     print "error" 
    end 
end 

, 그러나 다시, 문제는 표시되지 않습니다 :

나는 또 다른 실험을했습니다.

그래서이 문제는 아마도 function self : value()와 variable value (실제로는 때때로 서로 다른 값을 가짐)의 차이점에 놓여 있다고 결론을 내려야합니다.