여기에 코드 정직하지만 난 결과를 이해하지 않습니다 float percent = 0.69f;
int firstInt = (int)(percent*100f);
float tempFloat = percent*100f;
int secondInt = (int)tempFloat;
Debug.Log(firstInt + " " + secondInt);
왜
은 (지수) 일반적 erfcx 지정한 상보 오차 함수를 스케일링 erfcx (X)과 같이 수학적으로 정의된다 : = E X 2 ERFC (X). 그것은 화학뿐만 아니라 물리학의 확산 문제에서 자주 발생합니다. MATLAB 및 GNU Octave과 같은 일부 수학 환경에서는이 함수가 제공되지만 erf() 및 erfc() 만 제공하는 C 표준 수학 라이브러리에
PHP는 반올림하지 않고 매우 작은 숫자를 처리 할 수 있습니까? 예를 들어, exp(-99) + 1/2을 계산할 때 PHP는 0.5으로 계산합니다. 나중에 주어진 결과에 곱하기를 원한다면 극히 작은 숫자 대신 단지 숫자의 절반을 곱하면 문제가됩니다. echo exp(-99) + 1/2 // Outputs 0.5
간단히 말해서 부동 소수점의 반올림 오류가 계산 후 표시되고 리터럴 저장이 아닌 이유는 무엇입니까? 무슨 뜻입니까? 10 진수에서 2 진수로 변환 할 때 실수로 반올림 오류가 발생하여 발생하는 문제에 대해 알고 있습니다. 자바의 예는 : double a = 10.567;
double b = 2.16;
double c = a * b;
C 대신 22.8
Matlab에서 polyeig 명령을 사용하여 Matlab에서 2 차 주문의 다항식 고유 값 문제를 해결했습니다. 나는 시스템이 단일 0 고유치를 갖는다는 것을 알고있다. (이것은 0 계수 행렬의 형태에 기인한다. 각 대각선 요소는 벡터의 동일한 행에있는 요소의 합을 -1 배로하여 1 1 1 ... 1)는 0 고유치를 가짐). I는 I 얻을 최소 고유치 주
현재 고정밀 부동 소수점을 필요로하는 소프트웨어를 프로그래밍 중입니다. 때로는 double보다 정확한 정밀도가 필요합니다. 고전적인 부동 소수점 숫자가 한정된 양의 정밀도를 달성 할 수있는 이유를 알고 있습니다. 나는이 문제에 대해 생각하고 있었고 숫자를 표현하고 계산할 때 string을 사용하는 아이디어가있었습니다. 우리 모두가 (단지 부동 소수점 포함)
파일 크기를 줄이려면 데이터를 float32에 저장하려고합니다. 데이터 값은 일반적으로 1e-12에서 10까지입니다. float64을 float32으로 변환 할 때 정확도 손실을 테스트했습니다. print np.finfo('float32')
는 Machine parameters for float32
-----------------------------
저는 2 차원 재귀 문제를 동적 프로그래밍 문제로 바꾸려고합니다. 그러나 결과는 다릅니다. 결과가 다른 이유 import edu.princeton.cs.algs4.*;
import java.util.Arrays;
public class Test {
public static double binomial(int N, int k, double p
의 기본을 정수로. 코드에서 : result = int(ceil(log(n, b)))
문제는 때때로 값이 결과를 과대 평가, 부동 소수점 정확히 표현 될 수 없다는 것입니다. 예 : log(125, 5) == int(ceil(3.0000000000000004)) == 4
어떻게해야합니까? 작은 엡실론을 빼면 그것을 다른 곳에서 과소 평가합니다. ba
십진수를 이진수로 표현할 수없는 경우, 컴퓨터는 정확하게 표현할 수있는 두 정수의 소수로 숫자를 저장하지 않는 이유는 무엇입니까? 숫자가 어딘가에 표시 될 때마다 부정확 한 부동 소수점으로 변환 될 수 있습니다. 추가 계산을 할 때마다 분수를 포함합니다. 이것은 근본적으로 부정확성의 문제를 해결해야하지만 모든 천재가 아니므로 이론에 무엇이 잘못 되었습니까?