floating-point

    0열

    2답변

    형식 오류 : 함수에게 내가 pyplot를 사용하여 파이썬에서 선 그래프를 그릴려고

    을 플롯 할 때 '플로트'개체가되지 호출하지만 나는이 코드 줄에 대한 오류, TypeError: 'float' object is not callable을 얻을 : ycoord = [math.pow(p(1-p),(i-1)) for i in range(1,51)] 나는 기본적으로 라인 그래프를 플롯 할 필요가있는 함수 인 p(1-p)^(i-1)을 가지고있다
    python plot floating-point 2017-02-11

    1열

    1답변

    부동 소수점 반올림의 다음 라운드

    이 질문은 this one 및 많은 다른 사람과 관련이 있지만 중복되지는 않습니다. 나는 여섯 소수점 이하 자릿수를 말할 반드시 정확하고 String.format("%f.6", x) 항상 정확한 값을 반환을 사용 double의,와 함께 작동합니다. 그러나 String.valueOf(x) 아니요. x을 "round"해야하므로 같은 (또는 후미 0의 경
    java floating-point decimal rounding 2017-02-12

    2열

    1답변

    플로트 값을 수정하십시오.

    csv 파일에서 일부 데이터를 읽습니다. 파일의 각 행에는 부동 소수점 값이 있습니다. 이 값은 다음 중 하나 일 수 있습니다 0.123 : 마침표로 시작하는, 그래서 내가 전에 0을 추가해야합니다. 1,23 : 마침표 대신 구분 기호 쉼표가 ','이므로이를 변경해야합니다. 지수 형식을 사용하는 1.2e3이므로 10 진수 형식으로 변환해야합니다. 내가 소수
    php floating-point 2017-02-13

    -1열

    1답변

    바이트를 얻는 방법 GMP를 사용하여 C에서 정의 된 실수 타입 번호 부분을 계산합니다

    C로 작성된 프로젝트를 상속했습니다.이 프로젝트는 GNU 다중 정밀도 산술 라이브러리의 다중 정밀도 부동 소수점 숫자에 매핑 된 실수 유형을 사용합니다 GMP). 런타임 , 이것은 실수 형의 바이트 수를 테스트하기 위해 I 실행할 수 printf("Storage size for Real type: %d bytes\n", sizeof(Real)); 는 2
    c floating-point gmp 2017-02-13

    -4열

    1답변

    최소값과 최대 값 C++

    그래서 나는 과제를 위해 글을 쓰고 있고 3 개의 부동 소수점으로부터 최소값과 최대 값을 찾는 데 어려움을 겪고 있습니다. 오류 : 나는 현재 오류를 /usr/include/c++/4.9/bits/predefined_ops.h:121:39 무엇입니까 ''단항의 유효하지 않은 유형의 인수를 ( {반환 부울 ​​('부동'을 가지고) _M_comp ( __it1
    c++ floating-point max min 2017-02-18

    0열

    2답변

    이 형식의 변수 할당은 어떻게 작동합니까?

    어떤 종류의 변수 지정 구문입니까? 이 코드가 어떻게 작동하는지 설명하고 ? 변수가 = 연산자없이 할당 된 것으로 보입니다. 모든 후속 테스트 결과 pi_num은 3.14을 반환합니다. 왜? 이 전처리 후 #define SPECIAL_NUMBER 3.14 cout << "Special number is " << SPECIAL_NUMBER << en
    c++ syntax floating-point 2017-02-18

    -2열

    3답변

    루비 반올림하고 소수의 형식

    나는 통해 보았다 : Why can't decimal numbers be represented exactly in binary? 및 Why Are Floating Point Numbers Inaccurate?이 내가 라운드와 루비를 사용하여 부동 소수점 숫자 형식, 결과는 여전히 수학을 수행 한 결과 다른 때 나의 질문은 손을 구매 . 다음은이의 예입니다
    ruby-on-rails ruby floating-point rounding 2017-02-21

    -5열

    1답변

    C 수치 적분을위한 코드는 한 컴퓨터에서는 작동하지만 다른 컴퓨터에서는 작동하지 않습니다.

    rk4 방법을 사용한 수치 적분과 간단한 진자에 대한 코드를 작성했습니다. Here's an image of expected result. 내 노트북에서 우분투 14.04, 64 비트 (결과적으로 사인파가 발생 함)가 작동하지만 데비안 8을 실행하는 내 PC에서는 작동하지 않으며 64 비트이기도합니다. Here's an image of the wrong p
    c floating-point 2017-02-22

    2열

    1답변

    n 비트가 손상되거나 손실 된 경우 float의 정밀도를 찾는 방법

    현재 파이썬의 스파이 솔버로 스파 스 선형 시스템을 해결하고 있습니다. 시뮬레이션 솔루션의 결과와 분석 솔루션을 비교합니다. 그러나 일부 정권에서는 시뮬레이션 된 결과의 정확성에 대해 의심이 있습니다. 희소 행렬에 대해 condition number을 계산하는 것은 매우 어렵습니다. 행렬의 가장 큰 고유 값을 찾을 수 있지만 가장 작은 고유 값에 대한 검색
    python numpy floating-point precision 2017-02-23

    -5열

    1답변

    입력은 부동 값이고 프로그램은 전체 파트와 10 진수 값을 반환합니다.

    C++ 지정을하려고합니다. 부동 데이터 형식의 사용자로부터 입력을 받아 포인트없이 주어진 값과 소수 부분의 전체 부분을 분리하는 작업을 수행해야합니다. 예를 들어 사용자가 4.456을 입력하고 출력이 전체 부분이 4 인 경우 점이없는 소수 부분은 456입니다. 나는 이것을 시도했지만 다음에 무엇을해야할지 확신하지 못했습니다. #include<iostream
    c++ parsing floating-point 2017-02-26
최근 질문