integer-overflow

0열

2답변

예를 들어 자바

40 개 자리 어떤 정수 데이터 유형을 사용하기 번호 제 123456 = ..... 40 자리 제 번호 = 123456 ..... 그런 을 40digits I가 필요 나는 세 번째 인쇄해야하고 다시 내가 fourth = third * third; 같은 작업을 수행 할 필요가 그 후 수 third = first * second; 를 저장 네 번째로 인쇄

java integer-overflow 2016-12-30

---

-3열

1답변

C에서 랩 어라운드 연산 구현/적용

C 표준은 산술 연산의 오버플로가 정의되지 않았다고 말합니다. 랩 어라운드 산술을 성능 친화적 인 방식으로 구현하는 방법을 알고 싶습니다. 즉, 표시된 here과 같은 오버플로 확인 솔루션은 옵션이 아닙니다. 이 작업을 수행하려면 어셈블리 루틴을 작성하는 것이 해결책이라고 가정합니다. 이 작업을 수행 할 수있는 라이브러리가 있습니까 (x86이 필수 임에도

c integer-overflow integer-arithmetic 2016-11-21

---

0열

2답변

elisp : 숫자가 (expt 2 60)보다 커지지 않을 수 있습니까?

이전 게시판에서 someone은 bigispatch가 자동으로 big_nums로 전환되기 때문에 elisp에서 임의의 숫자를 나타낼 수 있음을 보여줍니다. 하지만 (setq long_max (expt 2 60))를 호출 할 때, 나는 1152921504606846976 를 얻을 내가 (setq long_max (expt 2 61))를 호출 할 때, 나는

lisp elisp integer-overflow 2017-01-20

---

2열

2답변

C++ 리터럴 정수 형식

리터럴 식에도 형식이 있습니까? long long int a = 2147483647+1 ; long long int b = 2147483648+1 ; std::cout << a << ',' << b ; // -2147483648,2147483649

c++ int long-integer integer-overflow 2017-03-19

---

0열

1답변

JavaScript에 큰 정수를 추가 할 때 문제가 발생했습니다.

저는 이진수를 십진수로 또는 그 반대로 변환하는 아주 간단한 프로그램을 만들고 있습니다. 십진법에서 이진법으로 변환 할 때, 매우 큰 숫자에 작은 숫자를 추가하려고하면 이상한 오류가 발생한다는 것을 깨달았습니다. 예를 들어, 내 프로그램 입력 220002 십진수로 줄 것이다 및이 숫자를 이진 숫자 110101101101100020 변환 할 것입니다.이 디버

javascript jquery floating-point precision integer-overflow 2016-12-17

---

1열

1답변

부서를 오른쪽 시프트로 변경할 때 부호있는 오버플로가 발생할 수 있습니까? 최적화 할 때

는, GCC는 때때로 나에게 말한다 / 또는 %>> 또는 &을 단순화 때이 재현 가능한 테스트 케이스를 만들기 위해 실패 [-Wstrict-overflow] 발생하지 않습니다 서명 오버 플로우를 가정 이를 위해 내 생산 코드에는 다음과 같은 것이 포함되어 있습니다. int left = a.left() + (a.width() - b.width())/2;

c++ compiler-warnings integer-overflow gcc-warning 2017-02-08

---

0열

1답변

JS 스타일의 "정수"수학에 몇 비트를 사용할 수 있습니까?

my previous question을 해결하면서 나는 더 재미있는 일에 직면했다. 수 있습니다 얼마나 많은 비트보고 (예, 나는 그들이 내 "너무 정수"하지 알고) 정수를 수학을 시도해보십시오 var n = 0xffffffff; // loop over 1P: for(var i=1; i<=1024*1024*1024*1024; i*=16) { v

javascript integer integer-overflow unsigned-integer 2017-02-14

---

0열

1답변

파이썬에서 큰 숫자를 다이빙 할 때 오버플로 오류가 발생합니다.

저는 재미있는 일을 위해 Wilson Primes를 찾고 코드 스윙으로 되돌아 가기 위해 코드를 사용하려고합니다. 그러나 코드를 사용하여 172를 나눌 때 ! +1 173에 의해 오버 플로우 오류가 발생합니다. import math x = 2 while x < 1000: if math.factorial(x-1) + 1 % x == 0 and (

python integer-overflow 2017-04-09

---

0열

1답변

C# 비누 클라이언트 System.OverflowException : 산술 연산 오버플로가 발생했습니다

928mb 파일이 제대로 작동하지만 1.08GB 비누 서비스 (mtom 청크 분할 전송 _svice reference.cs wsdl에서 생성 할 때이 오버플로 오류가 발생합니다.). 추적 피들러에서 나는 요청의 헤더를 볼 수 있지만 더 요청 본문없고 응답이 관련 코드 : var httpsTransportBindingElement = new HttpsTran

c# web-services soap integer-overflow mtom 2017-04-12

---

0열

1답변

Swift 3 64 비트 정수를 할당하려고 시도 할 때 uint64 오버플로가 발생했습니다.

스위프트에서 비트 보드를 구현하려고하는데 64 비트 정수를 UInt64에 저장하려고 시도하고 오버플로 오류가 발생합니다. 내가 무슨 같은데요 var white_queen_bb:uint64 = 0001000000000000000000000000000000000000000000000000000000000000 as UInt64; Integer Literal

swift xcode chess integer-overflow bitboard 2016-11-15

---