integer-overflow

1열

1답변

왜`128u8.checked_shl (1)`은`Some (0)`을 리턴합니까?

나는 정수 형식의 .checked_*(_) 메서드가 오버플로를 방지하는 데 도움이된다는 인상을 받았습니다. 그러나 .checked_shl(u32) 메서드는 위 예의 마지막 비트를 행복하게 이동합니다. 내 인상이 잘못 되었나요? 그 방법은 이고은 무엇입니까? 는

rust integer-overflow 2016-06-16

---

0열

3답변

오류 나는 재미 오일러 문제를하고 내 컴퓨터가 가장 큰 서명 INT에 대해이 문제를 해결할 얼마나 빨리보기로 결정했다 최대 서명 int 값

를 사용하여 : https://projecteuler.net/problem=1 불행하게도 나는 부정적인를 얻을 수를 값 (오버 플로우?) 나는 당신이 그림에서 볼 수 있듯이, 가장 큰 서명 int 값, 2147483647를 사용해보십시오 : 2147483647-1를 사용하는 경우 왜 내가 겉으로는 정확한 답변을 얻을 않지만 잘못된 값을 얻을 21474836

c integer-overflow 2016-06-19

---

-1열

2답변

숫자 코드에 16 진수가 작은 숫자로 잘 작동하지만 큰 숫자로 인해 오류가 발생합니다.

다음 코드는 hex string을 numeric 값으로 변환하며 1f과 같은 작은 16 진수로 올바르게 작동합니다. 그러나 int32가 훨씬 더 크거나 작은 숫자를 가질 수 없기 때문에 "000000000000000117c80378b8da0e33559b5997f2ad55e2f7d18ec1975b9717"과 같은 큰 숫자에서는 작동하지 않습니다. 그러나 이러

.net vb.net hex integer-overflow 2016-06-22

---

-1열

1답변

없음 SEG_FAULT 없습니다 내가 다음과 같이 정수 오버 플로우 버그 및 작은 코드를 작성하여 그 결과를 증명하기 위해 노력하고있어

:이 int main(int argc, char** argv) { size_t len = 0; sscanf (argv[1], "%lu", &len); char* buffer = malloc(len + 5); strcpy (buffer, argv[2]); printf("str = \'%s\'\n", buffer)

c buffer-overflow integer-overflow 2016-06-27

---

1열

3답변

오버플로하지 않는 원자 참조 카운터를 구현하는 방법은 무엇입니까?

오버플로로부터 안전 할 원자 정수를 기반으로하는 참조 계산에 대해 생각했습니다. 그것을하는 방법? 오버플로가 현실적인 문제인지 여부에 초점을 두지 마십시오. 그 일 자체는 실질적으로 중요하지 않더라도 내 관심사를 가지고 있습니다. 레퍼런스 카운트 예 예시적인 구현은 Boost.Atomic에서 예로서 도시되어있다. 만 형성 될 수있는 객체에 대한 새로운 참조

c++ multithreading atomic integer-overflow reference-counting 2016-06-28

---

1열

1답변

중첩 된 MAX는 때때로 다양한 객체 유형을 사용할 때 가장 작은 값을 반환합니다. MAX (a, MAX (b, c))

MAX (2, x)로 정의 된 정수 중 하나가 발견되기 전에 잠시 디버깅했습니다. 2가 분명히 -4보다 클 경우에도 -4를 반환합니다. 불규칙성을 처음으로 경험할 수 있도록 내 코드가 실행되는 단순화 된 버전입니다. NSLog(@"a) %i", (int)MAX(2,-4)); NSString *aString = @"9058638109571643940

objective-c integer max integer-overflow 2016-06-28

---

-3열

2답변

gcc를 사용하여 입력 데이터의 래핑을 피하는 방법?

#include<stdio.h> void main() { unsigned int a; printf("Enter a number:"); scanf("%u",&a); if (a <= 4294967295) { printf("Entered no is within limit\n"); } else {

c linux gcc embedded-linux integer-overflow 2016-07-01

---

0열

1답변

가 INT 범위

내가 스파크에서 간단한 MR 작업을하려고하고있다가, 여기에 코드입니다 reduceByKey (_ + _)의 결과가 초과 어떤 경우 :지도 단계에서 val testRDD = someRDD.map((_, 1)).reduceByKey(_+_) , 값은 지능이다 , 감축 단계에서 값이 너무 커서 Int 범위를 초과하면 어떻게됩니까? 나는 이런 식으로 할 수있다

scala apache-spark mapreduce reduce integer-overflow 2016-07-07

---

1열

2답변

왜 -0x80000000 + -0x80000000 == 0입니까? programmign 트릭에 대한 책을 읽는 동안

나는 보았다 -0x80000000 + -0x80000000 = 0이 나에게 이해가되지 않았다 그래서 나는 간단한 C 프로그램은 아래의 테스트하고 참으로 답이 0 썼다 : #include <stdio.h> int main() { int x = -0x80000000; int y = -0x80000000; int z = x +

c integer-overflow 2016-07-10

---

2열

3답변

INT_MIN * -1은 x86에서 작동하지 않습니까?

부호있는 정수는 부호 비트가 -(2^N) 인 2의 보수를 통해 x86에 표현됩니다. 그 결과 대표적인 값 범위는 -2^N과 2^N - 1 사이입니다 (예 : -32768에서 32767까지). 내 시스템에서 최소 부호있는 정수 값을 가져 와서 -1으로 곱하면 시스템에서 부호있는 정수의 최대 표현 가능 값보다 큰 최대 값을 "강제 설정"하려고 할 때 궁금한 점

x86 undefined-behavior signed integer-overflow 2016-07-14

---