[컴퓨터구조] 오버플로우와 언더플로우

2의 보수 이진 표현

전공수업때 배웠던 내용을 줄줄줄 써보면!
2진수로 10진수, 특히 음수까지 표시하기 위해 여러가지 방식(팩 형식, 부호 절댓값 형식, 1의보수)을 사용했다.팩 형식은 효율적이지 않고, 부호 절댓값 형식과 1의 보수는 0을 표현하는 방식이 두가지(10000000, 00000000)인 등 문제가 발생하였다. 따라서, 가장 효율적이고 현대화된 방법인 2의 보수를 현재 사용중인 것이다~~ 

• 부호 비트 (Sign Bit): 2의 보수 표현에서 가장 왼쪽 비트, 즉 최상위 비트는 부호 비트이다
  • 0은 양수를 나타내고 1은 음수를 나타낸다.
• 2의 보수 계산
  • 모든 비트를 반전(0을 1로, 1을 0으로 바꿈)한다.
  • 그 결과에 1을 더한다.
    • 5 (00000101)의 2의 보수 계산
      • 모든 비트 반전: 11111010
      • 1을 더함: 11111011
    • -5 (11111011)의 2의 보수 계산
      • 모든 비트 반전: 00000100 
      •  1을 더함: 00000101

---

오버플로우 

• char 타입의 최대값: 127
  • char 타입은 1바이트(8비트)로 구현되며, 8비트 중 1비트(가장 왼쪽 비트)는 부호를 나타내는데 사용된다.
  • 이때, 나머지 7비트는 숫자를 나타내는데 사용되기 때문에 최대값은 01111111 이므로 127이다. 

https://m.blog.naver.com/tipsware/221877901901

#include <stdio.h>
#include <limits.h>

int main(){
	char value = CHAR_MAX; //limits.h에 정의 (value = 127)
	
	printf("Orginal value: %d\n", value); 
	
	value = value + 1; //value = 127 + 1 = 128
	
	printf("Value + 1 : %d\n", value);
	
	return 0;
}

 
해당 코드에서는 char의 최대값인 127을 value에 저장한 뒤, 127에 1을 더하였다.
따라서 char의 최대값을 벗어났으므로 오버플로우가 발생한다.
보통 오버플로우가 발생하면 최소값부터 다시 시작하게 되므로 최소값인 -128로 돌아가게 되는 것을 결과에서 확인할 수 있다.

https://dojang.io/mod/page/view.php?id=32

 
[결과창]

[오버플로우가 발생하면 왜 최소값으로 돌아가게 될까?]    
해당 코드에서는 오버플로우를 발생시키기 위해 최대값인 127에서 1을 더했다.
이를 이진표현으로 다시 보면, 01111111 + 00000001 이다. 
결과는 10000000 로, 2의 보수 이진 표현에 따라 -128인 것을 확인할 수 있다.

chat gpt가 알려줬어요 헷

* 10000000을 비트 반전 시키면 01111111이 되고, 여기에 1을 더하면 10000000이 된다.
그 결과, 10000000은 -128을 나타낸다.

 

---

언더플로우로 코드 수정

언더플로우라는 말이 막 엄청 정확하게 쓰이는 말은 아니라고 하셨다...

• char 타입의 최소값: -128

#include <stdio.h>
#include <limits.h>

int main(){
	char value = CHAR_MIN; //limits.h에 정의
	
	printf("Orginal value: %d\n", value);
	
	value = value - 1;
	
	printf("Value - 1 : %d\n", value);
	
	return 0;
}

 
해당 코드에서는 char의 최소값인 -128을 value에 저장한 뒤, 1을 뺐다
따라서 char의 최소값을 벗어났으므로 언더플로우가 발생한다.