정수와 실수의 표현 방식

정수

정수의 가장 왼족에 존재하는 비트 : 부호비트

양수 0, 음수 1

 

음의 정수를 표현할 때에는 2의 보수를 취해야 한다.

ex) 00000101(정수5) =>(1의보수) 11111010 => (1을 더함) 11111011(정수 -5)

 

실수

컴퓨터가 실수를 표현하는 방식에는 오차가 존재

부동 소수점 오차는 프로그래밍 언어에 상관없이 발생하는 문제이다.