03 수의 표현 방식

수 표현 방식

• 컴퓨터의 연산

컴퓨터는 2진수를 기반으로 데이터를 표현하고 연산을 진행한다.

16진수는 2진수를 간단하게 표현할 수 있기 때문에 편의 상 사용함.
이러한 2진수로 데이터를 표현하는데, 데이터 표현에는 단위가 존재함.

 

• c언어에서의 진수의 표현

각 진수에 해당하는 서식 문자 및 접두어는 다음과 같다

• 정수와 실수의 표현 방식

먼저, 정수의 표현 방식은 다음과 같다.

정수의 가장 왼쪽에 존재하는 비트는 ‘부호비트(MSB)’.
양수일 때는 부호 비트를 제외하면 일반 2진수 수 표현과 같다. 그러나 음의 정수를 표현할 때에는 2의 보수를 취한다. ( 2의 보수 방법 : 1의 보수 -> +1 )

실수의 표현 방식은 조금 다르다.

위와 같은 식을 정의하여 넓은 범위의 실수를 표현함.
그러나 지수 형태의 식을 이용하여 실수를 표현하는 것이기 때문에 오차가 존재한다. 단적인 예로 m과 e에 적절한 값을 넣어서 0.0을 만들어보면 실감함.

이러한 오차를 ‘부동 소수점 오차’ 라고 한다. 다음은 부동 소수점 오차의 예를 보여주는 예이다.