티스토리 뷰
반응형
|10진수 2진수 부동소수점수로 바꾸는 방법
IEEE754 표준을 따르면 32bit로 부동소수점을 바꿀때는
위 그림과 같이 나타내도록 되어있다. 만약에 1.xxxxxxx X 2^n 과 같은 2진수가 있다면
부분이 나타내는 것은 음인지 양인지이며 음일땐 1, 양일땐 0을 넣으면 되고 위와 같을땐 0을,
Exponent 부분은 소수 뒷 부분이 몇자리인지를 나타내며 127+n을 2진법으로 쓰면 된다.
Mantissa 부분은 실질적인 값을 쓰면 되고 1.xxxxxxx X 2^n 중 1.을 없앤 xxxxxxx부분을 쓰고 남는 부분은 0으로 채우면 된다.
|10진수를 부동소수점으로 바꾸는 예
12.75(10)의 수를 2진수 부동소수점으로 바꾸게 된다면 우선 1100.11(2) 로 바꿀 수 있고
이는 1.10011 X 2^3으로 쓸 수 있다.
이를 부동소수점으로 나타내면
0/10000010/100110000000000000000000 으로 바꿀 수 있다. (보기 편하게 /로 각 구역을 표시했다)
출처/참고
반응형
댓글
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- 쓰레드리퍼
- tensorboard
- 픽셀
- Sandisk
- 화면캡쳐
- VSCode
- 스레드리퍼
- 명암
- 동기화 오류
- 라데온
- 와트맨
- 아마존
- 텐서플로우
- Jupyter Notebook
- RS4
- 명암비
- 프리싱크
- constant
- 윈도우10
- 주피터 노트북
- TensorFlow
- AMD
- 디스플레이
- 샌디스크
- 텐서보드
- 우분투
- 화면캡쳐프로그램
- 크롬
- tensorflow gpu
- 최적화
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
글 보관함