error de truncamiento

MÉTODOS NUMÉRICOS

I.- Sistemas numéricos.

2.-Conversiones entre sistemas.

3.- Números fraccionarios

4.-Números reales.

5.- Error de truncamiento.

.

Ing. Rafael Durán Campoamor

1.- SISTEMAS NUMERICOS

Binario.- base 2 (0 y 1).

Octal.- base 8 (0-7)

Decimal.- base 10 (0-9).

Hexadecimal.- base 16 (0-

9,A-F).


2.- CONVERSIONES ENTRE SISTEMAS

•23010 a base 2, base 8 y base 16

•7658 a base 2, base 10 y base 16

•10001010010012 a base 10, base 8 y

base 16.

•EF3416 a base 2, base 10 y base 8.


3.- NÚMEROS FRACCIONARIOS

Convertir 0.210 a octal y binario.

Solución: 0.2 0.6 0.8 0.4 0.2 0.6 0.8 0.4X 8 X 8 X 8 X 8 X 8 X 8 X 8 X 81.6 4.8 6.4 3.2 1.6 4.8 6.4 3.2

•0.14631463…..8

•2-3+2-4+2-7+2-8+2-11+2-12+2-15+2-16+2-19+2-20+2-23..............

•0.001100110011001100110011…..2


4.- NÚMEROS REALES

Son números de punto flotante y se emplea la siguiente notación

0.d1d2d3d4d5d6d7d8 x 2d’1d’2d’3d’4d’5d’6d’7Mantisa o fracción Característica o exponenteSigno

0 15

Característica 7 bits con signo

SIGNO

Mantisa 8 bits


6

Suponer que se requiere almacenar el dato 125.32 en un sistema de procesamiento digital que maneja registros de 16 bits. Siguiendo el procedimiento anterior tendremos que convertir a binario con tamaño de 16 bits.

125.32 base 10 =1111101.010100011110…….base 2

Tomamos solo 16 bits partiendo desde la izquierda 1111101.010100011observe que el dato es positivo, así que agregamos un bit de signo llamado 0. (en caso de que fuese negativo al bit será 1).

Se recorre el punto decimal hacia la izquierda hasta el primer antes del primer 1.0.111110101 x 2 111 el exponente también es positivo y por lo tanto solo quedará almac enado en el registro de 16 bits la siguiente información.

ERROR DE TRUNCAMIENTO


0 150 0 0 1 1 10 0 1 1 1 1 1 0 1 0 SIGNO

EXPEXPONENTE 6b FRACCION 8bSIGNO

FRACC

BITS TRUNCADOS

error de truncamiento

Documents