inferencia bayesiana

9
Inferencia bayesiana La inferencia bayesiana es un tipo de inferencia estadística en la que las evidencias u observaciones se emplean para actualizar o inferir la probabilidad de que una hipótesis pueda ser cierta. El nombre «bayesiana» proviene del uso frecuente que se hace del teorema de Bayes durante el proceso de inferencia. El teorema de Bayes se ha derivado del trabajo realizado por el matemático Thomas Bayes. Hoy en día, uno de los campos de aplicación es en la teoría de la decisión, 1 visión artificial 2 (simulación de la percepción en general) 3 y reconocimiento de patrones por ordenador. Contexto inicial La incertidumbre y la imprecisión son connaturales en el proceso de razonamiento . La lógica establece unas reglas de inferencia a partir de las cuales se construye el sistema de razonamiento deductivo , en el que una proposición determinada es considerada como cierta o falsa, sin que se admitan grados entre estos dos extremos. Los métodos de razonamiento aproximado , entre los que se encuentran los métodos bayesianos, aportan modelos teóricos que simulan la capacidad de razonamiento en condiciones de incertidumbre, cuando no se conoce con absoluta certeza la verdad o falsedad de un enunciado o hipótesis, e imprecisión, enunciados en los que se admite un rango de variación. Entre los métodos de razonamiento aproximado se encuentran los métodos bayesianos, basados en el conocido teorema de Bayes . Todos ellos tienen en común la asignación de una probabilidad como medida de credibilidad de las hipótesis. En este contexto, la inferencia se entiende como un proceso de actualización de las medidas de credibilidad al conocerse nuevas evidencias. Mediante la aplicación del Teorema de Bayes se busca obtener las probabilidades de las hipótesis condicionadas a las evidencias que se conocen. La diferencia

Upload: lizbeth-ramos-banegas

Post on 08-Sep-2015

1 views

Category:

Documents


0 download

DESCRIPTION

fdy

TRANSCRIPT

Inferencia bayesianaLainferencia bayesianaes un tipo deinferencia estadsticaen la que lasevidenciasu observaciones se emplean para actualizar oinferirla probabilidadde que unahiptesispueda ser cierta. El nombre bayesiana proviene del uso frecuente que se hace delteorema de Bayesdurante el proceso de inferencia. El teorema de Bayes se ha derivado del trabajo realizado por el matemticoThomas Bayes. Hoy en da, uno de los campos de aplicacin es en lateora de la decisin,1visin artificial2(simulacin de lapercepcinen general)3yreconocimiento de patronesporordenador.

Contexto inicialLaincertidumbrey la imprecisin son connaturales en el proceso derazonamiento. Lalgicaestablece unas reglas de inferencia a partir de las cuales se construye el sistema derazonamiento deductivo, en el que unaproposicindeterminada es considerada como cierta o falsa, sin que se admitan grados entre estos dos extremos. Los mtodos derazonamiento aproximado, entre los que se encuentran los mtodos bayesianos, aportan modelos tericos que simulan la capacidad de razonamiento en condiciones de incertidumbre, cuando no se conoce con absoluta certeza laverdadofalsedadde un enunciado o hiptesis, e imprecisin, enunciados en los que se admite un rango de variacin.Entre los mtodos de razonamiento aproximado se encuentran losmtodos bayesianos, basados en el conocidoteorema de Bayes. Todos ellos tienen en comn la asignacin de una probabilidad como medida de credibilidad de las hiptesis. En este contexto, la inferencia se entiende como un proceso de actualizacin de las medidas de credibilidad al conocerse nuevas evidencias. Mediante la aplicacin del Teorema de Bayes se busca obtener las probabilidades de las hiptesis condicionadas a las evidencias que se conocen. La diferencia entre los distintos mtodos bayesianos,modelos causalesyredes bayesianas, estriba en las hiptesis de independencia condicional entre hiptesis y evidencias. Dichas relaciones se expresan comnmente mediante ungrafo acclico dirigido.

Evidencia y creencias cambiantesLa inferencia bayesiana utiliza aspectos delmtodo cientfico, que implica recolectar evidencia que se considera consistente o inconsistente con una hiptesis dada. A medida que la evidencia se acumula, el grado de creencia en una hiptesis se va modificando. Con evidencia suficiente, a menudo podr hacerse muy alto o muy bajo. As, los que sostienen la inferencia bayesiana dicen que puede ser utilizada para discriminar entrehiptesisen conflicto: las hiptesis con un grado de creencia muy alto deben ser aceptadas como verdaderas y las que tienen un grado de creencia muy bajo deben ser rechazadas como falsas. Sin embargo, los detractores dicen que este mtodo de inferencia puede estar afectado por un prejuicio debido a las creencias iniciales que se deben sostener antes de comenzar a recolectar cualquier evidencia.Qu es lo atractivo de la Estadstica Bayesiana?i) Construccin axiomticaii) Una sola regla de decisiniii) La nica que ofrece solucin para ciertos problemasAxiomas de coherenciai) Comparacinii) Transitividadiii) Dominancia-Sustituciniv) ReferenciaEjemplos de inferenciaUn ejemplo de inferencia bayesiana es el siguiente: Durante miles de millones de aos, el sol ha salido despus de haberse puesto. El sol se ha puesto esta noche. Hay una probabilidad muy alta de (o 'Yo creo firmemente' o 'es verdad') que el sol va a volver a salir maana. Existe una probabilidad muy baja de (o 'yo no creo de ningn modo' o 'es falso') que el sol no salga maana.La inferencia bayesiana usa un estimador numrico del grado de creencia en una hiptesis an antes de observar la evidencia y calcula un estimador numrico del grado de creencia en la hiptesis despus de haber observado la evidencia. La inferencia bayesiana generalmente se basa en grados de creencia, o probabilidades subjetivas, en el proceso de induccin y no necesariamente declara proveer un mtodo objetivo de induccin.Definiciones formalesA pesar de todo, algunos estadsticos bayesianos creen que las probabilidades pueden tener un valor objetivo y por lo tanto la inferencia bayesiana puede proveer un mtodo objetivo de induccin. (Vermtodo cientfico.) Dada una nueva evidencia, el teorema de Bayes ajusta las probabilidades de la misma de la siguiente manera:

donde representa una hiptesis, llamadahiptesis nula, que ha sido inferida antes de que la nueva evidencia,, resultara disponible. se llama laprobabilidad a prioride. se llama laprobabilidad condicionalde que se cumpla la evidenciasi la hiptesises verdadera. Se llama tambin lafuncin de verosimilitudcuando se expresa como una funcin dedado. se llama laprobabilidad marginalde: la probabilidad de observar la nueva evidenciabajo todas las hiptesis mutuamente excluyentes. Se la puede calcular como la suma del producto de todas las hiptesis mutuamente excluyentes por las correspondientes probabilidades condicionales:. se llama laprobabilidad a posterioridedado.El factorrepresenta el impacto que la evidencia tiene en la creencia en la hiptesis. Si es posible que se observe la evidencia cuando la hiptesis considerada es verdadera, entonces este factor va a ser grande. Multiplicando la probabilidad a priori de la hiptesis por este factor va a resultar en una gran probabilidad a posteriori dada la evidencia. En la inferencia bayesiana, por lo tanto, el teorema de Bayes mide cunto la nueva evidencia es capaz de alterar la creencia en la hiptesis.Establecimiento de la inferenciaLos estadsticos bayesianos sostienen que aun cuando distintas personas puedan proponer probabilidades a priori muy diferentes, la nueva evidencia que surge de nuevas observaciones va a lograr que las probabilidades subjetivas se aproximen cada vez ms. Otros, sin embargo, sostienen que cuando distintas personas proponen probabilidades a priori muy diferentes, las probabilidades subjetivas a posteriori pueden no converger nunca, por ms evidencias nuevas que se recolecten. Estos crticos consideran que visiones del mundo que son completamente diferentes al principio pueden seguir siendo completamente diferentes a travs del tiempo por ms evidencias que se acumulen.Multiplicando la probabilidad anteriorpor el factornunca se podr obtener una probabilidad superior a 1. Ya quees al menos mayor que, lo que permite la igualdad(vaseprobabilidad conjunta), reemplazandoconen el factoresto dejar una probabilidad posterior de 1. Por lo tanto, la probabilidad posterior no llegar a ser mayor que uno slo sifuese menor quelo que nunca es cierto.La probabilidad dedado,, puede ser representada como una funcin de su segundo argumento, lo que puede hacerse propocionando un valor. Tal funcin se denominafuncin de verosimilitud; es funcin dedado. Una proporcin de dos funciones de verosimilitudes que se denomina proporcin de verosimilitud,. Por ejemplo:

La probabilidad marginal, puede ser representada adems como la suma de los productos de todas las probabilidades de las hiptesis exclusivas mtuamente y que corresponden a probabildades condicionales:.Como resultado, se puede reescribir el teorema de Bayes como:

Con dos evidenciasindependientesy, la inferencia bayesiana se puede aplicar iterativamente. Se puede emplear la primera evidencia para calcular la primera probabilidad posterior y emplear sta en el clculo de la siguiente probabilidad y continuar de esta forma con las dems.La independencia de evidencias implica que:

Aplicando el teorema de Bayes de forma iterativa, implica

Empleando los ratios de verosimilitud, se puede encontrar que,Esta iteracin de la inferencia bayesiana puede ser expandida con la inclusin de ms evidencias. La inferencia bayesiana se emplea en el clculo de probabilidades en la toma de decisin. Se emplean en las probabilidades calculadas en la teora de clculo de riesgos, en la denominadafuncin de prdidaque refleja las consecuencias de cometer un error.

Ejemplo: Supongamos que la proporcin de personas que no tienen telfono en su casa es desconocida. Pero que. basndonos en los datos de otras ciudades similares podemos suponer que se encuentra entre 0,05 y 0,01 con las siguientes probabilidades asociadas. en principio la estimacin inicial sera Para mejorar esta informacin realizamos una encuesta al azar preguntando a las personas si tienen telfono . Resultando que de 20 preguntadas slo una no tena telfono. La probabilidad de que de 20 personas 1 no tenga telfono (como la poblacin es muy grande no imparta que no haya reemplazamiento) nos vendr dada por la funcin de cuanta (para X=l) en una B{20,p), (siendo p la proporcin de personas .que no tienen telfono): De manera que la verosimilitud de este resultado para cada posible valor de p ser:

0,01

0,02

0,03

0,04

0,05

y a partir de las probabilidades a priori y de las verosimilitudes podremos calcular las probabilidades a posteriori, aplicando el teorema de Bayes de la siguiente manera para el segundo valor tendramos Siendo , los anteriores y el resto que forman la distribucin a posteriori de la probabilidad de tener telfono en casa , los siguientes valores

0,010,1100425

0,020,1814752

0,030,3360217

0,040,1839782

0,050,1884826

as la estimacin mejorada, tras la realizacin del proceso bayesiano ser la media de la distribucin a posterior Una vez realizado un proceso Bayesiano la distribucin a posteriori obtenida puede considerarse la informacin disponible en ese momento y plantearse realizar otro nuevo ensayo para mejorar de nuevo la estimacin no abra ms que considerar la distribucin final obtenida como distribucin a priori del nuevo proceso y repetir el planteamiento con una nueva informacin muestral.