Teorema de Bayes

¡Bayes puede hacer magia!

¿Alguna vez te has preguntado cómo aprenden las computadoras acerca de las personas?

El Teorema de Bayes es una forma de encontrar una probabilidad cuando conocemos ciertas otras probabilidades.

La fórmula es:

P(A|B) = P(A) P(B|A)P(B)

Digamos que P(Fuego) significa con qué frecuencia hay fuego, y P(Humo) significa con qué frecuencia vemos humo, entonces:

P(Fuego|Humo) significa con qué frecuencia hay fuego cuando podemos ver humo
P(Humo|Fuego) significa con qué frecuencia podemos ver humo cuando hay fuego

Por lo tanto, la fórmula nos dice el sentido directo P(Fuego|Humo) cuando conocemos el sentido inverso P(Humo|Fuego)

Hoguera casera

Ejemplo:

• los incendios peligrosos son raros (1%)
• pero el humo es bastante común (10%) debido a las barbacoas,
• y el 90% de los incendios peligrosos producen humo

Entonces podemos descubrir la probabilidad de Fuego peligroso cuando hay Humo:

P(Fuego|Humo) =P(Fuego) P(Humo|Fuego)P(Humo) =1% x 90%10% =9%

Así que vale la pena comprobar cualquier humo para estar seguros.

Solo 4 números

Imagina a 100 personas en una fiesta, y que cuentas cuántas visten de rosa o no, y si son hombres o no, y obtienes estos números:

¡El Teorema de Bayes se basa solo en esos 4 números!

Hagamos algunos totales:

Y calculemos algunas probabilidades:

• la probabilidad de ser hombre es P(Hombre) = 40100 = 0.4
• la probabilidad de vestir de rosa es P(Rosa) = 25100 = 0.25
• la probabilidad de que un hombre vista de rosa es P(Rosa|Hombre) = 540 = 0.125
• la probabilidad de que una persona que viste de rosa sea un hombre P(Hombre|Rosa) = ...

¡Y entonces llega el cachorro! Qué lindo perrito.

¡Pero todos tus datos están destrozados! Solo sobreviven 3 valores:

• P(Hombre) = 0.4,
• P(Rosa) = 0.25 y
• P(Rosa|Hombre) = 0.125

¿Puedes calcular P(Hombre|Rosa)?

Imagina que un invitado vestido de rosa olvida dinero... ¿fue un hombre? Podemos responder esta pregunta usando el Teorema de Bayes:

P(Hombre|Rosa) = P(Hombre) P(Rosa|Hombre)P(Rosa)

P(Hombre|Rosa) = 0.4 × 0.1250.25 = 0.2

De forma general

¿Por qué funciona?

Reemplacemos los números con letras:

Ahora veamos las probabilidades. Tomemos algunas proporciones:

• la probabilidad general de "A" es P(A) = s+ts+t+u+v
• la probabilidad de "B dado A" es P(B|A) = ss+t

Y luego multipliquémoslas así:

Ahora hagamos eso de nuevo pero usemos P(B) y P(A|B):

Ambas formas obtienen el mismo resultado de ss+t+u+v

Así que podemos ver que:

P(B) P(A|B) = P(A) P(B|A)

Agradable y simétrico, ¿verdad?

En realidad tiene que ser simétrico, ya que podemos intercambiar filas y columnas y obtener la misma esquina superior izquierda.

Y también es la Fórmula de Bayes... simplemente divide ambos lados por P(B):

Para recordar

Primero piensa en "AB AB AB", luego recuerda agruparlo como: "AB = A BA / B"

P(A|B) = P(A) P(B|A)P(B)

¿Alergia a los gatos?

Uno de los usos más famosos del Teorema de Bayes es en Falsos Positivos y Falsos Negativos.

Para esos casos tenemos dos opciones para "A", como Aprobado/Reprobado (o Sí/No, y así sucesivamente.)

Queremos saber la probabilidad de tener la alergia cuando la prueba dice "Sí", escrito P(Alergia|Sí)

Apliquemos nuestra fórmula:

P(Alergia|Sí) = P(Alergia) P(Sí|Alergia)P(Sí)

• P(Alergia) es la probabilidad de Alergia = 1%
• P(Sí|Alergia) es la probabilidad de que la prueba diga "Sí" para personas con alergia = 80%
• P(Sí) es la probabilidad de que la prueba diga "Sí" (a cualquiera) = ??%

¡Oh, no! No sabemos cuál es la probabilidad general de que la prueba diga "Sí"...

... pero podemos calcularla sumando a aquellos con alergia y a aquellos sin alergia:

• El 1% tiene la alergia, y la prueba dice "Sí" al 80% de ellos
• El 99% no tiene la alergia y la prueba dice "Sí" al 10% de ellos

Sumemos eso:

P(Sí) = 1% × 80% + 99% × 10% = 10.7%

Lo que significa que aproximadamente el 10.7% de la población obtendrá un resultado "Sí".

Así que ahora podemos completar nuestra fórmula:

P(Alergia|Sí) = 1% × 80%10.7% = 7.48%

P(Alergia|Sí) = aproximadamente 7%

Este es el mismo resultado que obtuvimos en Falsos Positivos y Falsos Negativos.

De hecho, podemos escribir una versión especial de la fórmula de Bayes solo para casos como este:

P(A|B) = P(A)P(B|A) P(A)P(B|A) + P(no A)P(B|no A)

"A" con tres (o más) casos

Acabamos de ver "A" con dos casos (A y no A), de los cuales nos encargamos en el denominador.

Cuando "A" tiene 3 o más casos, los incluimos todos en el denominador:

P(A1|B) = P(A1)P(B|A1) P(A1)P(B|A1) + P(A2)P(B|A2) + P(A3)P(B|A3) + ...y así sucesivamente