Mostrando las entradas con la etiqueta errores. Mostrar todas las entradas
Mostrando las entradas con la etiqueta errores. Mostrar todas las entradas

09 abril 2013

La recta final


Ya llegando al final de esta breve campaña electoral hago un pequeño resumen de las diferentes encuestas que he podido recopilar en los meses pasados. La tabla que se presenta a continuación muestra estas 12 encuestas, divididas en tres grupos. Para cada encuesta muestra la información de la ficha técnica (fechas de campo y número de entrevistados). Muestra también la intención de voto reportada en la encuesta hacia el candidato del PSUV y al candidato de la MUD y la diferencia porcentual entre estas. Así mismo muestra la intención de voto cuando se lleva a un escenario polarizado, y la diferencia entre estos porcentajes. Finalmente muestra el sesgo que tuvo esa encuestadora en la prediccion de la elección de Octubre 2012 y la corrección entonces de los porcentajes de votación basados en este sesgo (y la diferencia).

Fue usando como criterio la intención de voto corregida como dividí las encuestadoras en estos tres grupos. La principal diferencia es que para las encuestadoras  del ultimo grupo formado por DatinCorp y Meganalisis no tengo valores de sesgo puesto que no presentaron mas de tres encuestas para las elecciones de Octubre pasado. A este grupo le sigue otro formado por ICS, GISXXI, y 30.11 Consultores (marcado en rojo). Este grupo de encuestadoras tuvo un error tan grande que cuando se aplica la intención de voto cambia totalmente de una cómoda victoria para Maduro a una victoria para Capriles. Finalmente esta el grupo formado por Datanalisis, Hinterlaces, e IVAD grupo que al aplicársele la corrección los resultados permanecen cerca.

Como ha sido admitido por algunos encuestadores reconocidos los modelos que predicen el comportamiento electoral en situaciones normales tienen un poco mas de dificultad para aplicarse directamente en los actuales momentos y por lo tanto predecir los niveles de abstención (que serán claves en esta elección) se hace mas difícil.



* La tabla ha sido actualizada con información de la encuesta de 30.11 Consultores y con una última encuesta del ICS (10/4/2013)

09 octubre 2012

Re-Evaluando las encuestas

Bueno, ya sabemos cual fue el resultado del proceso electoral del domingo 7 de Octubre. Comienzo entonces una serie de articulos analizando las encuestas, el análisis combinatorio que yo hice y presente aquí (y que se equivocó), y otras cosas que irán surgiendo estoy seguro.

Comienzo entonces por analizar cual fue el error de todas las encuestadoras con lo que respecta a su última proyección pero también con lo que respecta a todas las proyecciones que hicieron. De más está decir que la única encuestadora que estuvo dentro del margen de error según su última encuesta fue GISXXI, esta encuestadora aunque mostró una evolución extraña en intención de votos para el candidato de la oposición fue la que mejor predijo en su último trabajo. Reconozco eso y hago la salvedad de que esto lo dije antes de la elección, de los cuatro posibles escenarios que presenté el que resulto ser el final fue el Escenario 1 (ver aquí).

Veamos entonces...

Error de la última encuesta

Para cada uno de los dos analisis que presentaré la versión polarizada y no polarizada (como ya hice aquí. Cada gráfico muestra la diferencia entre la intención de voto reportada por la encuesta y el 55% de votos de Chávez (rojo) y el 44% de Capriles (azul). Barras que van hacia la derecha significa que la encuesta dió números mayores a los que obtuvo, barras hacia la izquierda significan que la encuesta dio números menores a la realidad.

 a) Escenario no-polarizado:

Cuatro encuestadoras estuvieron dentro del margen de error de +/-2.5 puntos. GISXXI, ICS y Consultores 30.11 para Chavez y Consultores 21 y GISXXI para Capriles.  Predicmatica y Varianzas no estuvieron muy lejos en su prediccion de Capriles. Con respecto a los errores, vemos que Consultores 21 y Predicmatica por ejemplo tuvieron errores en el orden de los 10 puntos en intención de voto para Chávez. Dtanalisis tiene unos errores altos por su forma de reportar los indecisos. Hinterlaces, ICS e IVAD dieron casi 10 puntos menos a Capriles de los que obtuvo.




 b) Escenario polarizado:

Cuando usamos el escenario polarizado vemos algunos cambios. GISXXI pasa a ser la única encuesta que estuvo dentro del margen de error con Datanalisis siguiendole muy de cerca y Varianzas de tercera seguida de Hinterlaces. De resto todas las encuestadoras o bien sobre-estimaron a Chavez o a Capriles por mas de 5 puntos.



Error del promedio de encuestas:

Seguramente en este punto el lector se preguntará por qué no me quedo solamente con la última encuesta. Mi respuesta sencilla es porque todas las encuestadoras dijeron cosas muy distintas durante los últimos dos años y por lo tanto hace falta incluir esto en cualquier análisis. Yo se que asumir un apoyo estático en todo el período no es necesariamente la mejor manera de hacerlo, pero por lo menos es justa con todos pues a todos se les evalua por igual. Para dejar esto claro veamos el gráfico con las proyecciones de cada encuestadora:




a) Escenario no-polarizado:

Es interesante, o me parece a mí, ver los errores cuando usamos el promedio. Primero vemos que, en promedio, solo GISXXI y Consultores 30.11 estuvieron dentro del margen de error en su predicción de Chávez, esto a pesar de estar muy lejos en sus predicciones de voto por Capriles. Varianzas es la única que en promedio dio a Capriles dentro del margen de error, con Consultores 21 muy cerca.




b) Escenario polarizado:

 En lo que respecta al escenario polarizado, vemos como solamente Datanalisis estuvo dentro del margen de error con Chavez y rozandolo con intencion de voto para Capriles. Del resto Varianzas, IVAD, e Hinterlaces están lejos pero por menos de cinco puntos.



Conclusión

- La encuestadora que dió la prediccion final mas correcta: GISXXI
- La encuestadora que quitando ruidos estuvo mejor: Datanalisis

Es importante destacar, que a pesar de que sí hubo encuestadoras que dieron predicciones correctas de una u otra forma, tambiénes cierto que con tantos números tan disímiles esto era obvio que pasaría. Lo más importante, sin embargo, sigue siendo la falta de transparencia de las encuestadoras y lo difícil que se hace evaluar sus productos. Por ello, creo pertinente reiterar este artículo que hice en vísperas de las elecciones: Un llamado a la transparencia.


Seguiré con mas análisis...

05 octubre 2012

Un llamado a la transparencia


Una de las razones que me llevó a escribir sobre las encuestas es porque estaba tratando de entender la gran diferencia que existía entre unas y otras.  Como muchos no le encuentro lógica al asunto. Así que me puse, en mis ratos de ocio, a recolectar encuestas nuevas y viejas y a analizarlas. El resultado está en las páginas de este blog, así como en algunos otros y uno que otro artículo de periódico cuyo autor consideró interesante algo en estas páginas. A medida que ha pasado el tiempo he llegado a la conclusión que el problema de Venezuela y de las encuestas Venezolanas sólo se podrá solucionar con mayor transparencia de parte de las encuestadoras. Como mencioné en alguna oportunidad anterior (Sello de calidad CNE) el intento del CNE de regular las encuestadoras fue y es una farsa ya que no sirve de nada. No logró disminuir el número de encuestadoras fantasma, ni mejorar las proyecciones de los resultados. Habría que preguntarle a los rectores del CNE cual era el cometido de la regulación porque a mi no me queda claro, asumiré (para no ponerme a atacar al árbitro a dos días de las elecciones) que las buenas intenciones no fueron llevadas a cabo correctamente. Por qué digo todo esto? Bueno, démosle un vistazo a la figura 1.





La figura uno muestra varias cosas. Empecemos por describir el gráfico:
1)    Para cada mes desde Febrero de 2012 hasta Septiembre del 2012 tomé todas las encuestas realizadas en ese mes (si empezaban en un mes y terminaban en otro usé el mes de finalización de campo).
2)    Para cada encuesta tomé la diferencia entre la intención de voto por Chávez y por Capriles.
3)    Para cada mes promedié todas las diferencias. Obtuve el valor máximo y mínimo de estas y la desviación estándar.
4)    Todo esto está representado en el gráfico. Los puntos negros son el promedio de las diferencias. El espacio gris es el rango del valor mínimo (negativo es a favor de Capriles y positivo a favor de Chávez). Y la línea negra es el valor promedio +/- el valor de una desviación estándar.

Que significa todo esto?

Bueno, las dos cosas interesantes de ver aquí son los rangos y las desviaciones estándar. Por qué? se preguntarán. Estos dos valores son interesantes porque nos muestran la dispersión de los datos, es decir nos dicen que tanto concuerdan o difieren las diferentes encuestas. Si el rango y la desviación estándar son pequeñas alrededor del promedio entonces podríamos decir que las encuestas están mostrando una misma realidad. Si por el contrario, el rango y la desviación estándar son grandes tendríamos entonces encuestas mostrando realidades muy diferentes. Y como se pudieron dar cuenta, ese es el caso Venezolano!

Representa esto un problema?

SI!

Se supone que las encuestas de opinión son realizadas mediante técnicas estadísticas de muestreo que deberían dar resultados similares. Es decir, si yo tengo una caja con 100 pelotas, 50 azules y 50 rojas, y saco 10 pelotas al azar y repito esto 20 veces el resultado en promedio debería ser 5 rojas y 5 azules. Es posible que en una oportunidad saque más rojas que azules y viceversa pero esto debería ser la excepción más no la regla.
Así pues si 10 empresas encuestadoras están midiendo la misma intención de voto, en las mismas fechas, en el mismo país, con un muestreo apropiado, entonces los resultados deberían ser relativamente similares (si no me creen vean encuestas de países como México, EEUU, Inglaterra, Chile, Brasil, etc.). 

Siempre habrá variación pero, y aquí esta la clave, NO TANTA!

Qué pasa en Venezuela entonces?

Para usar las respuestas de las encuestas: NO SABE/NO CONTESTA! Lo digo como broma pero es cierto, NO SE!
No puedo decir sinceramente, con pruebas en la mano, que sucede. Lo único que puedo hacer es mostrar que sucede y hacer conjeturas. Voy a evitar decir que las encuestadoras han sido compradas para manipular sus números y ser usadas como instrumento de campaña ya que no tengo pruebas que demuestren esto. Si puedo sin embargo, decir que una o más encuestadoras no están haciendo las cosas bien! Para muestra la serie de artículos que he escrito empezando por el de ayer. Después del domingo podremos evaluar quien no estimo la intención de voto correctamente. Así que ahora solo nos queda ver por qué aquí sucede esto y en otros países no.

Por qué aquí si y en otros países no? Cómo evitamos esto?

Para mí todo se resume en una sola palabra: TRANSPARENCIA.
Yo creo que el problema de las encuestadoras venezolanas, y sé que con todo esto mas nunca me van a querer hablar, es la falta de transparencia. Las encuestas se publican con la más mínima información, pareciera ser que mientras menos información den mejor están. Sin embargo, es todo lo contrario. Al haber mayor información se hace más confiable todo el instrumento. Por ejemplo: por que las encuestadoras no publican el cuestionario con el orden y fraseo correcto de las preguntas? Por qué no muestran tabulaciones de porcentajes de respuestas para cada pregunta?

En otros países (EEUU, Reino Unido, México, por ejemplo) las encuestadoras se han unido en asociaciones para establecer entre otras cosas unas reglas de funcionamiento. Han escrito, por ejemplo, principios de divulgación para las encuestas destinadas al dominio público. Estos principios establecen los requerimientos de divulgación de las encuestas. Veamos por ejemplo a lo que se le obliga a publicar a las encuestadoras estadounidenses.

“Nivel 1 de divulgación: Todos los reportes de encuestas realizados por algún miembro para publicación deben incluir la siguiente información:
Quien patrocina el estudio
Que empresa realizo el trabajo de campo
Fechas de la entrevista
Método de muestreo
Población muestreada
Tamaño de la muestra
Tamaño de la sub-muestra, en caso de no usar toda la muestra
Margen de error de muestreo
Tipo de contacto con encuestados
Fraseo y orden completo de las preguntas en las que se basa el  estudio
Porcentaje de resultados en todas las preguntas
Aclaran que si la encuesta fue comisionada de forma privada pero se hace publica la información anterior debe ser hecha disponible.

Este es solo el  primer nivel de divulgación, si la encuestadora recibe una petición escrita para obtener mayores detalles sobre la encuesta debe publicar un mayor nivel de información sobre la encuesta. Y finalmente las encuestadoras son fuertemente alentadas a publicar en su página web los datos (sin información que permita identificar a los encuestados como numero de teléfono por ejemplo).

Por qué hacer disponible todo esto es bueno?

Simple y llanamente porque permite:
1)    Saber si la empresa tiene una motivación o incentivo para mostrar resultados que favorezcan a un sector
2)    Porque permite determinar si las preguntas promueven algún sesgo en las respuestas (el orden de las preguntas SI altera el producto).
3)    Porque permite evaluar mejor la calidad del producto, bien sea por la prensa o por investigadores.

Y por qué las encuestadoras deberían hacer esto?

1)    Porque no les cuesta nada y ganan mucho.
2)    Porque es lo mismo que exigimos de otras compañías cuyos productos y servicios obtenemos. Piensa que cada vez que compras un producto en el supermercado este debe decir si se vence, el contenido de ciertas vitaminas y minerales, los ingredientes, etc. Porque las encuestas son la excepción?

En fin, creo que ya es suficiente por hoy. Concluyo haciendo un llamado a las encuestadoras para que ellas mismas se regulen por el bien de su profesión inclusive, la falta de confianza en las encuestadoras no les conviene, por el contrario mayor transparencia no va a significar menos trabajo o menos ganancias, significara mayor prestigio.


NCPP - Principles of Disclosure
BPC - Principles of Disclosure

04 octubre 2012

Escenarios 8-O: Estimando errores preventivamente!


Este domingo (o lunes) sabremos finalmente quien ganó las elecciones. Atrás quedarán meses de discusiones sobre quien va arriba y quien subiendo, o sobre que encuestadora está comprada. En ese momento abran unos eufóricos por su victoria y otros tristes de la derrota de su candidato. Sin embargo a la vuelta de la esquina hay otra elección que se vera afectada por los resultados del 7-O. Comenzaran de nuevo las encuestas a contaminar el ambiente con vastas diferencias entre unos y otros candidatos. Así que será importante determinar quien fue más acertado en sus predicciones. Con esto en mente he decidido hacer un ejercicio anticipado de evaluación, que luego haré más apropiadamente cuando se sepan los resultados oficiales. Sin embargo aquí van cuatro posibles escenarios.

Escenario 1: Chávez 55% - Capriles 45%
Escenario 2: Chávez 51% - Capriles 49%
Escenario 3: Chávez 49% - Capriles 51%
Escenario 4: Chávez 45% - Capriles 55%

Para evaluar cada encuestadora voy a utilizar únicamente su última encuesta, la cual debió haber sido realizada los últimos 30 días antes de la elección. Haré dos cálculos de error:

El primero consistirá en cotejar los números entregados por las encuestadoras (con o sin indecisos) contra cada escenario. Para los escenarios 1 y 2 estimare la diferencia entre los votos “reales” de Chávez y la intención de voto reflejada en la encuesta. Para los escenarios 3 y 4 usare los votos “reales” de Capriles y la intención de voto reflejada por Capriles en la encuesta.

El segundo cálculo consistirá en llevar los números de todas las encuestadoras a un escenario polarizado. Es decir que ignoro los indecisos y llevo la intención de voto a sumar 100. Por ejemplo, si la encuestadora A dijo Chávez 40 – Capriles 30, entonces en el escenario polarizado Chávez tendría 57 (40/70) y Capriles 43 (30/70). El resto seria igual al cálculo anterior.

Veamos entonces:

Escenario No-Polarizado

Veams primero el análisis en el cual utilizamos los números reportados por las encuestadoras. Esta comparación no es, a mi parecer, la apropiada pero vale la pena hacerla. Usar este calculo obvia el hecho de que al momento de votar, quienes lo hagan, tendrán basicamente dos opciones y por lo tanto estas dos candidaturas sumarán mas del 90% de los votos.

a)      Chávez gana
Figura 1

La figura 1 muestra que tan diferentes fueron las predicciones de las encuestadoras con respecto a cada escenario. Por ejemplo: En el escenario 1 en el que Chavez gana 55-45 Consultores 21 da casi 10 puntos menos a Chavez en sus sondeo y Datanalisis da casi 12 puntos menos. ICS por el contrario casi la pega. Interesante para mi es ver que empresas estarían cinco puntos alrededor del 0 (2.5 puntos para cada lado), ya que estas serían las que sus predicciones fueron más acertadas. Para estos dos escenarios vemos que GISXXI, ICS y Consultores 30.11 estarían en este rango para el Escenario 1. Mientras que Hinterlaces, IVAD, y Varianzas estarían para el escenario 2 (victoria de Chavez 51-49).


b)      Capriles gana

Figura 2

Si por el contrario gana Capriles entonces las cosas cambian bastante. Sólo Hercon estaría dentro del margen de error en el escenario 49-51. Esto es muy interesante por el hecho de que ninguna encuesta puso a Capriles por encima de 50 puntos aunque lo pongan por arriba de Chávez.

Escenario Polarizado

Como dije antes este es el escenario más lógico para analizar puesto que los votos de Chávez y Capriles sumarán más del 90% y quién quita si no suman 99%. Para acomodar las cifras lo único que hago es extrapolar los números dados por cada encuestadora a un escenario en el que esos números suman 100. Veamos entonces que sucede.

a)      Chávez gana
Figura 3
La figura 3 muestra que tanto acertarían las encuestadoras los escenarios en los que gana Chávez. Como se puede ver sólo GISXXI estaría dentro del margen de error del escenario 1 (55-45), con Datanalisis muy cerca de estarlo. El escenario 2 tendría por el contrario 2 encuestadoras dentro del margen de error Consultores 21 y Varianzas.


b)      Capriles gana

Figura 4
Finalmente la figura 4 muestra el escenario polarizado en el que Capriles gana. Nuevamente el escenario 4 (45-55) no esta dentro de los planes de muchas encuestadoras. El escenario 3 sin embargo sería predecido dentro del margen de error por Consultores 21, Hercon y Varianzas.

c) Y entonces...

Considerando solamente los casos de Escenarios polarizados podemos ver entonces como quedarían las encuestadoras según sus estudios. La figura 5 presenta esta información de forma grafica. Para cada encuestadora/escenario presenta un color. Verde significa que la predicción de la encuestadora estuvo dentro del rango de 5 puntos (+/- 2.5). Amarillo significa que estuvo dentro de un rango de 10 puntos (+/- 5). Finalmente, morado significa que estu fuera del rango de 10 puntos. Claro está estos valores están ligados a los escenarios hipotéticos que yo escogi. Si las elecciones quedan 60-40 habría que agregar otra celda, pero por ahora sirven como ejercicio.


Los dejo que interpreten esto...