Mostrando las entradas con la etiqueta errores. Mostrar todas las entradas
Mostrando las entradas con la etiqueta errores. Mostrar todas las entradas
09 abril 2013
La recta final
Ya llegando al final de esta breve campaña electoral hago un pequeño resumen de las diferentes encuestas que he podido recopilar en los meses pasados. La tabla que se presenta a continuación muestra estas 12 encuestas, divididas en tres grupos. Para cada encuesta muestra la información de la ficha técnica (fechas de campo y número de entrevistados). Muestra también la intención de voto reportada en la encuesta hacia el candidato del PSUV y al candidato de la MUD y la diferencia porcentual entre estas. Así mismo muestra la intención de voto cuando se lleva a un escenario polarizado, y la diferencia entre estos porcentajes. Finalmente muestra el sesgo que tuvo esa encuestadora en la prediccion de la elección de Octubre 2012 y la corrección entonces de los porcentajes de votación basados en este sesgo (y la diferencia).
Fue usando como criterio la intención de voto corregida como dividí las encuestadoras en estos tres grupos. La principal diferencia es que para las encuestadoras del ultimo grupo formado por DatinCorp y Meganalisis no tengo valores de sesgo puesto que no presentaron mas de tres encuestas para las elecciones de Octubre pasado. A este grupo le sigue otro formado por ICS, GISXXI, y 30.11 Consultores (marcado en rojo). Este grupo de encuestadoras tuvo un error tan grande que cuando se aplica la intención de voto cambia totalmente de una cómoda victoria para Maduro a una victoria para Capriles. Finalmente esta el grupo formado por Datanalisis, Hinterlaces, e IVAD grupo que al aplicársele la corrección los resultados permanecen cerca.
Como ha sido admitido por algunos encuestadores reconocidos los modelos que predicen el comportamiento electoral en situaciones normales tienen un poco mas de dificultad para aplicarse directamente en los actuales momentos y por lo tanto predecir los niveles de abstención (que serán claves en esta elección) se hace mas difícil.
* La tabla ha sido actualizada con información de la encuesta de 30.11 Consultores y con una última encuesta del ICS (10/4/2013)
09 octubre 2012
Re-Evaluando las encuestas
Bueno, ya sabemos cual fue el resultado del proceso electoral del domingo 7 de Octubre. Comienzo entonces una serie de articulos analizando las encuestas, el análisis combinatorio que yo hice y presente aquí (y que se equivocó), y otras cosas que irán surgiendo estoy seguro.
Comienzo entonces por analizar cual fue el error de todas las encuestadoras con lo que respecta a su última proyección pero también con lo que respecta a todas las proyecciones que hicieron. De más está decir que la única encuestadora que estuvo dentro del margen de error según su última encuesta fue GISXXI, esta encuestadora aunque mostró una evolución extraña en intención de votos para el candidato de la oposición fue la que mejor predijo en su último trabajo. Reconozco eso y hago la salvedad de que esto lo dije antes de la elección, de los cuatro posibles escenarios que presenté el que resulto ser el final fue el Escenario 1 (ver aquí).
Veamos entonces...
Error de la última encuesta
Para cada uno de los dos analisis que presentaré la versión polarizada y no polarizada (como ya hice aquí. Cada gráfico muestra la diferencia entre la intención de voto reportada por la encuesta y el 55% de votos de Chávez (rojo) y el 44% de Capriles (azul). Barras que van hacia la derecha significa que la encuesta dió números mayores a los que obtuvo, barras hacia la izquierda significan que la encuesta dio números menores a la realidad.
Cuando usamos el escenario polarizado vemos algunos cambios. GISXXI pasa a ser la única encuesta que estuvo dentro del margen de error con Datanalisis siguiendole muy de cerca y Varianzas de tercera seguida de Hinterlaces. De resto todas las encuestadoras o bien sobre-estimaron a Chavez o a Capriles por mas de 5 puntos.
Error del promedio de encuestas:
Seguramente en este punto el lector se preguntará por qué no me quedo solamente con la última encuesta. Mi respuesta sencilla es porque todas las encuestadoras dijeron cosas muy distintas durante los últimos dos años y por lo tanto hace falta incluir esto en cualquier análisis. Yo se que asumir un apoyo estático en todo el período no es necesariamente la mejor manera de hacerlo, pero por lo menos es justa con todos pues a todos se les evalua por igual. Para dejar esto claro veamos el gráfico con las proyecciones de cada encuestadora:
a) Escenario no-polarizado:
Es interesante, o me parece a mí, ver los errores cuando usamos el promedio. Primero vemos que, en promedio, solo GISXXI y Consultores 30.11 estuvieron dentro del margen de error en su predicción de Chávez, esto a pesar de estar muy lejos en sus predicciones de voto por Capriles. Varianzas es la única que en promedio dio a Capriles dentro del margen de error, con Consultores 21 muy cerca.
b) Escenario polarizado:
En lo que respecta al escenario polarizado, vemos como solamente Datanalisis estuvo dentro del margen de error con Chavez y rozandolo con intencion de voto para Capriles. Del resto Varianzas, IVAD, e Hinterlaces están lejos pero por menos de cinco puntos.
Conclusión
- La encuestadora que dió la prediccion final mas correcta: GISXXI
- La encuestadora que quitando ruidos estuvo mejor: Datanalisis
Es importante destacar, que a pesar de que sí hubo encuestadoras que dieron predicciones correctas de una u otra forma, tambiénes cierto que con tantos números tan disímiles esto era obvio que pasaría. Lo más importante, sin embargo, sigue siendo la falta de transparencia de las encuestadoras y lo difícil que se hace evaluar sus productos. Por ello, creo pertinente reiterar este artículo que hice en vísperas de las elecciones: Un llamado a la transparencia.
Seguiré con mas análisis...
Comienzo entonces por analizar cual fue el error de todas las encuestadoras con lo que respecta a su última proyección pero también con lo que respecta a todas las proyecciones que hicieron. De más está decir que la única encuestadora que estuvo dentro del margen de error según su última encuesta fue GISXXI, esta encuestadora aunque mostró una evolución extraña en intención de votos para el candidato de la oposición fue la que mejor predijo en su último trabajo. Reconozco eso y hago la salvedad de que esto lo dije antes de la elección, de los cuatro posibles escenarios que presenté el que resulto ser el final fue el Escenario 1 (ver aquí).
Veamos entonces...
Error de la última encuesta
Para cada uno de los dos analisis que presentaré la versión polarizada y no polarizada (como ya hice aquí. Cada gráfico muestra la diferencia entre la intención de voto reportada por la encuesta y el 55% de votos de Chávez (rojo) y el 44% de Capriles (azul). Barras que van hacia la derecha significa que la encuesta dió números mayores a los que obtuvo, barras hacia la izquierda significan que la encuesta dio números menores a la realidad.
a) Escenario no-polarizado:
Cuatro encuestadoras estuvieron dentro del margen de error de +/-2.5 puntos. GISXXI, ICS y Consultores 30.11 para Chavez y Consultores 21 y GISXXI para Capriles. Predicmatica y Varianzas no estuvieron muy lejos en su prediccion de Capriles. Con respecto a los errores, vemos que Consultores 21 y Predicmatica por ejemplo tuvieron errores en el orden de los 10 puntos en intención de voto para Chávez. Dtanalisis tiene unos errores altos por su forma de reportar los indecisos. Hinterlaces, ICS e IVAD dieron casi 10 puntos menos a Capriles de los que obtuvo.
b) Escenario polarizado:
Cuando usamos el escenario polarizado vemos algunos cambios. GISXXI pasa a ser la única encuesta que estuvo dentro del margen de error con Datanalisis siguiendole muy de cerca y Varianzas de tercera seguida de Hinterlaces. De resto todas las encuestadoras o bien sobre-estimaron a Chavez o a Capriles por mas de 5 puntos.
Error del promedio de encuestas:
Seguramente en este punto el lector se preguntará por qué no me quedo solamente con la última encuesta. Mi respuesta sencilla es porque todas las encuestadoras dijeron cosas muy distintas durante los últimos dos años y por lo tanto hace falta incluir esto en cualquier análisis. Yo se que asumir un apoyo estático en todo el período no es necesariamente la mejor manera de hacerlo, pero por lo menos es justa con todos pues a todos se les evalua por igual. Para dejar esto claro veamos el gráfico con las proyecciones de cada encuestadora:
a) Escenario no-polarizado:
Es interesante, o me parece a mí, ver los errores cuando usamos el promedio. Primero vemos que, en promedio, solo GISXXI y Consultores 30.11 estuvieron dentro del margen de error en su predicción de Chávez, esto a pesar de estar muy lejos en sus predicciones de voto por Capriles. Varianzas es la única que en promedio dio a Capriles dentro del margen de error, con Consultores 21 muy cerca.
b) Escenario polarizado:
En lo que respecta al escenario polarizado, vemos como solamente Datanalisis estuvo dentro del margen de error con Chavez y rozandolo con intencion de voto para Capriles. Del resto Varianzas, IVAD, e Hinterlaces están lejos pero por menos de cinco puntos.
Conclusión
- La encuestadora que dió la prediccion final mas correcta: GISXXI
- La encuestadora que quitando ruidos estuvo mejor: Datanalisis
Es importante destacar, que a pesar de que sí hubo encuestadoras que dieron predicciones correctas de una u otra forma, tambiénes cierto que con tantos números tan disímiles esto era obvio que pasaría. Lo más importante, sin embargo, sigue siendo la falta de transparencia de las encuestadoras y lo difícil que se hace evaluar sus productos. Por ello, creo pertinente reiterar este artículo que hice en vísperas de las elecciones: Un llamado a la transparencia.
Seguiré con mas análisis...
05 octubre 2012
Un llamado a la transparencia
Una de las
razones que me llevó a escribir sobre las encuestas es porque estaba tratando
de entender la gran diferencia que existía entre unas y otras. Como muchos no le encuentro lógica al asunto.
Así que me puse, en mis ratos de ocio, a recolectar encuestas nuevas y viejas y
a analizarlas. El resultado está en las páginas de este blog, así como en
algunos otros y uno que otro artículo de periódico cuyo autor consideró
interesante algo en estas páginas. A medida que ha pasado el tiempo he llegado
a la conclusión que el problema de Venezuela y de las encuestas Venezolanas
sólo se podrá solucionar con mayor transparencia de parte de las encuestadoras.
Como mencioné en alguna oportunidad anterior (Sello de calidad CNE) el intento del CNE de regular las
encuestadoras fue y es una farsa ya que no sirve de nada. No logró disminuir el
número de encuestadoras fantasma, ni mejorar las proyecciones de los
resultados. Habría que preguntarle a los rectores del CNE cual era el cometido
de la regulación porque a mi no me queda claro, asumiré (para no ponerme a
atacar al árbitro a dos días de las elecciones) que las buenas intenciones no
fueron llevadas a cabo correctamente. Por qué digo todo esto? Bueno, démosle un
vistazo a la figura 1.
La figura
uno muestra varias cosas. Empecemos por describir el gráfico:
1) Para
cada mes desde Febrero de 2012 hasta Septiembre del 2012 tomé todas las
encuestas realizadas en ese mes (si empezaban en un mes y terminaban en otro
usé el mes de finalización de campo).
2) Para
cada encuesta tomé la diferencia entre la intención de voto por Chávez y por
Capriles.
3) Para
cada mes promedié todas las diferencias. Obtuve el valor máximo y mínimo de
estas y la desviación estándar.
4) Todo esto está representado en el
gráfico. Los puntos negros son el promedio de las diferencias. El espacio gris
es el rango del valor mínimo (negativo es a favor de Capriles y positivo a
favor de Chávez). Y la línea negra es el valor promedio +/- el valor de una desviación
estándar.
Que significa todo esto?
Bueno, las dos cosas interesantes de ver aquí son los
rangos y las desviaciones estándar. Por qué? se preguntarán. Estos dos valores
son interesantes porque nos muestran la dispersión de los datos, es decir nos
dicen que tanto concuerdan o difieren las diferentes encuestas. Si el rango y
la desviación estándar son pequeñas alrededor del promedio entonces podríamos
decir que las encuestas están mostrando una misma realidad. Si por el
contrario, el rango y la desviación estándar son grandes tendríamos entonces
encuestas mostrando realidades muy diferentes. Y como se pudieron dar cuenta,
ese es el caso Venezolano!
Representa esto un problema?
SI!
Se supone que las encuestas de opinión son realizadas
mediante técnicas estadísticas de muestreo que deberían dar resultados
similares. Es decir, si yo tengo una caja con 100 pelotas, 50 azules y 50
rojas, y saco 10 pelotas al azar y repito esto 20 veces el resultado en
promedio debería ser 5 rojas y 5 azules. Es posible que en una oportunidad
saque más rojas que azules y viceversa pero esto debería ser la excepción más
no la regla.
Así pues si 10 empresas encuestadoras están midiendo
la misma intención de voto, en las mismas fechas, en el mismo país, con un
muestreo apropiado, entonces los resultados deberían ser relativamente similares
(si no me creen vean encuestas de países como México, EEUU, Inglaterra, Chile,
Brasil, etc.).
Siempre habrá variación pero, y aquí esta la clave, NO TANTA!
Qué pasa en Venezuela entonces?
Para usar las respuestas de las encuestas: NO SABE/NO
CONTESTA! Lo digo como broma pero es cierto, NO SE!
No puedo decir sinceramente, con pruebas en la mano,
que sucede. Lo único que puedo hacer es mostrar que sucede y hacer conjeturas.
Voy a evitar decir que las encuestadoras han sido compradas para manipular sus números
y ser usadas como instrumento de campaña ya que no tengo pruebas que demuestren
esto. Si puedo sin embargo, decir que una o más encuestadoras no están haciendo
las cosas bien! Para muestra la serie de artículos que he escrito empezando por
el de ayer. Después
del domingo podremos evaluar quien no estimo la intención de voto
correctamente. Así que ahora solo nos queda ver por qué aquí sucede esto y en
otros países no.
Por qué aquí si y en otros países no? Cómo evitamos
esto?
Para mí todo se resume en una sola palabra:
TRANSPARENCIA.
Yo creo que el problema de las encuestadoras
venezolanas, y sé que con todo esto mas nunca me van a querer hablar, es la falta
de transparencia. Las encuestas se publican con la más mínima información, pareciera
ser que mientras menos información den mejor están. Sin embargo, es todo lo
contrario. Al haber mayor información se hace más confiable todo el
instrumento. Por ejemplo: por que las encuestadoras no publican el cuestionario
con el orden y fraseo correcto de las preguntas? Por qué no muestran
tabulaciones de porcentajes de respuestas para cada pregunta?
En otros países (EEUU, Reino Unido, México, por
ejemplo) las encuestadoras se han unido en asociaciones para establecer entre
otras cosas unas reglas de funcionamiento. Han escrito, por ejemplo, principios
de divulgación para las encuestas destinadas al dominio público. Estos
principios establecen los requerimientos de divulgación de las encuestas.
Veamos por ejemplo a lo que se le obliga a publicar a las encuestadoras
estadounidenses.
“Nivel 1 de divulgación: Todos los reportes de
encuestas realizados por algún miembro para publicación deben incluir la
siguiente información:
Quien
patrocina el estudio
Que empresa realizo el trabajo de campo
Fechas de la entrevista
Método de muestreo
Población muestreada
Tamaño de la muestra
Tamaño de la sub-muestra, en caso de no usar toda la
muestra
Margen de error de muestreo
Tipo de contacto con encuestados
Fraseo y orden
completo de las preguntas en las que se basa el
estudio
Porcentaje de
resultados en todas las preguntas
"
Aclaran que si la encuesta fue comisionada de forma
privada pero se hace publica la información anterior debe ser hecha disponible.
Este es solo el
primer nivel de divulgación, si la encuestadora recibe una petición escrita
para obtener mayores detalles sobre la encuesta debe publicar un mayor nivel de
información sobre la encuesta. Y finalmente las encuestadoras son fuertemente
alentadas a publicar en su página web los datos (sin información que permita
identificar a los encuestados como numero de teléfono por ejemplo).
Por qué hacer disponible todo esto es bueno?
Simple y llanamente porque permite:
1) Saber
si la empresa tiene una motivación o incentivo para mostrar resultados que
favorezcan a un sector
2) Porque
permite determinar si las preguntas promueven algún sesgo en las respuestas (el
orden de las preguntas SI altera el producto).
3) Porque
permite evaluar mejor la calidad del producto, bien sea por la prensa o por
investigadores.
Y por qué las encuestadoras deberían hacer esto?
1) Porque
no les cuesta nada y ganan mucho.
2) Porque
es lo mismo que exigimos de otras compañías cuyos productos y servicios
obtenemos. Piensa que cada vez que compras un producto en el supermercado este
debe decir si se vence, el contenido de ciertas vitaminas y minerales, los
ingredientes, etc. Porque las encuestas son la excepción?
NCPP - Principles of Disclosure
BPC - Principles of Disclosure
04 octubre 2012
Escenarios 8-O: Estimando errores preventivamente!
Este domingo (o lunes) sabremos finalmente
quien ganó las elecciones. Atrás quedarán meses de discusiones sobre quien
va arriba y quien subiendo, o sobre que encuestadora está comprada. En ese
momento abran unos eufóricos por su victoria y otros tristes de la derrota de
su candidato. Sin embargo a la vuelta de la esquina hay otra elección que se
vera afectada por los resultados del 7-O. Comenzaran de nuevo las encuestas a
contaminar el ambiente con vastas diferencias entre unos y otros candidatos.
Así que será importante determinar quien fue más acertado en sus predicciones.
Con esto en mente he decidido hacer un ejercicio anticipado de evaluación, que
luego haré más apropiadamente cuando se sepan los resultados
oficiales. Sin embargo aquí van cuatro posibles escenarios.
Escenario 1: Chávez 55% - Capriles 45%
Escenario 2: Chávez 51% - Capriles 49%
Escenario 3: Chávez 49% - Capriles 51%
Escenario 4: Chávez 45% - Capriles 55%
Para evaluar cada encuestadora voy a utilizar únicamente
su última encuesta, la cual debió haber sido realizada los últimos 30 días
antes de la elección. Haré dos cálculos de
error:
El primero consistirá en cotejar los
números entregados por las encuestadoras (con o sin indecisos) contra cada
escenario. Para los escenarios 1 y 2 estimare la diferencia entre los votos “reales”
de Chávez y la intención de voto reflejada en la encuesta. Para los escenarios
3 y 4 usare los votos “reales” de Capriles y la intención de voto reflejada por
Capriles en la encuesta.
El segundo cálculo consistirá en llevar
los números de todas las encuestadoras a un escenario polarizado. Es decir que
ignoro los indecisos y llevo la intención de voto a sumar 100. Por ejemplo, si
la encuestadora A dijo Chávez 40 – Capriles 30, entonces en el escenario
polarizado Chávez tendría 57 (40/70) y Capriles 43 (30/70). El resto seria
igual al cálculo anterior.
Veamos entonces:
Escenario No-Polarizado
Veams primero el análisis en el cual utilizamos los números reportados por las encuestadoras. Esta comparación no es, a mi parecer, la apropiada pero vale la pena hacerla. Usar este calculo obvia el hecho de que al momento de votar, quienes lo hagan, tendrán basicamente dos opciones y por lo tanto estas dos candidaturas sumarán mas del 90% de los votos.
a)
Chávez gana
Figura 1
La figura 1 muestra que tan diferentes fueron las predicciones de las encuestadoras con respecto a cada escenario. Por ejemplo: En el escenario 1 en el que Chavez gana 55-45 Consultores 21 da casi 10 puntos menos a Chavez en sus sondeo y Datanalisis da casi 12 puntos menos. ICS por el contrario casi la pega. Interesante para mi es ver que empresas estarían cinco puntos alrededor del 0 (2.5 puntos para cada lado), ya que estas serían las que sus predicciones fueron más acertadas. Para estos dos escenarios vemos que GISXXI, ICS y Consultores 30.11 estarían en este rango para el Escenario 1. Mientras que Hinterlaces, IVAD, y Varianzas estarían para el escenario 2 (victoria de Chavez 51-49).
b)
Capriles gana
Figura 2
Si por el contrario gana Capriles entonces las cosas cambian bastante. Sólo Hercon estaría dentro del margen de error en el escenario 49-51. Esto es muy interesante por el hecho de que ninguna encuesta puso a Capriles por encima de 50 puntos aunque lo pongan por arriba de Chávez.
Escenario Polarizado
Como dije antes este es el escenario más lógico para analizar puesto que los votos de Chávez y Capriles sumarán más del 90% y quién quita si no suman 99%. Para acomodar las cifras lo único que hago es extrapolar los números dados por cada encuestadora a un escenario en el que esos números suman 100. Veamos entonces que sucede.
a)
Chávez gana
Figura 3
La figura 3 muestra que tanto acertarían las encuestadoras los escenarios en los que gana Chávez. Como se puede ver sólo GISXXI estaría dentro del margen de error del escenario 1 (55-45), con Datanalisis muy cerca de estarlo. El escenario 2 tendría por el contrario 2 encuestadoras dentro del margen de error Consultores 21 y Varianzas.
b)
Capriles gana
Figura 4
Finalmente la figura 4 muestra el escenario polarizado en el que Capriles gana. Nuevamente el escenario 4 (45-55) no esta dentro de los planes de muchas encuestadoras. El escenario 3 sin embargo sería predecido dentro del margen de error por Consultores 21, Hercon y Varianzas.
c) Y entonces...
Considerando solamente los casos de Escenarios polarizados podemos ver entonces como quedarían las encuestadoras según sus estudios. La figura 5 presenta esta información de forma grafica. Para cada encuestadora/escenario presenta un color. Verde significa que la predicción de la encuestadora estuvo dentro del rango de 5 puntos (+/- 2.5). Amarillo significa que estuvo dentro de un rango de 10 puntos (+/- 5). Finalmente, morado significa que estu fuera del rango de 10 puntos. Claro está estos valores están ligados a los escenarios hipotéticos que yo escogi. Si las elecciones quedan 60-40 habría que agregar otra celda, pero por ahora sirven como ejercicio.
Los dejo que interpreten esto...
Suscribirse a:
Entradas (Atom)











