Logo EXE Monocolor
Seleccione

EVALUACIÓN

La última etapa del análisis consiste en la evaluación de efectos del programa una vez este haya sido implementado y/o se encuentre en el proceso de finalización. En esta etapa se analizan tres componentes: i) la evaluación de resultados, ii) la evaluación de impacto y iii) el análisis costo-efectividad.

Esta etapa tiene como objetivo responder cinco preguntas fundamentales sobre el programa:

01. ¿En qué medida se han cumplido los objetivos establecidos?
02. ¿Son los resultados observados atribuibles al programa?
03. ¿Existen atributos individuales que moderen los efectos del programa?
04. Dados los efectos del programa, ¿tiene este un costo razonable que permita su sostenimiento y/o ampliación?
05. ¿Qué componentes del programa se pueden mejorar?

Responder estas preguntas no solo sirve como evaluación de lo sucedido, sino que proporciona información valiosa para la continuidad del proyecto y su aplicación en diversos contextos.

Sobre la evaluación
¿Qué es la evaluación?
Las evaluaciones son apreciaciones periódicas y objetivas de un proyecto, política o programa planeado o en curso. También constituyen un proceso integral de observación, recolección, medición, análisis sistemático e interpretación de información acerca del desempeño y efectividad de un programa, así como de comunicación de información, que provee insumos para la formulación de políticas y toma de decisiones1.

 

Existen distintos tipos de evaluación, cuya diferencia radica en la evaluación de los diferentes componentes del programa. Algunos evalúan el diseño, otros los resultados y algunos ambos componentes. Con la evaluación se conoce en profundidad una intervención, sea esta pública o privada, lo que permite alcanzar un juicio valorativo, basado en evidencias, respecto de su diseño, implementación, resultados e impacto. Por lo tanto, la evaluación es esencial para lograr el objetivo de formular políticas basadas en evidencia empírica.
Image link
¿Para qué sirve evaluar?
La evaluación orienta la toma de decisiones hacia la asignación eficiente y efectiva de recursos y ayuda a identificar obstáculos.
En cuanto a la rendición de cuentas, transparencia y negociación, sirve para:
En cuanto a la rendición de cuentas, transparencia y negociación, sirve para:

  • Conocer cómo se están utilizando los recursos y si se están logrando los objetivos
    planeados.

  • Orientar decisiones de inversión.
  • En cuanto a la mejora del diseño y operación de programas y proyectos de inversión, la evaluación sirve para:
    En cuanto a la mejora del diseño y operación de programas y proyectos de inversión, la evaluación sirve para:
  • Generar mayor conocimiento sobre el tipo de inversiones necesarias para obtener
    mejores resultados.

  • Determinar si lo que se está haciendo funciona y los mecanismos que llevan a este
    resultado.

  • Optimizar el proceso de operación de un programa o proyecto.
  • Factores a tener en cuenta

    En la evaluación es importante tener en cuenta las cuatro etapas previas del trabajo: diagnóstico, diseño, seguimiento y monitoreo, e implementación. Esto permite verificar si en cada etapa se han cumplido los objetivos y se han abordado las preguntas que deben resolverse en cada una de ellas.
    Para identificar si cumplió con estos factores en el diseño de su programa, por favor diligencie la encuesta de diagnóstico.
    Tipos de evaluación
    Se tratan aquí dos tipos de evaluación: la evaluación de resultados y la evaluación de impacto.
    Evaluación de resultados Responde a preguntas descriptivas, aquellas acerca de lo que se está llevando a cabo.
    Evaluación de impacto Responde a preguntas de causalidad, es decir, en qué medida el programa o proyecto afecta directamente el resultado planteado al que se quiere llegar.
    En esta etapa también se trata el análisis de costo-efectividad, como se indicó al inicio, aunque no sea este un tipo de evaluación estrictamente hablando.

    Evaluación de resultados

    ¿Qué es una evaluación de resultados?
    La evaluación de resultados se enfoca en los efectos brutos del programa, es decir, en la medida en que se cumplen los objetivos específicos del programa o proyecto sin descontar la influencia de factores externos a la intervención. Permite medir y hacer seguimiento de los resultados del programa, tanto de corto como de largo plazo.

     

    En este tipo de evaluación es necesario diferenciar entre el producto o servicio entregado y los resultados.

     

    La evaluación de resultados examina:
    Los cambios en las condiciones de los beneficiarios después de un determinado tiempo de estar expuestos a la intervención.
    Las contribuciones generadas por la organización en pro de un mayor resultado.
    Los factores que afectan el resultado dado en los beneficiarios expuestos.
    ¿Cómo se realiza una evaluación de resultados?
    Las contribuciones generadas por las alianzas con socios para modificar el resultado2.
    Para llevar a cabo una evaluación de resultados, es esencial medir los cambios percibidos por los beneficiarios y beneficiarias a lo largo del tiempo.

     

    La medición de los resultados del programa se realiza comparando el indicador de interés antes (línea base) y después (seguimiento) de la intervención.

     

    Para realizar la medición se recomienda:
    Establecer objetivos específicos
    Establecer objetivos específicos
    Determinar los criterios a evaluar
    Determinar los criterios a evaluar
    Elegir los instrumentos adecuados
    Elegir los instrumentos adecuados
    Realizar evaluaciones periódicas
    Realizar evaluaciones periódicas
    Utilizar los resultados de la evaluación
    Utilizar los resultados de la evaluación
    Tampoco se puede perder de vista que los factores que pueden influir en el resultado son múltiples y complejos, se relacionan entre sí y varían constantemente. Los pasos para identificar esos factores son3:
    01.
    Realizar la recolección de información y analizarla
    02.
    Identificar los factores contribuyentes más importantes que impulsan el cambio
    03.
    Examinar fuentes locales de conocimiento en relación con los factores que influyen en el resultado
    04.
    Resolver el problema de los efectos de segundo orden, no intencionales, que está teniendo el resultado
    Al evaluar los resultados es crucial considerar tanto las contribuciones generadas por la organización como aquellas surgidas de las alianzas con socios para modificar el resultado.

     

    Las contribuciones de la organización abarcan toda la gama de actividades e iniciativas, tanto en el marco de proyectos como fuera de estos4. Esas contribuciones pueden establecerse mediante:
    A.
    Análisis de la coherencia entre la estrategia y la gestión de las operaciones generales por parte de la organización en relación con los cambios anivel de resultados
    B.
    La verificación de si la planificación y la gestión de diferentes intervenciones por parte de la organización han sido alineadas para aprovechar sinergias que contribuyan a los resultados
    C.
    Determinación de si los productos individuales son eficaces o no en contribuir a los resultados
    Los resultados son influenciados por una compleja gama de factores. Lograr un cambio invariablemente requiere la acción concertada de varias instituciones y actores5. Las contribuciones generadas por las alianzas pueden establecerse mediante:
    El examen del grado de apoyo mutuo entre los socios
    El examen de cómo se formaron las alianzas y cómo ha sido su desempeño
    La realización de evaluaciones conjuntas

    Evaluación de impacto

    ¿Qué es una evaluación de impacto?
    La evaluación de impacto es un tipo de evaluación que se centra en responder preguntas relacionadas con la relación causal entre un resultado y el programa o proyecto específico. Su objetivo es identificar cambios observables en el resultado de interés que puedan atribuirse de manera directa y exclusiva al programa o proyecto evaluado.
    Preguntas que busca responder una evaluación de impacto
    Todas las evaluaciones de impacto responden una pregunta de causa y efecto
    .
    Estas preguntas pueden aplicarse a cualquier ámbito, siempre que busquen evaluar el impacto de una modalidad de un programa o una innovación en su diseño, no solo el programa en sí mismo.

     

    Algunos ejemplos de preguntas que una evaluación de impacto podría abordar incluyen:
    ¿Cuál es el efecto causal (impacto) de proporcionar becas a estudiantes en su asistencia escolar y su desempeño académico?
    ¿Mejorar las carreteras y vías de acceso incrementa el acceso al mercado laboral y aumenta los ingresos de los hogares?
    Si se reemplazan pisos de tierra por pisos de cemento, ¿cuál es el impacto de este cambio en la salud de los niños?
    ¿El tamaño de las clases afecta el aprendizaje de los estudiantes?
    Para responder preguntas de causa y efecto, es necesario entender el concepto de resultados potenciales o contrafactuales.

     

    El contrafactual es el escenario hipotético que habría tenido lugar en ausencia del programa. Particularmente, para ver el efecto del tratamiento, el contrafactual de interés es el resultado observado en el escenario en el cual los participantes del programa no hubieran participado en él.

     

    Si bien es cierto que no es posible observar un contrafactual para cada individuo, sí es posible construir contrafactuales si nuestro objetivo es analizar promedios. Más aún, por esto es por lo que cuando se habla del efecto de un programa o intervención se suele hablar del efecto promedio del tratamiento.

     

    Usualmente, para conseguir una correspondencia entre el grupo de tratamiento (beneficiarios del programa) y el de control (no beneficiarios) se emplean modelos estadísticos que dependen del diseño del programa y del método de focalización que se llevó a cabo en este. Así, según el método de elección de los beneficiarios, los diseños de evaluación de impacto se clasifican como experimentales o no experimentales6.

     

    En los diseños experimentales los individuos son asignados de manera aleatoria al grupo de tratamiento o el grupo de control. Al asignar los individuos beneficiarios del programa con este método se garantiza que estos son comparables en todas sus características observables y no observables.

     

    Los diseños experimentales pueden asignar el tratamiento de diferentes maneras según la situación que se presente en el proyecto a evaluar, manteniendo siempre el criterio de aleatorización. Así, la aleatorización puede ser:
    Aleatorización simple
    Aleatorización simple
    Determinar los criterios a evaluar
    Determinar los criterios a evaluar
    Aleatorización por estratos
    Aleatorización por estratos
    Aleatorización por bloques
    Aleatorización por bloques
    Los efectos de un programa con un diseño experimental pueden ser obtenidos mediante la diferencia en los promedios de los resultados del grupo de tratamiento y el de control, una vez haya transcurrido un tiempo considerable en la implementación del programa.

     

    Los diseños no experimentales son aquellos en los cuales la asignación al tratamiento no se realiza de manera aleatoria y, por tanto, existen múltiples características observables y no observables que se relacionan con la inclusión de los individuos en el programa. Dadas estas disimilitudes, la diferencia de los resultados promedio de los dos grupos no brinda suficiente información del impacto de la intervención. Es necesario entonces emplear métodos estadísticos más robustos tales como:
    Diferencias-en-diferencias (DiD)
    Diferencias-en-diferencias (DiD)
    Emparejamiento
    Emparejamiento
    Variables instrumentales
    Variables instrumentales
    Regresión discontinua
    Regresión discontinua
    Vale la pena resaltar que los dos principales factores para la elección del método no experimental son: el método de asignación al programa y la disponibilidad de la información. Por tanto, no es viable aplicar todos los métodos en cualquier situación.
    Tipos de evaluaciones de impacto según el tiempo
    Las evaluaciones de impacto pueden clasificarse como prospectivas o retrospectivas según la manera en que se midan las variables de resultado. Usualmente, las evaluaciones prospectivas son más robustas, en cuanto estas contemplan la medición de los resultados del programa desde su inicio. Las evaluaciones retrospectivas suelen realizarse cuando se tiene muy poca información sobre la implementación y diseño del programa.
    Una evaluación de impacto es mucho más robusta si se diseña conjuntamente con el programa.
    ¿Cómo decidir si hacer o no evaluación de impacto?
    No todos los programas o proyectos requieren de una evaluación de impacto. Si se lleva a cabo es porque se quiere responder a una pregunta de tipo causa-efecto que ofrezca una información específica sobre el programa o proyecto.

     

    Hay que tener en cuenta que, sino se cuenta con información disponible, se requiere recolectar datos, y esto puede hacer que la evaluación sea muy costosa.

     

    Si se está empezando un nuevo programa, o se piensa en expandir o innovar uno ya existente, basta con responder una serie de preguntas que ayudarán a tomar la decisión de realizar una evaluación de impacto.

    Análisis de costo-efectividad

    El análisis de costo-efectividad es un método que se utiliza para medir la razón entre el costo monetario de un programa o intervención y los resultados que este brinda, los cuales son obtenidos durante la etapa de evaluación de impacto. De esta manera, un análisis costo-efectividad permite cuantificar la efectividad obtenida por cada unidad de costo adicional, a través de un cálculo sencillo que consiste en la agregación de los costos y beneficios totales.

     

    Adicionalmente, es posible comparar diferentes intervenciones a través de sus análisis de costo-efectividad y con base en estos determinar el programa que se presenta como una mejor alternativa en términos financieros.
    Requisitos para hacer un análisis de costo-efectividad
    Realizar un análisis de costo-efectividad requiere realizar consideraciones detalladas sobre los impactos y costos del programa a estudiar.
    Realizar un análisis de costo-efectividad requiere realizar consideraciones detalladas sobre los impactos y costos del programa a estudiar.
    Realizar un análisis de costo-efectividad requiere realizar consideraciones detalladas sobre los impactos y costos del programa a estudiar.

  • Se requieren estimaciones precisas del impacto en todos los resultados de interés junto con la periodicidad de dichos efectos.
  • Se debe realizar una revisión sistemática de la literatura relevante.
  • En cuanto a los costos del programa:
    En cuanto a los costos del programa:
  • En la medida en que contar con información retrospectiva implica mayores costos y márgenes de error, se recomienda hacer un seguimiento constante a los costos de implementación del programa durante su desarrollo.
  • Es fundamental recolectar y contabilizar de manera desagregada, en tanto esto permite evaluar de manera exacta cuáles fueron las compras y contrataciones, así como sus costos asociados.
  • Es importante tener en cuenta todos los factores que regularmente afectan las medidas monetarias.
  • Un análisis detallado del costo del programa debería identificar:
    01.
    Lista de los componentes y materiales necesarios para la implementación del programa
    02.
    Cantidades y costos unitarios de estos materiales
    Un análisis detallado del costo del programa debería identificar:
    Administración del programa
    Administración del programa
    Costos de focalización
    Costos de focalización
    Capacitación del personal
    Capacitación del personal
    Capacitación de beneficiarios
    Capacitación de beneficiarios
    Costos de implementación
    Costos de implementación
    Costos de los beneficiarios
    Costos de los beneficiarios
    Costos evitados
    Costos evitados
    Costos de monitoreo
    Costos de monitoreo
    Método de ingredientes para el análisis de costo-efectividad
    Nuestra perspectiva va en línea con J-PAL, en cuanto consideramos que es recomendable seguir la guía propuesta por Dhaliwal et al. (2012) con el fin de realizar el análisis costo-efectividad. Esta guía facilita la recolección de los costos desagregados del programa usando un método de ingredientes, el cual consiste enlistar los ingredientes del programa, estimar sus costos unitarios y determinar su utilización a través de la implementación de la intervención. De acuerdo con Dhaliwal et al. (2012),  los costos asociados al diseño, evaluación e investigación sobre el programa no deben ser considerados en dicho análisis7.
    Una vez obtenidos todos los costos y efectos del programa, estos se pueden agregar con el fin de construir la razón costo-efectividad de este de la siguiente manera:
    Image link
    1. Gertler,P. J.,Martínez,S., Premand,P., Rawlings,L. B. y Vermeersch,C. (2011). La evaluación de impacto en la práctica. Washington D.C.: World Bank. Obtenido de: https://openknowledge.worldbank.org/entities/publication/f090e5a0-16f6-5795-a3b2-7f711c8b7eb7
    2. PNUD.(2002). Informe sobre desarrollo humano 2002: Profundizar la democracia en un mundo fragmentado. Madrid/Barcelona: Mundi-Prensa Libros. Obtenido de: https://hdr.undp.org/system/files/documents/hdr2002espdf.pdf
    3. Ibídem.
    4. Ibídem.
    5. Ibídem.
    6. Morra-Imas, L.G.y Rist, R.C.(2009). El camino hacia los resultados: diseño y realización de evaluaciones eficaces para el desarrollo. Washington D.C.: WorldBank.
    7. Dhaliwal, I., Duflo, E.,Glennerster, R. y Tulloch, C. (2012). Comparative Cost-Effectiveness Analysis to Inform Policy in Developing Countries: A General Framework with Applications for Education. Abdul Latif Jameel Poverty Action Lab (J-PAL), MIT. Obtenido de: https://www.povertyactionlab.org/sites/default/files/research-resources/CEA%20in%20Education%202013.01.29_0.pdf
    Image link
    Image link