Inicio » 2015 (Página 2)

Archivos anuales: 2015

El papel del evaluador en la evaluación participativa

A lo largo del proceso de evaluación participativa se crean vínculos, una relación estrecha, entre el evaluador y los implicados en el programa objeto de la evaluación. A través de estos vínculos, la experiencia del evaluador puede enriquecer el proceso si se utiliza de forma adecuada. No se trata de imponer esa experiencia sino de compartirla, analizar muy bien cuál debe ser su papel, y entender que la toma de decisiones en los trabajos de evaluación puede variar a lo largo del proceso.

El papel del evaluador ha sido descrito como: facilitador, educador, consultor, consejero (Morabito, 2002); colaborador (Patton, 1997); amigo crítico (Rallis and Rossman, 2000); intérprete y mediador. Cada uno de estos términos añade algo a la implicación del evaluador en el proceso de evaluación. La cuestión es entonces averiguar cuáles son los papeles que el evaluador puede tomar en la evaluación participativa. Éstos pueden resumirse en dos:

  • Evaluador, que hace referencia a su profesionalidad y provee a su trabajo de la credibilidad necesaria. Se trata de un papel en el que lo importante es cumplir los requisitos del que encarga la evaluación y llegar a producir resultados creíbles de evaluación.
  • Facilitador, que hace referencia a la construcción de capacidades (especialmente capacidades de evaluación interna) entre los participantes en la evaluación. Se incluye aquí el papel de educadores, colaboradores, amigos críticos o consejeros a través, principalemente, del proceso de evaluación.
el papel del evaluadorEl papel del evaluador en los diferentes enfoques participativos de evaluación.

En el gráfico podemos ver cómo el papel del evaluador puede ir de ser el director absoluto de la evaluación, a ser un simple facilitador en una evaluación dirigida por los participantes. En el eje de ordenadas vertical está representado en nivel de implicación en la toma de decisiones tanto del evaluador como de los participantes (líneas inclinadas que se cruzan a la mitad); en el eje de abcisas horizontal están representados los diferentes enfoques de evaluación participativa.

En los enfoques participativos en el extremo izquierdo de la gráfica (implicación del evaluador mayor que la de los participantes en la toma de decisiones) las evaluaciones son dirigidas por los evaluadores que solo usan de la participación para extraer información que resulte útil y práctica para la toma de decisiones. En los enfoques participativos en el extremo derecho de la gráfica el punto de vista es más transformador y se tiende a que sean los participantes los que toman las decisiones en las actividades de evaluación, relegando al evaluador a un papel de facilitador del proceso. Muchos evaluadores piensan que nunca debería pasarse de la mitad de la gráfica para la derecha, pues se piensa que los evaluadores han de dirigir siempre la evaluación.

 

Origen y principios de la evaluación participativa

Pueden distinguirse dos desarrollos distintos de la evaluación participativa: la evaluación participativa práctica (practical participatory evaluation) y la evaluación participativa transformadora (trasnformative participatory evaluation) (Cousins & Whitmore, 1998). Ambos enfoques comparten algunas características como es el fomento de la participación en la evaluación y el desarrollo de destrezas a través de la investigación. Al mismo tiempo, las dos tradiciones se han desarrollado en regiones muy distintas y presentan grandes diferencias, un ejemplo de cómo la cultura influencia el desarrollo y práctica de la evaluación. Siguiendo el análisis hecho por Cousins y Whitmore tenemos que:

  • La evaluación participativa práctica surgió en los Estados Unidos, Reino Unido, Canadá, Noruega y Suecia, reflejando la importancia de la investigación en ciencias sociales de estos países. Una evaluación participativa que busca la implicación de las personas que tienen intereses creados en los resultados de evaluación, patrocinadores, gestores y todos los que están implicados en la toma de decisiones.
  • La evaluación participativa transformadora surge en Latinoamérica, India y África reflejando la cultura y las condiciones sociales de estos países. Un enfoque que busca la implicación de todos los afectados, incluyendo a los que menos poder tienen, su fortalecimiento y adquisición de capacidades a través del proceso de evaluación.

Esto no quiere decir que podamos simplificar el mundo de la participación en la evaluación en dos corrientes homogéneas, pues algo que caracteriza a este mundo es que se ha ido enriqueciendo enormemente y actualmente abarca un amplio abanico de metodologías. Se habla de evaluación participativa, colaborativa y empoderadora, términos en ocasiones sujetos a diversas interpretaciones, que varían en función de quién utilice el término y del tipo de participación que se persiga, que puede ir desde una participación meramente de escaparate hasta una participación con peso que transforme las relaciones de poder existentes. En cualquier caso estamos hablando de metologías que involucran en las actividades de evaluación al personal del programa y a los grupos de interés afectados por él.

En un esfuerzo por describir un conjunto de principios integradores de este tipo de enfoques, una especie de filosofía subyacente que constituya su esencia, podemos señalar al menos los siguientes:

  • Principio de participación: Este principio constituye el pilar esencial y se traduce en la participación de los implicados en alguna o en todas las fases del proceso de evaluación. En particular, se suele poner énfasis en la inclusión de los destinatarios últimos de una intervención, tradicionalmente marginados en la evaluación o, en el mejor de los casos, utilizados como meros proveedores de información. Dentro de este principio, conviene señalar los enfoques que defienden que la población y beneficiarios pueden hacer más que proporcionar información. Ellos también pueden decidir, analizar los hallazgos y en general participar en otras fases de la evaluación. En este tipo de enfoques el evaluador se convierte más bien en un facilitador que anima talleres de trabajo, guia el proceso en las coyunturas críticas y consolida el informe final, si es necesario, basado en los hallazgos de la población.
  • Principio de aprendizaje: La participación en la evaluación constituye un proceso de aprendizaje entre todos los participantes, que se traduce en la construcción de capacidades locales (principalmente de evaluación) y el fortalecimiento institucional. Los conocimientos y los recursos locales ya existentes son la base de la que parte este proceso, que crea las condiciones necesarias en los participantes para la transformación de la realidad y la consecución de un desarrollo más participativo.
  • Principio de negociación: La participación en la evaluación pone en marcha un proceso social y político de negociación entre los participantes. Social, puesto que articula la diversidad de percepciones, necesidades y demandas, desarrollando empatía entre los grupos. Político, por el trasfondo de transformación de las relaciones de poder que subyace en el proceso, hacia la búsqueda de un mayor equilibrio en este ámbito.
  • Principio de flexibilidad: En ocasiones se dice que existen tantos modelos participativos como contextos donde se aplican dando lugar a una especificidad en función del contexto donde se desarrolle. No existe una receta metodológica o de procedimiento que pueda ser aplicada con éxito en cualquier circunstancia. Este aspecto resalta la importancia de la selección de métodos culturalmente adaptados a sus contextos locales de aplicación. En definitiva la participación supone un proceso dinámico y flexible, en continua adaptación a las necesidades y circunstancias locales, lo que pone de manifiesto su carácter empírico y eminentemente práctico.

 

Referencias citadas:

Cousins, J. B., & Whitmore, E. (1998). Framing participatory evaluation. En E. Whitmore (Ed.), Understanding and practicing participating evaluation (pp. 5–23). New Directions for Evaluation, No. 80. San Francisco: Jossey-Bass.

La participación en la evaluación

Los enfoques participativos incrementan el pluralismo democrático en la evaluación al permitir la implicación de la población afectada. Se trata de propuestas que proceden en muchos casos de organizaciones y experiencias en la cooperación al desarrollo. Las primeras experiencias de participación en la evaluación datan de los años setenta. Sin embargo, no es hasta la década de los ochenta cuando comienza su sistematización y difusión en el ámbito del desarrollo, a través de la realización de talleres, la presentación de estudios de caso y la publicación de todo tipo de materiales. Desde entonces, especialmente en la segunda mitad de los años 90, ha sufrido un crecimiento vertiginoso en el mundo de la evaluación.

47. Complementación de enfoques metodológicos (mix-methods): En busca de fórmulas adecuadas

En el mundo de la evaluación no existen fórmulas mágicas para dar con los enfoques de evaluación más adecuados a cada circunstancia, pero pueden darse una serie de indicaciones a modo de conclusión que ayuden a la elección de las fórmulas más adecuadas posibles en cada una de las etapas de un sistema completo de seguimiento y evaluación, desde la evaluación previa a la final, pasando por el seguimiento y evaluación intermedia.

complementación de enfoquesComplementación de enfoques en el diseño del seguimiento y la evaluación

En general estas indicaciones inciden en la conveniencia de entender las ventajas y desventajas de cada enfoque y sentirse con la libertad de combinarlos para buscar su complementariedad metodológica, y dar una respuesta flexible y lo más acertada posible a cada una de las circunstancias, más o menos complejas, que en cada caso toque analizar.

 

Etapa de diseño

La evaluación previa se encuentra unida intrínsecamente al proceso de diseño de la programación y es aconsejable plantear su participación en la combinación de enfoques top-down y bottom-up con el que conviene realizar este diseño. Ya vimos como esta combinación podía establecerse a través de la participación social que haría las veces de engranaje entre uno y otro enfoque.

Por otro lado, independientemente de la actividad programadora, este primer ejercicio de evaluación conviene que integre la evaluación por objetivos (los propios de este tipo de evaluación) con la evaluación del proceso de manera que se vaya enriqueciendo la actividad evaluadora con la experiencia que se vaya adquiriendo.

Pueden ser dos, por tanto, los mecanismos que aseguren una buena adaptación de las actividades de evaluación a través del aprendizaje: la combinación top-downbottom-up y la combinación evaluación por objetivos – por procesos. Esta incorporación de la experiencia adquirida se realiza a su vez mediante una combinación de los enfoques cuantitativo y cualitativo que permita integrar todo tipo de información que se obtenga. El objetivo es perfilar los objetivos y los procesos de la evaluación previa de manera que se adecuen en todo momento a los requerimientos de la programación que se está diseñando.

 

Etapa de ejecución

La actividad de seguimiento una vez se inicia la etapa de ejecución del programa, es conveniente plantearse que integre el seguimiento detallado con el seguimiento de procesos. Este enfoque permite que el sistema diseñado para el seguimiento pueda ir enriqueciéndose con la experiencia que vaya surgiendo en el transcurso del programa. La fuente de esta experiencia la tendrá que constituir la integración de otros dos enfoques, el cuantitativo y cualitativo. De este modo, el sistema de seguimiento asegura la incorporación de todo tipo de información que pueda dar pistas para una mejor adecuación del seguimiento.

diseño d eun enfoqueDiseño de un enfoque adecuado para el seguimiento y evaluación del desarrollo

También durante la etapa de ejecución se realiza, si es el caso, la evaluación intermedia con el objetivo fundamental de verificar la correcta aplicación del programa. Este objetivo y los medios para conseguirlo es conveniente que se perfilen mediante la complementación de la evaluación por objetivos con la evaluación de procesos. La incorporación de las enseñanzas que vayan surgiendo facilita una adecuada concepción de esta evaluación a mitad de período.

Como objetivo de la evaluación intermedia se encuentra también hacer una primera estimación de los resultados que se están obteniendo con el programa. Para realizar esta estimación se aconseja acudir a la combinación de enfoques top-down y bottom-up. Toda una serie de aproximaciones sucesivas a la realidad de lo sucedido, la incorporación de las aportaciones de los principales protagonistas y una acertada combinación de los enfoques cuantitativo y cualitativo que permita la incorporación del aprendizaje, pueden facilitar una buena estimación de los resultados conseguidos.

 

Etapa de terminación

Ya en la etapa de terminación del programa se realiza su evaluación final. Se aconseja aquí lo mismo que para la evaluación intermedia aunque más centrado en los resultados e impacto del programa. Se trata de los dos grandes ejercicios especiales de evaluación que de alguna manera han de condensar las enseñanzas que se puedan derivar de la implementación de un programa. Estas enseñanzas son continuas y el enfoque metodológico diseñado trata de que su incorporación sea lo más inmediata posible.

Esto no impide, sin embargo, que la mayor profundidad de análisis y esfuerzo realizado en estos ejercicios de evaluación, saquen a la luz nuevas enseñanzas o descubran la manera de integrar algunas de las ya extraídas. En cualquier caso siempre han de constituir un punto de referencia para la continuación del programa o el inicio de un nuevo ciclo de programación.

Tipos de evaluación

Existen muchos tipos de evaluación. Muchas particularidades del proceso evaluativo vienen dadas por el momento en que la misma se implementa, es decir, en función del ámbito temporal que cubre la misma. Es así que tenemos evaluaciones previas (durante el diseño de la intervención), intermedias (durante la ejecución), finales (en el momento de finalizar la intervención) y posteriores (tiempo después de finalizada la intervención).

Siguiendo la Colección MEANS de la Comisión Europea (1999) otros tipos de evaluación surgen del distinto nivel de responsabilidad implicado con su nivel de análisis (evaluación de una política, un programa o proyecto lo que da lugar a evaluaciones locales, regionales, nacionales…), del contenido de la evaluación (evaluación de conjunto, temática o detallada) o la utilidad de los trabajos de seguimiento y evaluación (la formación, el aprendizaje, la capacitación…)

En los casos de sucesión de periodos de programación se impone la necesidad de crear una vinculación entre las evaluaciones previas, intermedias y finales. Es muy importante tener en cuenta la complementariedad de todos los trabajos de evaluación, de manera que cada evaluación pueda recurrir a las precedentes y contribuir a las que vengan en un futuro evitando la redundancia. De igual forma, los vínculos entre los diferentes niveles de responsabilidad (política, programa, proyecto) se traducen en que las evaluaciones realizadas a un nivel producen conclusiones de interés a otros niveles.

La misma complementariedad encontramos entre las evaluaciones con distinta temática o utilidad que centrándose en determinados aspectos u objetivos de evaluación han de ayudar a la buena marcha global de las intervenciones y el logro de un adecuado proceso de desarrollo.

Evaluaciones según momento de realización

La utilidad de las evaluaciones es necesario relacionarla con el ciclo  de vida del programa. Cada etapa de evaluación tendrá una función y resultados que deben servir de punto de partida y ser incorporados en las posteriores etapas de evaluación. Cada evaluación debe aprovechar los resultados de evaluaciones anteriores, es decir, que la evaluación intermedia debe tener presentes los resultados de la previa, y la evaluación posterior las conclusiones de la evaluación intermedia (que incluyen la previa). Por otro lado, en todos estos ejercicios de evaluación se ha de tener en cuenta la información que del seguimiento esté disponible en cada caso.

Es necesario cubrir mediante las diferentes etapas de evaluación los distintos planos de evaluación: la situación de partida, la ejecución y los resultados del programa.

Evaluación previa (ex-ante o a priori)

Ex ante evaluation (Términos relacionados en inglés: prior appraisal, needs assessment)

Evaluation ex ante (Términos relacionados en francés: Appréciation  ex ante, evaluation a priori, diagnostic)

Evaluación que se realiza antes de la implantación, durante el diseño de la programación, y sirve para preparar lo que se quiere hacer y facilitar su aplicación. Más en concreto, ayuda a definir los objetivos y su adecuación  a las necesidades, así como a garantizar la pertinencia, el fundamento y la coherencia del programa, dejando para una fase posterior del proceso de evaluación el análisis exhaustivo de la eficiencia y la eficacia. Una buena evaluación previa facilita el trabajo del equipo evaluador a la hora de hacer una valoración de lo que se ha hecho una vez comenzada la ejecución o finalizada.

Evaluación continua y autoevaluación

On-going evaluation (Términos relacionados en inglés: rolling evaluation)

Evaluation chemin-faisant (Términos relacionados en francés: evaluation in itinere)

Evaluación que abarca todo el periodo de implantación de una intervención. Esta forma de evaluación es la propia del seguimiento o monitoreo y a menudo se identifica con él. La evaluación continua puede verse como una serie de estudios detallados, que comprenden análisis sucesivos de cuestiones de evaluación que han surgido durante la implantación. Para aclarar el término autoevaluación (self-evaluation, auto-évaluation) conviene primero esclarecer los términos de evaluación interna y externa:

  • Por evaluación interna (internal evaluation, evaluation interne) se entiende la evaluación de una intervención pública por un equipo de evaluación perteneciente a la autoridad administrativa responsable del programa. Es independiente si el equipo de evaluación no tiene una relación jerárquica con los actores que implantan la intervención. De otra manera, sería una autoevaluación.
  • Por evaluación externa (external evaluation, evaluation externe) se entiende la evaluación de una intervención pública por personas no pertenecientes a la administración responsable de su implantación. Por ejemplo, un equipo compuesto por consultores privados, investigadores o personas pertenecientes a organismos públicos no relacionados con aquellos responsables de la intervención.

Una vez definidos estos dos términos, se entiende por autoevaluación a la evaluación de una intervención pública por la organización que participa directamente en su implantación

Evaluación intermedia (mid-term)

Mid-term evaluation

Evaluation à mi-parcours, evaluation intermédiare

Aparte de la autoevaluación por el personal del programa, en muchas ocasiones se puede emprender una evaluación más formal durante la ejecución del mismo. La práctica común es realizar un ejercicio de evaluación en medio de la ejecución, cuando el programa ha superado sus problemas iniciales, ha comenzado el flujo de sus servicios e insumos a la población considerada como objetivo y se pueden observar sus reacciones iniciales.

Una evaluación intermedia se lleva a cabo típicamente dos, tres o cuatro años después de haber comenzado la ejecución. Es la primera mirada amplia al programa desde su comienzo. Lo que distingue a ésta de evaluaciones ulteriores es que las resultados de la evaluación todavía se pueden aplicar al programa evaluado e introducir mejoras en la ejecución, o, en algunos casos, revisar los objetivos o prioridades y las medidas adoptadas. La evaluación intermedia es así un medio para mejorar la calidad y pertinencia de los programas y su implementación y para identificar reorientaciones a la programación que pueden ser necesarias para el logro de los objetivos originales. También permite comprobar la pertinencia de las directrices dadas, los criterios e indicadores establecidos para el seguimiento y evaluación del programa.

La evaluación intermedia puede además proporcionar información valiosa a las autoridades responsables del programa. Al tiempo que cubre las preguntas de evaluación, examinaría en particular los logros iniciales, su pertinencia y coherencia con el documento de programación y en qué medida se han alcanzado los objetivos. También analizaría el uso de los recursos financieros, el seguimiento y la ejecución.

Evaluación final y posterior

Ex-post evaluation

Evaluation ex-post, evaluation a posteriori

Evaluación que recapitula y juzga una intervención una vez  terminada. Su objetivo es justificar el empleo de recursos, el logro de los efectos previstos (efectividad) y de los efectos inesperados (utilidad), y la eficacia de las intervenciones. Pretende entender los  factores de éxito o fracaso, además de la sostenibilidad de los resultados e impactos. También intenta sacar conclusiones que se puedan generalizar para otras intervenciones.

Para que los impactos tengan tiempo de materializarse deben transcurrir dos o tres años después de la implantación de una intervención. Algunos organismos recomiendan incluso el transcurso de diez años lo que está reñido con la urgencia para la obtención de los resultados obtenidos. Esto nos lleva a distinguir entre dos tipos de evaluación una vez finalizada la intervención: la que llamamos evaluación final propiamente dicha, una vez concluida la intervención, y la evaluación posterior, una vez transcurrido el tiempo que se estime necesario para la materialización de los impactos.

La principal diferencia entre la evaluación intermedia y la final y posterior es que la primera estará más enfocada hacia los logros iniciales, mientras que éstas se centrarán más en los impactos.

Evaluaciones según nivel de análisis

En los últimos años se ha favorecido la programación integrada de las intervenciones. Un plan se compone de numerosos programas, y éstos a su vez se componen de numerosos proyectos dentro del marco de unos objetivos específicos dirigidos a la consecución de unos objetivos más globales.

En cada nivel nos encontramos con un conjunto de necesidades distintas aunque complementarias, son distintas las necesidades en materia de información y la orientación que se da a la evaluación en cada uno de estos niveles. A un nivel local seguramente interese obtener, mediante una evaluación interna, un análisis de sus propias actividades con el fin de mejorar sus resultados futuros. También interesará disponer de una información seleccionada y sinóptica para ofrecerla a otros niveles y así rendir cuentas de sus acciones y gastos. Mientras en un nivel ya regional, nacional o continental se preferirá, sin duda, presentar los resultados de los diferentes programas (o regiones, o países dependiendo del nivel) y evaluar la asistencia técnica prestada a cada uno de ellos. Asimismo en este nivel, se querrá conocer las repercusiones de los programas y saber si la política aplicada sirve para que las acciones sean más eficaces que otros métodos y políticas que se puedan aplicar. En cualquier caso, los resultados obtenidos en la evaluación de un determinado nivel de análisis (local, regional…) deben servir de base para la realización de una síntesis a un nivel superior (nacional, continental…).

En definitiva, en la evaluación se ha de elegir un nivel de análisis apropiado. Los resultados de un programa pueden analizarse a un nivel macro (conjunto de la sociedad y de la economía), sectorial, o micro (empresa, familia, explotación agraria, etc.). Las ayudas recibidas pueden haber sido muy importantes para sacar una determinada empresa adelante, pero estas ayudas pueden haber sido totalmente irrelevantes en el desarrollo de un determinado sector en una zona concreta. Asimismo estas ayudas  pueden no haber tenido repercusión alguna en el comportamiento de los indicadores de una comarca, mucho más afectados por el comportamiento del tipo de interés o por los vaivenes de la política laboral. Saber situar la evaluación en el nivel apropiado no siempre es evidente.

En este sentido es importante el concepto de metaevaluación (meta-evaluation, méta-évaluation) referido a la evaluación de otra evaluación o de una serie de evaluaciones. Los criterios de juicio generalmente son fiabilidad, credibilidad y utilidad. El término se aplica a veces a la auditoria de la función evaluadora de una organización (para verificar que las normas relacionadas con la evaluación se han aplicado de manera profesional), y otras veces se emplea el término metaevaluación para referirse a una síntesis basada en una serie de evaluaciones.

 Evaluaciones según contenido

El mundo real es complejo, con múltiples variables en el entorno de los programas, y además puede ser abordado desde muy diversos puntos de vista. En este sentido conviene hablar de evaluación multicriterio, es decir juzgar una intervención desde una perspectiva múltiple y con un enfoque crítico pluridisciplinar. Podemos hablar de al menos cuatro perspectivas o enfoques que deben ser considerados en la evaluación de un proyecto o programa de desarrollo: económico, financiero, social y medioambiental. Según el contenido en el que nos centremos podemos tener distintos tipos de evaluación.

Evaluación global

Overall Evaluation

Evaluation d’ensemble

Es la evaluación de una intervención en su totalidad. La evaluación global se ocupa de todas las acciones financiadas dentro de una intervención.  Engloba la totalidad de las herramientas empleadas, de los territorios aplicables, de los impactos previstos y de los temas relevantes. La evaluación global a menudo constituye el primer paso en la investigación de un terreno a evaluar, antes de una segunda fase de concentración en forma de evaluaciones temáticas o específicas.

Evaluación temática

Thematic evaluation

Evaluation thématique

Evaluación que analiza transversalmente un punto específico (un tema) en el contexto de diferentes intervenciones dentro de un único programa o de diferentes programas implantados en diferentes países o regiones. El tema puede tener relación con el impacto previsto o con un área de intervención.  El concepto de la evaluación temática es muy similar al del estudio específico que veremos a continuación.

Cuando hablamos de evaluación de impacto, hablamos de una evaluación final realizada generalmente varios años después de haber concluido una intervención, que se concentra en el fin y el propósito de la intervención, así como en su “sostenibilidad” y efectos imprevistos. Está íntimamente relacionada con lo que hemos llamado anteriormente una evaluación posterior.

Los objetivos perseguidos en cada intervención son diferentes, por lo que la importancia de las evaluaciones será distinta. Si se evalúa una intervención desde la perspectiva de un agente de la economía, utilizando precios de mercado la evaluación principal será de tipo financiera.

Si nos encontramos con una intervención cuyos objetivos son además de los estrictamente financieros, los de eficiencia o eficacia de la economía de un país en su conjunto – estimando por ejemplo la contribución de la intervención al crecimiento del producto interior bruto (PIB) – se denomina económica.

Si además del objetivo de eficiencia se pretende la distribución funcional y territorial de la renta, la creación del empleo y la satisfacción de necesidades básicas, la evaluación se denomina social. En las intervenciones financiadas con fondos públicas las evaluaciones económica y social son básicas.

La evaluación que se centra en la variable ambiental es la EIA o Evaluación de Impacto Ambiental (Environmental Impact Assessment (EIA), Evaluation d’impact sur l’Environnement (EIE)) y estudia todas las repercusiones de un proyecto individual sobre el entorno natural. Se trata de una evaluación generalizada en todos los países industrializados para proteger la degradación continua del medio ambiente, siendo recomendada por los Organismos internacionales y en especial por la UE, donde desde 1985 la EIA queda dotada de una regulación específica reconociéndola como el instrumento más adecuado para la preservación de los recursos naturales y la defensa del medio ambiente.

La EIA tiene dos pasos: la investigación general, que consiste en un primer análisis para determinar el nivel de evaluación medioambiental necesaria para aprobar la implantación; y el estudio del ámbito, que determina qué impactos deben evaluarse en profundidad. La evaluación de impactos medioambientales examina los efectos previstos e imprevistos, a menudo, los imprevistos son más numerosos.

La EIA es obligatoria en ciertos países en grandes proyectos de infraestructura. Por contraste, la Evaluación Estratégica Medioambiental (EEM) o Evaluación Ambiental Estratégica (EAE) se refiere a la evaluación de programas y de políticas prioritarias.

También está el método de evaluación conocido como análisis del ciclo de la vida (life cycle assessment, LCA) formalizado a principios de los noventa como respuesta a la necesidad de conocer y valorar los efectos medioambientales de los productos, procesos y actividades generados por las intervenciones.

Evaluación específica

In-depth evaluation

Evaluation approfondie

Consiste en concentrar una evaluación o parte de ella en una categoría determinada de productos, en un grupo, o en una categoría de impactos.  Esto permite un análisis más específico, al contrario de la evaluación global, que pretende ser exhaustiva.

La evaluación global de un programa puede acompañarse por el análisis específico de una o más cuestiones.  Así mismo, puede optarse por realizar una evaluación dedicada exclusivamente al análisis específico de una única cuestión. La concentración en una cuestión específica permite emplear técnicas de evaluación más rigurosas y por lo tanto más fiables, sobre todo para observar la conducta de los destinatarios, estudiar un grupo de comparación, o analizar los efectos netos. El análisis específico, al concentrarse básicamente en la observación sobre el terreno de los efectos, tiene relación con la evaluación intermedia y final.

Evaluaciones según utilidad

La utilidad de una evaluación está en función de los protagonistas a los que se dirige y su finalidad. Antes de desarrollarla conviene aclarar algunos términos relacionados con ella:

  • Retroalimentación (Feedback, Rétroaction): El feedback existe cuando la observación de resultados e impactos en el campo se utiliza para ajustar la implementación de una intervención, o para hacer cambios más radicales, incluso cuestionando la existencia de la intervención. La retroalimentación es el propósito principal de la evaluación cuando tiene una orientación de gestión, formativa o de aprendizaje.
  • Aprendizaje organizacional (Organisational learning, Apprentissage organisationnel): Es el hecho de que las lecciones extraídas de la experiencia son aceptadas y retenidas por las instituciones u organizaciones responsables de la intervención. El aprendizaje va más allá del feedback, las lecciones son capitalizadas o pueden ser aplicadas a otras intervenciones.
  • El aprendizaje directo (llamado aprendizaje de bucle simple) existe cuando los usuarios aprenden que la intervención ha sido un éxito o un fracaso. Esto puede llevarles, por ejemplo, a reducir los presupuestos asignados a las intervenciones menos importantes.
  • El aprendizaje indirecto (llamado aprendizaje de bucle doble) existe cuando los usuarios se dan cuenta de que ellos deben cuestionar sus presuposiciones básicas (su teoría de acción). Esto puede causarles, por ejemplo, reorganizar la implementación de las intervenciones menos exitosas.
  • Contabilidad (Accountability, Rendre des comptes): Es la obligación de los actores participantes en la introducción o implementación de un programa de desarrollo, de proporcionar a las autoridades y al público general la información y explicación de los resultados esperados y actuales de una intervención, respecto al uso notorio de recursos públicos.

Desde una perspectiva democrática, la contabilidad es una dimensión importante de la evaluación. Las organizaciones y autoridades públicas están aumentando de manera progresiva sus peticiones de transparencia cara a cara a sus contribuyentes.  Con este espíritu, la evaluación debe ayudar a explicar simplemente dónde se gasta el dinero, que efectos produce y cómo se justifica el gasto.

Evaluación formativa

Formative evaluation

Evaluation endoformative

Es la evaluación que está dirigida a gerentes y protagonistas directos, para ayudarles a mejorar sus acciones (retroalimentación o feedback). La evaluación formativa se aplica principalmente durante la implementación (evaluación continua o intermedia). Se centra principalmente en los procedimientos de implementación y su efectividad y relevancia. La distinción entre evaluación formativa y de resumen ha sido definida de manera ingeniosa: Cuando el cocinero prueba la sopa, es formativa; cuando los invitados prueban la sopa, es de resumen

Evaluación de resumen

Summative evaluation

Evaluation récapitulative

Se llama a así a la evaluación realizada por actores que no están implicados directamente en la gestión de la intervención pública (instituciones políticas o profesionales, fundaciones, la prensa, etc.) para producir una valoración global y distante de una determinada intervención.

Se dice que la evaluación es de resumen o recapituladora cuando se dirige a la contabilidad de las acciones, y cuando sirve tanto para juzgar la intervención pública como para ayudar a las autoridades responsables a decidir sobre su lanzamiento, mantenimiento, aplazamiento, supresión y reproducción. En tales instancias, los usuarios son cuerpos financiadores externos y posiblemente otros actores sociales que puedan decidir para sus propios propósitos sobre la conveniencia de adoptar mejores prácticas identificadas durante la evaluación del programa

Evaluación participativa

Stakeholder evaluation, partnership evaluation, pluralistic evaluation

Evaluation participative, evaluation partenariale, evaluation pluraliste

El enfoque pluralista diseñado como un proceso de solución de problemas colectivo implicando a todas las partes a las que concierne. Sobre las bases de la información creíble aceptadas por todos, los juicios de valor son formulados mediante acuerdos de búsqueda dentro del ámbito de la autoridad de evaluación consistente en oficiales administrativos y políticos, así como en interlocutores para los grupos a los que concierne.

Evaluación como aprendizaje social

Evaluation as social learning

Évaluation comme apprentissage social

La evaluación concebida como un aprendizaje de todos los protagonistas implicados en su realización. No se trata tan sólo de un enfoque pluralista entre todas las partes implicadas, supone una predisposición de todos los participantes por aprender: los expertos de la población, y la población de los expertos, en un intercambio de conocimientos y experiencias que termina enriqueciendo los ejercicios de seguimiento y evaluación.

Es un tipo de evaluación que implica las tres anteriores, la evaluación formativa, la de resumen y la participativa. Implica abrir un proceso de participación cuyo objetivo es el aprendizaje de todos. Siguiendo con el símil anterior, el cocinero prueba la sopa, los invitados también y tratan de llegar a un consenso sobre los mejores modos de hacer.

Evaluación democrática

Democratic evaluation

Évaluation démocratique

Un enfoque evaluativo dirigido a mejorar la calidad y transparencia del debate democrático,  tanto a través  de la promoción de un conocimiento y entendimiento de la lógica y efectos de la intervención como a través de un juicio de su justificación y efectividad.

La evaluación se define como un “juicio sobre los valores de la intervención” por personalidades elegidas de manera democrática. Los profesionales de la evaluación están al servicio de esta autoridad y tienen un papel técnico exclusivo. El proceso es público. Este tipo de evaluación se aplica en el caso de una intervención experimental que, a la vista de los resultados obtenidos tras los primeros años, debe ser confirmada mediante votación.

Evaluación de gestión

Managerial evaluation

Evaluation managériale

Un enfoque evaluador integrado en la gestión de las intervenciones públicas, y dirigida hacia cambios recomendatorios relacionados tanto con la toma de decisiones (feedback) como con el comportamiento de los actores responsables de la implementación de la intervención.

La aproximación general de la evaluación de gestión es similar a la de la nueva gestión pública, y está dirigida a coordinar el problema del estancamiento de la renta pública. La cuestión subyacente puede formularse de la siguiente manera: ¿cómo puede justificarse la compensación entre las diferentes políticas sectoriales? El enfoque dominante aquí que sucede dentro del ámbito de la administración, es el de la “optimización” de los recursos presupuestarios.

La calidad de la evaluación de gestión se basa en dos principios: la independencia del evaluador y la objetividad del método. La objetividad debe garantizarse por la calidad del sistema de indicadores utilizado, la fiabilidad de la información y la neutralidad en la interpretación de los resultados.

Referencias citadas:

Comisión Europea (1999). MEANS collection: evaluating socio-economic programmes. Directorate-General for Regional Policy, & Cohesion. Office for Official Publications of the European Communities.

46. Complementación de enfoques: El enfoque top-down frente al enfoque bottom-up en la evaluación

Tradicionalmente han existido dos enfoques de aproximación al desarrollo, a su planificación, seguimiento y evaluación: los enfoques descendente (top-down) y ascendente (bottom-up). Estos enfoques parten de la necesidad mutua que existe entre los planes y los proyectos. Planes a gran escala que ordenen y orienten los proyectos y unidades de inversión, y proyectos a pequeña escala que concreten los planes y grandes líneas de actuación. La diferencia entre ambos enfoques se relaciona con el dilema que con frecuencia se ha planteado sobre la primacía cronológica de unos u otros. Analicemos el papel que ambos enfoques han tenido dentro de campo de la evaluación.

En el enfoque descendente, característico de las grandes organizaciones internacionales, lo principal ha sido siempre el problema. Los modelos de evaluación creados bajo este enfoque se estructuran sobre la base de cuestiones básicas que se buscan resolver, estableciendo las propiedades de los programas y desarrollando en detalle las especificaciones, es decir, mirar la aplicación desde arriba, en forma general para luego ir a los niveles de detalle. Se trata de modelos centrados en las repercusiones globales de las intervenciones, en las interacciones de los diversos programas o medidas implementados y en los efectos directos a corto plazo.

Esta visión, predominante en la planificación hasta la segunda mitad de los años 70, ha tendido a identificar desarrollo con crecimiento económico. Esto hace que a la hora de evaluar prime la idea de eficacia frente a la de equidad, lo que unido a la ausencia de consideración del componente social y territorial resulten unos modelos de evaluación que no tienen en cuenta el incremento y consolidación de los desequilibrios.

El enfoque ascendente ha sido más característico de organizaciones no gubernamentales (ONG), que cooperan con entidades locales como universidades, empresas, hospitales, etc., con objeto de poner en marcha proyectos y programas en campos que afecten directamente a beneficiarios locales. Este enfoque se centra primero en los detalles de la aplicación para llegar luego al sistema global.

Se trata de un enfoque que surge en los trabajos de planificación de los años 80, bajo un punto de vista más integrado y una visión más amplia del desarrollo. El enfoque plantea un desarrollo desde abajo que en absoluto se cierra ante las políticas a otros niveles sino que complementa las actuaciones en el ámbito regional o nacional con la revalorización de lo local y que no sólo permite sino que exige una participación activa de las instituciones, agentes y valores socioculturales locales. Dentro de este modelo la identidad propia de lo local es el pilar fundamental y la participación es condición imprescindible.

Los modelos de evaluación surgidos de este enfoque tienen una clara vocación participativa donde los beneficiarios del desarrollo tienen un papel activo muy importante. El enfoque ascendente, al partir de una muestra de proyectos y medidas, puede traducir mejor los efectos a largo plazo que el enfoque descendente, efectos que resultan más estructuradores e indirectos. Por el contrario, el enfoque ascendente no permite agregar los efectos a escala de medidas y de programa, por lo que las consideraciones cualitativas sobre la eficacia de las medidas y el nivel de adicionalidad de las intervenciones han de corresponder al enfoque descendente.

En cuestiones de impacto, una combinación de los enfoques acendente y descendente puede aportar un valor añadido al análisis, en particular si se apoya en técnicas de modelización o de formalización. Pero falta todavía un lazo de unión importante entre ambos enfoques en la mayoría de los casos. Este puente lo puede constituir un modelo de evaluación que se inserte en la tradición del aprendizaje social (Friedmann, 2001) cuya creencia esencial es que la práctica y el aprendizaje están concebidos como procesos correlativos, de forma que un proceso implica otro.

Este modelo de evaluación de los resultados, al igual que en la planificación como aprendizaje social, tendría una doble dirección ya que, partiendo de las aportaciones de los agentes beneficiarios a nivel proyecto elabora criterios y resultados para la evaluación, y, de otro lado, refleja sus propios criterios y resultados conforme a la evaluación del programa que tiene en el horizonte.

La evaluación de un programa no es ni la suma ni la síntesis de las evaluaciones de sus proyectos. Algunas cuestiones de evaluación no tienen sentido al nivel de un proyecto individual pero sí resultan interesantes en la evaluación global del programa. Lo que es importante es que los resultados obtenidos en la evaluación de un determinado nivel de análisis sirvan de base para la realización de una síntesis a un nivel superior.

La evaluación de un proyecto debe ser realizada en relación con los objetivos del programa. Inversamente, en la evaluación global del programa, a menudo se ha de ir de los proyectos al programa en un proceso ascendente. En muchos casos el análisis inicial se puede centrar en los proyectos y medidas específicas para extenderse luego en el programa completo y poder estudiar la causalidad de los impactos. En este sentido la evaluación de los proyectos contribuye a la evaluación del programa.

La ventaja encontrada en esta articulación de proyecto a programa es la posibilidad de obtener una detallada explicación de la secuencia de impactos a corto y medio plazo. Los límites de este enfoque ascendente están en el hecho de que obliga al equipo evaluador a hacer un conjunto cada vez mayor de suposiciones a medida que los efectos a evaluar van siendo más distantes y complejos, los llamados efectos globales. La articulación con el enfoque descendente ayuda a estimar esta repercusión global de los impactos producidos por las intervenciones. Se trata de un ejercicio de contraste entre la información obtenida directamente en el enfoque descendente con la deducida a través de las suposiciones del enfoque ascendente.

el aprendizaje socialEl aprendizaje social como puente para una auténtica combinación de los enfoques descendente (top-down) y ascendente (bottom-up) en las evaluaciones.

El dilema sobre el uso de un enfoque u otro puede resolverse en la práctica conjugando los dos enfoques opuestos de tal forma que, por aproximaciones sucesivas, nos conduzca a la elaboración de una evaluación que englobe la información detallada obtenida directamente de los proyectos específicos, cuyos resultados finales coinciden con los resultados generales del plan. El análisis de proyectos específicos representa aquí el último acto de la evaluación global desde arriba y el primero de la evaluación desde abajo. En definitiva, ambos enfoques son necesarios y es importante que ambos enfoques puedan complementarse para aumentar las posibilidades de los trabajos de evaluación.

 

Referencias citadas:

Friedmann, J. (2001). Planificación en el ámbito público. Ministerio de las Administraciones públicas. Madrid (Original de 1991).

Complementación de enfoques: seguimiento detallado frente al seguimiento de procesos

Cuando se diseña un programa es necesario dictar disposiciones para la construcción, mantenimiento y uso de un sistema de información, uno de los elementos fundamentales de todo buen sistema de seguimiento. Entre los medios más comunes para diseñar un sistema de información están los enfoques detallado y de procesos.

Para el enfoque detallado, el equipo de planificación y evaluación previa formula planes minuciosos de trabajo antes de la ejecución del programa. En esos planes se especifican los objetivos del sistema, los datos que se precisan, los estudios que han de emprenderse y las necesidades de personal y presupuestarias.

Este enfoque no da al personal de seguimiento la flexibilidad suficiente para responder a necesidades inesperadas de información, que pueden presentarse durante la ejecución. Estos imprevistos surgen con frecuencia debido a que no se pueden prever todas las eventualidades. Los expertos preparan el plan detallado partiendo del supuesto de que todo lo relacionado con el programa, incluidos los riesgos y las dificultades, se llevará adelante como se había previsto. Y no siempre ocurre así. Además, este enfoque ofrece al personal del proyecto poca o ninguna aportación directa en la formulación del sistema de información y seguimiento. Los gestores no se identifican con esos sistemas, pues a menudo no responden a sus necesidades de gestión diarias, y los consideran como distintos de sus preocupaciones de gestión. Muy a menudo da lugar a un uso deficiente de esos sistemas.

El enfoque de procesos, por el contrario, asume un punto de vista evolutivo de las necesidades de información, de herramientas para su obtención y del sistema de autoevaluación. No se especifican planes y programas de trabajo: simplemente se esbozan. Las actividades específicas son determinadas a medida que van siendo necesarias. El enfoque de procesos hace que el sistema de seguimiento sea un instrumento eficaz para los gestores. Les permite utilizar sus recursos para recopilar y analizar datos sobre los temas y problemas que ellos consideran importantes para la ejecución y gestión diaria del programa.

 

complementación del enfoque2Complementación del enfoque detallado con el enfoque por procesos del sistema de seguimiento

La experiencia indica que el éxito del enfoque de procesos depende en gran medida de la iniciativa y la capacidad del personal de seguimiento. Este es el principal problema que se plantea con ese enfoque, ya que los programas de desarrollo se ubican en zonas que se enfrentan a la escasez de personal cualificado y con experiencia. Es difícil contratar profesionales locales con las aptitudes e iniciativa necesarias, y es complicado conservarlos en una función de seguimiento.

En estos casos, el enfoque detallado puede resultar más práctico, pero es importante estar abierto a la flexibilidad que da el enfoque de procesos y combinar ambos enfoques cuando se vea posible. De esta forma, en la etapa de evaluación previa puede detallarse un diseño amplio para el sistema, y durante la ejecución actuar con un grado considerable de flexibilidad que permita reaccionar ante nuevos problemas y oportunidades. Se puede dar cabida así a las necesidades de seguimiento a medida que se vaya desarrollando el programa.

 

Complementación de enfoques: La evaluación de objetivos frente a la evaluación de procesos

En la planificación y ejecución de políticas, programas o proyectos es común distinguir entre la gestión por objetivos y la gestión del proceso. En el primer concepto se hace hincapié en que la planificación se dirige hacia un objetivo predeterminado; en el segundo el acento se pone en ajustar el rumbo del programa según la experiencia adquirida en su transcurso. De igual forma, en el trabajo de evaluación podemos distinguir entre el enfoque por objetivos y el enfoque por procesos:

  • Evaluación de objetivos: Análisis de los efectos de una intervención considerados en relación con los objetivos establecidos en la misma; es decir, en qué medida los impactos son causados por la intervención o se deben a factores externos.
  • Evaluación de procesos: Análisis de una intervención y de cómo ésta funciona en un contexto social, a fin de comprender los procesos generados y sus consecuencias en el sentido más amplio.

Con el enfoque por objetivos el principio fundamental es formular hipótesis sobre la base de una teoría establecida, imaginando sus consecuencias, por ejemplo, en forma de objetivos; aquéllas son después contrastadas con la realidad observable en el momento de realizarse la evaluación. Una ventaja encontrada en este enfoque es que, en gran medida, toma como punto de partida la experiencia existente, lo que facilita la selección de datos y las posibilidades de interpretación.

La principal crítica a este enfoque es que puede fácilmente conducir a una situación en que tanto los temas como las áreas problema están tan estrictamente delimitadas que podrían pasarse por alto aspectos importantes. En ocasiones, los programas cuentan con objetivos poco claros o formulados inadecuadamente; además, las intervenciones normalmente dan lugar a impactos no previstos –tanto positivos como negativos– que pueden dejarse de lado si la evaluación se centra únicamente en lo que se ha identificado previamente como el objetivo de la intervención.

Por contraste el enfoque por procesos no se establece sobre un conjunto de teorías o hipótesis acerca del desarrollo. El investigador comienza con una actitud abierta e interrogante. A través de la observación y la investigación, surgen temas que sucesivamente demandan nuevos conocimientos, conduciendo de manera gradual a nuevas revelaciones. Este enfoque consume tiempo y demanda mucho esfuerzo. Una de las objeciones principales es que, a fin de evitar desviaciones subjetivas, es a menudo necesario conceder un énfasis especial a la selección de datos, perspectivas y métodos y explicar estos aspectos en detalle.

En la práctica los enfoques de evaluación por objetivos y por procesos pueden complementarse (NORAD-UD, 1997). En la planificación y ejecución esto puede hacerse analizando de nuevo y, si es necesario, redefiniendo la formulación de la intervención sobre la marcha, a medida que se adquiere nueva experiencia. Esto permite asegurar el grado de flexibilidad necesario en la gestión y dirección de programas. En ese caso, los estudios de proceso pueden ser de considerable valor.

En el trabajo de evaluación, esto se puede conseguir ampliando la perspectiva más allá del marco que fue inicialmente planificado –productividad y eficacia– para incorporar varios aspectos imprevistos o difícilmente predecibles como los impactos, pertinencia y viabilidad. En el fondo se trata de estar abiertos a las necesidades de evaluación que se puedan presentar y abordarlas de la forma que mejor se considere dentro del marco previsto de objetivos, tiempos y recursos inicialmente programados para la evaluación.

 

complementación del enfoqueComplementación del enfoque por objetivos con el enfoque por procesos para la mejor adecuación a las necesidades de evaluación de los programas

Referencias citadas:

NORAD-UD (1997). Evaluación de proyectos de ayuda al desarrollo. Manual para evaluadores y gestores. Agencia Noruega de Desarrollo-Unidad de Evaluación del Ministerio Noruego de Asuntos Exteriores. Instituto Universitario de Desarrollo y Cooperación (IUDC) – Universidad Complutense de Madrid – Fundación Centro Español de Estudios de América Latina (CEDEAL). Madrid.

Complementación de enfoques: Cuanti y Cuali

En la actualidad, es muy frecuente encontrarse con evaluaciones que combinan aspectos procedentes de varios enfoques y modelos, lo cual permite satisfacer necesidades de información de muy distinto signo y enriquecer los resultados obtenidos. Las fronteras entre los diferentes modelos son cada vez más difusas y es importante encontrar para cada ocasión un equilibrio entre las exigencias de rigor —fundamentalmente de tipo técnico (obtención de información fiable para la toma de decisiones) y financiero (control de fondos)— y las demandas de participación de la población local. Por otro lado, debido a la multiplicidad de los tipos de programas, disponibilidad de datos, restricciones de tiempo y circunstancias de las distintas regiones y países, cada evaluación es diferente y requiere cierta combinación de enfoques y prácticas adecuadas.

En esta línea, cada vez hay más aceptación sobre la necesidad de complementar los métodos cuantitativos y cualitativos. Existen significativas ventajas y desventajas en la selección de unos u otros. Los métodos cualitativos permiten estudiar cabalmente los temas, casos o hechos seleccionados y pueden proporcionar información decisiva sobre las perspectivas de los beneficiarios, la dinámica de una determinada reforma o los motivos de ciertos resultados observados en un análisis cuantitativo.

Al combinar los dos enfoques, los métodos cualitativos están capacitados para dar forma a las cuestiones principales de la evaluación, diseñar los cuestionarios empleados, estratificar la muestra cuantitativa y analizar el marco social, económico y político dentro del cual se llevaba a cabo un programa. A su vez, los métodos cuantitativos pueden apoyar con sus resultados las conclusiones de los métodos cualitativos.

integracón de los enfoquesIntegración de los enfoques cuantitativo y cualitativo para la mejor satisfacción de las necesidades de seguimiento y evaluación de los programas de desarrollo

Las ventajas de este enfoque integrado son claras:

  • Se pueden incorporar controles de coherencia con la ayuda de procedimientos de triangulación que permiten realizar dos o más estimaciones independientes de las variables clave.
  • Se pueden obtener diferentes perspectivas.
  • Los análisis se pueden conducir en diferentes niveles. Logrando buenas estimaciones del bienestar individual, familiar y a nivel de la comunidad, así como un buen análisis de los procesos sociales.

Se pueden proporcionar oportunidades de retroalimentación para interpretar los resultados. Los métodos cualitativos permiten un seguimiento rápido en terreno para verificar aparentes incoherencias. En la mayoría de las investigaciones cuantitativas, una vez que finaliza la fase de recolección de datos no es posible regresar al terreno para verificar esos aspectos. La mayor flexibilidad de la investigación cualitativa significa que a menudo es posible regresar al terreno para reunir datos adicionales. Los investigadores de encuestas también utilizan métodos cualitativos para verificar los valores atípicos: respuestas que se desvían de los patrones generales.

Enfoque de evaluación realista

the real world evaluation

Referencias citadas:

Bamberger, M., Rugh, J. & Mabry, L. (2012). Real World Evaluation: Working under Budget, Time, Data, and Political Constraints (2nd ed.). Thousand Oaks, CA: Sage Publications.