unidad tÉcnica de evaluaciÓn del desempeÑos-finanzas.hidalgo.gob.mx/descargables/uted/programa...
TRANSCRIPT
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
1
Programa Anual de Evaluación 2014
Información publicable en cumplimiento al numeral cuadragésimo de
los Lineamientos Generales del Sistema Estatal de Evaluación del
Desempeño (LGSEED) y vigésimo primero de los Lineamientos
Específicos de Evaluación del Desempeño (LEED)
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
2
Índice
I. Evaluaciones de Consistencia y Resultados ........................................................................... 3
1. Programa de Atención a Desamparados ............................................................................. 3
2. Programa de Atención a Menores en Riesgo ....................................................................... 7
3. Programa Comunidad DIFerente ...................................................................................... 11
4. Fondo FISE........................................................................................................................ 16
5. Fondo FONREGION ........................................................................................................... 19
II. Evaluaciones de Desempeño ............................................................................................... 25
1. Fondo FISE........................................................................................................................ 25
2. Fondo FONREGION ........................................................................................................... 32
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
3
I. Evaluaciones de Consistencia y Resultados
1. Programa de Atención a Desamparados
I. Instancia evaluadora: Grupo Editorial y de Investigación Polaris S.A. de C.V.
Coordinador de la evaluación: Mtro. Julio Franco Corzo
Principal equipo colaborador: Mtro. Juan Carlos Jiménez
Lic. Tania Iturbide Rojas
Lic. Manuel Pardo González
Lic. Gabriela Montes Neri
Lic. Vanesa Martínez Serrano
II. Coordinador responsable de dar seguimiento a la evaluación: Lic. Jorge Valverde Islas,
Director General de la Unidad Técnica de Evaluación del Desempeño en el estado de Hidalgo.
III. Forma de contratación del evaluador externo: Adjudicación directa.
IV. Tipo de evaluación contratada:
a. Nombre: Evaluación de Consistencia y Resultados del Programa de Ayuda en
Especie a Desamparados (PAED)
b. Principales objetivos:
• Analizar la lógica y congruencia en el diseño del programa, su vinculación con la
planeación sectorial, estatal y nacional, la consistencia entre el diseño y la
normatividad aplicable, así como las posibles complementariedades y/o
coincidencias con otros programas estatales o federales.
• Identificar si el programa cuenta con instrumentos de planeación y orientación
hacia resultados.
• Examinar si el programa cuenta con una estrategia de cobertura de mediano y de
largo plazo y los avances presentados en el ejercicio fiscal evaluado.
• Analizar los principales procesos establecidos en las Reglas de Operación del
programa (ROP) o en la normatividad aplicable; así como los sistemas de
información con los que cuenta el programa y sus mecanismos de rendición de
cuentas.
• Identificar si el programa cuenta con instrumentos que le permitan recabar
información para medir el grado de satisfacción de los beneficiarios del programa y
sus resultados.
• Examinar los resultados del programa respecto a la atención del problema para el
que fue creado.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
4
• Analizar la lógica y congruencia en el diseño del programa, su vinculación con la
planeación sectorial, estatal y nacional, la consistencia entre el diseño y la
normatividad aplicable, así como las posibles complementariedades y/o
coincidencias con otros programas estatales o federales.
V. Nota metodológica
No aplica.
La evaluación de Consistencia y Resultados se elaboró tomando como base metodológica el
contenido de los Términos de Referencia para el cumplimiento del Programa Anual de Evaluación
de Hidalgo 2014, los cuales no incluyen diseño muestral, supuestos o características del tamaño y
dispersión de la muestra.
VI. Resumen ejecutivo
Hallazgos
De cada uno de los apartados, se identificaron distintos hallazgos, entre ellos destacan los que se
presentan a continuación:
En torno al diseño se detectó la necesidad de realizar la cuantificación de la población que presenta
la problemática que el programa busca resolver, así como las características que presenta y su
ubicación geográfica dentro del estado. Se detectó que los indicadores establecidos en la MIR del
programa no corresponden en su totalidad a los presentes en las Fichas Técnicas de Indicadores.
Algo fundamental es que no se han realizado evaluaciones externas al programa de ningún tipo,
hasta la fecha; además de no contar con la medición de resultados acerca de su Fin y Propósito.
A pesar de que el programa cuenta con una estrategia de cobertura documentada en el Plan Anual
de Trabajo, en dicha estrategia no se especifica si ésta abarca un horizonte de mediano y/o largo
plazo.
Por último, se elaboró un instrumento en 2013 para medir el grado de satisfacción de la población
atendida por el programa, sin embargo, éste no ha sido validado ni utilizado para dicho fin, lo cual
representa un nulo conocimiento acerca de la opinión de los beneficiarios.
Análisis FODA
Fortalezas y Oportunidades
El presente apartado tiene como objetivo señalar las fortalezas y oportunidades del PAED, que a
continuación se presentan:
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
5
Dentro de las fortalezas en el Diseño, el programa cuenta con un registro de información acerca de
los beneficiarios y del tipo de apoyo otorgado, a través del sistema informático de Registro de
Beneficiarios de Programas Asistenciales (REBEPA). Se cuenta con Planes Anuales de Trabajo, donde
se establecen las metas a alcanzar.
En torno a la Operación es el área donde el equipo evaluador detectó una mayor cantidad de
fortalezas, en primer lugar los procedimientos para recibir, registrar y dar trámite a las solicitudes
así como para la selección de los beneficiarios se establecen de forma adecuada. En segundo lugar,
existe una conveniente definición de los procedimientos para otorgar los apoyos a los beneficiarios
plasmados en el Manual de Operación; además de un oportuno registro del procedimiento para
otorgar apoyos. Y por último, el PAED cuenta con una acertada elaboración de Fichas Técnicas de
indicadores de actividades y del componente del programa, las cuales han sido utilizadas para
observar el avance de resultados del programa.
Debilidades y Amenazas
Dentro de las debilidades y amenazas que se hicieron evidentes durante el análisis, destacan las que
a continuación se mencionan:
El diagnóstico resulta inadecuado al no contemplar la problemática en torno a la población
vulnerable que presenta carencia por acceso a la seguridad social; además no existe justificación
teórica o empírica documentada que sustente el tipo de intervención planteada en el PAED.
Respecto al Diseño no existe cuantificación de la población potencial y objetivo; y los indicadores
contemplados en la MIR 2013 y las fichas técnicas no coinciden.
En la Planeación y Orientación a Resultados se presenta ausencia de registro de información acerca
de las características socioeconómicas de las personas que no son beneficiarias, esto para realizar
una comparación con la población beneficiaria; y por otro lado no existen evaluaciones externas.
En la Operación no hay difusión pública del Manual de Operación del programa, carencia de
documentación de mecanismos para verificar el procedimiento para recibir, registrar y dar trámite
a las solicitudes de apoyo, así como para la selección de beneficiarios y la entrega de apoyos.
No hay mecanismo para dar seguimiento a la ejecución del programa; y no se establecen metas
cuantificables en las Fichas Técnicas de Indicadores relacionadas al Fin y Propósito.
Por último, respecto a la Percepción de la Población Atendida, se presenta falta de sociabilización
con la población beneficiaria, es decir, no se han generado instrumentos para medir el grado de
satisfacción de la población atendida del programa.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
6
Recomendaciones
Como resultado del análisis realizado, donde se identificaron las Fortalezas y Oportunidades así
como las Debilidades y Amenazas, se señalan las siguientes recomendaciones:
Efectuar diagnóstico con la problemática que atiende el PAED.
Elaborar un documento que presente la justificación teórica del programa, incorporando sustento
teórico vinculado a la vulnerabilidad por la falta de acceso a la seguridad social.
Difundir públicamente el Manual de Operación del PAED, para que se conozcan los documentos y
procedimientos para recibir, registrar y dar trámite a las solicitudes de apoyo que tiene el programa.
Analizar la posibilidad de implementar mecanismos de seguimiento tanto a los beneficiarios como
a los apoyos que otorga el programa.
Elaborar metas cuantificables y factibles e incluirlas en las Fichas Técnicas de Indicadores a nivel de
Fin y Propósito, para su utilización en la medición de resultados del programa.
Utilizar algún instrumento elaborado por los operadores, para conocer si se atendió de manera
adecuada la solicitud de los beneficiarios y poder obtener resultados representativos, con el fin de
mejorar la atención y operación del programa.
VII. Costo total de la evaluación externa y fuente de financiamiento.
a. Costo de la Evaluación de Consistencia y Resultados del Programa de Ayuda en
Especie a Desamparados (PAED): $568,400 (IVA incluido)
b. Fuente de financiamiento: Recursos estatales.
VIII. Reglas de operación vigentes del programa.
http://transparencia.hidalgo.gob.mx/descargables/ENTIDADES/SEDIF/reglasoperac/reglas_operaci
on_desamparados.pdf
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
7
2. Programa de Atención a Menores en Riesgo
I. Instancia evaluadora: Grupo Editorial y de Investigación Polaris S.A. de C.V.
Coordinador de la evaluación: Mtro. Julio Franco Corzo
Principal equipo colaborador: Mtro. Juan Carlos Jiménez
Lic. Tania Iturbide Rojas
Lic. Manuel Pardo González
Lic. Gabriela Montes Neri
Lic. Vanesa Martínez Serrano
II. Coordinador responsable de dar seguimiento a la evaluación: Lic. Jorge Valverde Islas.
Director General de la Unidad Técnica de Evaluación del Desempeño en el estado de
Hidalgo.
III. Forma de contratación del evaluador externo: Adjudicación directa.
IV. Tipo de evaluación contratada:
a. Nombre: Evaluación de Consistencia y Resultados del Programa de Prevención y
Atención a Menores y Adolescentes en Riesgo (PAMAR)
b. Principales objetivos:
Analizar la lógica y congruencia en el diseño del programa, su vinculación con la
planeación sectorial, estatal y nacional, la consistencia entre el diseño y la
normatividad aplicable, así como las posibles complementariedades y/o coincidencias
con otros programas estatales o federales.
Identificar si el programa cuenta con instrumentos de planeación y orientación hacia
resultados.
Examinar si el programa cuenta con una estrategia de cobertura de mediano y de largo
plazo y los avances presentados en el ejercicio fiscal evaluado.
Analizar los principales procesos establecidos en las Reglas de Operación del programa
(ROP) o en la normatividad aplicable; así como los sistemas de información con los que
cuenta el programa y sus mecanismos de rendición de cuentas.
Identificar si el programa cuenta con instrumentos que le permitan recabar
información para medir el grado de satisfacción de los beneficiarios del programa y sus
resultados.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
8
Examinar los resultados del programa respecto a la atención del problema para el que
fue creado.
Analizar la lógica y congruencia en el diseño del programa, su vinculación con la
planeación sectorial, estatal y nacional, la consistencia entre el diseño y la
normatividad aplicable, así como las posibles complementariedades y/o coincidencias
con otros programas estatales o federales.
V. Nota metodológica
No aplica.
La evaluación de Consistencia y Resultados se elaboró tomando como base metodológica el
contenido de los Términos de Referencia para el cumplimiento del Programa Anual de
Evaluación de Hidalgo 2014, los cuales no incluyen diseño muestral, supuestos o
características del tamaño y dispersión de la muestra.
VI. Resumen ejecutivo
Hallazgos
La utilización de cifras estadísticas de fuentes de información como el INEGI, se usa para
elaborar y determinar el diagnóstico del problema acerca de los riesgos psicosociales en el
estado de Hidalgo, en niñas, niños y adolescentes.
Se realizan visitas domiciliarias y escolares, como mecanismo de seguimiento a los
beneficiarios, con el fin de evitar el abandono del programa, así como el buen uso de los
recursos.
Existe incongruencia entre los indicadores establecidos en la MIR del programa y las Fichas
Técnicas de Indicadores.
Nula utilización de los indicadores establecidos en la MIR del programa, para medir avances
en el logro de sus resultados.
Ausencia de información acerca de la demanda total de apoyos y de las características de
los solicitantes, debido a que se registra a las personas una vez que se convierten en
beneficiarias del programa.
Hasta el momento de realizar la presente evaluación de Consistencia y Resultados no se han
desarrolladas evaluaciones externas ni internas al PAMAR.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
9
Análisis FODA
Fortalezas y Oportunidades
El Programa de Prevención y Atención a Menores y Adolescentes en Riesgo (PAMAR) opera
en la entidad atendiendo la siguiente problemática: “en el estado de Hidalgo se presentan
altos niveles de vulnerabilidad a los riesgos psicosociales en las niñas, niños y adolescentes
debido a causas estructurales, el contexto social y familiar, así como factores económicos y
demográficos”. Por lo tanto, sí se tiene claramente identificada la situación que atiende.
Además, se identifica como fortaleza que en 2013 se desarrolló un diagnóstico para
cuantificar y delimitar la problemática en la entidad. Se cita que existen 465 mil 255
personas entre 6 y 14 años de edad en el estado de Hidalgo que presentan el problema que
atiende el programa.
Como parte de las fortalezas del programa en su diseño, se identifica que su propósito
contribuye al cumplimiento de los objetivos del programa sectorial. Con lo cual se busca
que toda persona o grupo social en situación de vulnerabilidad reciba apoyos para disminuir
esa desventaja. Además, también se observa alineación del objetivo del programa con el
Plan Estatal de Desarrollo, específicamente en el tema 1.4: “Asistencia Social con Desarrollo
Humano”. Y como el programa promueve en infantes y en jóvenes una vida sana libre de
adicciones, está vinculado de manera indirecta con el segundo objetivo de las Metas del
Milenio, denominado: “lograr la enseñanza primaria universal”.
Que el programa cuente con un plan estratégico en el que se definan la planeación y
procedimientos del programa es una fortaleza para la orientación hacia resultados. Sin
embargo, no contempla el mediano ni el largo plazo, lo cual limita la acción del programa
para ejercicios posteriores. Con respecto a los esquemas y procesos de evaluación, el
programa no contaba con evaluaciones, siendo esta la primera evaluación.
Como fortaleza del programa, se realizan acciones de registro de la población atendida a
través de padrones de beneficiarios, lo cual proporciona información socioeconómica de
cada persona que recibió beneficios del programa.
Se determina como una fortaleza que el PAMAR cuenta con mecanismos para recabar la
percepción y grado de satisfacción de la población objetivo sobre los recursos recibidos del
programa.
Debilidades y Amenazas
Se observa como debilidad que a pesar de tener cuantificada la población objetivo, no se
tiene desarrollada una metodología para identificar a la población objetivo.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
10
Con respecto a la Matriz de Indicadores para Resultados (MIR) del programa, si bien cuenta
con indicadores, sus fichas técnicas no tienen definida la línea base, metas ni el
comportamiento del indicador. Por lo tanto, no es posible definir si las metas son laxas o si
están orientadas a impulsar el desempeño del programa. Lo cual, es una debilidad que limita
la medición de resultados de PAMAR.
Con respecto a la atención de la población potencial y la población objetivo, se cuenta con
evidencia de que el Sistema DIF de Hidalgo establece metas definidas para dar cobertura a
la población objetivo durante un ejercicio. No obstante, esa cobertura no contempla
horizontes de mediano ni de largo plazo, por lo tanto, es una debilidad para guiar las
acciones del programa en ejercicios posteriores.
Otra debilidad es que el programa no cuenta con mecanismos detallados para verificar el
procedimiento para recibir, registrar y dar trámite a las solicitudes de apoyo, en la Guía
Operativa de los Centros de PAMAR. Además, el programa omite la redacción de
mecanismos para verificar el procedimiento de selección de beneficiarios y/o proyectos
Otra debilidad es que ni en los documentos normativos del programa, ni en la Guía
Operativa de los Centros de PAMAR, se definen los mecanismos que se deben tomar en
cuenta para la verificación del procedimiento de entrega de apoyos a beneficiarios.
Por último, el programa no cuenta con evaluaciones de impacto ni cuenta con evidencia de
informes similares que demuestren que las acciones realizadas contribuyen a mejorar la
situación de la población beneficiaria, en comparación con aquellos que no lo recibieron.
Recomendaciones
Se recomienda que se delimiten y documenten criterios claros para seleccionar a la
población objetivo, de esa manera se tendrá mayor claridad para identificar a la población
objetivo y se evitará ambigüedad en el proceso.
También, para mejorar el contenido y la orientación hacia resultados del programa, es
pertinente completar las fichas técnicas de cada indicador, definiendo la línea base, las
metas y el comportamiento del indicador.
Además, se considera pertinente mejorar la planeación del programa, ampliando las
actividades y los recursos para horizontes de mediano y de largo plazo. Esto permitirá
concatenar esfuerzos y mejorar la eficiencia de los ejercicios futuros.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
11
Si bien se realizan actividades para procesar, recibir registrar y dar trámite a las actividades
del programa, estos procedimientos no están definidos en documentos oficiales y por otra
parte, los mecanismos de selección y de trámite son ambiguos.
Se requiere que el Sistema DIF de Hidalgo revise y considere bibliografía e informes de
experiencias similares a las de PAMAR, en las cuales se muestre que las actividades
realizadas generan efectos positivos en la población que fue atendida.
VII. Costo total de la evaluación externa y fuente de financiamiento.
a. Costo de la Evaluación de Consistencia y Resultados del Programa de PAMAR:
$568,400 (IVA incluido)
b. Fuente de financiamiento: Recursos estatales.
VIII. Reglas de operación vigentes del programa.
No disponibles.
3. Programa Comunidad DIFerente
I. Instancia evaluadora: Grupo Editorial y de Investigación Polaris S.A. de C.V.
Coordinador de la evaluación: Mtro. Julio Franco Corzo
Principal equipo colaborador: Mtro. Juan Carlos Jiménez
Lic. Tania Iturbide Rojas
Lic. Manuel Pardo González
Lic. Gabriela Montes Neri
Lic. Vanesa Martínez Serrano
II. Coordinador responsable de dar seguimiento a la evaluación: Lic. Jorge Valverde Islas.
Director General de la Unidad Técnica de Evaluación del Desempeño en el estado de Hidalgo.
III. Forma de contratación del evaluador externo: Adjudicación directa.
IV. Tipo de evaluación contratada:
a. Nombre: Evaluación de Consistencia y Resultados del Programa Comunidad
Diferente
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
12
b. Principales objetivos:
• Analizar la lógica y congruencia en el diseño del programa, su vinculación con la
planeación sectorial, estatal y nacional, la consistencia entre el diseño y la
normatividad aplicable, así como las posibles complementariedades y/o
coincidencias con otros programas estatales o federales.
• Identificar si el programa cuenta con instrumentos de planeación y orientación
hacia resultados.
• Examinar si el programa cuenta con una estrategia de cobertura de mediano y de
largo plazo y los avances presentados en el ejercicio fiscal evaluado.
• Analizar los principales procesos establecidos en las Reglas de Operación del
programa (ROP) o en la normatividad aplicable; así como los sistemas de
información con los que cuenta el programa y sus mecanismos de rendición de
cuentas.
• Identificar si el programa cuenta con instrumentos que le permitan recabar
información para medir el grado de satisfacción de los beneficiarios del programa y
sus resultados.
• Examinar los resultados del programa respecto a la atención del problema para el
que fue creado.
• Analizar la lógica y congruencia en el diseño del programa, su vinculación con la
planeación sectorial, estatal y nacional, la consistencia entre el diseño y la
normatividad aplicable, así como las posibles complementariedades y/o
coincidencias con otros programas estatales o federales.
V. Nota metodológica
No aplica.
La evaluación de Consistencia y Resultados se elaboró tomando como base metodológica el
contenido de los Términos de Referencia para el cumplimiento del Programa Anual de Evaluación
de Hidalgo 2014, los cuales no incluyen diseño muestral, supuestos o características del tamaño y
dispersión de la muestra.
VI. Resumen ejecutivo
Hallazgos
El programa Comunidad Diferente, no identifica dentro de los documentos que maneja, la
cuantificación, ubicación territorial y descripción de las características de la población que presenta
el problema de alta y muy alta marginación donde se implementa el programa.
El programa no cuenta con justificación teórica o empírica que sustente el tipo de intervención que
éste implementa.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
13
El análisis realizado permitió detectar que existe una imprecisión en la definición de población
objetivo, al utilizarse distintos conceptos en la carta descriptiva y en las ROP del programa.
No existe una definición de población potencial y para ambas poblaciones (potencial y objetivo) no
existe una cuantificación, metodología para cuantificarlas, fuentes de información ni plazos para
revisar y actualizar esta información.
Las fichas técnicas de los indicadores de la MIR contienen información relevante, por ejemplo,
nombre, definición, método de cálculo, unidad de medida, frecuencia de medición, línea base y
metas, sin embargo, no contemplan información sobre el comportamiento del indicador.
La información de las metas es confusa, debido a que se plantea en forma de oración y no con
valores absolutos, por lo que resultó imposible determinar si se encuentran orientadas a impulsar
el desempeño y la factibilidad de alcanzarlas.
Con la información contenida en el REBEPA, es posible conocer las características socioeconómicas
de los beneficiarios del programa.
La inexistencia de mecanismos para que el programa identifique a su población objetivo y la
incongruencia en las definiciones de la población objetivo y la ausencia de la definición de población
potencial, así como su cuantificación, impide conocer la cobertura del programa.
El programa no cuenta con mecanismos de transparencia y rendición de cuentas que permitan al
público en general conocer los distintos tipos de apoyo que otorga, así como los principales
resultados que ha tenido o los procesos que lleva a cabo.
Los instrumentos que el programa utiliza tales como una encuesta de satisfacción y la encuesta de
impacto, le permiten medir el grado de satisfacción de los grupos de desarrollo que reciben algún
tipo de capacitación, pero no para aquéllos que reciben apoyos o proyectos.
Existe información de la evaluación de impacto realizada al Proyecto Estratégico para la Seguridad
Alimentaria (PESA) en los estados de Guerrero y Puebla, la cual muestra el impacto de un programa
similar al Programa Comunidad Diferente de Hidalgo y puede ser utilizada para conocer los
resultados que se encontraron.
Análisis FODA
Fortalezas y Oportunidades
Existe una oportuna información sobre el padrón de beneficiarios, incluida en el REBEPA, como
características de los beneficiarios que se contempla en el documento normativo; con el tipo de
apoyo otorgado; sistematizada y con clave única de identificación.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
14
Adecuada correspondencia entre el resumen narrativo de los distintos niveles de la MIR y la
información de las Reglas de Operación del programa.
Existencia de Planes de trabajo anuales, como: Plan de Trabajo Comunitario; Reporte de Evaluación
Programática; Proyecto Anual de Capacitaciones y Plan Anual de Fortalecimiento a Proyectos
Comunitarios 2013, que son resultado de ejercicios de planeación institucionalizados
Oportuna identificación de las fuentes de financiamiento del programa
Elaboración de un manual de procedimientos para conocer cada uno de los procesos que el
programa realiza
Utilización de la información desprendida de las evaluaciones de impacto del Proyecto Estratégico
para la Seguridad Alimentaria (PESA) en el estado de Guerrero y Puebla, para documentar los
resultados del programa a nivel de Fin y de Propósito
Utilización de la información de las evaluaciones de impacto del PESA en Guerrero y Puebla, debido
a que es un programa similar al Programa Comunidad Diferente, para justificar la operación del
programa, dados los resultados positivos que éstos han mostrado.
Debilidades y Amenazas
Inexistencia de información sobre la cantidad de personas que presentan el problema, sus
características y ubicación territorial.
Ausencia de justificación teórica o empírica que sustente el tipo de intervención que el programa
realiza.
Incongruencia en la definición de población objetivo de la carta descriptiva y las ROP del programa.
Inexistencia de la cantidad de personas que representan la población potencial y objetivo; de
metodología para cuantificarlas; fuentes de información y de plazos para revisar y actualizar esta
información.
Planteamiento confuso de la información en las Fichas Técnicas de los indicadores, principalmente
de la línea base y de las metas.
Existencia de distintas definiciones de población objetivo e inexistencia de la definición de población
potencial, no permiten conocer la cobertura de atención del programa.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
15
Nula difusión pública de los procedimientos del programa para registrar, dar trámite a las
solicitudes; seleccionar a los beneficiarios; otorgar los apoyos y ejecutar las acciones.
Recomendaciones
Emplear información publicada por CONAPO, INEGI o del SIIEH para cuantificar el número de
personas que presentan el problema, sus características, las localidades en las que viven y plazos
para revisar y actualizar esta información.
Utilizar de forma homogénea en todos los documentos del programa, la siguiente definición: Grupos
de desarrollo constituidos en las localidades con alto y muy alto grado de marginación que cuentan
con diagnóstico participativo y plan de trabajo y que solicitan apoyos, servicios, proyectos o talleres.
Utilizar la siguiente definición de población potencial: Habitantes de las localidades con alto y muy
alto grado de marginación de los municipios del estado de Hidalgo; la siguiente cuantificación:
886,161 personas que habitan en las localidades de alto y muy alto grado de marginación del estado
de Hidalgo; la siguiente metodología: la suma de las cifras de las personas que habitan en las
localidades de Hidalgo con grado de marginación alto y muy alto; la fuente de información es
CONAPO y el plazo para revisar y actualizar esta información es quinquenal.
Plantear de diferente forma (en números absolutos) la línea base y las metas de los indicadores en
las fichas técnicas, con valores acorde a lo que mide el indicador y que permitan dar un adecuado
seguimiento a los indicadores.
Difundir a través de la página de transparencia del DIF estatal, las Reglas de Operación del programa
y elaborar un manual de procedimientos y difundirlo en la misma página.
VII. Costo total de la evaluación externa y fuente de financiamiento.
a. Costo de la Evaluación de Consistencia y Resultados del Programa Comunidad
Diferente: $568,400 (IVA incluido)
b. Fuente de financiamiento: Recursos estatales.
VIII. Reglas de Operación vigentes del programa:
http://sepladerym.hidalgo.gob.mx/medios/delegacionesfederalesregop/RAMO12SALUD/P
rogramaDesarrolloComunitarioComunidadDIFerente2014.pdf
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
16
4. Fondo FISE
I. Instancia evaluadora: Grupo Editorial y de Investigación Polaris S.A. de C.V.
Coordinador de la evaluación: Mtro. Julio Franco Corzo
Principal equipo colaborador: Mtro. Juan Carlos Jiménez
Lic. Tania Iturbide Rojas
Lic. Manuel Pardo González
Lic. Gabriela Montes Neri
Lic. Vanesa Martínez Serrano
II. Coordinador responsable de dar seguimiento a la evaluación: Lic. Jorge Valverde Islas.
Director General de la Unidad Técnica de Evaluación del Desempeño en el estado de
Hidalgo.
III. Forma de contratación del evaluador externo: Adjudicación directa.
IV. Tipo de evaluación contratada:
a. Nombre: Evaluación de Consistencia y Resultados del Fondo de Infraestructura Social
Estatal (FISE).
b. Principales objetivos:
Analizar la lógica y congruencia en el diseño del programa, su vinculación con la
planeación sectorial, estatal y nacional, la consistencia entre el diseño y la
normatividad aplicable, así como las posibles complementariedades y/o coincidencias
con otros programas estatales o federales.
Identificar si el programa cuenta con instrumentos de planeación y orientación hacia
resultados.
Examinar si el programa cuenta con una estrategia de cobertura de mediano y de largo
plazo y los avances presentados en el ejercicio fiscal evaluado.
Analizar los principales procesos establecidos en las Reglas de Operación del programa
(ROP) o en la normatividad aplicable; así como los sistemas de información con los que
cuenta el programa y sus mecanismos de rendición de cuentas.
Identificar si el programa cuenta con instrumentos que le permitan recabar
información para medir el grado de satisfacción de los beneficiarios del programa y sus
resultados.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
17
Examinar los resultados del programa respecto a la atención del problema para el que
fue creado.
Analizar la lógica y congruencia en el diseño del programa, su vinculación con la
planeación sectorial, estatal y nacional, la consistencia entre el diseño y la
normatividad aplicable, así como las posibles complementariedades y/o coincidencias
con otros programas estatales o federales.
V. Nota metodológica
No aplica.
La evaluación de Consistencia y Resultados se elaboró tomando como base metodológica el
contenido de los Términos de Referencia para el cumplimiento del Programa Anual de
Evaluación de Hidalgo 2014, los cuales no incluyen diseño muestral, supuestos o
características del tamaño y dispersión de la muestra.
VI. Resumen ejecutivo
Hallazgos
En el tema del diseño se encontró que el FISE carece de un documento normativo o con
diagnóstico en el cual se identifique de manera precisa la problemática, se defina y
cuantifique la población potencial y objetivo; además tampoco se tiene la MIR.
En materia de planeación, el FISE cuenta con un plan estratégico diferente para cada uno de
los proyectos donde se establecen los objetivos, las estrategias, las líneas de acción, así
como algunos indicadores para medir los avances, sin embargo, se sugiere elaborar un plan
estratégico general para el FISE que asocie indicadores de la MIR y que además contemple
el mediano y largo plazo. En torno a la cobertura y focalización del fondo, no existe una
definición explícita en ningún documento oficial de la población objetivo lo cual dificulta que
los recursos del fondo se destinen a la población que presenta la problemática que se busca
revertir.
A pesar de que el fondo dispone del Sistema de Finanzas de Administración Pública (SIFAP),
donde se sistematiza la información a través de las solicitudes de proyectos. Sin embargo,
la información sobre los proyectos cancelados o rechazados, es eliminada y no se integra al
SIFAP, generando la pérdida de los datos sobre las obras y acciones propuestas que no son
realizadas.
El FISE no cuenta con Lineamientos o Reglas de Operación (ROP) específicas para la entidad
y se basen en la LCF o en los Lineamientos Generales del FAIS; es decir, en documentos que
son de la federación y que como tales no toman en cuenta las peculiaridades de cada estado.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
18
Análisis FODA
Fortalezas y Oportunidades
En los seis temas contemplados en la evaluación, se detectaron las siguientes fortalezas y
oportunidades.
En torno al Diseño, pesar de que el fondo no cuenta con Lineamientos Generales 2013, para
operar se apoya en la LCF (2013) y en los Lineamientos Generales del FAIS. El fondo cuenta
con procedimientos documentados para la selección de proyectos y para la ejecución de
obras.
Dos de las principales fortalezas del fondo es que en primer lugar, cuenta con un plan de
trabajo anual en el que se establecen las obras que se realizarán y que se están haciendo, el
municipio en el cual se llevan a cabo, el monto de inversión, el periodo de inicio y de
conclusión, los avances físicos y financieros, así como las observaciones pertinentes; la
segunda es el Sistema de Finanzas de Administración Pública (SIFAP), donde se sistematiza
la información proporcionada por los ejecutores a través de las solicitudes de proyectos.
Debilidades y Amenazas
Entre las debilidades del diseño cabe destacar la ausencia de Reglas de Operación o
Lineamientos, de un Diagnóstico específico para el estado de Hidalgo, la falta de una
definición precisa para la población potencial y objetivo, así como dela Matriz de
Indicadores para Resultados (MIR).
La otra área donde se detectaron debilidades significativas es operación, en la cual faltan
mecanismo de verificación para la selección de proyectos y la entrega de apoyos; otra
cuestión es la lentitud con la que se distribuyen los recursos, a pesar de que las instancias
ejecutoras refieren que estos llegan a tiempo; y finalmente el FISE no cuenta con mecanismo
de transparencia y rendición de cuentas.
Otros aspectos detectados en la evaluación es que el fondo no cuenta con Aspectos
Susceptibles de Mejora (ASM), al no existir con una metodología de focalización el FISE no
tiene una estrategia de cobertura; no se han diseñado instrumentos para medir el grado de
satisfacción de la población atendida y el fondo no ha sido objeto de evaluaciones externas
de ningún tipo.
Recomendaciones
Realizar un diagnóstico, en el cual se identifique de manera precisa el problema que busca
ser revertido (causas, efectos y características del problema), así como la definición y
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
19
cuantificación de la población (potencial, objetivo y atendida) que tiene la necesidad y su
plazo para la revisión y actualización.
Debido a que el FISE realiza obras de infraestructura, se recomienda elaborar una definición
más precisa de la población utilizando una unidad territorial, más acorde al diseño de la
intervención, como pueden ser los municipios y/o localidades con altos niveles de rezago
social y pobreza extrema.
A partir de evaluaciones hechas al fondo sería pertinente formular los ASM.
Elaborar la Matriz de Indicadores para Resultados.
Para una optimización de los recursos y un mejor funcionamiento del fondo se recomienda
construir una estrategia de cobertura, en la cual se identifique de forma clara la población
potencial, objetivo y atendida, así como, las metas de cobertura de mediano y largo plazo.
Se sugiere para facilitar el ejercicio de los recursos, implementar diversos controles internos,
tales como calendarización del presupuesto, medición y seguimiento sistemático del avance
financiero (con mecanismos documentados para dar el seguimiento), y vigilancia de los
procesos establecidos.
Se recomienda en un futuro realizar un estudio que contemple obtener la percepción de la
población beneficiaria.
VII. Costo total de la evaluación externa y fuente de financiamiento.
a. Costo de la Evaluación de Consistencia y Resultados del Fondo de Infraestructura
Social Estatal (FISE): $568,400 (IVA incluido)
b. Fuente de financiamiento: Recursos estatales.
VIII. Reglas de Operación vigentes del programa:
http://www.sedesol.gob.mx/work/models/SEDESOL/PDF/Lineamientos_Generales_para_l
a_Operacion_del_FAIS.pdf
5. Fondo FONREGION
I. Instancia evaluadora: Grupo Editorial y de Investigación Polaris S.A. de C.V.
Coordinador de la evaluación: Mtro. Julio Franco Corzo
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
20
Principal equipo colaborador: Mtro. Juan Carlos Jiménez
Lic. Tania Iturbide Rojas
Lic. Manuel Pardo González
Lic. Gabriela Montes Neri
Lic. Vanesa Martínez Serrano
II. Coordinador responsable de dar seguimiento a la evaluación: Lic. Jorge Valverde Islas.
Director General de la Unidad Técnica de Evaluación del Desempeño en el estado de
Hidalgo.
III. Forma de contratación del evaluador externo: Adjudicación directa.
IV. Tipo de evaluación contratada:
a. Nombre: Evaluación de Consistencia y Resultados del Fondo Regional (Fonregión)
b. Principales objetivos:
Analizar la lógica y congruencia en el diseño del programa, su vinculación con la
planeación sectorial, estatal y nacional, la consistencia entre el diseño y la normatividad
aplicable, así como las posibles complementariedades y/o coincidencias con otros
programas estatales o federales.
Identificar si el programa cuenta con instrumentos de planeación y orientación hacia
resultados.
Examinar si el programa cuenta con una estrategia de cobertura de mediano y de largo
plazo y los avances presentados en el ejercicio fiscal evaluado.
Analizar los principales procesos establecidos en las Reglas de Operación del programa
(ROP) o en la normatividad aplicable; así como los sistemas de información con los que
cuenta el programa y sus mecanismos de rendición de cuentas.
Identificar si el programa cuenta con instrumentos que le permitan recabar
información para medir el grado de satisfacción de los beneficiarios del programa y sus
resultados.
Examinar los resultados del programa respecto a la atención del problema para el que
fue creado.
Analizar la lógica y congruencia en el diseño del programa, su vinculación con la
planeación sectorial, estatal y nacional, la consistencia entre el diseño y la normatividad
aplicable, así como las posibles complementariedades y/o coincidencias con otros
programas estatales o federales.
V. Nota metodológica
No aplica.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
21
La evaluación de Consistencia y Resultados se elaboró tomando como base metodológica el
contenido de los Términos de Referencia para el cumplimiento del Programa Anual de Evaluación
de Hidalgo 2014, los cuales no incluyen diseño muestral, supuestos o características del tamaño y
dispersión de la muestra.
VI. Resumen ejecutivo
Hallazgos
Se cuenta con una MIR estatal para planear y dar seguimiento a la ejecución del Fonregión en la
entidad. Sin embargo, sus indicadores no cuentan con la unidad de medida, línea base, método de
cálculo ni comportamiento.
Las actividades que se realizan con los recursos del Fonregión en la entidad contribuyen al
cumplimiento de los indicadores de 4 planes sectoriales principalmente (obras públicas, desarrollo
social, educación y salud) y a su vez, estos contribuyen al cumplimiento del PED.
No se cuenta con un diagnóstico que identifique la magnitud y características del problema que
atiende el fondo en la entidad.
No se tienen definidas la población potencial ni la población objetivo del Fonregión en documentos
oficiales para la entidad.
No se cuenta con ejercicios de planeación institucionalizados ni documentados para ejecutar el
fondo en el mediano y largo plazo en el estado.
No se cuenta con alguna estrategia documentada para dar cobertura a la población objetivo del
fondo.
No se cuenta con procedimientos documentados ni criterios para seleccionar o priorizar los
proyectos que serán ejecutados por el Fonregión en la entidad.
Se publica información de las actividades del Fonregión en la entidad, sin embargo, no se establece
que los recursos provienen del Fonregión. Por lo tanto, los procesos de transparencia son parciales.
No se cuenta con evidencia de que la ejecución del Fonregión en la entidad utilice informes de
experiencias similares a las del Fonregión y que reporten resultados positivos.
No se cuenta con alguna evaluación de impacto del Fonregión desde el orden estatal ni nacional.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
22
Análisis FODA
Fortalezas y Oportunidades
Como parte de las fortalezas, se observa que el propósito y las acciones del fondo en la entidad
contribuyen al cumplimiento de los objetivos del programa sectorial (de salud, de educación, de
Obras y Ordenamiento Territorial, así como al de Desarrollo Social). También se contribuye a los
objetivos de las Metas Nacionales 1 y 3 del Plan Nacional de Desarrollo (PND). Incluso, las acciones
del fondo se vinculan de manera indirecta con las metas del milenio definidas por la Organización
de las Naciones Unidas (ONU).
Por las características bajo las que opera el fondo, no se puede desarrollar un padrón de
beneficiarios en el cual se identifiquen datos socio-económicos de cada una de las personas
beneficiadas. Sin embargo, se confirma que a través de la documentación de cada obra, se estima
una cifra del total de beneficiarios con base en el tamaño de la localidad y a otras variables, lo cual
se toma como una fortaleza del fondo. De esa manera se cuenta con información para calcular el
total de la población que fue atendida en la entidad.
Sobre el uso de evaluaciones, se identifica que el Colegio Mexiquense aplicó una evaluación para el
Fonregión, analizando a las 10 entidades federativas que participaron en el periodo de 2007-2009.
A partir de esa evaluación, se formularon hallazgos y se emitieron recomendaciones para mejorar
la gestión del fondo por cada entidad, las cuales sí fueron contempladas por el ejecutivo estatal. Se
observó que en la entidad no se contaba con algún sistema que permitiera integrar la información
de todos los proyectos ejecutados con recursos de Fonregión. Se identifica que se atendió la
recomendación, ya que se desarrolló un sistema que almacena toda esa información y resultados.
Para el seguimiento de los proyectos, como fortaleza para la ejecución del proyecto se cuenta con
el Sistema de Finanzas de Administración Pública (SIFAP). En este sistema se recopila la información
de todos los proyectos ejecutados en la entidad, entre los cuales se incluyen los de Fonregión. El
sistema permite registrar los avances financieros y las metas de cada proyecto, esa información se
ingresa por la dependencia ejecutora, pero previamente se valida por la Secretaría de Finanzas y
Administración del gobierno del estado de Hidalgo (SFyA) y por la Secretaría de Planeación,
Desarrollo Regional y Metropolitano del gobierno del estado de Hidalgo (SEPLADERyM).
Debilidades y Amenazas
La primera debilidad que se reconoció a partir de la evaluación, es que no se tiene identificada la
problemática que atiende el fondo. Si bien en la página web de la Secretaría de Hacienda y Crédito
Público (SHCP) (apartado Fonregión), se define de manera breve que el fondo hace frente a los
problemas de pobreza y desigualdad extrema en el país, en la entidad no se cuenta con un
documento en el que se precise la situación que se atenderá.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
23
Otra debilidad es que en la entidad tampoco se cuenta con algún diagnóstico que proporcione
evidencia de la magnitud de la problemática que se atiende en la entidad. En consecuencia, no se
cuenta con información concisa para delimitar una estrategia basada en datos específicos.
En relación a la Matriz de Indicadores para Resultados del fondo, ésta cuenta con información para
el Fin, Propósito, Componentes y Actividades. Sin embargo, es una debilidad que en la MIR no se
definen las metas para contrastar los avances logrados. De la misma manera, los indicadores no
cuentan con una ficha técnica que muestre sus características ni especificaciones, por lo tanto, no
es posible determinar si las metas son laxas o si están orientadas a impulsar el desempeño del fondo.
Por parte del análisis de complementariedades y de incidencias con otros fondos o con programas,
por el tipo de acciones que impulsa el Fonregión se identifica complementariedad con 11 programas
de la Administración Pública Federal (APF). Asimismo, dado que ningún otro programa de la APF o
del Gobierno del estado de Hidalgo dirige sus acciones a mejorar los niveles de IDH en la entidad,
no se identificaron duplicidades. Lo anterior subyace como una fortaleza en el diseño del fondo.
Con respecto a la planeación y orientación a resultados del fondo, dado que se establece en los
lineamientos de Fonregión, se debe calendarizar el ejercicio físico y financiero de cada uno de los
proyectos. Es decir, se realizan actividades de planeación anual, pero como esa práctica no se
desarrolla planeación de mediano ni de largo plazo.
En relación a la cobertura del fondo, como hallazgo negativo, no se identifica la redacción ni la
cuantificación de la población potencial o de la población objetivo. Por lo tanto, tampoco se
desarrollaron metas de cobertura anual para el corto, mediano o largo plazo. Cabe mencionar que
por las características de las acciones del fondo y por la variedad de proyectos que se ejecutan, no
se cuentan con mecanismos para identificar la población objetivo de manera individual. Sin
embargo, los esfuerzos pueden encaminarse a ejecutar proyectos en municipios con bajos niveles
de IDH.
Para la operación del fondo, en la entidad existen criterios claros para que los gobiernos municipales
y las dependencias estatales puedan desarrollar y solicitar proyectos. Mas no fue posible identificar
evidencia documental que describa los procedimientos o criterios que se contemplan para priorizar
y seleccionar los proyectos y acciones que se desarrollarán con recursos del fondo. Es una debilidad
en la operación del fondo ya que genera confusión e incertidumbre sobre los proyectos elegidos.
Por parte de la medición de resultados del fondo no se han aplicado evaluaciones de impacto.
Además, se estipula como una debilidad que la dependencia encargada de ejecutar el fondo, no
cuenta con informes o investigaciones de experiencias nacionales o internacionales similares, en las
que se compruebe que las acciones realizadas, mejoraron la situación de la población atendida en
comparación con aquellos que no fueron atendidos.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
24
Recomendaciones
Como parte de lo anterior, se subraya que en la entidad sí se realizan las actividades necesarias para
cumplir con el objeto del fondo, descrito en sus lineamientos. Sin embargo, la mayoría de las
acciones se realizan sin sustento metodológico, sin evidencia documental y sin planeación de
mediano o largo plazo. Por lo tanto, se requiere mejorar dichos aspectos para ejecutar el fondo con
mayor eficacia y eficiencia.
En general, como parte de las recomendaciones de la evaluación, se plantea la necesidad de
desarrollar un diagnóstico de la situación o problema que atiende el fondo, y a partir de ello,
redactar y cuantificar la población potencial y objetivo. Así mismo, se recomienda completar la MIR
del fondo con metas globales y no sólo metas por proyecto, lo cual deberá ser acompañado con la
ficha técnica de cada uno de los indicadores. Se recomienda plantear escenarios de mediano y largo
plazo con base en los históricos de presupuesto y de metas.
También, se considera pertinente que se delimiten y que se publiquen los criterios que se utilizan
para priorizar y seleccionar los proyectos, de esa manera los solicitantes contarán con una guía para
mejorar el contenido de las solicitudes. Por último, se recomienda continuar con la cultura de la
evaluación del fondo, para que en el futuro se puedan aplicar evaluaciones de impacto. Mientras
tanto, es pertinente contar con informes de experiencias similares que han causado efectos
positivos en sus beneficiarios.
VII. Costo total de la evaluación externa y fuente de financiamiento.
a. Costo de la Evaluación de Consistencia y Resultados del Fondo Regional (Fonregión):
$568,400 (IVA incluido)
b. Fuente de financiamiento: Recursos estatales.
VIII. Reglas de Operación vigentes del programa:
http://sepladerym.hidalgo.gob.mx/medios/delegacionesfederalesregop/LineamientosSHC
P/LineamientosOperacionFONREGION.pdf
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
25
II. Evaluaciones de Desempeño
1. Fondo FISE
I. Instancia evaluadora: Grupo Editorial y de Investigación Polaris S.A. de C.V.
Coordinador de la evaluación: Mtro. Julio Franco Corzo
Principal equipo colaborador: Mtro. Juan Carlos Jiménez
Lic. Tania Iturbide Rojas
Lic. Manuel Pardo González
Lic. Gabriela Montes Neri
Lic. Vanesa Martínez Serrano
II. Coordinador responsable de dar seguimiento a la evaluación: Lic. Jorge Valverde Islas.
Director General de la Unidad Técnica de Evaluación del Desempeño en el estado de
Hidalgo.
III. Forma de contratación del evaluador externo: Adjudicación directa.
IV. Tipo de evaluación contratada:
Nombre: Evaluación de Desempeño del Fondo de Infraestructura Social Estatal (FISE)
Principales objetivos:
a. Realizar una evaluación de Desempeño del Fondo de Infraestructura Social Estatal
(FISE) para conocer la forma en que contribuyen al Plan Nacional de Desarrollo, Plan
Estatal de Desarrollo de Hidalgo y programas sectoriales de Hidalgo.
b. Analizar que los recursos del fondo se hayan destinado en obras y acciones de
acuerdo con la ley de Coordinación Fiscal.
c. Verificar el grado de cumplimiento de las metas físicas y financieras establecidas
por el fondo a evaluar.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
26
d. Conocer la percepción de los beneficiarios de los proyectos realizados con recursos
del fondo.
e. Determinar el desempeño del fondo, con base en la siguiente categorización:
Muy alto desempeño 90.1 – 100 por ciento
Alto desempeño 80.1 – 90 por ciento
Medio desempeño 70.1 – 80 por ciento
Bajo desempeño 60.1 – 70 por ciento
Muy bajo desempeño ≤ 60 por ciento
V. Nota metodológica con la descripción de las técnicas y modelos utilizados, acompañada del
diseño muestral, especificando los supuestos empleados y las principales características del
tamaño y dispersión de la muestra utilizada.
a. Diseño del índice de desempeño:
Se conformó el índice por 3 grandes dimensiones: 1) Contribución, 2) Cumplimiento y 3)
Percepción.
La expresión matemática del índice, es la siguiente: Id = ω1 μ1 + ω2μ2 + ω3μ3
Se determinó que el valor del ponderador ω1 es igual a 0.3; el valor del ponderador ω2 es
igual a 0.3 y por último, el valor del ponderador ω3 es igual a 0.4.
Por otra parte, el valor de la dimensión μ1 o “contribución” está dada por el promedio de
los valores que adquieran los indicadores de esta dimensión.
El valor de la dimensión μ2 o “cumplimiento” está dada por el promedio de los valores que
adquieran los indicadores de esta dimensión.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
27
Por último, el valor de la dimensión μ3 o “percepción” está dada por el promedio de los
valores que adquieran los indicadores de esta dimensión
1) En la dimensión de “contribución” se revisa la forma en que los proyectos de FISE
(seleccionados en la muestra 1) se encuentran alineados con los objetivos nacionales,
estatales y los programas sectoriales, además se revisa si los proyectos tienen una
adecuada focalización, de acuerdo a la Ley de Coordinación Fiscal. Esta dimensión se
conformó por los siguientes indicadores:
Porcentaje de proyectos que están alineados al PND
Porcentaje de proyectos que están alineados al PED
Porcentaje de proyectos que están alineados a los programas sectoriales
Porcentaje de proyectos FISE ejecutados entre los 21 municipios (25%) con mayor
porcentaje de población en situación de pobreza extrema
2) En la dimensión de “cumplimiento” se verifican las variaciones presentadas entre lo
proyectado y lo real, para evaluar la gestión operativa del fondo por medio del análisis
de los avances físicos y financieros. Los indicadores que forman parte de esta
dimensión, son:
Porcentaje de proyectos con más del 85% de avance físico.
Porcentaje de cumplimiento físico
Porcentaje de proyectos con más del 85% de avance financiero
Porcentaje de cumplimiento financiero.
3) En la dimensión de “percepción”, se incluye la percepción de los beneficiarios de los
proyectos (seleccionados en la muestra de los proyectos para la aplicación de la
encuesta). Para esta dimensión se consideraron cinco indicadores:
Porcentaje de la población beneficiaria que fue consultada para la realización de las
obras del fondo.
Porcentaje de la población beneficiaria que considera útiles las obras del fondo
Porcentaje de la población beneficiaria que considera mejoría en la calidad de vida de
su comunidad por medio de las obras del fondo.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
28
Porcentaje de la población beneficiaria que considera el funcionamiento a futuro de la
obra.
Porcentaje de la población beneficiaria que considera buena y muy buena la decisión
de realizar la obra
b. Diseño muestral para analizar los proyectos FISE.
1. Se clasificaron los proyectos en las siguientes categorías sociales
Agua potable
Alcantarillado
Amortización de la deuda
Gastos de supervisión de obra
Pavimentación
Vivienda y
Otros
2. Para calcular la muestra estratificada se tomaron las siguientes condiciones:
Ajustada a criterios de probabilidad
Aleatoriedad
Representatividad
Nivel de confianza del 95%
Significancia del 5%
Error máximo aceptado del 7.5%
Tamaño de la muestra: 45 proyectos
c. Diseño muestral para conocer la percepción de los beneficiarios de los proyectos FISE
Se utilizó el muestreo por conglomerados
Se construyeron clusters municipales en función al factor proyectos/población
Intervalo de confianza: 95%
Error muestral: 5.5%
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
29
Tamaño de la muestra: 316 cuestionarios
Distribución en los siguientes municipios: Atlapexco, Huazalingo, Jaltocán, Yahualica,
Tecozautla, Chilcuautla, Lolotla, Nicolás Flores, Tasquillo y Huautla.
VI. Resumen ejecutivo
Hallazgos
Del análisis de la dimensión “contribución”, se encontró que los proyectos de FISE están
alineados en un 100 por ciento al PND y al PED, lo que demuestra una coordinación
regional eficaz desde el gobierno federal y el estatal. Mientras la alineación sectorial es
del 84 por ciento, cifra que también refleja un esfuerzo de la planeación estatal por
ajustar a nivel sector.
Los resultados de la dimensión “percepción” resultaron favorecedores ya que el 81.6
por ciento de los beneficiarios del fondo señalaron que consideraban como buena y muy
buena la decisión de realizar la obra.
Del análisis del efecto de los recursos del FISE sobre la pobreza extrema, permite decir
que los recursos del fondo han tenido una correcta focalización, pero no ocurre lo
mismo si el análisis se efectúa a través del índice de rezago social. Por tanto, uno de los
principales hallazgos es que no se consideró el cumplimiento de ambos criterios en el
establecimiento del destino de los recursos.
De la dimensión “cumplimiento” la cual tiene como sustento el avance físico y
financiero, se detectó que de los 45 proyectos que conformaron la muestra no se contó
con información del avance físico y financiero del 40% de ellos. Así, se detectó una
debilidad en torno a la correcta fluidez de la información correspondiente a los
proyectos que reciben recursos del FISE; esto limita el adecuado análisis del desempeño
del fondo en su conjunto.
De la calificación positiva y alta obtenida en las dimensiones “percepción” y
“contribución”, se puede concluir que dentro de las fortalezas del fondo se encuentra
un buen ejercicio de planeación, bienestar y confianza ciudadana.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
30
Análisis FODA
Fortalezas y Oportunidades
La primera fortaleza, fue identificada en la dimensión contribución la cual comprende
la alineación de los proyectos a la planeación nacional, estatal y sectorial.
Se encontró que los proyectos de FISE están alineados en un 100 por ciento al PND y al
PED, lo que demuestra una coordinación regional eficaz desde el gobierno federal y el
estatal. Mientras la alineación sectorial es del 84 por ciento, cifra que también refleja
un esfuerzo de la planeación estatal por ajustar a nivel sector, sus acciones conforme a
la planeación estructural.
La segunda fortaleza, gira en torno a la dimensión “percepción”, la cual permite analizar
el efecto de las obras desde la perspectiva de la población beneficiaria; arrojó resultados
favorecedores, ya que el 71.4 por ciento de la población encuestada, contestó que
fueron consultados antes de emprender las obras; el 93 por ciento señaló una
importante utilidad de los proyectos para el desarrollo comunitario; el 71.3 por ciento
manifestó que las obras impactaron en la mejora de la calidad de vida y el indicador de
“Porcentaje de la población beneficiaria que considera buena y muy buena la decisión
de realizar la obra”, tiene como resultado un 81.6 por ciento de los beneficiarios que
manifestaron esa respuesta.
Debilidades y Amenazas
Del análisis de focalización de los recursos del FISE en la pobreza extrema, se encontró
que la mayor parte de los recursos se ubicó en el percentil que concentra los municipios
con mayor proporción de la población en situación de pobreza extrema, así 9 de los 21
municipios de este percentil recibieron apoyos. Estos resultados permiten decir que los
recursos del fondo han tenido una correcta focalización, sin embargo a través del
criterio rezago social, esto no se constata de la misma forma ya que sólo 31 por ciento
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
31
de los municipios donde se destinaron recursos del fondo presentó grado alto de rezago
social. Por tanto habrá que considerar que ambos criterios no se cumplieron en el
establecimiento del destino de los recursos.
De la dimensión “cumplimiento” la cual tiene como sustento el avance físico y
financiero, se detectó que de los 45 proyectos que conformaron la muestra no se contó
con información del avance físico y financiero del 40% de ellos, de esta manera el equipo
evaluador realizó el análisis de 60% de los proyectos. Así, se detectó una debilidad en
torno a la escasa fluidez de la información correspondiente a los proyectos que reciben
recursos por parte del FISE.
Recomendaciones
Se sugiere que entre las dependencias responsables de los recursos del fondo ─así como
del personal encargado de reunir, procesar y administrar la información de los distintos
proyectos apoyados por el fondo en cuestión─ exista plena comunicación con el
propósito de mejorar la trazabilidad de dichos proyectos.
Considerando que el objetivo esencial del FISE es contribuir a la disminución de la
pobreza extrema y del rezago social, habrá que tomar en cuenta que el análisis
practicado observó escaso apoyo a proyectos localizados en municipios con alto grado
de rezago social, lo cual debe ser tomado en cuenta para seleccionar futuros proyectos.
VII. Costo total de la evaluación externa y fuente de financiamiento.
Costo de la Evaluación de Desempeño del Fondo de Infraestructura Social Estatal
(FISE): $1, 078, 800 (IVA incluido)
Fuente de financiamiento: Recursos estatales.
IX. Reglas de Operación vigentes del programa:
http://www.sedesol.gob.mx/work/models/SEDESOL/PDF/Lineamientos_Generales_para_l
a_Operacion_del_FAIS.pdf
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
32
2. Fondo FONREGION
I. Instancia evaluadora: Grupo Editorial y de Investigación Polaris S.A. de C.V.
Coordinador de la evaluación: Mtro. Julio Franco Corzo
Principal equipo colaborador: Mtro. Juan Carlos Jiménez
Lic. Tania Iturbide Rojas
Lic. Manuel Pardo González
Lic. Gabriela Montes Neri
Lic. Vanesa Martínez Serrano
II. Coordinador responsable de dar seguimiento a la evaluación: Lic. Jorge Valverde
Islas. Director General de la Unidad Técnica de Evaluación del Desempeño en el estado de
Hidalgo.
III. Forma de contratación del evaluador externo: Adjudicación directa.
IV. Tipo de evaluación contratada:
a. Nombre: Evaluación de Desempeño del Fondo Regional (Fonregión)
b. Principales objetivos:
a. Realizar una evaluación de Desempeño del Fondo Regional (Fonregión) para
conocer la forma en que contribuyen al Plan Nacional de Desarrollo, Plan Estatal de
Desarrollo de Hidalgo y programas sectoriales de Hidalgo.
b. Analizar que los recursos del fondo se hayan destinado en obras y acciones de
acuerdo con los lineamientos del Fonregión.
c. Verificar el grado de cumplimiento de las metas físicas y financieras establecidas
por el fondo a evaluar.
d. Conocer la percepción de los beneficiarios de los proyectos realizados con recursos
del fondo.
e. Determinar el desempeño del fondo, con base en la siguiente categorización:
Muy alto desempeño 90.1 – 100 por ciento
Alto desempeño 80.1 – 90 por ciento
Medio desempeño 70.1 – 80 por ciento
Bajo desempeño 60.1 – 70 por ciento
Muy bajo desempeño ≤ 60 por ciento
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
33
V. Nota metodológica con la descripción de las técnicas y modelos utilizados, acompañada
del diseño muestral, especificando los supuestos empleados y las principales características
del tamaño y dispersión de la muestra utilizada.
a. Diseño del índice de desempeño:
Se conformó el índice por 3 grandes dimensiones: 1) Contribución, 2) Cumplimiento y
3) Percepción.
La expresión matemática del índice, es la siguiente: 𝐼𝑑 = 𝜔1 𝜇1 + 𝜔2𝜇2 + 𝜔3𝜇3
Se determinó que el valor del ponderador 𝜔1 es igual a 0.3; el valor del ponderador 𝜔2
es igual a 0.3 y por último, el valor del ponderador 𝜔3 es igual a 0.4.
Por otra parte, el valor de la dimensión 𝜇1 o “contribución” está dada por el promedio
de los valores que adquieran los indicadores de esta dimensión.
El valor de la dimensión 𝜇2 o “cumplimiento” está dada por el promedio de los valores
que adquieran los indicadores de esta dimensión.
Por último, el valor de la dimensión 𝜇3 o “percepción” está dada por el promedio de los
valores que adquieran los indicadores de esta dimensión
4) En la dimensión de “contribución” se revisa la forma en que los proyectos de
Fonregión (seleccionados en la muestra 1) se encuentran alineados con los
objetivos nacionales, estatales y los programas sectoriales, además se revisa si los
proyectos tienen una adecuada focalización, de acuerdo a los Lineamientos de
Fonregión. Esta dimensión se conformó por los siguientes indicadores:
Porcentaje de proyectos que están alineados al PND
Porcentaje de proyectos que están alineados al PED
Porcentaje de proyectos que están alineados a los programas sectoriales
Porcentaje de proyectos Fonregión ejecutados entre los municipios con bajo y
medio nivel de IDH.
5) En la dimensión de “cumplimiento” se verifican las variaciones presentadas entre lo
proyectado y lo real, para evaluar la gestión operativa del fondo por medio del
análisis de los avances físicos y financieros. Los indicadores que forman parte de
esta dimensión, son:
Porcentaje de proyectos con más del 85% de avance físico.
Porcentaje de cumplimiento físico
Porcentaje de proyectos con más del 85% de avance financiero
Porcentaje de cumplimiento financiero.
6) En la dimensión de “percepción”, se incluye la percepción de los beneficiarios de los
proyectos (seleccionados en la muestra de los proyectos para la aplicación de la
encuesta). Para esta dimensión se consideraron cinco indicadores:
Porcentaje de la población beneficiaria que fue consultada para la realización de las
obras del fondo.
Porcentaje de la población beneficiaria que considera útiles las obras del fondo
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
34
Porcentaje de la población beneficiaria que considera mejoría en la calidad de vida
de su comunidad por medio de las obras del fondo. Porcentaje de la población beneficiaria que considera el funcionamiento a futuro de
la obra.
Porcentaje de la población beneficiaria que considera buena y muy buena la
decisión de realizar la obra
b. Diseño muestral para analizar los proyectos Fonregión.
i. Se clasificaron los proyectos en las siguientes categorías
Obras públicas y ordenamiento territorial
Desarrollo social
Educación
Salud
Rubro no identificado
ii. Para calcular la muestra estratificada se tomaron las siguientes condiciones:
Ajustada a criterios de probabilidad
Aleatoriedad
Representatividad
Nivel de confianza del 95%
Significancia del 5%
Error máximo aceptado del 7.5%
Tamaño de la muestra: 75 proyectos
c. Diseño muestral para conocer la percepción de los beneficiarios de los proyectos
Fonregión.
Se utilizó el muestreo por conglomerados
Se construyeron clusters municipales en función al factor proyectos/población
Intervalo de confianza: 95%
Error muestral: 5.5%
Tamaño de la muestra: 318 cuestionarios
Distribución en los siguientes municipios: Huazalingo, Huautla, Acaxochitlán, Ixmiquilpan,
Pisaflores, Alfajayucan, Pachuca de Soto, Apan. Lolotla, San Bartolo Tutotepec, Tlanchinol.
San Felipe Orizatlán, Epazoyucan, Zempoala, Tula de Allende, Atlapexco y Huejutla de
Reyes.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
35
VI. Resumen ejecutivo
Hallazgos
Todos los proyectos del fondo están alineados con alguna de las cinco metas nacionales del
PND, con alguno de los cinco ejes del PED, así como a los proyectos sectoriales de la
entidad, según corresponda (SEP, SSH, SEDESO y SOPOT).
La mayoría de los proyectos, recursos y beneficiarios del fondo, se concentran en municipios
con niveles de alto o muy alto IDH y con bajo grado de marginación.
Todos los proyectos de la muestra de Fonregión disponen de una ficha técnica y una nota
técnica. Por lo tanto, se confirma que todos los proyectos cuentan con un diseño adecuado
a partir de su información técnica.
Para el caso del avance físico, de los 75 proyectos de la muestra, se excluyen 10 ya que
corresponden a gastos indirectos. De los 65 proyectos por analizar, se recibió
documentación comprobatoria del 57%.
Así mismo, para el avance financiero se obtuvo el 61% de información comprobatoria y del
39% restante no fue posible comprobar el ejercicio de los recursos. Tomando el avance físico
y financiero de los proyectos, por medio de un diagrama de Venn, se calcula que el 49.3%
de los proyectos tuvieron a la par información física y financiera.
El 49 por ciento de las personas encuestadas opinaron que la obra se hizo porque “hacía
falta”; el 38 por ciento por “solicitud de la comunidad” y sólo 11 por ciento opinó que por
“decisión del gobierno
En relación a la utilidad de la obra para la comunidad, el 44 por ciento la consideró “muy útil”;
el 49 por ciento “útil” y sólo el 6 por ciento “poco útil”.
Sobre la percepción de la relación entre los gastos y beneficios, 59 por ciento opinó que “los
gastos no fueron mayores que los beneficios generados” y el 40 por ciento dijo que “los
beneficios sí superaron a los gastos
Con el cuestionamiento de si era mejor que el gobierno gastara en otras necesidades de la
comunidad, 59 por ciento dijo que “sí”, 40 por ciento que “no” y el resto “no supo qué
contestar”.
Por último, aplicando la información obtenida durante la evaluación, se calcula el índice del
desempeño y se obtiene un valor de 73.06. Bajo la metodología propuesta, se cataloga como
desempeño medio.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
36
Análisis FODA
Fortalezas y Oportunidades
Como parte de la medición del desempeño del Fonregión se analizó la contribución y el
grado de alineación de los proyectos del fondo al Plan Nacional de Desarrollo 2013-2018
─PND─, Plan Estatal de Desarrollo 2011-2016 ─PED─ y a los programas sectoriales del
gobierno del estado de Hidalgo.
Se cotejó la focalización de los recursos del fondo y la incidencia de las obras en el indicador
del Índice de Desarrollo Humano ─IDH─ y en el grado de marginación. A partir de ese
análisis, se advierte como una debilidad que la mayoría de los proyectos, recursos y
beneficiarios del fondo, se concentra en municipios con niveles de alto IDH y con bajo grado
de marginación.
Además, como parte de la revisión del desempeño del fondo se indagó si en la ficha técnica
y en la nota técnica de cada proyecto ─de la muestra─, se desarrollaron todos los elementos
estipulados en los Lineamientos del Fonregión para el ejercicio de 2013 y si la información
que se incluye es acorde a lo que se solicitó.
A partir de ese procedimiento, se ratifica que todos los proyectos de la muestra de Fonregión
cuentan con una ficha técnica y con una nota técnica. En esos documentos se describe la
problemática, la demanda del proyecto, los aspectos técnicos y la calendarización del
proyecto; información que previamente fue validada por la Secretaría de Hacienda y Crédito
Público (SHCP). Por lo tanto, es fortaleza que todos los proyectos cuenten con un diseño
adecuado a partir de su información técnica.
Posteriormente, se analizaron los avances físicos y financieros de los proyectos del fondo
─a partir de la muestra de 75 proyectos─. Ese procedimiento se desarrolló revisando la ficha
técnica de cada proyecto y comparándola con las actas de terminación de obra, o con otro
documento oficial que avalara el avance físico y financiero real.
Posteriormente, para conocer la percepción de la población objetivo sobre los proyectos
ejecutados se aplicó una encuesta, de la cual se obtiene lo siguiente: el 49 por ciento de las
personas encuestadas opinaron que la obra se hizo porque “hacía falta”; el 38 por ciento por
“solicitud de la comunidad” y sólo 11 por ciento opinó que por “decisión del gobierno. Esto
se presume como una fortaleza dado que las obras se realizan acorde a las necesidades de
la población.
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
37
En relación a la utilidad de la obra para la comunidad, el 44 por ciento la consideró “muy útil”;
el 49 por ciento “útil” y sólo el 6 por ciento “poco útil”. Bajo ese porcentaje, se identifica como
fortaleza que los recursos públicos destinados a los proyectos contribuyan a mejorar las
necesidades de la comunidad donde se aplicó.
Debilidades y amenazas
Con el avance financiero, de los 75 proyectos de la muestra del fondo, se obtuvo el 61% de
información comprobatoria y del 39% restante no fue posible comprobar el ejercicio de los
recursos. Se vuelve a presentar la debilidad del avance físico, es decir, se considera una
debilidad la ausencia de documentación que permita comprobar avances.
Derivado de los resultados de la encuesta, el 59 por ciento de los beneficiarios opinó que
“los gastos no fueron mayores que los beneficios generados” y el 40 por ciento dijo que “los
beneficios sí superaron a los gastos. Si bien fue mayor el porcentaje de personas que
percibieron mayores ingresos que gastos, se considera una debilidad que no se cuenten con
mecanismos de transparencia en los cuales se explique a los beneficiarios cual fue el monto
de la inversión y de qué manera se contrastan con los beneficios.
Como otras de las preguntas del cuestionario, se cuestionó a los beneficiarios si era mejor
que el gobierno gastara en otras necesidades de la comunidad, 59 por ciento dijo que “sí”,
40 por ciento que “no” y el resto “no supo qué contestar”. Se toma como una debilidad que
más de la mitad de los encuestados exponga que era mejor destinar los recursos del fondo
a otras acciones. Muestra que si bien las acciones pueden resultar útiles, la comunidad
puede tener necesidades aún más urgentes.
Recomendaciones
Como se mencionó en el apartado de hallazgos el 75% de los recursos del fondo se
destinaron a proyectos ejecutados en municipios con muy alto IDH y el 12% en municipios
con alto IDH, por lo tanto, se abre la posibilidad de mejorar la focalización de los recursos
del fondo; destinándolos a municipios con menores niveles de IDH.
En relación a la encuesta de percepción de los beneficiarios, se considera un aspecto
positivo que los beneficiarios contemplen que los proyectos se realizaron porque hacían falta
o por solicitud de la comunidad. Sin embargo, el 60% de los encuestados respondió que
hubiera sido mejor que esos recursos se destinaran a otro tipo de obra. Por ello, a pesar de
que se construyen comités de obra en las localidades, se recomienda que se amplíen las
UNIDAD TÉCNICA DE EVALUACIÓN DEL DESEMPEÑO
38
acciones de vinculación entre el gobierno y la sociedad, con la finalidad de realizar proyectos
que la comunidad considere necesarios para su bienestar.
VII. Costo total de la evaluación externa y fuente de financiamiento.
Costo de la Evaluación de Desempeño del Fondo Regional (Fonregión):
$1, 078, 800 (IVA incluido)
Fuente de financiamiento: Recursos estatales.
IX. Reglas de Operación vigentes del programa:
http://sepladerym.hidalgo.gob.mx/medios/delegacionesfederalesregop/LineamientosSHC
P/LineamientosOperacionFONREGION.pdf