informe técnico modelo

Upload: mario-naranjo-landerer

Post on 07-Jul-2018

214 views

Category:

Documents


0 download

TRANSCRIPT

  • 8/18/2019 Informe Técnico Modelo

    1/8

    Informe especializado para el Ministeriode Economía y Finanzas

    I. MARCO GENERAL

    La evaluación nacional al egreso utilizó un modelo complejo. El análisis a

    realizar se basa en los indicadores generados de las escalas de evaluación

    implementada. Como se mencionó estas escalas son construidas a partir de

    lo que se denomina “modelo de evaluación de formas rotadas con bloques

    incompletos”. Esto quiere decir que no todos los bloques que se utilizan

    para la evaluación ocupan las diferentes posiciones dentro de loscuadernillos de evaluación, a que en el análisis del piloto se determinó la

    longitud de la prueba. !or lo tanto se puede recurrir a un modelo de

    bloques incompletos sin esperar efectos en la evaluación.

    Los análisis reportes presentados son realizados con auda del soft"are

    estad#stico especializado para la $edición de %asc& 'insteps(. Este

    soft"are se utilizó en conjunto con el soft"are estad#stico %) para todos los

    análisis resultados presentados como producto de la consultor#a.

    $ás adelante se presenta un conjunto de tablas, con información sobre losevaluados los #tems para cada una de las áreas. En estas tablas nos

    centraremos en los indicadores de calidad espec#*cos para el modelo de

    medición de %asc&. +lgunos de los indicadores como se describe en las

    mismas tablas no aplican debido al tipo de data que se utiliza para el

    análisis, se trata desde el punto de vista estad#stico incompleta pero

    su*ciente, a que todos los evaluados no enfrentaron la totalidad de los

    #tems de las escalas.

    Los indicadores a revisar son el #ndice de con*abilidad reliabilit-, tanto

    para los evaluados como para la escala utilizada, el #ndice de separación

    separation-. Los valores que se espera son que el #ndice de con*abilidad

    supere el ./ que el #ndice de separación sean maor a (.0, lo que quiere

    decir que en todas las mediciones realizadas se podr#an replicar obtener

    valores similares, además de la posibilidad de distinguir a los estudiantes

    de alto desempe1o de los de bajo desempe1o

    1

    Sitio del software Winsteps: http://www.winsteps.com/index.htm2 Sito del sotware R: http://www.r-project.org/

    http://www.winsteps.com/index.htmhttp://www.winsteps.com/index.htmhttp://www.r-project.org/http://www.r-project.org/http://www.winsteps.com/index.htmhttp://www.r-project.org/

  • 8/18/2019 Informe Técnico Modelo

    2/8

    2

  • 8/18/2019 Informe Técnico Modelo

    3/8

    II. ANALISIS E LA CALIA E LAS ESCALAS E MEICI!NISE"AAS

    #. Comprensi$n de %e&tos ' Indicadores de (alidez de Rasc)

    Esta escala tiene indicadores dentro del rango de lo esperado para lamedición de los estudiantes. Como se observa el indicador de con*abilidades de ./0 una separación de (./2. En las tablas se observa el indicadoranálogo al +lfa de Cronbac& con un valor de .33, pero por la naturaleza dela evaluación debido a que los evaluados no enfrentan el total depreguntas este es mu impreciso, el soft"are lo marca como unaapro4imación a que es afectado por la data omitida.

    INPUT: 404 PERSONS, 76 ITEMS MEASURED: 404 PERSONS, 73 ITEMS, 2 CATS

    --------------------------------------------------------------------------------

      SUMMARY OF 403 MEASURED (NON-EXTREME) PERSONS

    +-----------------------------------------------------------------------------+

    | RAW MODE INFIT OUTFIT |

    | SCORE COUNT MEASURE ERROR MNS! "STD MNS! "STD |

    |-----------------------------------------------------------------------------|

    | MEAN #$%$ 3#%0 %&3 %4' #%00 %0 %$7 %0 |

    | S%D% 4%$ %0 %$# %06 %#$ %$ %44 %$ |

    | MAX% 30%0 3#%0 4%03 #%03 #%$# 4%0 4%63 3%' |

    | MIN% 6%0 3#%0 -2%0$ %40 %46 -3%3 %2$ -2%' |

    |-----------------------------------------------------------------------------|

    | REA RMSE %47 AD%SD %7& SEPARATION #%6' PERSON REIAIITY %73 |

    |MODE RMSE %46 AD%SD %7$ SEPARATION 1.73  PERSON RELIABILITY .75 |

    | S%E% OF PERSON MEAN * %0' |+-----------------------------------------------------------------------------+

      MINIMUM EXTREME SCORE: # PERSONS

      AID RESPONSES: 42%'

      SUMMARY OF 404 MEASURED (EXTREME AND NON-EXTREME) PERSONS

    +-----------------------------------------------------------------------------+

    | RAW MODE INFIT OUTFIT |

    | SCORE COUNT MEASURE ERROR MNS! "STD MNS! "STD |

    |-----------------------------------------------------------------------------|

    | MEAN #$%$ 3#%0 %&2 %46 |

    | S%D% 4%$ %0 %$6 %0$ |

    | MAX% 30%0 3#%0 4%03 #%&4 || MIN% %0 3#%0 -'%04 %40 |

    |-----------------------------------------------------------------------------|

    | REA RMSE %4& AD%SD %&3 SEPARATION #%72 PERSON REIAIITY %7' |

    |MODE RMSE %47 AD%SD %&4 SEPARATION #%&0 PERSON REIAIITY %76 |

    | S%E% OF PERSON MEAN * %0' |

    +-----------------------------------------------------------------------------+

    PERSON RAW SCORE-TO-MEASURE CORREATION * %$& (../15 5 889 )

    CRONAC; AP;A (

  • 8/18/2019 Informe Técnico Modelo

    4/8

    funcionamiento de la escala justi*car la de*nición de niveles a partir de ladistribución de las di*cultades de los #tems.

      SUMMARY OF 73 MEASURED (NON-EXTREME) ITEMS

    +-----------------------------------------------------------------------------+

    | RAW MODE INFIT OUTFIT |

    | SCORE COUNT MEASURE ERROR MNS! "STD MNS! "STD |

    |-----------------------------------------------------------------------------|

    | MEAN ##0%0 #7#%# %00 %2# #%00 %# %$7 %# |

    | S%D% 4$%$ 4&%2 #%22 %07 %0$ #%2 %20 #%4 |

    | MAX% #$&%0 207%0 2%'$ %'# #%24 3%# #%3& 3%3 |

    | MIN% 2&%0 $6%0 -2%67 %#' %&4 -2%$ %46 -2%' |

    |-----------------------------------------------------------------------------|

    | REA RMSE %22 AD%SD #%20 SEPARATION '%44 ITEM REIAIITY %$7 |

    |MODE RMSE %22 AD%SD #%20 SEPARATION '%'2 ITEM REIAIITY %$7 |

    | S%E% OF ITEM MEAN * %#4 |

    +-----------------------------------------------------------------------------+  DEETED: 3 ITEMS

    UMEAN*%000 USCAE*#%000

    ITEM RAW SCORE-TO-MEASURE CORREATION * -%72 (../15 5 889 )

    *. Alfa+etizaci$n Matem,tica

    Esta escala tiene los mejores indicadores para la medición de losestudiantes. Como se observa el indicador de con*abilidad es de ./6 unaseparación de (./5. 7i no tomamos los valores e4tremos estos aumentan a

    con*abilidad es de .// una separación de (.80.

    INPUT: 40# PERSONS, 7$ ITEMS MEASURED: 40# PERSONS, 73 ITEMS, 2 CATS

    --------------------------------------------------------------------------------

      SUMMARY OF 3$7 MEASURED (NON-EXTREME) PERSONS

    +-----------------------------------------------------------------------------+

    | RAW MODE INFIT OUTFIT |

    | SCORE COUNT MEASURE ERROR MNS! "STD MNS! "STD |

    |-----------------------------------------------------------------------------|

    | MEAN #0%# 2#%& -%#$ %'2 #%00 %0 #%02 %0 |

    | S%D% 4%3 %& #%07 %0& %#$ %$ %4# %$ || MAX% 22%0 23%0 3%3& #%0$ 2%06 2%& 4%06 3%0 |

    | MIN% #%0 2#%0 -3%70 %4' %'4 -2%' %42 -2%4 |

    |-----------------------------------------------------------------------------|

    | REA RMSE %'4 AD%SD %$2 SEPARATION #%6$ PERSON REIAIITY %74 |

    |MODE RMSE %'2 AD%SD %$3 SEPARATION #%7$ PERSON REIAIITY %76 |

    | S%E% OF PERSON MEAN * %0' |

    +-----------------------------------------------------------------------------+

      MINIMUM EXTREME SCORE: 4 PERSONS

      AID RESPONSES: 2$%$

    4

  • 8/18/2019 Informe Técnico Modelo

    5/8

      SUMMARY OF 40# MEASURED (EXTREME AND NON-EXTREME) PERSONS

    +-----------------------------------------------------------------------------+

    | RAW MODE INFIT OUTFIT |

    | SCORE COUNT MEASURE ERROR MNS! "STD MNS! "STD |

    |-----------------------------------------------------------------------------|

    | MEAN #0%0 2#%& -%23 %'3 |

    | S%D% 4%4 %& #%#6 %#6 || MAX% 22%0 23%0 3%3& #%&& |

    | MIN% %0 2#%0 -'%3& %4' |

    |-----------------------------------------------------------------------------|

    | REA RMSE %'7 AD%SD #%0# SEPARATION #%76 PERSON REIAIITY %76 |

    |MODE RMSE %'' AD%SD #%02 SEPARATION #%&' PERSON REIAIITY %77 |

    | S%E% OF PERSON MEAN * %06 |

    +-----------------------------------------------------------------------------+

    PERSON RAW SCORE-TO-MEASURE CORREATION * %$6 (../15 5 889 )

    CRONAC; AP;A (

  • 8/18/2019 Informe Técnico Modelo

    6/8

    -. esarrollo del Estdiante

    La naturaleza de esta área la complejidad de la evaluación llevan a que

    los indicadores se encuentran debajo del esperado. 9o son de*cientes pero

    se pueden entender como regulares. El indicador de con*abilidad es del

    .6/ el de separación es de (.3(. Los análisis pedagógicos elaborados apartir de la evaluación audaran a entender este resultado con miras a

    mejorar futuras evaluaciones.

    INPUT: 403 PERSONS, &' ITEMS MEASURED: 403 PERSONS, &2 ITEMS, 2 CATS

    --------------------------------------------------------------------------------

      SUMMARY OF 403 MEASURED PERSONS

    +-----------------------------------------------------------------------------+

    | RAW MODE INFIT OUTFIT |

    | SCORE COUNT MEASURE ERROR MNS! "STD MNS! "STD |

    |-----------------------------------------------------------------------------|| MEAN #6%$ 30%7 %2$ %43 #%00 %0 %$$ %0 |

    | S%D% 4%2 #%' %74 %03 %#& #%0 %3# %$ |

    | MAX% 2&%0 33%0 2%32 %'& #%6$ 2%& 3%#' 3%# |

    | MIN% '%0 2$%0 -2%04 %40 %62 -2%4 %43 -2%# |

    |-----------------------------------------------------------------------------|

    | REA RMSE %44 AD%SD %'$ SEPARATION #%34 PERSON REIAIITY %64 |

    |MODE RMSE %43 AD%SD %60 SEPARATION #%4# PERSON REIAIITY %67 |

    | S%E% OF PERSON MEAN * %04 |

    +-----------------------------------------------------------------------------+

      AID RESPONSES: 37%'

    PERSON RAW SCORE-TO-MEASURE CORREATION * %$& (../15 5 889 )

    CRONAC; AP;A (

  • 8/18/2019 Informe Técnico Modelo

    7/8

    /. Enfo0e peda1$1ico

    +l igual que en el área anterior esta es un área compleja por la posible

    diversidad de estragar#as docentes para su ense1anza, conjuntamente con

    la complejidad de la evaluación lleva a que los indicadores se encuentran

    debajo del esperado. El indicador de con*abilidad es del .6( el deseparación es de (.)6. El área presenta los indicadores más bajos en este

    sentido.

    INPUT: 403 PERSONS, 7' ITEMS MEASURED: 403 PERSONS, 73 ITEMS, 2 CATS 3%'7%2

    --------------------------------------------------------------------------------

      SUMMARY OF 40# MEASURED (NON-EXTREME) PERSONS

    +-----------------------------------------------------------------------------+

    | RAW MODE INFIT OUTFIT |

    | SCORE COUNT MEASURE ERROR MNS! "STD MNS! "STD |

    |-----------------------------------------------------------------------------|

    | MEAN #'%& 27%0 %4' %46 #%00 %0 #%00 %0 |

    | S%D% 3%6 %7 %74 %04 %#$ #%0 %3& %$ |

    | MAX% 2'%0 2&%0 3%0$ %&0 #%6' 2%7 3%46 3%3 |

    | MIN% 7%0 26%0 -#%62 %42 %'4 -2%& %3$ -2%6 |

    |-----------------------------------------------------------------------------|

    | REA RMSE %4& AD%SD %'7 SEPARATION #%#& PERSON REIAIITY %'& |

    |MODE RMSE %46 AD%SD %'& SEPARATION #%26 PERSON REIAIITY %6# |

    | S%E% OF PERSON MEAN * %04 |

    +-----------------------------------------------------------------------------+

      MINIMUM EXTREME SCORE: 2 PERSONS

      AID RESPONSES: 37%0

      SUMMARY OF 403 MEASURED (EXTREME AND NON-EXTREME) PERSONS

    +-----------------------------------------------------------------------------+

    | RAW MODE INFIT OUTFIT |

    | SCORE COUNT MEASURE ERROR MNS! "STD MNS! "STD |

    |-----------------------------------------------------------------------------|

    | MEAN #'%& 27%0 %42 %47 |

    | S%D% 3%& %7 %&4 %## |

    | MAX% 2'%0 2&%0 3%0$ #%&' |

    | MIN% %0 26%0 -'%## %42 |

    |-----------------------------------------------------------------------------|

    | REA RMSE %4$ AD%SD %67 SEPARATION #%36 PERSON REIAIITY %6' |

    |MODE RMSE %4& AD%SD %6$ SEPARATION #%43 PERSON REIAIITY %67 || S%E% OF PERSON MEAN * %04 |

    +-----------------------------------------------------------------------------+

    PERSON RAW SCORE-TO-MEASURE CORREATION * %$' (../15 5 889 )

    CRONAC; AP;A (

  • 8/18/2019 Informe Técnico Modelo

    8/8

      SUMMARY OF 73 MEASURED (NON-EXTREME) ITEMS

    +-----------------------------------------------------------------------------+

    | RAW MODE INFIT OUTFIT |

    | SCORE COUNT MEASURE ERROR MNS! "STD MNS! "STD |

    |-----------------------------------------------------------------------------|

    | MEAN &7%0 #4&%2 %00 %22 #%00 %0 #%00 %# |

    | S%D% 4'%' '0%2 #%23 %07 %06 %$ %#2 %$ || MAX% #$#%0 20'%0 3%04 %'2 #%#7 2%2 #%3# 2%# |

    | MIN% $%0 $6%0 -3%04 %#' %&6 -2%' %72 -2%3 |

    |-----------------------------------------------------------------------------|

    | REA RMSE %23 AD%SD #%2# SEPARATION '%3# ITEM REIAIITY %$7 |

    |MODE RMSE %23 AD%SD #%2# SEPARATION '%36 ITEM REIAIITY %$7 |

    | S%E% OF ITEM MEAN * %#' |

    +-----------------------------------------------------------------------------+

      DEETED: 2 ITEMS

    UMEAN*%000 USCAE*#%000

    ITEM RAW SCORE-TO-MEASURE CORREATION * -%7# (../15 5 889 )

    III. CONCL2SI!N

    En conclusión dos de las áreas de evaluación presentan indicadores dentro

    de lo esperado en cuanto a la medición de los estudiantes. ;os de ellas

    deber#an mejorarse para la medición de los estudiantes, una forma

    sugerida es introduciendo más #tems en la formas de aplicación, es decir

    que las pruebas de los evaluados sean más largas.

    Con respecto a las escalas, &an funcionado correctamente, los #tems que

    *nalmente las constitueron son estables describen el aprendizaje el

    desempe1o de los estudiantes de manera adecuada.

    Este primer esfuerzo por realizar evaluaciones estandarizadas siguiendo

    m:todos de medición rigurosos modernos se puede considerar aceptable

    que es un buen inicio de un 7istema 9acional de Evaluación de

    Estudiantes de