55
Pedro Municio Sistemas de evaluación en la Educación Superior Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 1 1 Los Sistemas de Evaluación en la Educación Superior Estamos ante un cambio de época, un cambio que afecta profundamente a la universidad. El paradigma emergente coloca, como puntos focales de la realidad, a las personas, con su experiencia, y a la interdependencia de los sistemas y de sus componentes. Es la nueva forma de percibir el mundo, en la que tienen especial importancia los valores, los sentimientos y la interacción, que está entrando poco a poco en la sociedad, las organizaciones e, inevitablemente, en la universidad. El paradigma mecanicista de la época moderna, que impulsó el desarrollo económico, tecnológico y científico en el mundo occidental, no responde a las necesidades de hoy y el ser humano comienza a buscar en su interior, por un lado las respuestas a los problemas actuales y, por otro, el camino para un nuevo desarrollo. La adaptación al cambio es un proceso lento pero inexorable y muchas organizaciones se resisten a iniciarlo, sin pensar que cada vez les va a ser más difícil hacer frente a los complejos problemas que se les presentan. La universidad es una institución tradicionalmente conservadora que trata de mantener la estabilidad, mientras que las organizaciones empresariales avanzadas son más ágiles en su respuesta, y buscan soluciones creativas que respondan a las nuevas y crecientes necesidades de las personas. La contradicción es evidente para ambas partes y los desencuentros se producen cada vez que se plantea una conexión. Desde el exterior se exigen cambios importantes a la universidad, consecuencia de las demandas de una sociedad basada en los conocimientos y de las nuevas tecnologías, que han hecho del aprendizaje continuo un componente esencial de la dinámica social. Los ojos de la sociedad y de las organizaciones se vuelven hacia la universidad en

Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Embed Size (px)

Citation preview

Page 1: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 1

1Los Sistemas de

Evaluaciónen la Educación Superior

Estamos ante un cambio de época, un cambio que afectaprofundamente a la universidad. El paradigma emergentecoloca, como puntos focales de la realidad, a las personas,con su experiencia, y a la interdependencia de los sistemasy de sus componentes. Es la nueva forma de percibir elmundo, en la que tienen especial importancia los valores,los sentimientos y la interacción, que está entrando poco apoco en la sociedad, las organizaciones e, inevitablemente,en la universidad. El paradigma mecanicista de la épocamoderna, que impulsó el desarrollo económico, tecnológico ycientífico en el mundo occidental, no responde a lasnecesidades de hoy y el ser humano comienza a buscar en suinterior, por un lado las respuestas a los problemasactuales y, por otro, el camino para un nuevo desarrollo.

La adaptación al cambio es un proceso lento pero inexorabley muchas organizaciones se resisten a iniciarlo, sin pensarque cada vez les va a ser más difícil hacer frente a loscomplejos problemas que se les presentan. La universidad esuna institución tradicionalmente conservadora que trata demantener la estabilidad, mientras que las organizacionesempresariales avanzadas son más ágiles en su respuesta, ybuscan soluciones creativas que respondan a las nuevas ycrecientes necesidades de las personas. La contradicción esevidente para ambas partes y los desencuentros se producencada vez que se plantea una conexión.

Desde el exterior se exigen cambios importantes a launiversidad, consecuencia de las demandas de una sociedadbasada en los conocimientos y de las nuevas tecnologías,que han hecho del aprendizaje continuo un componenteesencial de la dinámica social. Los ojos de la sociedad yde las organizaciones se vuelven hacia la universidad en

Page 2: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 2

demanda de ayuda y esta debe dar la respuesta adecuada siquiere seguir cumpliendo con su función.

La dinámica del cambio se fundamenta en nuevos valores cuyaaplicación permite superar los efectos negativos de laépoca que nos abandona, permitiéndonos entrar en la nuevaal potenciar unas relaciones humanas distintas queposibiliten la consolidación de los efectos positivoslogrados anteriormente. A partir de aquí se comienzan agenerar nuevos patrones comportamentales enfocados, deforma general, al desarrollo de la excelencia en lasactividades humanas y, como consecuencia, en la universidadque debe ser institución proa y sistema permanente.

Nuevos tiempos traen nuevas inquietudes. El desarrollotecnológico y económico ha potenciado la necesidad deprofesionalización de los graduados universitarios al mismotiempo que ha puesto el énfasis en la formación como unfactor decisivo para lograr un puesto de trabajo. Launiversidad, sin dejar de ser la institución que concede"licencias" para ejercer ciertas profesiones y acceder aalgunos puestos públicos, es motor de formación que permitela entrada en las profesiones superiores. Las nuevastendencias van desplazando su foco lentamente de lossaberes, habilidades y aptitudes hacia los componentes nocognitivos (actitudes, valores, hábitos, relaciones,motivación).

La universidad y la sociedad están obligadas a entenderse,a interactuar sin discrepancias notorias. A partir de lacrisis de los años setenta se produce una revisión profundade las políticas, estrategias y planes de acción de lasorganizaciones. La sociedad, que es el origen de los fondosque maneja la universidad, vela por su correcta aplicación,para lo cual establece controles que aseguran que losmedios que se aportan se aplican con eficacia a losobjetivos propuestos. Las evaluaciones de las institucionesuniversitarias han adquirido carta de naturaleza y se hareconocido la bondad de sus resultados comenzando a serobligatorias y de aplicación cada vez más estricta en labúsqueda del cumplimiento de sus fines que son precisamentela cobertura de las necesidades de la sociedad.

La universidad ha dado un gran salto en los últimoscincuenta años en todos los países. Ha multiplicado elnúmero de sus estudiantes y profesores, de susinstalaciones y de sus programas. Ha crecido su número, seha especializado y han aparecido universidades sostenidascon fondos privados. Muchas organizaciones empresarialescrean sistemas de formación empleando la última tecnologíaen clara competencia con las universidades tradicionales.Este panorama muestra problemas que es necesario corregirpero, a diferencia de otras épocas, es necesariocorregirlos desde dentro de la propia universidad. Los

Page 3: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 3

miembros de la comunidad universitaria participan de estedeseo de cambio y mejora. Solo necesitan el apoyo y losinstrumentos necesarios.

EL CAMBIO DEL CONCEPTO DE CALIDADUn cambio profundo se está produciendo paralelamente en elconcepto de calidad. Evaluación y calidad son dos términosinseparables y no pueden existir uno sin el otro en unasituación de cambio social. Por ello, para entender elnuevo sentido de la evaluación de la universidad hay queconocer la evolución del concepto de calidad a lo largo deeste siglo.

La revolución industrial que comienza en el siglo XIXproduce cambios espectaculares en la vida social y en lasorganizaciones del mundo occidental. La producción masivahace accesibles muchos productos a la población hastaentonces marginada del consumo y aumenta el nivel generalde vida con la disminución de la agricultura y la casitotal desaparición de la artesanía. Los productos sediversifican para atender necesidades de distintossegmentos de población y la calidad abandona los criteriosartesanales tradicionales para ser entendida comocumplimiento de los requisitos establecidos.

Hasta el final de la primera mitad del siglo XX el conceptode calidad va perfilándose y ampliándose de manera quejunto al cumplimiento de los requisitos (los objetivos delaprendizaje) se añaden como parte de la calidad losmateriales (estudiantes y recursos didácticos) y el proceso(metodología y actuación de los profesores). Lapreocupación por la calidad aumenta debido a los fallos delsistema y la evaluación aparece como una actividad nueva yobligatoria. De forma paralela al control de calidad, quese establece en las organizaciones industriales, losministerios de educación crean cuerpos de inspectores deenseñanza, se desarrollan las pruebas objetivas y nacen unagran variedad de tipos de tests. El control de calidadparte del principio de que los estudiantes, los medios o elproceso pueden estar fallando y es necesario controlar elsistema periódicamente. Se establecen las pruebas inicialesdiagnósticas y los exámenes trimestrales.

El paso posterior se da cuando se van descubriendo lascausas que producen el fracaso. Las institucioneseducativas, como el resto de las organizaciones, comienzana reglamentar su funcionamiento para evitar los fallos ygarantizar los resultados. Se inicia el período delaseguramiento de la calidad y se introducen nuevoselementos de la calidad como el diseño del programa(específico para cada grupo de alumnos) y lasespecificaciones del desarrollo (los contenidos u otroscomponentes). El aseguramiento va más allá del control

Page 4: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 4

anterior ya que refuerza la importancia del proceso através de un seguimiento, evaluación y corrección continua.Las nuevas condiciones introducidas en el concepto (diseñoy especificaciones) suponen el reconocimiento de que noexiste calidad en algo si no es "adecuado para el uso" (unasilla para trabajar no sirve para ver la televisión, ni unprograma de educación básica puede tener las mismasespecificaciones y diseño para adolescentes que paraadultos) lo que por primera vez da protagonismo al usuarioen la definición de lo que tiene o no calidad y desarrollala educación personalizada. Hasta este momento losprofesionales "de dentro" de las instituciones determinaban"técnicamente" y de forma generalizada lo que era o nocalidad. A partir de aquí comienza a pensarse en laspersonas que reciben el servicio.

En la década de los setenta se comienza a difundir eltermino "Calidad Total" como el de un método de gestióncuyo objetivo es mejorar la satisfacción de los usuarios através de la mejora de los servicios y, como consecuencia,de la organización. Por ello es necesario un sistema degestión diferente.

El movimiento avanza con rapidez en las empresas y algunasuniversidades se incorporan a él a lo largo de los añosnoventa. Se operó un cambio importante al dar entrada a los"clientes" y a los "proveedores" y establecer una cadenabásica en la que ambas figuras aceptan papeles de provisióny consumo en función del rol desempeñado. Se trata deconseguir un producto y servicio que cubra las expectativasdel cliente. La Calidad (ahora escrita con mayúscula) hadejado de estar centrada en los productos o servicios paraponer especial énfasis en la satisfacción del cliente. Seafirma que toda la institución forma parte de la Calidad.El cambio es radical porque la clave está en los quereciben los servicios, que determinan si estos tienen o noCalidad. Los profesionales gestionan la Calidad pero éstase mide de afuera a dentro, no de dentro a fuera comoantes.

EL CAMBIO EN LA EVALUACIÓN DE LA EDUCACIÓN SUPERIOR Como no podía ser de otra forma, la acción de la sociedadsobre las estructuras de poder también ha alcanzado a launiversidad y está comenzando a tomar cuerpo, entre otrascosas, con los sistemas de evaluación. Aunque puedenestablecerse pequeñas variantes, existen tres sistemas deevaluación de centros de educación superior. Cada uno deellos es incompatible con los otros, aunque puedanencontrarse elementos comunes. Cada sistema necesita datosdiferentes y responde a planteamientos propios del contextocultural en que se ha desarrollado. El profesoruniversitario, interesado en la calidad de su universidad,

Page 5: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 5

no puede mezclar los procesos o los instrumentos porqueesto le conducirá a evaluaciones confusas e inadecuadas.

En los países latinos la tradición centralizadora yestatalista generó a lo largo de los dos últimos siglos unsistema de instituciones en las que el poder centralestablece las normas de calidad. La universidad se concibiócomo una institución que financiaba el Estado,especialmente para formar altos funcionarios. Enconsecuencia, la regulación de su actividad y de losrecursos necesarios para su mantenimiento son una piezaclave para controlarla. Ambos elementos se centralizan conel doble pretexto de estandarizar el sistema, para lograrla igualdad entre los ciudadanos, y utilizar mejor losrecursos.

La evaluación de los centros de Educación Superior desdeeste punto de partida da lugar a un sistema de regulación"ex-ante" desde el exterior. La evaluación no va más alládel contraste entre la realidad y la norma y pocas vecesidentifica especiales desviaciones ya que éstas son fácilesde corregir por los responsables de la planificación, queson al mismo tiempo los evaluadores. Ni los directivosuniversitarios, ni los profesores toman decisiones en esteproceso; sólo intervienen pidiendo sistemáticamente másactividades y más recursos y, en algunos casos, rechazandola injerencia de los gobiernos argumentando la llamada"libertad de cátedra".

La administración pública establece los requisitos delsistema universitario a través de leyes, estatutos onormativas periódicas. La universidad sólo debe tener encuenta los mínimos establecidos, de manera que un programao una titulación obtiene una evaluación satisfactoria sicumplen con los requisitos previos (número de profesorestitulados, instalaciones, horarios, condiciones deinscripción de alumnos, etc.). No se tiene en cuenta lacalidad de la formación que ofrece, los graduados queencuentran empleo, la satisfacción de los estudiantes, elimpacto social que produce o el conocimiento internogenerado.El sistema administrativo quiere ofrecer un servicio iguala todos los ciudadanos. Su evaluación se basa en estapremisa ya que la estructura del sistema está muyformalizada y los componentes son fijos y, en consecuencia,actúan de variables independientes que no influyen en losresultados. Cuando en estas universidades se pretendeintroducir elementos de evaluación de los otros sistemas lareacción más frecuente es el conflicto interno por eldesajuste con la normativa existente, por los problemas queprovoca y las pocas soluciones reales que aporta.

Los informes de evaluación en este sistema son, enrealidad, memorias anuales que se reducen a estadísticas en

Page 6: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 6

torno al empleo de los recursos y a las actividadesrealizadas. De las comparaciones y las "ratios" puedenobtenerse niveles de utilización de los recursos yconclusiones generales de eficiencia y productividad enfunción del número de titulados, casi único dato deresultados disponible en el sistema. Con todo, elinconveniente de estos informes es su utilizaciónposterior, muy limitada tanto para la universidad como paralas autoridades evaluadoras. En el proceso final entran enjuego tal número de factores políticos y económicos quecondicionan la efectividad de cualquier decisión.

Un segundo sistema de evaluación universitaria está basadoen la actuación de las mismas universidades a través de losprofesores o de las asociaciones de profesores, directivoso instituciones. La evaluación no es impuesta desde elexterior como en el sistema administrativo sinovoluntariamente decidida y aceptada por la mismauniversidad como comprobación de que la institución reúnelos requisitos de calidad exigidos por los expertos. Elsistema no excluye las revisiones administrativas públicaspero entiende que estas son trámites legales que cubrenrequisitos, como la sanidad de las instalaciones o laseguridad social del personal, pero que no garantizan lacalidad de la institución, del mismo modo que laautorización de una fábrica de ordenadores no garantiza lacalidad de su servicio ni de sus productos.

Este sistema se utiliza actualmente con grados diferentesde evolución. Los países de la Unión Europea estáutilizando el sistema yuxtaponiendo a los sistemasadministrativos, más con el objetivo de crear una culturade evaluación, que de obtener unos resultados inmediatos.En el otro extremo de utilización están las versiones másconocidas, denominadas de acreditación, desarrolladasinicialmente en los países anglosajones, con un grancomponente de descentralización pública y, por tanto, deautonomía universitaria, algo que no sucede siempre puestermina por centralizarse con el grave peligro de serutilizado como un instrumento político. El mecanismo másgeneralizado exige una primera fase en la que un equipointerno realiza la autoevaluación y, considerada estasatisfactoria, se pasa a una segunda fase en la que otroequipo externo realiza un proceso paralelo. El resultadofinal supone el contraste de evidencias, la deliberaciónentre los miembros y la persuasión cuando existendiferencias de interpretación, para llegar a un consensodefinitivo.La evaluación con este sistema supone un proceso que seprolonga al menos un curso académico. Las autoridadesnombran un equipo formado por un representante delrectorado, profesores y representantes de las asociacionesde estudiantes. El equipo decide qué unidades (programas ofacultades) van a ser evaluados ese curso y para cada una

Page 7: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 7

de ellas crea un subequipo formado por miembros de launidad (profesores y estudiantes) y algún miembro delequipo. Cada uno de estos subequipos deberá preparar uninforme con su autoevaluación, que contendrá los puntosacordados previamente por el equipo, entre los que nopueden faltar los puntos fuertes y débiles, las tendencias,las respuestas a la última evaluación, los nuevos problemasy soluciones propuestos, y las opiniones de los profesoresy alumnos sobre el funcionamiento. El informe deberá serrevisado y aprobado por el conjunto de los profesores deesa unidad, y completado con datos estadísticos sobreprofesores, alumnos, presupuestos, actividades, etc, comolo hace el sistema administrativo.

Cuando los informes de cada unidad están terminados elequipo nombra una comisión interna de profesores yestudiantes, ajena a las unidades evaluadas que revisa eldocumento, realiza sus propias investigaciones en lospuntos en que está en desacuerdo, y prepara un informe enpoco más de diez páginas que incluye sus conclusiones yrecomendaciones. Este informe tiene una distribucióninterna y los interesados puede recurrir en caso dedesacuerdo.

El proceso termina con el nombramiento de un equipo externode evaluación, formado por profesores de otrasuniversidades, nombrados por el órgano de acreditación, querevisa los informes anteriores, entrevista a directivos,profesores y estudiantes y escribe su propio informe deevaluación en el que pone el énfasis en los puntos fuertesy débiles y en las tendencias al logro de los fines de launiversidad y de la unidad evaluada. Los tres informes seutilizan finalmente por el equipo para realizar unasíntesis, el informe final, que se convierte en documentopúblico.

En el sistema administrativo el poder público es la fuerzadecisora de la evaluación, que se ejerce regulando losrecursos. En el sistema profesional se trata de un podercultural ejercido por los miembros de la universidad paramodelar los procesos institucionales y reforzar la imagenhacia el exterior. En el sistema administrativo laevaluación positiva es un acto necesario, aunque rutinario,mientras que la autoevaluación por los pares universitarioses voluntaria. La acreditación, al utilizar un equipo decontraste externo, busca el reconocimiento del entorno y deaquellos que directa o indirectamente apoyan o financian suactividad.

En el sistema administrativo la evaluación es externa,decidida y realizada por inspectores o funcionarios delorganismo público del que depende la universidad, mientrasque en el sistema de expertos la decisión es interna y laejecución es mixta puesto que al trabajo detallado y

Page 8: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 8

profundo de autoevaluación le sigue la valoración externaLa aportación del sistema profesional se centra en latriple perspectiva que aportan los evaluadores con suconocimiento del objeto evaluado, el contraste que ejercenlos miembros de otras disciplinas, que también conocen launiversidad, y las aportaciones de los miembros de otrasuniversidades que tienen otros datos y experiencias decalidad para contrastar el estudio.Pero no puede pasar desapercibido que este sistema deevaluación tiende a difuminar los problemas, a resaltar losaspectos positivos y a poner el énfasis en los datos en losque están interesados los miembros de los equipos deevaluación. Pero, sobre todo, los informes son un reflejode la posición del personal docente e investigador conescasa atención a la visión de los estudiantes y de laspersonas y organizaciones del entorno que reciben la acciónde la universidad. La evaluación en este sistema estáligada necesariamente a lo que los profesionales consideranque es la calidad que a veces se confunde con sus propiosintereses.

El tercer sistema de evaluación, poco utilizado todavía eneducación superior, se está desarrollando a lo largo deesta década, como respuesta a los cambios sociales. Estáenfocado a considerar la universidad como una instituciónal servicio de la sociedad en la que ésta toma directamentesu decisiones, sin necesidad de intermediarios queinterpreten sus necesidades. Esto no presupone que elEstado o los profesionales dejen de ejercer sus funcionesde liderazgo y evaluación sino que se los considera comoparte de la institución o de los clientes a los que launiversidad satisface y que sus necesidades y demandas nodeben estar en contradicción con las necesidades y demandasde los demás, ni con la oferta que la universidad puedehacer.

El sistema es, en principio, una respuesta al cambio deépoca, más allá de los cambios aparentes que con distintoritmo se están produciendo en los países de nuestroentorno, diferencias que son inevitables entre los grandesbloques socioculturales (Estados Unidos, Unión Europea,América Latina). Paralelamente, y dentro del mismo proceso,el sistema es una respuesta al nuevo concepto de calidadque ha ido ganando terreno en la medida en que cada país valogrando un crecimiento socioeconómico. Aunque en educaciónexisten pocas realizaciones basadas en el sistema ya que sedispone de una amplia literatura y sobre todo laexperiencia de los premios EFQM, Baldridge o Demming quele utilizan.

El nuevo sistema responde a necesidades y objetivosdiferentes refleja el nuevo paradigma cultural, una formadistinta de ver las claves de la educacióninstitucionalizada basada en la necesaria interdependencia

Page 9: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 9

entre sociedad y universidad y en el nuevo concepto deCalidad propio de una sociedad que demanda con urgencia,mejores y más completos servicios. El nuevo sistema norechaza la exigencias administrativas iniciales ni loscontroles de acreditación posteriores, siempre que susconsecuencias no se conviertan en fines perversos contra laCalidad.

Page 10: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 10

2El Nuevo Sistema

de Autoevaluación de la Calidad

Muchos países están haciendo frente simultáneamente a lamasificación de la educación superior y a la adaptación alcambio de época. Con independencia de los cambios en laalteración de poder que se están produciendo en el mundooccidental (entre autoridades estatales o locales deeducación, los gobiernos de las instituciones de educaciónsuperior y cuerpos docentes) como consecuencia de lospermanentes procesos de centralización-descentralización, ydel grado de desarrollo del sistema de enseñanza superior(generalmente ligado a factores socioeconómicos), en lamayoría de los países los fallos de Calidad se hacenclaramente evidentes dentro y fuera de las instituciones yla demora en afrontarlos solo agrava la situación y hacemás difícil su solución.

En muchos casos se han puesto en marcha sistemas paraasegurar la Calidad estableciendo principios y procesosfacilitadores del cambio, necesariamente adaptados a lascondiciones de las instituciones y sus entornos. Estándesapareciendo de las instituciones más efectivas losenfoques y diseños parciales encaminados a lograr Calidad.Por el contrario, se extiende durante la última década, latendencia a adoptar enfoques más sistémicos y comprensivosrespecto a la Calidad. Esto, por ejemplo, es evidente enaquellas instituciones que dependen de su prestigio y deléxito de sus servicios (cursos, programas, investigaciones,asesoramientos).

Page 11: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 11

LAS RAZONES DEL CAMBIO

Esta tendencia, impulsada por las causas descritas en elcapítulo anterior, se percibe en la mayoría de lasuniversidades, aunque la rigidez estructural y normativahagan, en algunos casos, difíciles las decisiones para lamejora global. Tres razones, que este estudio hace suyas,sustentan la presión desde el exterior en este cambioestratégico, basado en el entorno y en las demandas de lospropios receptores de la acción institucional. Como esinevitable, cada una de estas razones tiene un pesoespecífico distinto según la posición de la institución ysu marco jurídico, pero la suma conjunta de las tres es laque una vez alcanzado un umbral de crisis provoca laentrada en el nuevo paradigma de la Calidad.

Respuesta a las demandas y necesidades socialesEs la razón mas profunda en el despertar de la concienciasocial de muchas instituciones de educación ancladas en lacultura de los funcionarios, en la rutina impuesta por lamasificación estudiantil desde los años sesenta o en laconsideración de la enseñanza como una actividadsecundaria. Aunque en los fines de las universidadessiempre aparece su dedicación a la sociedad es en elmomento actual cuando se percibe un nuevo impulso a esepapel de apoyo a las necesidades de la sociedad de la queforma parte. Cada vez mas los centros de enseñanza superiorse implican en proyectos de desarrollo, no tanto poraplicar sus conocimientos como por apoyar las demandas dela sociedad y de sus estudiantes. Hospitales, fundacionesculturales, equipos de investigación, proyectos dedesarrollo comunitario, organizaciones de voluntariadosocial son formas y actividades de apoyo habituales en lamayoría de las instituciones de educación superior, solofrenadas por las limitaciones de recursos.

Paralelamente los rápidos cambios sociales, tecnológicos yeconómicos obligan a los centros a evaluar los programas,las estrategias y los procesos, readaptándolos paraasegurar que pueden servir a las demandas del exterior. Nopuede olvidarse que a lo largo de los últimos cincuentaaños muchas organizaciones empresariales han adquiridoconocimientos avanzados, tanto en tecnología como enrecursos, que superan a los centros tradicionales deenseñanza y ponen en peligro su papel de creadores deconocimiento. Ante ello, los miembros de la comunidaduniversitaria sienten la llamada a seguir ocupando elpuesto relevante de guía social que siempre han tenido,aunque ahora necesiten adaptarse a los cambios de la nuevaépoca y a la necesaria interdependencia con el entorno.

Competitividad entre los centros de educación superior

Page 12: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 12

La noción de competitividad ha dejado de ser irrelevante enla educación a medida que ha ido desapareciendo la culturaburocrática. Los estudiantes hablan de la inutilidad deciertas carreras o materias y saben que en algunasinstituciones se puede aprender más que en otras o que losconocimientos que imparten son más valorados por lasempresas. La demanda de ingreso en unos centros esclaramente superior a la de otros y al mismo tiempo laselección de los estudiantes se convierte en un requisitode Calidad para unos mientras que otros se ven obligados arecibir alumnos rechazados por otros e, incluso, a quienesno tienen expectativas e interés en la enseñanza que se lesofrece y, posiblemente, aptitudes para seguirla con éxito.

Los anuncios sobre estudios universitarios o deespecialización se multiplican en la prensa tratando decaptar estudiantes y ofreciendo alternativas difíciles decomparar por su diversidad y especialización. Cada vez sonmás los que incorporan características o medidasrelacionadas con la forma en que garantizan la Calidad(tamaño de las clases, instalaciones, bilingüismo,orientación y apoyo al estudiante, etc.) al mismo tiempoque se ofrecen referencias a indicadores formales deCalidad institucional como la posición de la institución enun ranking de universidades (de escuelas de negocios,facultades, o estudios especializados), del hecho de estaracreditados (por una agencia interuniversitaria o pública)o de tener una certificación de Calidad (como ISO 9000).

Rendimiento de cuentas ante la sociedad y los organismosfinanciadoresEn otros países el rendimiento de cuentas ha sido la razóndel cambio y ha tenido una poderosa influencia en elestablecimiento de enfoques más comprensivos hacia laCalidad. Aunque el movimiento ha sido desordenado y laspresiones individuales y grupales han condicionado laevolución, incluso a través de los medios de comunicación,el avance desde esta perspectiva ha sido profundo.

En algunos casos la disminución de recursos y la paralelaintervención de las autoridades publicas o lasinstituciones sociales han provocado una mayor preocupaciónpor la relación entre los recursos utilizados y losresultados obtenidos. En algunos casos el rendimiento decuentas está ligado directamente a indicadores de Calidadque ponen en evidencia los cambios y mejoras introducidosen el sistema. Además, en algunos casos, especialmente enaquellos en que se han establecido sistemas de autonomíauniversitaria, los organismos que financian la enseñanzahan comenzado a relacionar los fondos públicos asignados enlos presupuestos con la realización de la evaluación y losniveles alcanzados.

Page 13: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 13

NUEVAS COORDENADAS DE LA CALIDAD

El nuevo paradigma requiere una respuesta de lasuniversidades diferente a las que han aportado laadministración y los expertos a lo largo de los dos últimossiglos. No se trata de buscar adaptaciones y arreglos a lasdisfunciones actuales. El cambio de época es un cambioradical que presenta situaciones diferentes con componentesdistintos. Los sistemas anteriores no funcionan porque seestán aplicando a situaciones para las que no fueroncreados. El modelo de autoevaluación RUECA se sitúa dentrode una nueva respuesta que se enmarca dentro de cincocoordenadas.

Las personas son el eje central de la CalidadLa dinámica de las instituciones gira en torno a laspersonas y éstas establecen la realidad y las posibilidadesde cambio y mejora. Por tanto, son el eje central decualquier intervención, lo que significa que ni el poder dela administración ni el de los expertos pueden por símismos cambiar la realidad. Los miembros afectados, losclientes, pueden ser internos o externos a la institución.Los externos son los que no pertenecen a la organización ydemandan o reciben los servicios, por ejemplo, estudiantes,empresas, otros centros de educación superior o laadministración.Los clientes internos son los trabajadores de laorganización (profesores, investigadores, administradores,personal auxiliar) cuya tarea es facilitar un servicio alcliente externo. Sin embargo, la dinámica institucionalnecesita de una división de trabajo que hace que cada unotenga que entregar su parte del proceso a otro miembro paraque continúe hasta completar el servicio demandado. Estemiembro, que recibe parte del proceso, es el clienteinterno.

Por ello, la Calidad se define como el cumplimiento de losrequisitos del cliente. Un profesor de matemáticas, porejemplo, debe enseñar de forma que sus alumnos puedancomprenderle, y sus explicaciones deben responder a losintereses y necesidades de esos estudiantes para queaprendan con satisfacción. Pero, al mismo tiempo, elprofesor de matemáticas del curso posterior debe recibir aesos estudiantes con la formación, las capacidades y lashabilidades necesarias para que puedan comprender lasnuevas aportaciones de la materia. Tanto este profesor comolos estudiantes son clientes del primer profesor dematemáticas y este les debe dar el servicio que demandanpara cubrir sus necesidades.

El primer principio de la Calidad es:

Page 14: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la

Al mismo tiempo el logro de la Calidad depende de laspersonas que trabajan en la organización. La aceptación dela Calidad como algo básico y la implicación en su trabajoson condiciones esenciales para poder establecer un sistemade Calidad.

Esta implicación de las personas significa su participaciónen tres tipos de acciones: acciones de liderazgo (apoyandolas actividades de Calidad, priorizando las decisiones queafectan a la Calidad, facilitando a otros los medios),acciones personales (formándose, analizando situaciones deno Calidad, proponiendo mejoras en su actividad, tomandoparte activa en los equipos), y acciones de coordinación(en equipos multidisciplinares, multidepartamentales o deintegración general, que potencien la Calidad).

El segundo principio de la Calidad es:

Las accion ambioLa Calidadde forma acciones dmuchas vecuna meta d

Las accioexperimentactuar) y experiencidescubrimipara satisde los cli

Estas acciinstituciodistintos:

1. Accionescontrol.

Adecuación a las necesidades, intereses yexpectativas de los afectados, tanto

internos como externos a la organización.

es de mejora permanente son la base del c

Participación e implicación de todas laspersonas y todos los equipos en la

programación,la ejecución y la evaluación de la

Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 14

se logra a través de mejoras que se introducenpermanente y se consolidan simultáneamente cone reorganización y refuerzo. Como se ha dichoes la Calidad es un proceso sin fin, no existeefinitiva que sea alcanzable.

nes de mejora suponen aplicar el métodoal al trabajo (observar, reflexionar, comprobar,el experiencial al propio aprendizaje (vivir laa, observar y reflexionar, conceptualizar losentos, experimentar) en cada paso de la actividadfacer las necesidades, expectativas e interesesentes y de la organización.

ones de mejora se realizan en toda la dinámicanal, pero especialmente en cuatro momentos

de prevención, frente al sistema tradicional de

Page 15: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Ca

2. Acciones de participación, en las que se abordan enequipo las dificultades que aparecen en el trabajo, seimpulsan iniciativas, se aceptan riesgos y se consolidael aprendizaje en equipo.

3. Acciones de solución de problemas, realizadas individualo colectivamente, cuando se detectan disfunciones encualquier nivel de la institución.

4. Acciones de evaluación, que se deben realizar en lospuntos clave de cada variable organizativa (entradas,procesos y resultados).

El tercer principio de la Calidad es

La acciones das a buscarlos problemaparezcan. Dde solucionmientras quresultados insatisfacci

Pero las acpuntos de rpuede medir cambio rea"aproximadamexpresiones opiniones y el trabajo medida se es

El cuarto pr

La medida equipo, que servicio, quacciones corla actividadel caso deldirectivos. tendencia y

Además, la realizan lodiferencias.

de mejora permanente están dirigi

Búsqueda de la mejora permanente através

de la prevención, la evaluacióny la corrección automática del

lidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 15

as, identificarlos y solucionarlos allá dondeescubrir los problemas es estar en disposiciónarlos, de encontrar una oportunidad de mejora,e ocultarlos conduce inevitablemente a malosy, probablemente, al conflicto interno y a laón de los clientes.

ciones de mejora sólo son posibles si existeneferencia. No se puede mejorar lo que no sepuesto que en los datos está la referencia dellizado. Afirmaciones como "bastante bien",ente", "lo hicimos lo mejor posible" sondel lenguaje coloquial que representan lasexpresiones personales, pero no son válidas ende Calidad. En realidad, detrás de la falta deconde la no Calidad.

incipio de Calidad es:

puede ser personal, del propio trabajo, delconsidera todo el proceso, o del receptor dele acepta o rechaza la entrega. En cada caso lasrectoras pueden estar en manos del que realiza o del responsable del proceso general que, en cliente final, es la propia institución y susLas medidas sucesivas permiten establecer unacomprobar el grado relativo de mejora.

medida permite compararse con los procesos ques mejores y obtener conclusiones sobre las Si todas las universidades no pueden

Gestión basada en hechos y datosdebidamente registrados y

estructurados

Page 16: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 16

compararse de una forma global porque sus característicasson muy distintas, sí es posible comparar procesos yresultados concretos. Pueden compararse procesos deenseñanza o procesos de admisión e inscripción deestudiantes y contrastar los resultados que ambos procesosproducen y buscar las razones de las diferencias. Lacomparación con los mejores, tomando referencias de cómo ensus procesos (por ejemplo, de enseñanza-aprendizaje) añadenmás valor al estudiante, es una de las aportaciones quepermiten los modelos basados en la Calidad total.

El compromiso con la Calidad es una nueva forma degestionar la instituciónLa evolución del concepto de Calidad a lo largo del sigloXX ha supuesto importantes avances en la mejora de losproductos y servicios pero se ha desarrollado sin afectaral modelo de gestión. Al pasar a definir la Calidad desdefuera de la institución, los factores clave del sistemaorganizativo sufren un cambio radical. Sólo es importantelo que afecta, directa o indirectamente, a la Calidadpercibida por los clientes. La gestión cambia sus puntos dereferencia y se centra en ellos.

El nombre completo de la teoría que engloba este conceptode Calidad es Gestión de la Calidad Total. Al evaluar unainstitución no se está evaluando su curriculum, laspersonas, o la interacción con el entorno en sí mismos,sino cómo se gestionan para conseguir los finesinstitucionales. Su valor viene dado por su enfoque parasatisfacer las necesidades de la organización y, endefinitiva, de los clientes.

Por ello, es importante la gestión y el apoyo sistemáticodel equipo directivo que actúa sobre todas las variables dela organización para ponerlas al servicio de la Calidad. Elproceso de gestión, a través del cual se dinamiza lainstitución para alcanzar la Calidad, es una de lasprincipales ideas del modelo que incorpora un conjunto deaportaciones ampliamente difundidas en la literatura degestión como el enfoque científico o la gestiónestratégica.

La institución, para su gestión interna formula susmisiones y visiones, expresa sus objetivos, desarrollaestrategias, diseña planes y proyectos, organiza recursos,selecciona tecnologías y evalúa los procesos y losresultados. La institución que gestiona la Calidad lo hacede una forma consciente y deliberada, bajo el gobierno y elliderazgo de un equipo directivo que sabe cómo hacerlo y secompromete con su éxito. Esto supone la creación de unacultura nueva en la que cada acción y decisión está alservicio de la Calidad.

Page 17: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 17

El quinto principio de la Calidad es

Hasta la aparición del nuevo concepto de Calidad la miradase centraba en los productos y servicios. El nuevo conceptoafecta a todo: servicios, procesos, programas, innovación,enseñanza, secretaría, atención al estudiante, transportes,edificios, etc. Debe ser total, porque todo lo que afecta alas personas debe ser contemplado y cumplir los requisitosde Calidad.No existen límites: desde el equipo directivo al personaladministrativo, desde los laboratorios a las aulas, desdela investigación a las relaciones interpersonales, tododebe estar dentro de un plan de Calidad y todo lo que tienerelación con un objetivo debe ser evaluado

El sexto principio de la Calidad es

Las instituciones de educación superior tienencaracterísticas propiasEsto no supone que los modelos de Calidad existentes nosean válidos para ellas, sino que se dan algunassituaciones específicas que hacen que su comprensión yaplicación puedan presentar obstáculos, especialmente si setrata de introducirlos de una forma directa y estricta. Lacultura universitaria se ha creado, tal como es hoy, a lolargo de los últimos doscientos años de forma diferente acomo lo han hecho las organizaciones empresariales. Esto haconsolidado unas estructuras muy significativas con formasde gobierno, hábitos y estilos de hacer peculiares.

Aunque hay grandes diferencias entre unas y otrasinstituciones, la mayoría depende para su financiación delsistema público o de fundaciones y entidades privadas y noexiste el concepto de beneficio económico, esencial en laactividad empresarial. Sus profesores han consolidado unconjunto de valores, creencias y derechos que condicionannecesariamente su respuesta a los ciudadanos y a la demandade la Calidad.

El modelo RUECA ajusta a la realidad de la educaciónsuperior los criterios de Calidad admitidos y los agrupaen siete variables utilizadas por los diseñadores de

Todas las actividades de la educación Superiortienen relación con la Calidad,

no solo las que influyen directamenteen el producto educativo.

Apoyo sistemático y compromiso del equipo directivocon la calidad a través del proceso de gestión

Page 18: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 18

organizaciones, como se describe en el capítulo posterior(interacción con el entorno, cultura, estrategias,arquitectura organizativa, procesos y recursos, programas ypersonas). Cada una de estas variables está adaptada a larealidad de las instituciones. Esto supone, por ejemplo,criterios de Calidad específicos o la existencia de unavariable que permite valorar la Calidad de los programasinstitucionales, pieza esencial de cualquier institución deformación, pero no incluida en ningún modelo general.Además, el vocabulario ha sido adaptado a laspeculiaridades del sector educativo.

Por eso, un elemento diferenciador del modelo es:

Frente a los modelos de evaluación administrativo y deexpertos este modelo no tiene una perspectiva normativa nide acreditación hacia el exterior, sino de búsqueda,identificación y solución de problemas. La autoevaluaciónrealizada desde la perspectiva de la Calidad permitemovilizar a las personas para diagnosticar sus problemasinstitucionales, en relación con los resultados esperadosy, a partir de aquí, efectuar los cambios en laorganización.

Tiene una concepción holística en la que todos loscomponentes son partes de la institución y en la que eltodo es mayor que la suma de sus partes. Aunque realiza elanálisis de cada parte a través de los criterios deCalidad, los resultados siempre se estudian como efectos dela integración total. El modelo considera que todos losimplicados en la institución forman un conjunto sinérgicounido por valores, visiones, compromisos y metas comunes.

Consecuentemente el modelo considera que no puedeestablecerse un diagnóstico como resultado global deCalidad. Por ello, utiliza, a través de las siete variablesque equivalen a grandes partes de la anatomíainstitucional, un total de veintidós criterios de Calidad,que permiten analizar la situación de aspectos muydelimitados de esas variables. Además, el modelo diferenciatres campos de análisis: el sistema de Calidad establecido,la aplicación del sistema en la realidad, y los efectos queproduce. Al final se obtienen setenta y un análisisdiferenciados que pueden integrarse y establecer relacionesde causa-efecto en todo el sistema.

El modelo pone el énfasis en la mejora interna, aunque susconclusiones, referidas a criterios de Calidad, y basadas

Adaptación de los criterios deCalidad y su valoración a las

característicasde la Educación Superior.

Page 19: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calida

en datos y hechos, permiten su presentar, demostrar ycomprender el diagnóstico desde el exterior de lainstitución.

El diagnóstico se realiza a través de la autoevaluaciónpuesto que el cambio y mejora sólo puede partir desde lospropios implicados en el problema. Sin embargo, no debeentenderse la autoevaluación sin el apoyo y contraste delexterior. Aunque se trata de una evaluación basada encriterios, es aconsejable en los primeros pasos el apoyo delos expertos para formar los equipos y ayudar a establecerel sistema y, posteriormente, el apoyo de evaluadoresindependientes que puedan aportar contrastes y nuevassoluciones.

Por ello, otro elemento diferenciado del modelo es:

es e r

La finalidad del proceso deautoevaluación

l diagnóstico y, a partir de él,ealizar la mejora y el cambio

organizacional

d en la Educ. Superior Red Universitaria de Evaluación de la Calidad 19

Page 20: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 20

3Estructura del Modelo RUECA

de Autoevaluación

El modelo creado por la Red Universitaria de Evaluación de la Calidad se basa en lassiete variables de la organización más utilizadas por los diseñadores. Las variablesactúan como facilitadores y se relacionan con sus efectos sobre la instituciónuniversitaria. El conjunto de variables y efectos es coherente con una percepción total dela educación superior y de la Calidad.

Esta división de la institución en variables organizativas y efectos tiene como objetivoun mayor acercamiento a los profesores universitarios que van a utilizar los instrumentosde autoevaluación. Se ha hecho la división de manera que la terminología fuese lo másfamiliar posible, aunque es inevitable el uso de términos que pueden resultardesconocidos. Lo importante, en cualquier caso, es que el modelo recoge todos losaspectos esenciales de las instituciones de educación superior y está abierto a lasadaptaciones y ampliaciones que los evaluadores puedan necesitar.

VARIABLES DE LA ORGANIZACIÓN Y CRITERIOS DE CALIDADLas variables tienen algunas diferencias con otros modelos utilizados para resaltar elhecho de ser específicas de una institución de educación superior. Por ejemplo, lainteracción con el entorno ocupa un lugar predominante, para destacar la especialinterdependencia que estas instituciones tienen con la sociedad, y se establece unavariable referida a los programas, inexistente en otros modelos pero pieza esencial en lavida universitaria. Frente a los modelos tradicionales de evaluación no se evalúan lasvariables en sí mismas sino cómo se gestionan paraobtener los efectos buscados. La gestión es una actividad común a todas las institucionesy de ella dependen los resultados. El contenido de las variables, por el contrario, es muydiferenciado pues depende de la complejidad de la organización, de su tamaño y de la

Page 21: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 21

tecnología que utiliza y no es posible establecer relaciones de causa efecto y, sobre todo,criterios únicos de valoración.El modelo establece veintidós criterios de Calidad, tres por cada variable, excepto lainteracción con el entorno que tiene cuatro.

Cada criterio de Calidad recoge aquellas características de la organización consideradasnecesarias para obtener unos buenos resultados. Gestionar con estos criterios garantiza laCalidad de la dinámica de la institución y de sus resultados. El contenido de estoscriterios responde a los principios de Calidad descritos en el capítulo anterior y es, engran parte, coincidente con otros modelos, salvadas las diferencias que existen con lasorganizaciones industriales o de servicios generales, para las que han sido creadas.

VARIABLES DE LAORGANIZACIÓN CRITERIOS DE CALIDAD

1. ENTORNO

2. CULTURA

3. ESTRATEGIAS

4. ARQUITECTURA ORGANIZATIVA

5. PROCESOSY RECURSOS

6. PROGRAMAS

7. PERSONAS

1.1 Conocimiento del entorno1.2 Apertura al entorno1.3 Respuesta a las demandas del entorno1.4 Promoción de la interacción

2.1 Misión, visión y valores2.2 Proyecto educativo institucional2.3 Política de calidad

3.1 Estrategias para la mejora de la calidad3.2 Planificación de la calidad3.3 Seguimiento y evaluación de la calidad

4.1 Formalización del sistema de calidad4.2 Estructura de la organización4.3 Gobierno centrado en la calidad

5.1 Mejora de los procesos5.2 Recursos financieros y materiales5.3 Recursos tecnológicos y de información

6.1 Programas académicos6.2 Programas de investigación6.3 Programas de orientación y ayuda

7.1 Desarrollo del personal7.2 Desarrollo de la comunidad universitaria7.3 Compromiso con la mejora

Page 22: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la

Cada criterio contenido del mlos contenidos o M. Baldridgpropias de la variable Progrotros casos la combinadas cociento del contel 50 por ciencertificaciones también los cinstalado un side una certificlos apartados d

Variable

a b

Criterio

Calidad en la Educ. Superior R

Dimensiones

está definido a través de odelo. En líneas generales

de otros modelos de autoevae), mientras que el 25 poreducación superior. En estamas, la diferencia de contdiferencia está en la inclusin dimensiones generales. S

enido está definido específicto puede ser común y apldel tipo ISO 9000 tienen otrontenidos necesarios para stema de Calidad que cumplación ISO 9000 es muy cerce las normas ISO que no tien

1

c d e f g a

Criterio

ed Universitaria de Evalu

Dimensiones

dimensiones que rep, los contenidos reflejaluación de la Calidad ( ciento restante respona parte específica delenidos es fácil de percón de dimensiones proe puede estimar que

amente para institucionicable a otro tipo de as finalidades, el modeuna certificación y sea con los requisitos deana, salvando las neceen aplicación en institu

2

b c d

Criterio

ación de la Calidad 22

Dimensiones

resentan aspectos deln un 75 por ciento depor ejemplo, E.F.Q.Mde a las necesidades

modelo, como en laibir, mientras que enpias de la educación,

al menos otro 25 pores de educación y soloservicios. Aunque laslo RUECA contempla puede afirmar que,

l modelo, la obtenciónsarias diferencias conciones universitarias.

3

a b c

Page 23: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 23

CULTURA

ESTRATEGIAS PERSONAS

ARQUITECTURA PROCES/REC

PROGRAMAS

ENTORNO

1. EntornoLas instituciones de Educación Superior, como todas lasorganizaciones, necesitan interaccionar con el entorno. Deél obtienen sus recursos y a él le facilitan su saberhacer. Esta interdependencia hace que el entorno sea lavariable más importante en la vida de la universidad y, portanto, la que más condiciona el conjunto de laorganización. Desde la visión de la Calidad, el entorno esquien establece el valor de la formación recibida, el grado

Page 24: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 24

en que se satisfacen sus necesidades y demandas, y laimportancia del impacto que provoca la universidad en lasociedad. No puede concebirse una universidad alejada eindiferente a su entorno.

El entorno está formado por un conjunto de componentesentre los que se producen interacciones. En cada entornouniversitario hay un núcleo y otros componentes. El centroeducativo da sentido a las interacciones y a la existenciadel mismo entorno. Los componentes son muy variados(estudiantes, profesores, administración pública,organizaciones profesionales, empresariales y sociales,otros centros educativos que envían alumnos, proveedores dematerial, etc.) y paralelamente son miembros de la sociedadgeneral y de otros entornos sociales. Las interacciones, ylos necesarios intercambios, que definen el entorno, seproducen entre todos los componentes, aunquefundamentalmente entre el núcleo que presta el servicio yel resto de los componentes. Generalmente se identificanlos componentes del entorno como clientes (que reciben odemandan servicios del centro educativo) o proveedores (queofrecen o facilitan los servicios al centro). En eldocumento se han sustituido estos términos, en la mayoríade los casos, por otros equivalentes adaptados lasituación, dada la poca aceptación que todavía tienen en elcontexto tradicional académico.La evaluación de las relaciones entre la universidad y suentorno se basa en cuatro criterios de Calidad, descritos através de sus dimensiones en el capítulo siguiente:

1.1 Conocimiento del entorno1.2 Apertura al entorno1.3 Respuesta a las demandas del entorno1.4 Promoción de la interacción

2. CulturaLa cultura es la variable cuyo diseño establece una mayorinfluencia en la organización. Refleja el conjunto devalores, creencias y principios que guían a la institucióny definen la conducta que se espera de sus miembros. Aveces está descrita en los documentos de la mismainstitución y a veces en documentos externos, por ejemplo,en disposiciones de la Administración Pública o en normasde la entidad fundadora o titular. Cuando no aparece deforma explícita es posible descubrirla implícitamente enlos símbolos o señales visibles de la organización(instalaciones, reuniones, relaciones interpersonales,elementos decorativos, lenguaje utilizado) o en las otrasvariables que constituyen el diseño de la organización (elorganigrama, las normas, las estrategias, la metodología,las personas).

La cultura se refleja, en un nivel general, en losdocumentos fundacionales y en los documentos que presenta

Page 25: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 25

la universidad ante el exterior, que describen su misión,su visión ante el futuro y los valores que guían susactividades o proyectos. En un segundo nivel, la culturaaparece en el proyecto educativo institucional en torno alcual se construye la dinámica universitaria, desde lasestrategias generales a los programas de investigación. Eltercer nivel de análisis de la cultura se plasma en lapolítica de Calidad.

La cultura y el entorno necesitan unas bases comunes ya queno es posible una buena interdependencia sin una sintoníaentre ambas. La cultura de la sociedad ha impregnadosiempre la cultura interna aunque a lo largo de la historiahaya respondido a subculturas sociales determinadas de lasclases dominantes, que eran sus clientes esenciales.Sucesivamente ha respondido a la Iglesia, a las élitesnobiliarias y al Estado. Los cambios sociales de la segundaparte del siglo XX han dado paso a una enorme población decaracterísticas muy diversas y han producido una granvariedad de subculturas a las que los centros de educaciónsuperior no siempre han sabido responder.

Cualquier plan de intervención y cambio sobre las otrasvariables no puede hacerse si no se actúa paralelamentesobre la cultura. Esta marca siempre, a veces de formaoculta, las pautas que sigue la organización y su análisispermite descubrir las dificultades que presentan otrasvariables para mejorar o transformarse y los resultados quese obtienen.

La evaluación de la cultura de la organización se basa entres criterios de Calidad, descritos a través de susdimensiones en el capítulo siguiente:

2.1 Misión, visión y valores2.2 Proyecto educativo institucional2.3 Política de Calidad

3. EstrategiaLa estrategia es el camino elegido para hacer realidad lamisión y la visión de la institución. La estrategia deCalidad es una parte de la estrategia general y se centraen alcanzar la Calidad, aunque no siempre las estrategiasgenerales contemplan explícitamente la Calidad como uno desus requisitos. La evaluación de la Calidad tiene unaespecial importancia puesto que, es a partir de laestrategia (y de la cultura), como se diseñan las otrasvariables organizativas y la dinámica institucional.

La estrategia presupone la definición de la política deCalidad como expresión de los fines a corto plazo,establecidos por el equipo de gobierno, y se completa conla planificación de las actividades. El logro de losobjetivos establecidos en la planificación se consigue, apartir de aquí, con el apoyo de la arquitectura

Page 26: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 26

organizativa, la utilización de los procesos y recursos, eldesarrollo de los programas y la gestión de las personas.

Los planes estratégicos y los planes anuales plasman deforma concreta la estrategia. En ellos se integran losplanes de Calidad elaborados como respuesta a lasinformaciones procedentes del entorno, de la institución yde otros entornos. La estrategia se apoya, por tanto, en elanálisis interno, que identifica debilidades y fortalezas,y en el análisis externo, que descubre las oportunidades yamenazas.

El evaluador debe tener en cuenta que, en el proceso degestión de las organizaciones, la estrategia debe precedery ser el origen de la arquitectura organizativa, pero que,a veces, el orden se invierte, de manera que existepreviamente una estructura, generalmente burocrática,fijada por los poderes públicos y, a partir de ésta, elgobierno de la universidad debe crear su estrategia. Comoes inevitable, dado que la estructura burocrática esrígida, y la autonomía en la utilización de los recursoslimitada, las posibilidades de creación de estrategias deCalidad no siempre están al alcance de las instituciones.

La evaluación de la estrategia de Calidad en este modelo sebasa en tres criterios de Calidad, que aparecen descritos,a través de sus dimensiones en el capítulo siguiente:

3.1 Estrategias para la mejora de la Calidad3.2 Planificación de la Calidad3.3 Seguimiento y evaluación de la Calidad.

4. Arquitectura organizativaEl desarrollo de la estrategia se asienta en cuatropilares: la arquitectura, los programas, los procesosgenerales y recursos y las personas. Cada uno de ellostiene sus propias características aunque seaninterdependientes. La arquitectura organizativa representala forma que toma la organización para responder a laestrategia y, paralelamente, atender a las necesidades yexpectativas de las personas y a las exigencias de latecnología (procesos, programas y recursos).

La arquitectura de la organización responde a un sistema deCalidad, definido y validado, que diseña los flujos deinformación, comunicación, conocimientos, decisiones,solución de problemas, como los arquitectos juegan con laluz o el movimiento de las personas en los edificios. Eldiseño del espacio y los canales de información definen lajerarquía, establecen los procesos de trabajo con caminosalternativos o crean los mecanismos de comunicación ydecisión. El sistema de Calidad de la arquitectura regulanecesariamente el funcionamiento del modelo.

Page 27: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 27

La arquitectura para la Calidad pone un especial énfasis enla flexibilidad. Por ejemplo, en el trabajo en equipo y laexistencia de redes de cooperación internas, con otrasorganizaciones de su entorno o con otras universidades, enel autodiseño permanente de la organización en función delproyecto educativo institucional y en el enfoque de unaorganización inteligente que acumula conocimientos yresuelve sus problemas de una forma sistemática, en eldesarrollo de equipos directivos y personal con laformación adecuada a sus tareas o en la apertura a losprocesos de interacción con su entorno.

La evaluación de la arquitectura organizativa se basa entres criterios de Calidad, que están descritos a través desus dimensiones en el capítulo siguiente:

4.1 Formalización del sistema de Calidad.4.2 Estructura de la organización4.3 Gobierno centrado en la Calidad

5. Procesos y recursosEn el diseño de la organización se suelen incluir bajo eltérmino "tecnología" los recursos y los procesos. En elmodelo se ha establecido una división, bajo la mismavariable, de los procesos y los recursos, y se ha separadoen otra variable los programas que, aunque son parte de losprocesos, representan la actividad esencial de lainstitución y son, por tanto, la piedra angular de laacción formadora.

La gestión de los procesos se centra en el apoyo a ladinámica institucional de formación. Forman parte de esteapartado todos los procesos no incluidos en los programas,como los procesos de gestión general y los deadministración.

La gestión de los recursos se ha dividido en dos criterios.En uno se agrupan los recursos financieros y materiales yen otro los tecnológicos y de información. En amboscriterios se trata de valorar la adecuación y lautilización en relación con los objetivos de Calidad.

En consecuencia esta variable recoge tres criterios deCalidad, que están descritos a través de sus dimensiones enel capítulo siguiente:

5.1 Mejora de los procesos5.2 Recursos financieros y materiales5.3 Recursos tecnológicos y de información

6. ProgramasComo se ha indicado anteriormente, la variable "programas"recoge la esencia de la actividad universitaria. Tendría

Page 28: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 28

sentido basar la evaluación universitaria en esta variablesi no se partiese de que la Calidad debe ser entendida enla totalidad de la institución. Sin embargo, la tendencia aevaluar los planes de estudio de una determinada carreratiene aquí su principal punto de apoyo y, en el caso de sereste el enfoque de la autoevaluación, el resto de lasvariables actúan de contexto pues no tendría sentido unaevaluación de los programas sin considerar las conexionesque el resto de variables tienen con ellos.

Se han considerado tres criterios de Calidad. El primero,programas académicos, es común a todos los centros deEducación Superior y, sin duda, representa una baseimprescindible de análisis. El segundo, programas deinvestigación, dependen de las características del centro yde la existencia de tercer ciclo, estudios de doctorado oprogramas específicos. Por consiguiente, es un criterio quecada institución que use la autoevaluación debe considerarsi se debe aplicar o excluir.

El tercer criterio de Calidad en los programas es esencial,aunque pueda estar poco desarrollado en algunasinstituciones. Los equipos evaluadores deberían prestarleuna atención especial puesto que representa una aportaciónen muchos casos vital para los estudiantes. La escasapreocupación por este aspecto es el primer escalón delfracaso escolar.

De acuerdo con lo descrito esta variable recoge trescriterios, que están descritos a través de sus dimensionesen el capítulo siguiente:

6.1 Programas académicos6.2 Programas de investigación6.3 Programas de orientación y ayuda

7. PersonasLas personas son esenciales en cualquier organización,incluso en las industrias que cuentan con un alto nivel deautomatización. En las universidades, la permanenterelación interpersonal del aprendizaje hace de las personasel eje central del desarrollo de la Calidad. Elfuncionamiento del sistema de Calidad y, sobre todo, de losprocesos de mejora continua no serían posibles sin laintervención y la implicación voluntaria de los actores dela comunidad.

El modelo no evalúa a las personas, sino la gestión de laspersonas en el proceso de Calidad. Es una variable complejaya que actúa sobre los actores de la organización querealizan distintos papeles (el estudiante es agente de laformación y receptor de ella, y el profesor es tambiénproveedor y cliente simultáneamente en el proceso) y actúan

Page 29: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 29

en dos niveles, a veces no coherentes, el formal, definidoen el conjunto de la estructura, y el informal, expresadoen su personalidad, sus actitudes y motivaciones y oculto através de los grupos de interés.

El modelo considera que la gestión de las personas tienedos vías paralelas. Una se dirige a las personas de formaindividual ya que las actitudes, motivaciones, intereses yexpectativas difieren y, en consecuencia, necesitan unadecuado apoyo a su desarrollo personal y a su formaciónpara el trabajo. Paralelamente la gestión se encamina aldesarrollo de la comunidad universitaria que tiene unaspeculiaridades específicas, diferentes de las de otrasorganizaciones de servicios e incluso muy diferenciadas,según el tipo de institución o la disciplina en quetrabajan.

Por ello la evaluación de la variable personas se basa encuatro criterios, definidos a través de sus dimensionesdescritas en el capítulo siguiente:

7.1 Desarrollo de personal7.2 Desarrollo de la comunidad universitaria7.3 Compromiso con la mejora.

DIMENSIONES Y DESCRIPTORESCada uno de los criterios de Calidad se define por medio de sus dimensiones. La sumade los valores de las dimensiones permite valorar la implantación del criterio (primernivel) y la aplicación del criterio (segundo nivel). Por ejemplo:

Estas tres dimensiones son valoradas por su

1.4a La universidad promueve la relación con entidades públicas, organizaciones empresariales, Existenciaasociaciones científicas, y otras organizaciones Contenidopara mejorar la Calidad. Difusión

Conocimiento1.4b La universidad promueve la relación con Utilizaciónsus ex-alumnos, licenciados y doctores, y con las Aplicaciónasociaciones profesionales y científicas Seguimientoque los agrupan para mejorar la Calidad.

1.4c La universidad promueve la relación con otras universidades nacionales e internacionales para mejorar la Calidad.

Medida de proporciona el valor de

Existencia

Page 30: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitari

Contenido Implantación del criterio 1.4DifusiónConocimiento

y la medida de

UtilizaciónAplicación Aplicación del criterio 1.4Seguimiento

Para una mejor comprensión de las dimensiones se utilizan descriptores. Permitenvalorar el contenido, aunque pueden adaptarse a la institución. Una transformación delcontenido puede hacer variar el significado de una dimensión. Y, por tanto, es otra formade flexibilizar el modelo.

Los descriptores de la dimensión 1.4a son:- Apoyos (financieros y no financieros) que ofrece la universidad para facilitar

esa participación.- Intercambio y participación con otras organizaciones, en actividades de

formación, investigación y evaluación para la mejora de la Calidad.- Mecanismos de participación en proyectos, redes, etc. de investigación y

evaluación de la Calidad.EFECTOS DE LA ORGANIZACIÓNLas variables organizativas, que agrupan a los agentesdinamizadores institucionales, producen unos efectos, aveces directos y fáciles de relacionar y, a veces,indirectos y enlazados entre sí. Cada una de las variablesproduce unos efectos institucionales que el modelodiferencia. Por ello, en conjunto, el modelo RUECA puedeser utilizado como una herramienta de planificaciónrelacionando los efectos deseados con la variable sobre laque debe actuar.

Entorno

Cultura

t c Progr

Efectos

Estrategias

amas Personas

Arquitecura

Proce/Reur

a de Evaluación de la Calidad 30

Page 31: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 31

El modelo agrupa los efectos que provocan los criterios deCalidad para cada variable, de manera que sea más fácil sudetección, análisis y valoración en cuatro grupos deefectos:

Satisfacción de los implicadosSe entiende por tal la respuesta positiva que, en un primerpaso, condiciona la acción directa de la institución sobrelas personas. Lograr esto provoca la satisfacción poraprender y consiguientemente facilita el aprendizaje.

Este efecto institucional está representado por lasatisfacción de las necesidades, expectativas e interesesde las personas:

- Necesidades humanas, definidas por A. Maslow en cincogrupos: psicológicas, de seguridad, sociales, estima yautorealización.- Expectativas de relación interpersonal (entre estudiantesy profesores): confianza, credibilidad, atracción,respuesta y preocupación- Intereses personales, diferenciados para esa etapa de lavida y ese tipo de personas. Por ejemplo, instalaciones(tipos, condiciones de uso), servicios disponibles (p. ej.comedores), actividades complementarias (p. ej. deportes,viajes) y una variedad muy amplia de alternativas segúnsituaciones individuales de los estudiantes, los profesoresy el resto del personal.La satisfacción incluye tres tipos de demandas: la Calidadesperada, que las personas dan por supuesta, y que solo sepercibe cuando se pierde; la Calidad buscada, que hacefelices a quienes la tienen e infelices a quienes no latienen; y la Calidad "excitante", que no se espera, peroque provoca excitación cuando se recibe. Los tres tipospueden darse en la formación.

Aunque las descripciones anteriores tienen la perspectivadel estudiante, cada una de ellas puede ser traducida acualquiera de los otros implicados en los procesos deformación. Para el profesor, por ejemplo, las condicioneslaborales o materiales de trabajo o el reconocimientoprofesional son de especial importancia.

Valor percibidoEl valor percibido de la formación que ofrece lainstitución representa el eje central de la misión y debe

Page 32: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 32

considerarse la medida esencial en la evaluación. Laspersonas consideran que esta es la razón de su entrada enel centro y esto representa lo que reciben a cambio de loque entregan (tiempo, esfuerzo, dinero, dificultadesfamiliares, etc.

Este producto es, como la satisfacción, esencialmentesubjetivo lo que supone un giro completo al sistematradicional en el que las metas son establecidas yvaloradas desde la propia universidad. El modelo transformala gestión universitaria que ha de centrarse en generarvalor que pueda ser percibido y aceptado por la sociedad,en vez de intentar "vender sus programas".

Los evaluadores pueden considerar diversos tipos de valorpercibido en la formación que se recibe como

- Valor económico (capacidad para hacer, cambiar,gestionar, etc.).

- Valor monetario (medido en dinero: pesetas, euros,dólares).

- Valor social (autoridad, status que se logra).- Valor moral (basado en códigos, leyes, derechos).

Sin duda los valores pueden combinarse y ser distintos parados personas en situaciones similares. Dentro de lalibertad del modelo, cada institución puede considerar lamayor o menor importancia de unos u otros valores e,incluso, añadir otros que considere más adecuados a sumisión, visión y valores.

Impacto socialEl impacto social está estrechamente unido a la misión delcentro educativo, obligado inevitablemente a relacionar susaportaciones individuales con el desarrollo económico ysocial del entorno.

La medida del impacto social es un complemento de las otrasmedidas aunque existe una mayor dificultad de establecer larelación causa efecto, especialmente por los grupos tanvariados y dispersos de implicados en la acciónuniversitaria. Fundamentalmente el impacto se debe medir entres grupos concretos (las familias, las empresas, lasorganizaciones sociales y otras universidades) y de unaforma general en la sociedad que interactúa con el entornouniversitario, aunque no pertenezca a él.

Desarrollo interno de la instituciónEste grupo representa la valoración de la capacidad delcentro para responder a la misión, visión, valores yfinalidades expresadas en el proyecto educativoinstitucional.

Page 33: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 33

El desarrollo interno es únicamente un producto, nunca unresultado social. No es el fin de la institución sino soloun medio que se genera o incrementa por la mismainstitución y que se mide a través de datos objetivos.Esencialmente se centra en considerar los efectos de todaslas variables sobre sí mismas.

De acuerdo con el tipo de institución y la perspectiva delos implicados los evaluadores pondrán el énfasis en uno oen otro aspecto. Por ejemplo, algunos darán más importanciaa los recursos financieros, otros al compromiso y lacompetencia de los profesores y otros al desarrollo de losprogramas de investigación.

Page 34: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 34

4Valoración

y Medida en el Modelo

Uno de los problemas en la gestión de muchos centros educativos es que carecen de unsistemas de control de funcionamiento. No tienen indicadores insdiscutibles dereferencia para medir la Calidad como consecuencia del origen burocrático, asistencial oideológico de las instituciones. Los sistemas educativos evitan, en la mayoría de loscasos, establecer sistemas de medida de la Calidad pues hacerlos visibles sería descubrirsus contradicciones y sus fallos.

Sin embargo la medida de la Calidad es esencial, si se quiere gestionar la dinámica de lainstitución, pues todo lo que no se puede medir escapa a las posibilidades de mejora.Pero, no solo es necesario ponerse de acuerdo en el "que hacer", para discernir lo que esadecuado o inadecuado, y en el "cómo hacer" para diferenciar las cosas bien hechas delas mal hechas, sino además, en el sistema de medida, basado en una visión única de laCalidad.

La actividad humana organizada necesita de la medida (relojes, calendarios,termómetros, calibradores), de manera que sea sencilla de manera que su conocimientopermita reacciones para la regulación de la situación. Esto último solo se logra si seconecta lo medido con los resultados finales deseados.

El modelo RUECA parte de los criterios de Calidad, fijados como sistema regulador, loque permite establecer los efectos (productos y resultados) del sistema y, enconsecuencia, diseñar los procesos (qué y cómo hacer) para alcanzarlos. El sistema demedida permite controlar el desarrollo de unos y otros y, en definitiva, plantear sumejora, estableciendo la relación entre ambos. Es obligado llamar la atención de losusuarios del modelo que el sistema de medida es una convención creada por los autoresy que, por tanto, solo debe ser tomada como un instrumento de trabajo, que puedemejorarse o sustituirse.

El modelo ha recogido en sus siete variables los aspectos esenciales de la dinámica delas instituciones de Educación Superior (descritos en sus 22 criterios de Calidad). Lasdimensiones (en un total de 118) que definen los criterios son datos que pueden sermedidos y que permiten establecer el nivel de Calidad institucional. La escala que sedescribe en el paso siguiente es una herramienta esencial en esta tarea.

Page 35: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 35

En cualquier caso es conveniente prevenir a los interesados en la evaluación que, paraque esta sea válida y pueda tener efectos posteriores, es necesario un trabajo meticulosoy largo, para el que hace falta una preparación bien programada. La valoración correctade las evidencias exige experiencia, conocimiento de las instituciones y trabajo enequipo de forma combinada con un talante abierto y flexible.Los evaluadores deben cuidar en el proceso de medida de la Calidad algunos aspectoscomo:

1. Mantener las mismas normas de aceptación de evidencias.2. Lograr enfoques comunes de la teoría y de los procesos de evaluación.3. Unificar los sistemas de interpretación de la información.4. Dominar las escalas de puntuación, haciendo anotaciones compartidas sobreejemplos reales.5. Establecer el significado de los términos que se utilizan, de manera que sea igual para todos.6. Compartir experiencias previas de manera que se puedan alcanzar

visiones cercanas de las situaciones.7. Adiestrarse en procesar información.8. Buscar relaciones entre los criterios aplicados y lo que sucede en la institución,que ayuden a valorar las informaciones.

ESCALA GENERAL PARA LA VALORACIÓNLa evaluación de la Calidad en las instituciones de Educación Superior exige un cuidadoespecial en el uso de los instrumentos de medida. La experimentación previa descubrióque la heterogeneidad de las organizaciones, la falta de sistemas de Calidad y lainterdependencia no hacían aconsejable la utilización de valoraciones obtenidas poracumulación de datos. Para hacer operativa la información aportada era necesariopresentarla diferenciada de manera que permitiese establecer relaciones y facilitar elseguimiento de las acciones de mejora.

Uno de los primeros puntos de partida del sistema de valoración reside en el hecho deque la introducción de la Calidad en una organización debe seguir un procesosistemático. Primero debe existir un sistema de Calidad, después debe aplicarse y porúltimo comenzarán a experimentarse sus efectos. Los tres pasos pueden obtener al serenjuiciados una mayor o menor valoración pero no puede dudarse que son pasossecuenciados y que no es posible una alta valoración en el tercero si no se ha alcanzadoal menos esta misma valoración en el primero. En otras palabras, no pueden existir unosresultados positivos de Calidad si no existe un sistema de Calidad o este no se aplica.Los centros educativos carecen, en general, de sistemas que garanticen la Calidad de suenseñanza y, por tanto, la medida de los efectos no puede ser tomada como informaciónsignificativa en la institución.

La respuesta del modelo a este problema es la elaboración de una escala con tres nivelesdiferenciados (implantación, aplicación, efectos), que aparece reflejada en los cuadros delas páginas siguientes.

0 40 70 100

Implantación Aplicación Efectos

Page 36: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 36

El primer nivel mide la implantación del sistema de Calidad. Es requisito necesario paraevaluar la Calidad que exista un conjunto de procesos y procedimientos que seestablezcan de forma coherente para lograr la Calidad. El punto de partida es que no esposible alcanzar la Calidad en una organización si no existe un sistema diseñado yconocido por todos para alcanzarla. La medida de esta implantación se realiza sobre lasdimensiones que definen cada criterio de Calidad. En cada dimensión se analizan cuatrocomponentes:

1. La existencia, a través de cualquier manifestación documental actualizada.2. El contenido, con todos los elementos que el evaluador considera básicos y estructurados de forma coherente.3. La difusión del sistema en toda la institución.4. El conocimiento por los implicados de aquellos aspectos del sistema que les afectan en su trabajo.

El contenido de cada dimensión se presenta con un conjunto de descriptores en eldocumento de variables y criterios de calidad, de manera que el evaluador pueda haceruna mejor interpretación de su significado. En cualquier caso los descriptores pueden serampliados y adaptados a las necesidades de cada institución.

El segundo nivel mide la aplicación y seguimiento del sistema de Calidad. Aunque sepueda alcanzar el primer nivel de una forma satisfactoria, las organizaciones con altoscomponentes administrativo-burocráticos pueden no dar el paso para llevar a la prácticalo que los equipos directivos o especialistas en Calidad proponen y difunden. Elevaluador tiene que valorar en que medida el sistema se lleva a la realidad y no queda enoptimistas declaraciones de intenciones en los documentos y en los actos académicos.

En la valoración de la aplicación del sistema se consideran y analizan las informacionesque provienen de:

- Actuaciones de la jerarquía, actividades de las unidades.- Propuestas de mejora y de cambios en la organización- Informes, estudios, análisis, investigaciones.- Decisiones, acuerdos, convenios.- Proyectos, planes, estrategias.- Registros de seguimiento de acciones de mejoras.

Escala para la valoración

Descriptores para su valoraciónNivelesde la escala

Page 37: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 37

Niveles de la EscalaDescriptores para suvaloración

1. Implantación del sistemade Calidad.

Valor total de este nivel:

40 puntos

Existencia de la dimensión- Manifestaciones o evidencias de su existencia.- Variedad de documentos en los que se refleja la dimensión.- Referencias a los principios de Calidad.- Revisión y actualización de los documentos que la describen.

Valor: 10 puntos

Contenido de la dimensión- Conjunto de elementos que describen la dimensión (procesos,procedimientos, técnicas, recursos, datos, personas, informes,etc.) estructurados para garantizar su funcionamiento.

Valor: 10 puntosDifusión de la dimensión- Diversidad y adecuación de los medios utilizados para sudifusión.- Proporción de mensajes sobre miembros implicados.- Implicación de las personas en la difusión de la dimensión.

Valor: 10 puntos

Conocimiento de la dimensión- Proporción de implicados que conocen la dimensión.- Proporción de implicados que pueden relacionar la dimensióncon su trabajo.

Valor: 10 puntos

2. Aplicación y seguimientodel sistema.

Utilización de la dimensión- Utilización de la dimensión por/en losdiversos niveles y áreas de la institución.

Valor: 10 puntos

Aplicación de los principios de la Calidad - Adecuación a las necesidades y expectativas de losinteresados. - Implicación de las personas y de los equipos en laelaboración, ejecución y evaluación de la actividad. - Búsqueda de la mejora permanente a través de la prevención,la evaluación del sistema y la corrección automática. - Gestión basada en hechos y datos. - Apoyo sistemático del equipo directivo.- Aceptación de que todas las actividades tienen relación con laCalidad.

Valor: 10 puntos

Seguimiento de la dimensión y de las mejoras- Procedimientos e instrumentos utilizados para elseguimiento y para el registro de la información de losprocesos y efectos.- Informes y propuestas de mejora ylos registros de seguimiento y elanálisis de las mejoras introducidas.

l 10

Page 38: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 38

Valor total de este nivel :

30 puntos

La medida de la aplicación se hace en cada criterio de Calidad en función de lasdimensiones que lo definen. Se trata de comprobar que el sistema de Calidad establecidofunciona y con él la organización logra sus objetivos.

En cada dimensión se analizaran tres componentes:

1. La utilización del sistema en las actividades diarias. Se busca evidencia documental de su utilización.2. La aplicación de los seis principios básicos de la Calidad.3. El seguimiento y registro de los procesos y efectos, que implica la dimensión, y de las propuestas y mejoras introducidas.

Satisfacción- En los estudiantes: necesidades (seguridad, pertenencia,autorealización), intereses y expectativas.- En el personal interno: condiciones materiales,condiciones laborales, funcionamiento institucional yreconocimiento profesional.- En los clientes y proveedores: relacionesorganizacionales com unicación, etc.

Valor percibido- Por los estudiantes: valor de la formación académica yprofesional, del título y del desarrollo personal obtenidos.- Por las empresas y centros de estudio superiores:adecuación a sus objetivos y dinámica.- Por la sociedad y la administración: adecuación a susdemandas.

Impacto social- En la familia: apoyo a la Calidad de vida y a laintegración social.- En las empresas y las organizaciones sociales:aportación a la adaptación de los estudiantes a las culturasempresariales y sociales.- En la sociedad: apoyo al desarrollo social, cultural,ambiental, económico y tecnológico.

Desarrollo interno de la institución- En los recursos: (hum anos, financieros, organizativos,tecnológicos, etc..)- En los procesos generales de todas las variables de laorganización.- En los programas (de form ación, de investigación, deayuda y orientación a los estudiantes, etc..).- En las variables generales de la organización: cultura,estrategia y arquitectura.

3. Efectos del sistemaen la institución.

Valor total de este nivel:

30 puntos

Page 39: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 39

Aunque no es habitual la valoración positiva de la aplicación puede llevar en algunosaspectos concretos a dar como válida o a reforzar la medida de la implantación delsistema de Calidad que puede estar poco desarrollado formalmente (por escrito).

El tercer nivel recoge la medida de los efectos del sistema de Calidad en la institución,en función de cuatro componentes ampliamente descritos para cada variable en elcapítulo anterior:

1. La satisfacción de las personas (estudiantes, personal interno y cualquier otropersonal que se relacione directamente con la institución, como clientes oproveedores).

2. El valor percibido de la formación ofrecida (por los estudiantes, las empresas yotros centros educativos que reciben estudiantes, por la administración, por lasociedad, etc.).

3. El impacto social en (la familia , las empresas , y las organizaciones sociales yen la sociedad).

4. El desarrollo interno de la organización que, aunque no es el fin primero de lainstitución, representa una medida valiosa de la salud institucional. En cada casolos aspectos del desarrollo pueden variar pero, en conjunto, implica elcrecimiento de los recursos, los procesos generales, los programas y las variablesgenerales de soporte.

La escala utilizada en el modelo permite medir cada una de las siete variables con untotal de 100 puntos, distribuidos de acuerdo con los tres niveles descritos:

Implantación 40 puntosAplicación 30 puntosEfectos 30 puntos

Total 100 puntos

Una visión global gráfica del uso de la escala en una institución aparece en el ejemplo derepresentación gráfica de la medida de la Calidad en una Institución en la Pag.

El modelo diferencia está implantado (nivel 1)

si el sistema de Calidad se aplica (nivel 2)y

los efectos que produce (nivel 3)

El modelo de Calidad esta definido por 22 criterios, descritos anteriormente (capítulos 2y 3), a través de las dimensiones. La medida de sus dimensiones permite dar unavaloración global de cada criterio.

Page 40: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Edu

El gráfico que aparece a continuación muestra el proceso para valorar la implantación(nivel 1) y la aplicación (nivel 2) del sistema de Calidad en la estrategia (variable 1). Enla parte de la izquierda figura la relación de dimensiones que definen la variable(aparecen solo con la letra para simplificar la presentación). Los valores de cadadimensión proporcionan el valor de cada uno de los criterios en cuanto a implantación yaplicación. La media de los valores de implantación y de aplicación de los tres criteriosproporcionan los valores de ambos niveles de la variable. Más adelante se explica elproceso con mayor detalle.

VALORACIÓN DE LAS DIMLas dimensiones son las medidcada dimensión se obtiene comla institución evaluada.

La primera clave de la flexibilicriterio: deben ser seleccionada

Relevantes (R) TImportantes (I) SeNo utilizables (N) SeAñadidas (A) N

La extensión refleja la proporco implicada en esa dimensión eel número de personas, el númesea representativa. Para estable10 puntos cuyos niveles de

Dimensión aDimensión b Dimensión c

Dimensión aDimensión bDimensión cDimensión d

Dimensiones Criterios

Variable

Estrategias de mejora de la Calidad(Criterio 1)

Planificación de la Calidad Estrategias(Criterio 2) (Variable 3)

c. Superior Red Universitaria de Evaluación de la Calidad 40

ENSIONESas básicas de los criterios de Calidad. La valoración deo media de dos medidas: su extensión y su intensidad en

dad del modelo reside en las dimensiones que definen uns por el equipo evaluador que determinará cuando son:

endrán todo su valor les aplicará la mitad del valor eliminarán en la valoración

ueva dimensión incluida

ión de la institución evaluada que utiliza o se ve afectadan relación con los que deberían estarlo. Se puede utilizarro de unidades organizativas o cualquier otra unidad que

cer el valor de la extensión se utiliza una escala entre 0 yreferencia son los que aparecen a continuación. Los

Page 41: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 41

evaluadores pueden tomar cualquier medida o proporción que facilite sus cálculos,utilizando como norma que el manejo de los números sea sencillo. Por ejemplo, si lainstitución tiene cuatro departamentos el valor de cada uno será 2,5 (el 25 por ciento)mientras que si hay cinco cada uno será 2 (el 20 ciento):

0 - Nula o mínima implantación

2,5 - Pocas partes o actividades

5 - Algunas partes o actividades

7,5 - Bastantes partes o actividades

10 - Toda el área, institución o actividades

Por ejemplo, en la dimensión que se define como "la institución promueve una fuerteimplicación en la Calidad", los evaluadores pueden llegar al consenso de que el valor enpuntos de cada componente, al medir la implantación es:

Componentes Descripción. Datos disponibles Puntos Existencia: Se puede considerar que existen bastantes actividades,

documentos y referencias, revisados y actualizados. 7,5

Contenido: Todos los posibles elementos han sido contemplados en la promoción. 10

Difusión: La difusión ha sido limitada. Ha llegado a un tercio de los profesores de forma directa y sólo un reducido número (10 %) de los contactados está implicado en ella. 2,0

Conocimiento: Solo el 30% de los que conocen la dimensión pueden establecer la relación con su trabajo. 3,5

Total de los cuatro componentes23Valor medio de la extensión de esa dimensión 23/4 5,7

La intensidad refleja la importancia que tiene para la institución, la profundidad con quese usa, y el desarrollo que se da a esa dimensión. El sistema de medida es igual alanterior en un continuo entre 0 y 10. Puede servir como referencia los puntos queaparecen a continuación, aunque los evaluadores tomaran los valores que estimen másadecuados.

Page 42: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 42

0 - Solo aparece en casos aislados, anecdóticos o carentes de significado

2,5 - Hay evidencias de planteamientos preventivos o correctores.Se han alcanzado algunos objetivos.Existen algunos indicadores de tendencia positiva.

5 - Hay evidencias de enfoques sistemáticos.Se realizan revisiones de la eficacia del sistema.Hay evidencias positivas con muchas áreas cubiertas.

7,5 - Aparecen claras evidencias de planteamientos sistemáticos.Se realizan revisiones periódicas con hechos y datos.Existe integración parcial en la cultura institucional.

10 - Incluye el nivel anterior y la existencia de....Uso generalizado en la institución, revisiones sistemáticas,amplia integración en la cultura institucional, tendenciaspositivas en la mayoría de las áreas, comparaciones con otrasorganizaciones, análisis de relaciones de causa-efecto, y descripción que puede servir de modelo.

En el ejemplo utilizado anteriormente, los evaluadores establecieron para la intensidadde la implantación de esa dimensión los siguientes valores:

Componentes Descripción. Datos disponibles. Puntos

Existencia: Hay planteamientos sistemáticos, con revisiones anuales. 5

Contenido: Pocos objetivos. Promoción superficial debido a los medios. 3

Difusión: Enfoque sistemático pero solo cubiertas las mínimas necesidades de difusión. 5

Conocimiento: El porcentaje de los que conocen la dimensión se reduce por la evidencia de su conocimiento superficial. 2

Page 43: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 43

Total de los cuatro componentes15

Valor medio de la intensidad de esa dimensión (15/4) 3,7

Si se representa gráficamente la implantación de esa dimensión, teniendo en cuenta laextensión y la intensidad, resultaría:

10

i n t e

n 10 s i d

a d

intensidad

En el caso (no real) de que sólo esta dimensión sirviese como descripción de unainstitución el valor de la implantación se obtendría de la media de la suma de laextensión y la intensidad

3,7 + 5,7 9,4 ------------ = ----- = 4,7

2 2

lo que equivaldría al 47 por ciento de una situación considerada como óptima.

Aunque matemáticamente la media del producto sería más real (21 por ciento) losevaluadores prefieren la media de la suma porque permite una visión más positiva ymotivadora, especialmente hasta que las organizaciones hayan mejorado su sistema deCalidad. Solo hay una excepción: sí uno de los sumados es cero, el valor total debe sercero.

VALORACIÓN DE LOS CRITERIOS

En la valoración de un criterio hay que trabajar con todas las dimensiones puesto quetodas ellas le definen. La valoración de la implantación (primer nivel de la escala) se

El valor de una dimensión es la media de los valoresde su extensión e intensidad.

5,7 3,7

Page 44: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 44

realiza completando el cuadro que aparece a continuación en el que se han incluido losvalores posibles. Los pasos para hacer la valoración son:

1. Valorar los componentes (de extensión e intensidad) de cada dimensión, como se haexplicado en el apartado anterior.

2. Obtener los totales de cada una de las dimensiones y colocarlos en las columnas queindican "total". En el ejemplo del cuadro inferior deberán llenarse siete más sietecasillas, que aparecen rodeadas con una línea más gruesa.

3. Obtener las medias de las dimensiones de cada columna (media de extensión y mediade intensidad) y colocarlas en el recuadro inferior.

4. Obtener el valor de implantación como media de los dos totales anteriores.

Page 45: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 45

De la misma forma se obtiene el valor de la aplicación (segundo nivel de la escala). Enel cuadro que aparece a continuación el proceso es el mismo modificando loscomponentes de la aplicación, que aquí son utilización del sistema, aplicación de losprincipios de calidad y seguimiento y registro de los datos. Ver Cuadro (Pag. 42 ).

El valor total del criterio quedará reflejado como suma de los dos niveles de la escala.

Niveles Rango

Implantación 0-40Aplicación 0-30

Total de rango posible del criterio 0-70

VALORACIÓN DE LOS EFECTOS DE LAS VARIABLESEn el tercer nivel se valoran los efectos de la variable. En este caso, como puede verseen la escala, se utilizan cuatro componentes cuya valoración se ofrece como global. Unapropuesta posible de distribución es:

Componentes Rango

Satisfacción de las personas 0-10Valor percibido 0-10Impacto social 0-5Desarrollo institucional 0-5

Total rango posible de los efectos 0-30

Se ha dado menores valores al impacto social y al desarrollo institucional porque seestima que no son metas directas de la institución. En el caso del impacto se puedeestimar que la satisfacción de las personas y el valor percibido cumplen gran parte deeste objetivo en este tipo de instituciones. El desarrollo interno es difícil de potenciar enla mayoría de las instituciones, debido a su dependencia presupuestaría de lasinstituciones públicas educativas y a las limitaciones de su gestión administrativa. Encualquier caso los directivos y los evaluadores pueden modificar estos valores paraajustarlos a sus objetivos y estrategia.

De la misma forma que en los niveles anteriores el cálculo de los efectos se realiza enfunción de su extensión e intensidad. En el siguiente cuadro se han incluido divisionesen varios sectores considerando que la institución puede relizar valoracionesdiferenciadas, por ejemplo, por carreras que se imparten (medicina, filología, ingeniería)o por grupos de actividad (estudios de posgrado, investigación, cooperación conempresas). En la medida en que la división sea más amplia los datos serán mássignificativos. Ver Cuadro Criterio 1.1. (Pag. 43 )

Page 46: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 46

El modelo identifica información de los efectos de las variables a través de- Respuestas de los implicados recogidas en encuestas, entrevistas, etc.- Registros o cualquier referencia directa de los efectos.- Decisiones, etc. en las que se muestran la posición de los implicados.- Informes, estudios o análisis realizados por las unidades afectadas.

Los evaluadores deberán diferenciar dos tipos efectos: los productos (por ejemplo,títulos concedidos, conocimientos adquiridos, satisfacción), y los resultados sociales (porejemplo, estudiantes que al terminar logran un puesto de trabajo, prestigio académico delos titulados, consideración social sobre el comportamiento ciudadano de losestudiantes). Estos últimos representa la verdadera finalidad de las institucioneseducativas. En ambos casos hay que valorar cuatro grupos de medidas porque los datosde un momento dado son poco significativos:

1. Tendencias. Constatar un nivel de Calidad en un punto no es representativo de ladinámica organizativa. Debe tenerse presente que lo importante es la mejora y esta solopuede afirmarse cuando el conjunto de los datos muestra la tendencia de una formainequívoca.

2. Comparación con objetivos. Es una medida automática y relativamente fácil derealizar. Sin embargo, hay que tener presente que los objetivos pueden establecerse conpoco nivel de exigencia, con un mínimo de eficiencia y ninguna efectividad. El análisiscompleto puede exigir cruzar datos de distinto origen y una especial preparación para suanálisis.

3. Comparación con otras instituciones. Esta medida de evaluación por benchmarking esmuy recomendable, pero no siempre es posible, dada la poca transparencia y la falta dedatos en las instituciones universitarias. En algún caso caben comparaciones coninstituciones de Educación Superior de otros países o con organizaciones no educativas,pero las diferencias culturales las hacen solo parcialmente útiles.

4 Relaciones los criterios implantados y aplicados y los efectos. Aplicable en los casosen que la relación causa efecto es clara y no necesita comprobaciones experimentales.Puede hacerse para cada una de las variables.

Page 47: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 47

MEDIDA TOTAL DE LA VARIABLEEn este momento ya pueden obtener valores totales de cada variable para el conjunto dela institución. La medida de cada variable se obtiene sumando los valores en los tresniveles de la escala:

Si se observa el gráfico de la página 44 el ejemplo muestra los valores obtenidos paraesa institución. Los datos que ofrece el gráfico muestran las siete variables y los tresniveles de la escala.

Valor de Valor de Efectos Valorimplantación + aplicación + del = de la del sistema del sistema sistema Calidad

Page 48: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 48

5Anexo: Ejemplos de la Guía

y del Cuaderno de Autoevaluación

En este anexo se han recogido unos ejemplos de la Guía de los criterios de Calidad y delCuaderno de Autoevaluación. Pretenden ser solo un ejemplo que permita visualizar lasdescripciones realizadas en los capítulos 4 y 5.

En las páginas 49 y 5O aparece el primer criterio de calidad de la variable entornoreproducido de la Guía de criterios de Calidad. Está compuesto por siete dimensionesdiferenciadas por letras (de 1.1.a hasta 1.1g). Cada una de las dimensiones permitevalorar distintos aspectos del criterio de calidad “conocimiento del entorno”. El conjuntode las dimensiones representa a la totalidad del criterio y, por tanto, su valoraciónpermite la valoración del criterio.

En las columnas de la derecha se ofrecen un conjunto de descriptores que ayudarán alevaluador a interpretar el significado de la dimensión y a localizar manifestaciones oindicios cuantitativos o cualitativos que permitan establecer un juicio de valor sobre elcontenido. Como es inevitable las dimensiones y sus descriptores deben adaptarse alobjeto evaluado (universidad, facultad, departamento o cualquier otra organización o suspartes).

En las páginas 51 y 52 aparecen dos páginas del cuaderno con el primer criterio pararecoger las observaciones realizadas durante la evaluación, clasificadas en tres grupos:los puntos fuertes, los aspectos que necesitan mejorar y los aspectos que necesitaninformación complementaria. Además se incluye un cuadro para recoger lasvaloraciones de cada dimensión, aplicando los procedimientos descritos en el capituloanterior.

La página 53 recoge de forma similar los datos de los efectos sobre el entorno(satisfacción, valor de la formación, impacto social y desarrollo interno). Y la 49 permiteun resumen con los datos de los cuatro criterios, que miden los procesos, y de losefectos. Este proceso se repite con cada variable de la institución.

Page 49: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 49

Entorno

1.1 Conocimiento del entorno

Page 50: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 50

Dimensiones Descriptores de lasdimensiones

1.1ªLa universidad dispone de un sistemapermanente de recogida deinformación sobre el entorno y sus componentes, sus demandasy la percepción que este tienede la universidad.

1.1b El sistema permite consultary difundir la información disponible sobre la Calidadpercibida por el entorno.

1.1a- Amplitud y precisión de la descripción - del entorno y de sus componentes. - Cobertura del sistema con las técnicas utilizadas: encuestas, entrevistas, evaluacióncomparada de servicios, etc.- Adecuación y cantidad de datos incluidos en el sistema.- Ritmo de recogida de información.- Sistema de identificación, clasificación y valoración de las demandas.

1.1b - Procedimientos de comunicación internaexistentes para la difusión de la información.- Informes y otros medios de informacióndisponibles para consulta.- Facilidad de acceso y apertura del sistema a todos los interesados.- Utilidad de la información disponible.- Utilización del sistema por los interesados.- Seguridad en el manejo de la información.- Actualización de la información que ofrece el sistema

Page 51: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 51

Dimensiones Descriptores de lasdimensiones

1.1c El sistema recoge del entornosugerencias, quejas y disfunciones,analiza esta información, la clasificae identifica ,y ubica los problemas deCalidad.

1.1dEl sistema identifica y analiza la imagen de la universidad y permite tomar decisiones para su mejora.

1.1eUna persona o un equipoes responsable del sistema de información sobre el entorno.

1.1fEl sistema de recogida deinformación realiza el seguimientode los niveles de Calidad para latoma decisiones y la modificación delas tendencias.

1.1gLa universidad evalúa las tendenciasdel entorno para planificar suadaptación a corto y medio plazos.

1.1c- Medios utilizados: informaciones de prensa,órganos internos de las facultades, buzones desugerencias, oficina de atención al público, etc.- Procesos de recogida, estructuración de los

datos e identificación de los problemas(identifi-cación de los procesos y de las partes dela organización donde se producen los problemas y de la magnitud de los problemas y su grado de evolución).

1.1d- Procesos y procedimientos establecidos para laidentificación y análisis.- Rasgos y datos utilizados para identificar yanalizar la imagen.- Medios utilizados: encuestas, entrevistas, medios de comunicación, revistas especializadas,etc.

1.1e- Adecuación de la persona o del equipo a losobjetivos del sistema.- Procedimientos de investigación de la Calidadutilizados por el equipo - Inserción del equipo en la estructura de lainstitución

1.1f- Información del seguimiento de niveles deCalidad en los dos últimos años.- Condiciones para tomar decisiones y modificarlas tendencias en la estructura de la informacióndisponible.- Sistema de verificación de la validez de lainformación.

1.1g- Evaluaciones de tendencias demográficas.- Evaluaciones de tendencias científicas,tecnológicas, etc.- Evaluaciones de tendencias sociales, políticas,laborales, etc.

Page 52: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 52

-Evaluación de tendencias en otros entornos quepueden suponer una amenaza o una oportunidad para el futuro

ºººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººº

1.1 Conocimiento del Entornoºººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººº

Dimensiones1.1a La universidad dispone de un sistema permanente de recogida de información

sobre el entorno y sus componentes, sus demandas y la percepción que este tiene dela universidad.

1.1b El sistema permite consultar y difundir la información disponible sobre la Calidadpercibida por el entorno.

1.1c El sistema recoge del entorno sugerencias, quejas y disfunciones, analiza estainformación, la clasifica e identifica y ubica los problemas de Calidad.

1.1d El sistema identifica y analiza la imagen de la universidad y permite tomardecisiones para su mejora.

1.1e Una persona o un equipo es responsable del sistema de información sobre elentorno.

1.1f El sistema de recogida de información realiza el seguimiento de los niveles deCalidad para la toma decisiones y la modificación de las tendencias.

1.1g La universidad evalúa las tendencias del entorno para planificar su adaptación acorto y medio plazos.

Puntos fuertes

Page 53: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 53

Aspectos que necesitan mejorar

Aspectos que necesitan información complementaria

Page 54: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 54

ºººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººº

Efectos de la interacción con el Entornoºººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººº

Puntos fuertes

Aspectos que necesitan mejorar

Aspectos que necesitan información complementaria

Page 55: Los Sistemas de Evaluación en la Educación Superior · PDF filefactor decisivo para lograr un puesto de trabajo. La universidad, ... no de dentro a fuera como antes. EL CAMBIO EN

Pedro Municio Sistemas de evaluación en la Educación Superior

Evaluación de la Calidad en la Educ. Superior Red Universitaria de Evaluación de la Calidad 55

ºººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººº

Resumen de la interacción con el Entornoºººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººººº

Implantación Valor

Criterio 1.1

Criterio 1.2

Criterio 1.3

Criterio 1.4

Total de Implantación

Aplicación Valor

Criterio 1.1

Criterio 1.2

Criterio 1.3

Criterio 1.4

Total de Aplicación

Efectos Total de Efectos

Valor total de la variable.................................................................

Observaciones