<?xml version="1.0" encoding="UTF-8"?><?xml-model type="application/xml-dtd" href="http://jats.nlm.nih.gov/publishing/1.1d3/JATS-journalpublishing1.dtd"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.1d3 20150301//EN" "http://jats.nlm.nih.gov/publishing/1.1d3/JATS-journalpublishing1.dtd">
<article xmlns:ali="http://www.niso.org/schemas/ali/1.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:mml="http://www.w3.org/1998/Math/MathML" dtd-version="1.1d3" specific-use="Marcalyc 1.2" article-type="research-article" xml:lang="es">
<front>
<journal-meta>
<journal-id journal-id-type="redalyc">158</journal-id>
<journal-title-group>
<journal-title specific-use="original">Comunicar</journal-title>
</journal-title-group>
<issn pub-type="ppub">1134-3478</issn>
<issn pub-type="epub">1988-3293</issn>
<publisher>
<publisher-name>Grupo Comunicar</publisher-name>
<publisher-loc>
<country>España</country>
<email>info@grupocomunicar.com</email>
</publisher-loc>
</publisher>
</journal-meta>
<article-meta>
<article-id pub-id-type="art-access-id" specific-use="redalyc">15850360005</article-id>
<article-id pub-id-type="doi">doi: https://doi.org/10.3916/C51-2017-05 | páginas: 51-60</article-id>
<article-categories>
<subj-group subj-group-type="heading">
<subject>TEMAS / DOSSIER</subject>
</subj-group>
</article-categories>
<title-group>
<article-title xml:lang="es">Uso de cuestionarios online con feedback automático para la e-innovación en el alumnado universitario</article-title>
<trans-title-group>
<trans-title xml:lang="en">Online Questionnaires
Use with Automatic Feedback for e-Innovation in University Students</trans-title>
</trans-title-group>
</title-group>
<contrib-group>
<contrib contrib-type="author" corresp="no">
<name name-style="western">
<surname> Remesal</surname>
<given-names>Ana</given-names>
</name>
<xref ref-type="aff" rid="aff1"/>
<email>aremesal@ub.edu</email>
</contrib>
<contrib contrib-type="author" corresp="no">
<name name-style="western">
<surname>Colomina </surname>
<given-names>Rosa M.</given-names>
</name>
<xref ref-type="aff" rid="aff2"/>
<email>rosacolomina@ub.edu</email>
</contrib>
<contrib contrib-type="author" corresp="no">
<name name-style="western">
<surname>Mauri </surname>
<given-names>Teresa</given-names>
</name>
<xref ref-type="aff" rid="aff3"/>
<email>teresamauri@ub.edu</email>
</contrib>
<contrib contrib-type="author" corresp="no">
<name name-style="western">
<surname>Rochera </surname>
<given-names>M.
José </given-names>
</name>
<xref ref-type="aff" rid="aff4"/>
<email>mjrochera@ub.edu</email>
</contrib>
</contrib-group>
<aff id="aff1">
<institution content-type="original"> Colaboradora del departamento de Cognición, desarrollo y
psicología de la educación de la universidad de barcelona</institution>
<institution content-type="orgname">Universidad de Barcelona</institution>
<country country="es">España</country>
</aff>
<aff id="aff2">
<institution content-type="original">Colomina es profesora
titular del departamento de Cognición, desarrollo y psicología de la educación
de la universidad de barcelona</institution>
<institution content-type="orgname">Universidad de Barcelona</institution>
<country country="es">España</country>
</aff>
<aff id="aff3">
<institution content-type="original">Catedrática de
escuela universitaria del departamento de Cognición, desarrollo y psicología de
la educación de la universidad de barcelona (españa)</institution>
<institution content-type="orgname">Universidad de Barcelona</institution>
<country country="es">España</country>
</aff>
<aff id="aff4">
<institution content-type="original">profesora titular del departamento de
Cognición, desarrollo y psicología de la educación de la universidad de barcelona (españa)</institution>
<institution content-type="orgname">Universidad de Barcelona</institution>
<country country="es">España</country>
</aff>
<pub-date pub-type="epub-ppub">
<season>Enero-Marzo</season>
<year>2017</year>
</pub-date>
<volume>XXV</volume>
<issue>51</issue>
<fpage>51</fpage>
<lpage>60</lpage>
<history>
<date date-type="received" publication-format="dd/mm/yy">
<day>30</day>
<month>09</month>
<year>2016</year>
</date>
<date date-type="rev-request" publication-format="dd/mm/yy">
<day>25</day>
<month>11</month>
<year>2016</year>
</date>
<date date-type="accepted" publication-format="dd/mm/yy">
<day>05</day>
<month>12</month>
<year>2016</year>
</date>
<date date-type="preprint" publication-format="dd/mm/yy">
<day>15</day>
<month>02</month>
<year>2017</year>
</date>
<date date-type="pub" publication-format="dd/mm/yy">
<day>01</day>
<month>04</month>
<year>2017</year>
</date>
</history>
<permissions>
<copyright-statement>Grupo Comunicar Ediciones</copyright-statement>
<copyright-year>2017</copyright-year>
<copyright-holder>Revista Comunicar</copyright-holder>
<ali:free_to_read/>
<license xlink:href="https://creativecommons.org/licenses/by-nc-nd/4.0/">
<ali:license_ref>https://creativecommons.org/licenses/by-nc-nd/4.0/</ali:license_ref>
<license-p>Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial-SinDerivar 4.0 Internacional.</license-p>
</license>
</permissions>
<abstract xml:lang="es">
<title>Resumen</title>
<p> Las herramientas tecnológicas han impregnado plenamente la educación superior. No obstante, el mero añadido no garantiza per se su calidad. Este artículo expone los resultados de un proyecto de innovación para fomentar el aprendizaje autónomo en los grados de educación infantil y primaria. Durante un semestre todos los alumnos de primer curso pudieron usar un sistema de aprendizaje autónomo en la plataforma online institucional (Moodle), apoyado con feedback formativo automático. El sistema se insertaba en un programa complejo de evaluación formativa. Se presentan resultados atendiendo a dos aspectos: uso real de los estudiantes y valoración final del sistema por parte de estos. El análisis cuantitativo descriptivo se centra en la perspectiva del estudiante para evaluar la adecuación de las decisiones pedagógicas tomadas. Los resultados indican que los estudiantes necesitan ciertos límites para poder organizar mejor su propio aprendizaje si queremos potenciar la calidad de la innovación planteada. Estos límites se concretan en variables tales como el tiempo de disponibilidad y la limitación de intentos de práctica. En el primer caso se debe atender a la duración adecuada de la oferta del sistema: tanto el exceso como el defecto de tiempo afectan a la cantidad y uso que realizan los estudiantes. En el segundo caso, la restricción de intentos es preferible a la práctica libre.</p>
</abstract>
<trans-abstract xml:lang="en">
<title>Abstract</title>
<p> technological tools have permeated higher education programs. however, their mere introduction does not guarantee instructional quality. this article presents the results of an innovation project aimed at fostering autonomous learning among students at a pre-school and primary teacher degree. For one semester all freshmen students used a system for autonomous learning embedded in the institutional online platform (Moodle), which included automatic formative feedback. The system was part of a complex formative assessment program. We present results of the experience concerning two aspects: the students’ actual use of the system, and their final appraisal of it. the quantitative descriptive analysis focuses on the students’ perspective to evaluate the adequacy of the instructional decisions. results indicate that students need certain limits to be able to manage their learning better if we pursue the quality of innovation. These limits refer mainly to the time of accessibility and the limitation of attempts of practice. With respect to time, an appropriate span of time (neither too long nor too short) must be chosen; with respect to the number of attempts, it is expedient to limit rather than promote free endless access.</p>
</trans-abstract>
<kwd-group xml:lang="es">
<title>Palabras clave</title>
<kwd>Aprendizaje autónomo</kwd>
<kwd> evaluación formativa</kwd>
<kwd> feedback automático</kwd>
<kwd> educación superior</kwd>
<kwd> cuestionarios online</kwd>
<kwd> blended learning</kwd>
<kwd> innovación</kwd>
<kwd> estudiante</kwd>
</kwd-group>
<kwd-group xml:lang="en">
<title>Keywords</title>
<kwd>Autonomous learning</kwd>
<kwd> formative evaluation</kwd>
<kwd> automatic feedback</kwd>
<kwd> higher education</kwd>
<kwd> online questionnaires</kwd>
<kwd> blended learning</kwd>
<kwd> innovation</kwd>
<kwd> student</kwd>
</kwd-group>
<funding-group>
<award-group award-type="contract">
<funding-source>Universidad de
Barcelona</funding-source>
<award-id>2014PID-UB/046</award-id>
<principal-award-recipient>El uso de cuestionarios con feedback
como instrumentos de evaluación para la autorregulación del aprendizaje en Psicología
de la educación en los grados de maestro</principal-award-recipient>
</award-group>
</funding-group>
<counts>
<fig-count count="2"/>
<table-count count="5"/>
<equation-count count="0"/>
<ref-count count="26"/>
</counts>
</article-meta>
</front>
<body>
		
		<sec>
            <title>1.
Introducción </title>
			
		<p> Este trabajo presenta resultados de innovación docente sobre el uso de cuestionarios online para aprendizaje autónomo de estudiantes universitarios. Un equipo docente con larga trayectoria de trabajo colaborativo en distintas titulaciones de Maestro desarrolla la innovación. Ello permitió aportar una visión compartida sobre los procesos de enseñanza y aprendizaje y la evaluación, sobre la integración de las nuevas tecnologías de la información y la comunicación (TIC) a través de plataformas de aprendizaje online, y sobre los recursos y materiales que diseña el equipo. Esta visión conjunta del equipo docente permite emprender tareas de innovación que conllevan una elevada dedicación y que serían posiblemente inaccesibles para un solo profesor. La colaboración docente continuada es una de las claves para el desarrollo profesional conjunto (<xref ref-type="bibr" rid="redalyc_15850360005_ref16">Mauri, Clarà, Ginesta, &amp; Colombina, 2013</xref>). Mediante este artículo queremos compartir nuestra experiencia sobre la innovación para contribuir a la reflexión colectiva sobre la práctica docente universitaria, a fin de hacer de ella una práctica efectiva y sostenible (<xref ref-type="bibr" rid="redalyc_15850360005_ref11">Guskey, 2002</xref>).  </p>
<p> El proyecto de innovación se centra en la búsqueda de estrategias pedagógicas para el fomento del aprendizaje autónomo en un contexto semipresencial o «Blended». Resultados de estudios previos resaltan la importancia de promover un uso real y flexible de las TIC para apoyar el aprendizaje eficientemente (<xref ref-type="bibr" rid="redalyc_15850360005_ref6">Collis &amp; Moonen, 2011</xref>). Este uso eficiente no solo depende de las condiciones tecnológicas del instrumento, sino también de los planteamientos pedagógicos que lo fundamentan, que permiten transformar prácticas tradicionales (<xref ref-type="bibr" rid="redalyc_15850360005_ref4">Coll, Mauri, &amp; Onrubia, 2008</xref>). Uno de los ejes transformadores, especialmente fomentado desde el espacio europeo de educación superior (EEES), es el aprendizaje autónomo y autorregulado para formar aprendices competentes en el siglo xxi (<xref ref-type="bibr" rid="redalyc_15850360005_ref3">Cernuda, gayo, vinuesa, Fernández, &amp; luengo, 2005</xref>). En este contexto surge la evaluación como ingrediente esencial del cambio deseado, y en particular, la evaluación formativa y continua (<xref ref-type="bibr" rid="redalyc_15850360005_ref5">Coll, Mauri, &amp; Rochera, 2012</xref>; <xref ref-type="bibr" rid="redalyc_15850360005_ref23">Sánchez Santamaría, 2011</xref>). Por consiguiente, también crece el interés por cómo las TIC contribuyen a estos procesos de evaluación eficientemente.</p>
<sec>
<title>1.1.
Innovación: aprendizaje autónomo como objetivo</title>
<p> Este estudio se apoya en tres antecedentes complementarios: 1) la necesidad de ayuda docente para el aprendizaje en contextos virtuales y semipresenciales (<xref ref-type="bibr" rid="redalyc_15850360005_ref4">Coll, Mauri, &amp; Onrubia, 2008</xref>); 2) el feedback como nexo entre aprendizaje y evaluación para proporcionar dicha ayuda (<xref ref-type="bibr" rid="redalyc_15850360005_ref2">Carless, Salter, Yang, &amp; Lam, 2011</xref>; <xref ref-type="bibr" rid="redalyc_15850360005_ref20">Nicol &amp; Mcfarlanedick, 2006</xref>), y 3) el potencial de los cuestionarios online con feedback formativo como tarea situada y contextualizada (<xref ref-type="bibr" rid="redalyc_15850360005_ref10">Guo, palmer-Brown, Lee, &amp; Cai, 2014</xref>).  </p>
<p> La innovación comporta procesos complejos y exigentes para el profesorado que deben ser evaluados. Cuando el profesorado observa que los cambios que introduce en la práctica mejoran el aprendizaje, se produce un cambio en su actitud y creencias ante la innovación, y no al revés (<xref ref-type="bibr" rid="redalyc_15850360005_ref11">Guskey, 2002</xref>). Plantear buenas prácticas en la innovación con TIC en educación superior, desde la perspectiva sociocultural de la enseñanza y el aprendizaje, supone entender que para ubicar al estudiante en el centro del proceso debemos tener en cuenta tres cuestiones: el estudiante necesita: 1) ser mentalmente activo para aprender; 2) participar en tareas lo más «auténticas» y contextualizadas posible; 3) Contar con guía docente (o de compañeros) en el proceso. Es decir, poner al estudiante en el centro no es incompatible con definir el rol docente como «guía necesaria», más allá del rol de facilitador que se le atribuye cuando los estudiantes trabajan con TIC (<xref ref-type="bibr" rid="redalyc_15850360005_ref4">Coll &amp; al., 2008</xref>).</p>
</sec>
<sec>
<title>1.2.
Evaluación formativa y feedback automático </title>
<p> Uno de los retos para mejorar el aprendizaje autónomo está en los recursos para hacer un seguimiento y evolución de sus progresos. En este sentido, el feedback puede ser clave según unas determinadas condiciones de uso (<xref ref-type="bibr" rid="redalyc_15850360005_ref2">Carless &amp; al., 2011</xref>). Las expectativas puestas en las TIC no se cumplen plenamente porque el exceso de datos desborda con frecuencia la capacidad de dedicación y procesamiento del profesorado. Por tanto, necesitamos buscar estrategias que conviertan la evaluación, y en concreto el feedback, en procesos sostenibles para todas las partes. Además, estudios recientes señalan que las tareas diseñadas para apoyar el aprendizaje autónomo y su evaluación son más eficaces si están integradas en el plan docente. El conjunto de tareas de evaluación se pueden definir entonces como un «sistema o programa de evaluación» (<xref ref-type="bibr" rid="redalyc_15850360005_ref17">Mauri, Ginesta, &amp; Rochera, 2016</xref>).  </p>
<p> En este contexto, el feedback en las tareas online resulta un elemento de confluencia para apoyar tanto el aprendizaje autónomo y autorregulado como la evaluación de los aprendizajes y procesos realizados (<xref ref-type="bibr" rid="redalyc_15850360005_ref12">Hattie &amp; Timperley, 2007</xref>; <xref ref-type="bibr" rid="redalyc_15850360005_ref13">Hatziapostolou &amp; Paraskakis, 2010</xref>; <xref ref-type="bibr" rid="redalyc_15850360005_ref24">Shute, 2008</xref>). Así, para potenciar la efectividad del aprendizaje autónomo es necesario considerar tres características relevantes del feedback (<xref ref-type="bibr" rid="redalyc_15850360005_ref2">Carless &amp; al., 2011</xref>; <xref ref-type="bibr" rid="redalyc_15850360005_ref17">Mauri &amp; al., 2016</xref>): 1) debe ser escrito, específico y claro; 2) venir en el momento adecuado; 3) informando sobre posibles siguientes pasos a dar (feed-up, feed-forward).</p>
</sec>
<sec>
<title>1.3.
Cuestionarios online y feedback formativo</title>
<p>Los
cuestionarios online se han convertido en un recurso TIC frecuente para
aprender y evaluar (si bien no son la única opción). Son instrumentos cuya
elaboración exige un trabajo arduo (<xref ref-type="bibr" rid="redalyc_15850360005_ref18">Morales, 2012</xref>; <xref ref-type="bibr" rid="redalyc_15850360005_ref19">Moreno, Martínez, &amp;
Muñiz, 2015</xref>; <xref ref-type="bibr" rid="redalyc_15850360005_ref22">Rodríguez-Garcés, Muñoz, &amp; Castillo, 2014</xref>). entre sus ventajas
se cuenta que 1) aportan objetividad y rigor, 2) garantizan fiabilidad en la
medida del aprendizaje con un mismo estándar para todos los estudiantes; 3)
aportan resultados inmediatos; y 4) hacen sostenible el seguimiento y
corrección del profesorado, evitando posibles errores o sesgos de corrección,
entre otros (<xref ref-type="bibr" rid="redalyc_15850360005_ref18">Morales, 2012</xref>). Recurrimos, pues, a este instrumento para ofrecer
a los estudiantes feedback formativo inmediato al uso
del propio cuestionario. El feedback formativo se
diferencia del feedback acreditativo o verificativo
por ofrecer al alumno información que va más allá de la veracidad o rectitud de
la respuesta o de un resultado numérico; ofrece indicaciones sobre el error
cometido, el modo de corregirlo y sugerencias de tipo metacognitivo
que ayudan a reflexionar sobre el propio conocimiento (<xref ref-type="bibr" rid="redalyc_15850360005_ref15">Jolly
&amp; Boud, 2015</xref>; <xref ref-type="bibr" rid="redalyc_15850360005_ref25">Williams, Brown, &amp; Benson,
2015</xref>). En definitiva, se trata de utilizar el feedback
para visibilizar el aprendizaje (<xref ref-type="bibr" rid="redalyc_15850360005_ref8">Dysthe, Lillejord, Wasson, &amp; Vines, 2011</xref>; <xref ref-type="bibr" rid="redalyc_15850360005_ref14">Havnes, Smith, Dysthe, &amp; Ludvigsen, 2012</xref>).</p>
<p>
<fig id="gf1">
<label/>
<caption>
<title/>
</caption>
<graphic xlink:href="15850360005_gf1.png" position="anchor" orientation="portrait"/>
</fig>
</p>
</sec>
<sec>
<title>1.4.
Finalidad y objetivos</title>
<p>La finalidad
de este trabajo es compartir con la comunidad docente la reflexión sobre la
eficacia de un proyecto de innovación. Para ello se plantean los siguientes
objetivos específicos: </p>
<p>
<list list-type="bullet">
<list-item>
<p>Conocer el
uso relatado del sistema de ayuda diseñado para promover el aprendizaje
autónomo. </p>
</list-item>
<list-item>
<p> Caracterizar el uso real de este sistema de ayuda. </p>
</list-item>
<list-item>
<p>Analizar
las valoraciones de los estudiantes sobre el sistema de ayuda. </p>
</list-item>
<list-item>
<p>Explorar
posibles diferencias en la conducta de aprendizaje autónomo y resultados de
aprendizaje según las condiciones pedagógicas establecidas.</p>
</list-item>
</list>
</p>
</sec>
</sec>
	<sec>
<title>2. Material
y métodos </title>
<sec>
<title>2.1. Diseño
de la experiencia de innovación</title>
<p> El proyecto (subvencionado por la universidad de Barcelona) se implementó en un curso obligatorio de los grados de Maestro de educación infantil y educación primaria. El equipo docente, formado por 13 especialistas en la materia de psicología del desarrollo y de la educación elaboró un banco de preguntas de múltiple opción con cuatro opciones de respuesta y su feedback respectivo, referentes al contenido sobre desarrollo psicológico infantil.  </p>
<p> Con este banco de preguntas se construyó un conjunto de cuestionarios en la plataforma online Moodle (campus virtual institucional), que fueron probados en un semestre previo de estudio piloto para proceder a la revisión y mejora de las preguntas, respuestas y feedback, siguiendo el procedimiento estándar para la elaboración de cuestionarios de múltiple opción automatizados (<xref ref-type="bibr" rid="redalyc_15850360005_ref19">Moreno &amp; al., 2015</xref>).  </p>
<p> Los estudiantes accedían a los cuestionarios como parte de un programa evaluativo complejo que incluía una amplia diversidad de actividades de evaluación distribuidas a lo largo del curso académico (<xref ref-type="bibr" rid="redalyc_15850360005_ref5">Coll &amp; al., 2012</xref>). Dentro de este programa evaluativo se debía responder a un cuestionario final sobre contenidos del desarrollo infantil (desarrollo motor, cognitivo, comunicativo y socio-afectivo). Este examen final se realizaba al cabo de dos meses de práctica mediante estos mismos cuestionarios online. Los cuestionarios de práctica tenían el doble objetivo de 1) ser instrumento de apoyo al aprendizaje autónomo de contenidos de tipo factual y conceptual y 2) preparar la evaluación final sumativa de los mismos. Los cuestionarios de práctica estaban formados por 40 preguntas y organizados en tres niveles de complejidad progresiva, a los cuales se podía acceder cumpliendo requisitos mínimos: puntuación media mínima de 5 sobre 10 y tiempo de demora entre intentos de mínimo 24 horas. En cada acceso de resolución el sistema aleatorizaba tanto las preguntas como los ítems de respuesta dentro de cada pregunta. El nivel 1 consta de 4 cuestionarios (uno por cada ámbito del desarrollo); el nivel 2 comprende 6 cuestionarios (combinando contenidos de dos ámbitos) y el nivel 3 consta de un cuestionario que emula las condiciones de examen (40 preguntas aleatorias con 20 minutos de tiempo máximo).  </p>
<p> <xref ref-type="fig" rid="gf2">La Figura 1</xref> presenta el sistema de cuestionarios de práctica insertado en interconexión con las clases presenciales.</p>
<p>
<fig id="gf2">
<label>Figura 1.</label>
<caption>
<title>Sistema de apoyo del aprendizaje autónomo.</title>
</caption>
<alt-text>Figura 1. Sistema de apoyo del aprendizaje autónomo.</alt-text>
<graphic xlink:href="15850360005_gf2.png" position="anchor" orientation="portrait"/>
</fig>
</p>
<p> Tras cada intento de práctica los estudiantes recibían inmediatamente una calificación numérica con valor informativo, sin validez acreditativa. Recibían en los niveles 1 y 2, además, una respuesta de feedback formativo automático a cada una de las opciones elegidas, ya fueran falsas o correctas.  </p>
<p> El feedback podía presentar las siguientes características (<xref ref-type="bibr" rid="redalyc_15850360005_ref10">Guo &amp; al., 2014</xref>; <xref ref-type="bibr" rid="redalyc_15850360005_ref13">Hatziapostolou &amp; Paraskakis, 2010</xref>): en caso de respuesta errónea recibían respuestas motivacionales y pistas para: la búsqueda de información correcta en el material de estudio; la reflexión sobre el error; la reflexión sobre el concepto o dato indagado. En caso de respuesta correcta: ratificación de la respuesta correcta.</p>
</sec>
<sec>
<title>2.2.
Contexto y participantes </title>
<p> Participaron trece grupos-clase con 687 estudiantes de primer curso de los grados de educación infantil y primaria, que constituyen el total de la población que inició un grado u otro en el año académico. la descripción demográfica de los estudiantes consiste en: un 88% de mujeres y 12% de varones; el 50% era menor de 20 años; 43% tenía entre 20 y 25 años; el 7% era mayor de 25 años; el 49% trabajaba a tiempo parcial; el 5% trabajaba a tiempo completo y, finalmente, el 46% no trabajaba.  </p>
<p> En este artículo se utilizan los datos muestrales de cuatro grupos-clase con cuatro profesores y un total de 224 alumnos. La selección de estos grupos responde a la búsqueda de la mayor representatividad posible y presenta las siguientes condiciones: </p>
<p>
<list list-type="bullet">
<list-item>
<p>Cuatro
grupos que no habían sufrido problemas técnicos y no reportaban pérdida de
datos de uso;</p>
</list-item>
<list-item>
<p>Dos de
estos grupos eran del grado de educación infantil y dos del grado de educación
primaria; </p>
</list-item>
<list-item>
<p>De cada
grupo de especialidad, un grupo era del turno de tarde y otro del turno de
mañana;</p>
</list-item>
<list-item>
<p>Uno de los
grupos, al que se considerará grupo control, siguió el diseño base para el uso
de los cuestionarios (común a nueve grupos-clase) y tres grupos con condiciones
pedagógicas modificadas relativas al límite de accesos individuales y al tiempo
total de accesibilidad. Concretamente, los grupos se definen del siguiente
modo: </p>
</list-item>
<list-item>
<p>Grupo Z
(n=49), diseño base de referencia: acceso demorado en 24 horas entre intentos;
tiempo de resolución libre en nivel 1 y 2, y limitado a 20 minutos en nivel 3;
accesibilidad total durante dos meses (en paralelo al temario en el aula
presencial). </p>
</list-item>
<list-item>
<p>Grupo a
(n=57), diseño alternativo: accesibilidad total «reducida» a un mes (en
paralelo al segundo mes dedicado al temario en el aula presencial).</p>
</list-item>
<list-item>
<p> Grupo b
(n=64), diseño alternativo: accesibilidad total «ampliada» a tres meses
(disponible un mes anterior al temario en el aula presencial). </p>
</list-item>
<list-item>
<p>Grupo C
(n=54), diseño alternativo: accesibilidad durante dos meses pero «limitada» a
tres intentos en nivel 1 y un intento en nivel 2 y en nivel 3. Según los
objetivos, la naturaleza híbrida del curso y las exigencias metodológicas que
se plantean en estas situaciones, la recogida de datos se centró en tres ejes
diferentes y complementarios:</p>
</list-item>
<list-item>
<p> Los datos de uso relatado: cuestionario final anónimo de tipo likert.</p>
</list-item>
<list-item>
<p>Los datos
de uso real: la frecuencia de acceso para resolución de los cuestionarios en
nivel 1 durante el tiempo de aprendizaje autónomo; recogida mediante el
registro automático en la plataforma Moodle. </p>
</list-item>
<list-item>
<p>La
valoración del material y de su uso: cuestionario final anónimo de tipo likert. En todos los casos se contó con el consentimiento
de los participantes y se anonimizaron los datos de
uso y la respuesta final valorativa, codificando simplemente la pertenencia al
grupo clase.</p>
</list-item>
</list>
</p>
</sec>
</sec>
<sec>
<title>3. Análisis
y resultados </title>
<p>Aplicamos
diversas técnicas de análisis complementarias. Tras un primer análisis
descriptivo, se han contrastado los datos estadísticamente mediante la prueba
de kruskal-Wallis, acorde a las características de la
muestra y los datos, para comprobar la existencia de diferencias significativas
en las condiciones del diseño de cada uno de los grupos participantes respecto
al grupo de diseño base de referencia. Se ha desestimado el contraste de
variables básicas de sexo y edad por tratarse de una muestra muy sesgada en
cuanto a estas variables (por otro lado, totalmente acordes con el curso y la
titulación). A continuación se presentan el procedimiento y resultados
relativos a cada uno de los objetivos.</p>
<sec>
<title>3.1. Uso
relatado </title>
<p>Primeramente,
las respuestas de los alumnos al cuestionario de uso relatado han permitido
dibujar el siguiente retrato robot del método de estudio:</p>
<p>
<list list-type="bullet">
<list-item>
<p>Combinación de lectura del material y práctica directa con los cuestionarios
(61% totalmente o bastante de acuerdo). </p>
</list-item>
<list-item>
<p>Uso en
solitario (82% totalmente o bastante de acuerdo). </p>
</list-item>
<list-item>
<p>Tomar nota
de errores en soporte externo (91% totalmente o bastante de acuerdo). </p>
</list-item>
<list-item>
<p>Tomar nota
de la respuesta correcta (86% totalmente o bastante de acuerdo). </p>
</list-item>
<list-item>
<p>Tomar nota
del comentario de respuesta (feedback) (64%
totalmente o bastante de acuerdo). El análisis revela diferencias
significativas respecto al diseño base en la conducta típica de estudio de dos
de los grupos alternativos. <xref ref-type="table" rid="gt1">La tabla 1</xref> muestra estas diferencias, que se
refieren a dos aspectos:</p>
</list-item>
<list-item>
<p>La lectura
del material de estudio con antelación a la práctica (menos frecuente en grupo
b, con tiempo «ampliado »). </p>
</list-item>
<list-item>
<p>El uso de
los cuestionarios en solitario (más frecuente en grupo C, con acceso «limitado
»).</p>
</list-item>
</list>
</p>
<p>
<table-wrap id="gt1">
<label>Tabla 1.</label>
<caption>
<title>Diferencias entre grupos en la conducta típica de estudio «relatada»
(*p&lt;.05)</title>
</caption>
<alt-text>Tabla 1. Diferencias entre grupos en la conducta típica de estudio «relatada»
(*p&lt;.05)</alt-text>
<graphic xlink:href="15850360005_gt1.png" position="anchor" orientation="portrait"/>
</table-wrap>
</p>
<p> En resumen, se puede interpretar que el grupo con mayor disponibilidad de tiempo (b) para el estudio accede al sistema de ayuda más frecuentemente con una estrategia de práctica directa o de ensayo y error, sin lectura previa de los textos sobre los contenidos correspondientes. </p>
<p> En cambio, el grupo con accesos limitados (C) debe sopesar mejor los intentos y procede a una lectura previa del contenido de aprendizaje offline para maximizar el rendimiento. Por tanto, el diseño afectó a la conducta de estudio en estos dos casos en sentidos opuestos.  </p>
</sec>
<sec>
<title>3.2. Uso
real </title>
<p>El mismo
análisis en dos fases se llevó a cabo sobre el uso real. Este análisis se realizó
únicamente sobre los datos del primer nivel de práctica, por ser monotemático y
presentar las preguntas novedosas. En los siguientes niveles de práctica se
repetían las mismas preguntas anteriores en cuestionarios combinados. Asumimos,
pues, que un único intento de respuesta de los cuestionarios no evidencia uso
del feedback (ni de su eficacia para la mejora), sino
que necesitaríamos al menos dos intentos para hacer un uso potencialmente
efectivo del feedback (cuyo beneficio aumentaría con
la cantidad de intentos). Por consiguiente, se procedió a clasificar los datos
según el siguiente baremo: </p>
<p>
<list list-type="bullet">
<list-item>
<p>Sin uso:
hasta cuatro accesos de resolución (uno por cada ámbito de contenido). </p>
</list-item>
<list-item>
<p>Uso
mínimo: hasta ocho accesos de resolución (dos por cada ámbito de contenido). </p>
</list-item>
<list-item>
<p>Uso
moderado: hasta doce accesos de resolución en total (tres por cada ámbito de
contenido). </p>
</list-item>
<list-item>
<p> Uso alto:
hasta dieciséis accesos de resolución en total (cuatro por cada ámbito de
contenido). </p>
</list-item>
<list-item>
<p>Uso muy
alto: más de dieciséis accesos de resolución en total (más de cuatro por cada
ámbito de contenido). </p>
</list-item>
</list>
</p>
<p> <xref ref-type="table" rid="gt2">La tabla 2</xref> muestra los resultados correspondientes: </p>
<p> Globalmente, se constata que el uso de los cuestionarios es escaso. en el grupo Z, con diseño base, más de un tercio de alumnos acceden menos de cuatro veces en total, evidenciando un uso nulo del feedback (37%); otro tercio hace un uso mínimo (33%), mientras que solo un 16% hace un uso alto o muy alto. el uso se incrementa ligeramente en los grupos con diseño alternativo. de hecho, constatamos algunos posibles efectos del diseño sobre la conducta de estudio: el grupo de tiempo reducido (a) incrementa significativamente el uso del feedback (26% moderado, 31% alto o muy alto, y solo 14% sin uso); se trata de una práctica «intensiva» por parte de estos alumnos. en el grupo C, en cambio, no se da acceso «muy alto» por la propia restricción (máximo tres intentos por cada cuestionario) pero las otras tres opciones se equilibran (alrededor de un 30% en cada una de ellas) y el uso «alto» es elevado comparado con todos los otros grupos (tres veces más); cabría pensar que en este grupo el uso es muy intencional.</p>
<p>
<table-wrap id="gt2">
<label>Tabla 2.
</label>
<caption>
<title>Diferencias entre grupos en el uso real del sistema de apoyo al aprendizaje autómatico</title>
</caption>
<alt-text>Tabla 2.
 Diferencias entre grupos en el uso real del sistema de apoyo al aprendizaje autómatico</alt-text>
<graphic xlink:href="15850360005_gt2.png" position="anchor" orientation="portrait"/>
</table-wrap>
</p>
</sec>
<sec>
<title>3.3.
Valoración del sistema y resultados de aprendizaje </title>
<p>En el
cuestionario final se incluían preguntas en dos niveles de detalle diferentes:
a) acerca de las condiciones generales de acceso a los cuestionarios y por ende
al feedback; b) acerca de las formas diversas que
adoptó el feedback diseñado por los docentes. Los
resultados respectivos están recogidos en las<xref ref-type="table" rid="gt3"> tablas 3 </xref>y <xref ref-type="table" rid="gt4">4</xref>. Finalmente, la <xref ref-type="table" rid="gt5">tabla 5</xref> presenta los resultados de aprendizaje.</p>
<sec>
<title>3.3.1.
Valoración de las condiciones generales </title>
<p> En la <xref ref-type="table" rid="gt3">tabla 3 </xref>se constatan diferencias significativas entre dos de los grupos de diseño alternativo respecto al grupo control en relación con cuatro aspectos: 1) posibilidad de identificación de dudas y errores; 2) dificultad; 3) sensación de repetición; 4) potencial motivador. Los resultados muestran que en el grupo C, con accesos limitados, se consideran los cuestionarios de práctica, globalmente, más sencillos y más útiles para identificar dudas y errores.  </p>
<p> <xref ref-type="table" rid="gt3">La tabla 3</xref> muestra asimismo que la existencia de tres niveles de práctica también se valora más positivamente por parte del grupo C en cuanto a la posibilidad de organizar el estudio y reducir la tensión previa al examen. Por el contrario, en el grupo b, con tiempo ampliado, encontramos la mayor crítica respecto a las posibilidades de organización del estudio.</p>
<p>
<table-wrap id="gt3">
<label>Tabla 3.</label>
<caption>
<title>
Valoración de la experiencia de innovación por los estudiantes (*p&lt;.05;
**p&lt;.01)</title>
</caption>
<alt-text>Tabla 3. 
Valoración de la experiencia de innovación por los estudiantes (*p&lt;.05;
**p&lt;.01)</alt-text>
<graphic xlink:href="15850360005_gt3.png" position="anchor" orientation="portrait"/>
</table-wrap>
</p>
<p>La demora de
24 horas entre intentos es, en general, el aspecto peor valorado del diseño.
Aun así volvemos a encontrar una valoración que, aun siendo baja, es
significativamente más alta en el grupo C, como ayuda organizativa, de
motivación y de reducción de ansiedad previa al examen.</p>
</sec>
<sec>
<title>3.3.2.
Valoración de condiciones específicas del «feedback» </title>
<p>En cuanto a
las condiciones específicas del feedback (<xref ref-type="table" rid="gt4">tabla 4</xref>)
(página siguiente), hay diferencias significativas puntuales en el grupo a, con
tiempo reducido, donde los estudiantes perciben las orientaciones más
«repetitivas». En cambio, el grupo C destaca nuevamente en la valoración
positiva del feedback en múltiples aspectos. Valora
más positivamente la ayuda aportada para la identificación de errores, primero;
después, valora el feedback como más motivador, más
divertido, y más útil cuando hace reflexionar o reír. En cambio, su valoración
es significativamente menor al indicar el feedback
como (poco) confuso. </p>
<p>
<table-wrap id="gt4">
<label>Tabla 4</label>
<caption>
<title>Valoración de los alumnos del feedback (*p&lt;.05;
**p&lt;.01)</title>
</caption>
<alt-text>Tabla 4 Valoración de los alumnos del feedback (*p&lt;.05;
**p&lt;.01)</alt-text>
<graphic xlink:href="15850360005_gt4.png" position="anchor" orientation="portrait"/>
</table-wrap>
</p>
</sec>
<sec>
<title>3.3.3.
Resultados de aprendizaje </title>
<p> Por último, se recogieron a través de la plataforma los resultados del cuestionario final realizado para el examen de los contenidos aprendidos (<xref ref-type="table" rid="gt5">tabla 5</xref>) (página siguiente).  </p>
<p> Los resultados muestran que nuevamente destaca el grupo C con resultados significativamente más altos que el resto de los grupos, de lo cual podemos interpretar la efectividad mayor de las condiciones pedagógicas de este grupo. </p>
<p>
<table-wrap id="gt5">
<label>Tabla 5.</label>
<caption>
<title>Diferencia entre grupos en calificaciones finales (**p&lt;.01)</title>
</caption>
<alt-text>Tabla 5. Diferencia entre grupos en calificaciones finales (**p&lt;.01)</alt-text>
<graphic xlink:href="15850360005_gt5.png" position="anchor" orientation="portrait"/>
</table-wrap>
</p>
</sec>
</sec>
</sec>
<sec>
<title>4. Discusión
y conclusiones</title>
<p> Los resultados de esta innovación muestran que las condiciones más favorables para fomentar el aprendizaje autónomo de los estudiantes se centraron en un tiempo medio de accesibilidad del sistema (dos meses, frente a solo uno o tres meses) y una restricción en el número de intentos (frente a la no-limitación). Antes de discutir estos resultados cabe señalar que se basan en los datos de significatividad reportados en la sección anterior, respecto al uso relatado y real de los propios alumnos, su valoración del sistema de apoyo y, por último, sus resultados en el examen final. Con gran frecuencia, los trabajos que presentan evaluaciones de experiencias innovadoras se limitan a datos de uso relatado o valoraciones post-facto (<xref ref-type="bibr" rid="redalyc_15850360005_ref9">Gómez-Escalonilla &amp; al., 2011</xref>; <xref ref-type="bibr" rid="redalyc_15850360005_ref26">Zaragoza, Luis-Pascual, &amp; Manrique, 2009</xref>). En este sentido, este informe aporta datos de triangulación complementarios que se consideran indispensables para poder valorar los procesos de innovación desde el propio contexto de la práctica compleja. Tanto más cuando la implementación de las TIC permite el acceso a los datos de uso real.  </p>
<p> En cuanto al tiempo de accesibilidad a los cuestionarios previsto en el diseño, cabe recordar que este transcurre en paralelo a las sesiones de clase presencial dedicadas a tratar estos contenidos en el aula (<xref ref-type="fig" rid="gf2">Figura 1</xref>). En las clases los estudiantes tienen la oportunidad (si lo necesitan) de plantear dudas sobre las preguntas, respuestas y feedback de los cuestionarios. Ello permite apoyar el trabajo autónomo del estudiante fuera del aula con la ayuda del profesorado. Como señalan Carless y otros (2011), una de las mejoras para la efectividad del feedback consiste en que sea un proceso dialogado con el docente, no solo recibido de modo unidireccional. En las propuestas docentes semi-presenciales el diálogo sobre el feedback puede realizarse de modo especialmente ajustado en las sesiones presenciales. De hecho, el componente semi-presencial, añadido a los procesos formativos, ha sido identificado en trabajos recientes como una opción deseable para sostener el aprendizaje de los estudiantes, incluso si se parte de un modelo inicial de enseñanza en entorno virtual. Por otra parte, el aprendizaje, en tanto que proceso, necesita de un tiempo, y se puede interpretar que el uso intensivo de los cuestionarios durante un mes (grupo a) no fue suficiente.  </p>
<p> En cuanto al número de intentos en los cuestionarios de práctica, desde un ángulo crítico se podría considerar que la experiencia de innovación no resultó exitosa, puesto que el uso por parte de los estudiantes es, ciertamente, escaso en su conjunto. Sin embargo, una segunda lectura permite extraer también conclusiones importantes para la docencia universitaria. Para empezar, uno de los beneficios que habitualmente se atribuyen al entorno online es el de accesibilidad completa y libre; el usuario es libre de escoger momento y lugar de acceso. Ahora bien, los resultados de este trabajo demuestran que esto es cierto solo parcialmente. Es cierto que los estudiantes no valoran positivamente la restricción de 24 horas antes de hacer un nuevo intento porque perciben que coarta su libertad de acción. Sin embargo, ahora se sabe que un acceso completamente libre, durante el mayor tiempo posible –en otras palabras, la ausencia de restricciones de acceso–, no comportó mayor uso, ni obtuvo tampoco mejores resultados en el aprendizaje. Cabe pensar, pues, que no es la ausencia de restricciones sino la presencia de algunas limitaciones condicionantes lo que favorece la organización y gestión autónoma para la adaptación a estas condiciones, en paralelo a otros contextos y exigencias que confluyen en el tiempo para los estudiantes (materias paralelas, trabajo personal, vida familiar). </p>
<p> Cabe llamar también la atención sobre el fenómeno de la «falsa sensación de seguridad» (<xref ref-type="bibr" rid="redalyc_15850360005_ref21">Petersen, Craig, &amp; Denny, 2016</xref>) que se puede generar con instrumentos de múltiple opción, sintiendo que el azar puede afectar al resultado final, enturbiándolo respecto al aprendizaje real, provocando que el usuario cese la práctica antes de tiempo, ergo limitando la práctica realmente necesaria.  </p>
<p> En cuanto a las características del feedback automático en los cuestionarios online, este estudio confirma también que su potencialidad para el aprendizaje depende de las condiciones tecnológicas de uso dirigidas por los criterios pedagógicos (<xref ref-type="bibr" rid="redalyc_15850360005_ref1">Carless, 2006</xref>; <xref ref-type="bibr" rid="redalyc_15850360005_ref20">Nicol &amp; Mcfarlane-Dick, 2006</xref>). los resultados de uso del feedback y de aprendizaje del grupo C (dos puntos superiores a los otros grupos) coinciden en la importancia de que el feedback: se proporcione en el momento de la ejecución del cuestionario; complete la información sumativa sobre el resultado (la calificación) con información para seguir aprendiendo, destacando especialmente el feedback para reflexionar sobre la ejecución realizada; y mantenga la motivación para superar las dificultades, a lo que contribuye recibir feedback sobre los errores cometidos con humor, dato únicamente significativo en el caso de los estudiantes con mayor competencia (<xref ref-type="bibr" rid="redalyc_15850360005_ref7">Del-Rey, 2002</xref>).  </p>
<p> Para finalizar, la e-innovación puede (y debe) poner en el centro al estudiante pero con apoyos pedagógicos que se ajusten a las necesidades de su proceso de aprendizaje. No todo lo «realizable» con la tecnología contribuye de igual modo a este objetivo. Las actuaciones docentes y los procesos de mejora del desarrollo profesional resultan imprescindibles. Si bien es cierto que las condiciones institucionales actuales privilegian la tarea investigadora frente a la docente, también lo es que la comunidad universitaria valora y optimiza cada vez más la oportunidad de discutir avances sobre las dificultades más urgentes que tenemos planteadas. La investigación presentada sobre el uso de cuestionarios de práctica para el aprendizaje autónomo del estudiante mediante un e-feedback más productivo, que permita a su vez al profesorado realizar un seguimiento sostenible del proceso, forma parte de este objetivo para comprender y abordar mejor la complejidad de la acción docente con TIC en la educación superior. Obviamente, los cuestionarios de feedback automático no son el único recurso de e-innovación, pero el estudio que presentamos permite usarlos con criterios pedagógicos de mejora. Futuros estudios deberían dirigirse hacia una más profunda comprensión de variables tales como el género, la formación previa de acceso a los estudios universitarios y la edad del alumnado, que en este estudio quedaban fuera del alcance de análisis debido a las características naturales de la muestra.</p>
</sec>
</body>
<back>
<ack>
<title>Agradecimientos</title>
<p>Proyecto de
innovación docente «El uso de cuestionarios con feedback
como instrumentos de evaluación para la autorregulación del aprendizaje en Psicología
de la educación en los grados de maestro» financiado por la Universidad de
Barcelona (2014PID-UB/046). </p>
</ack>
<ref-list>
<title>Referencias</title>
<ref id="redalyc_15850360005_ref1">
<mixed-citation> Carless, D. (2006). Differing perceptions in the Feedback process. <italic>Studies in Higher Education</italic>, 31(2), 219-223. https://doi.org/10.1080/03075070600572132 </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Carless</surname>
<given-names> D.</given-names>
</name>
</person-group>
<source>Studies in Higher Education</source>
<year>2006</year>
<pub-id pub-id-type="doi">https://doi.org/10.1080/03075070600572132</pub-id>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref2">
<mixed-citation> Carless, D., Salter, D., Yang, M., &amp; Lam, J. (2011). Developing sustainable Feedback practices. <italic>Studies in Higher Education</italic>, 36(4), 395- 407.  <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.1080/03075071003642449">https://doi.org/10.1080/03075071003642449</ext-link> </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Carless</surname>
<given-names> D</given-names>
</name>
<name>
<surname>Salter</surname>
<given-names> D</given-names>
</name>
<name>
<surname>Yang</surname>
<given-names> M</given-names>
</name>
<name>
<surname>Lam</surname>
<given-names> J.</given-names>
</name>
</person-group>
<source>Studies in Higher Education</source>
<year>2011</year>
<pub-id pub-id-type="doi">https://doi.org/10.1080/03075071003642449</pub-id>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref3">
<mixed-citation> Cernuda, A., Gayo, D., Vinuesa, l., Fernández, A.M., &amp; Luengo, M.C. (2005). Análisis de los hábitos de trabajo autónomo de los alumnos de cara al sistema de créditos eCts. J<italic>ornadas sobre la Enseñanza Universitaria de la Informática</italic>, Madrid. ( <ext-link ext-link-type="uri" xlink:href="https://goo.gl/Z4hze5">https://goo.gl/Z4hze5</ext-link> ) (2016- 06-25). </mixed-citation>
<element-citation publication-type="book">
<person-group person-group-type="author">
<name>
<surname>Cernuda</surname>
<given-names> A</given-names>
</name>
<name>
<surname>Gayo</surname>
<given-names> D</given-names>
</name>
<name>
<surname>Vinuesa</surname>
<given-names> l</given-names>
</name>
<name>
<surname>Fernández</surname>
<given-names> A.M</given-names>
</name>
<name>
<surname>Luengo</surname>
<given-names> M.C.</given-names>
</name>
</person-group>
<source>Jornadas sobre la Enseñanza Universitaria de la Informática</source>
<year>2005</year>
<comment> <ext-link ext-link-type="uri" xlink:href="https://goo.gl/Z4hze5">https://goo.gl/Z4hze5</ext-link> </comment>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref4">
<mixed-citation> Coll, C., Mauri, T., &amp; Onrubia, J. (2008). El análisis de los procesos de enseñanza y aprendizaje mediados por las TIC: una perspectiva constructivista. In e. barberà, t. Mauri, &amp; J. onrubia (eds.), <italic>La calidad educativa de la enseñanza basada en las TIC. Pautas e instrumentos de análisis</italic> (pp. 47-62). barcelona: graó. </mixed-citation>
<element-citation publication-type="book">
<person-group person-group-type="author">
<name>
<surname>Coll</surname>
<given-names> C</given-names>
</name>
<name>
<surname>Mauri</surname>
<given-names> T</given-names>
</name>
<name>
<surname>Onrubia</surname>
<given-names> J.</given-names>
</name>
</person-group>
<source>La calidad educativa de la enseñanza basada en las TIC. Pautas e instrumentos de análisis</source>
<year>2008</year>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref5">
<mixed-citation> Coll, C., Mauri, T., &amp; Rochera, M.J. (2012). La práctica de evaluación como contexto para aprender a ser un aprendiz competente. <italic>Profesorado</italic>, 16(1), 49-59. </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Coll</surname>
<given-names> C</given-names>
</name>
<name>
<surname>Mauri</surname>
<given-names> T</given-names>
</name>
<name>
<surname>Rochera</surname>
<given-names> M.J.</given-names>
</name>
</person-group>
<source>Profesorado</source>
<year>2012</year>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref6">
<mixed-citation> Collis, B., &amp; Moonen, J. (2011). Flexibilidad en la educación superior: revisión de expectativas. [Flexibility in higher education: revisiting expectations]. <italic>Comunicar</italic>, 37, 15-25.  <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.3916/C37-2011-02-01">https://doi.org/10.3916/C37-2011-02-01</ext-link> </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Collis</surname>
<given-names> B</given-names>
</name>
<name>
<surname>Moonen</surname>
<given-names> J.</given-names>
</name>
</person-group>
<source>Comunicar</source>
<year>2011</year>
<comment> <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.3916/C37-2011-02-01">https://doi.org/10.3916/C37-2011-02-01</ext-link> </comment>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref7">
<mixed-citation> Del-Rey, J. (2002). La risa, una actividad de la inteligencia. CIC, 7, 329. ( <ext-link ext-link-type="uri" xlink:href="https://goo.gl/Wlrst4">https://goo.gl/Wlrst4</ext-link> ) (2016-06-14).</mixed-citation>
<element-citation publication-type="book">
<person-group person-group-type="author">
<name>
<surname>Del-Rey</surname>
<given-names> J.</given-names>
</name>
</person-group>
<source>La risa, una actividad de la inteligencia.</source>
<year>2002</year>
<comment> <ext-link ext-link-type="uri" xlink:href="https://goo.gl/Wlrst4">https://goo.gl/Wlrst4</ext-link> </comment>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref8">
<mixed-citation> Dysthe, O., Lillejord, S., Wasson, B., &amp; Vines, A. (2011). Productive e-Feedback in higher education. two Models and some Critical issues. In t.s. ludvigsen, a. lund, i. rasmussen, &amp; r. säljö (eds.),<italic> Learning across Sites. New Tools Infrastructures and Practices </italic>(pp. 243- 258). New York: routledge. ( <ext-link ext-link-type="uri" xlink:href="https://goo.gl/8p9ufZ">https://goo.gl/8p9ufZ</ext-link> ) (2016-07-29). </mixed-citation>
<element-citation publication-type="book">
<person-group person-group-type="author">
<name>
<surname>Dysthe</surname>
<given-names> O</given-names>
</name>
<name>
<surname>Lillejord</surname>
<given-names> S</given-names>
</name>
<name>
<surname>Wasson</surname>
<given-names> B</given-names>
</name>
<name>
<surname>Vines</surname>
<given-names> A.</given-names>
</name>
</person-group>
<source>Learning across Sites. New Tools Infrastructures and Practices</source>
<year>2011</year>
<comment> <ext-link ext-link-type="uri" xlink:href="https://goo.gl/8p9ufZ">https://goo.gl/8p9ufZ</ext-link> </comment>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref9">
<mixed-citation> Gómez-Escalonilla, G., Santín, M., &amp; Mathieu, G. (2011). La educación universitaria online en el periodismo desde la visión del estudiante [students' perspective online College education in the Field of Journalism]. <italic>Comunicar</italic>, 37, 73-80.  <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.3916/C37-2011-02-07">https://doi.org/10.3916/C37-2011-02-07</ext-link> </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Gómez-Escalonilla</surname>
<given-names> G</given-names>
</name>
<name>
<surname>Santín</surname>
<given-names> M</given-names>
</name>
<name>
<surname>Mathieu</surname>
<given-names> G.</given-names>
</name>
</person-group>
<source>Comunicar</source>
<year>2011</year>
<pub-id pub-id-type="doi">https://doi.org/10.3916/C37-2011-02-07</pub-id>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref10">
<mixed-citation> Guo, R., Palmer-Brown, D., Lee, S.W., &amp; Cai, F.F. (2014). Intelligent diagnostic Feedback for online Multiple-choice Questions. <italic>Artificial Intelligence Review</italic>, 42, 369-383.  <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.1007/s10462-013-9419-6">https://doi.org/10.1007/s10462-013-9419-6</ext-link> </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Guo</surname>
<given-names> R</given-names>
</name>
<name>
<surname>Palmer-Brown</surname>
<given-names> D</given-names>
</name>
<name>
<surname>Lee</surname>
<given-names> S.W</given-names>
</name>
<name>
<surname>Cai</surname>
<given-names> F.F.</given-names>
</name>
</person-group>
<source>Artificial Intelligence Review</source>
<year>2014</year>
<comment> <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.1007/s10462-013-9419-6">https://doi.org/10.1007/s10462-013-9419-6</ext-link> </comment>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref11">
<mixed-citation> Guskey, T.R. (2002). Professional development and teacher Change. <italic>Teachers and Teaching</italic>, 8, 3, 381-391.  <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.1080/135406002100000512">https://doi.org/10.1080/135406002100000512</ext-link> </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Guskey</surname>
<given-names> T.R.</given-names>
</name>
</person-group>
<source>Teachers and Teaching</source>
<year>2002</year>
<pub-id pub-id-type="doi">https://doi.org/10.1080/135406002100000512</pub-id>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref12">
<mixed-citation> Hattie, J., &amp; Timperley, H. (2007). The power of Feedback.<italic> Review of Educational Research</italic>, 77, 1, 81-112. https://doi.org/10.3102/003465430298487 </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Hattie</surname>
<given-names> J</given-names>
</name>
<name>
<surname>Timperley</surname>
<given-names> H.</given-names>
</name>
</person-group>
<source>Review of Educational Research</source>
<year>2007</year>
<pub-id pub-id-type="doi">https://doi.org/10.1080/135406002100000512</pub-id>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref13">
<mixed-citation> Hatziapostolou, T., &amp; Paraskakis, I. (2010). Enhancing the impact of Formative Feedback on student learning through an online Feedback system. <italic>Electronic Journal of e-Learning</italic>, 8(2), 111-122. (<italic>https://goo.gl/4sptbl</italic>) (2016-05-15). </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Hatziapostolou</surname>
<given-names> T</given-names>
</name>
<name>
<surname>Paraskakis</surname>
<given-names> I.</given-names>
</name>
</person-group>
<source>Electronic Journal of e-Learning</source>
<year>2010</year>
<comment> <ext-link ext-link-type="uri" xlink:href="https://goo.gl/4sptbl">https://goo.gl/4sptbl</ext-link> </comment>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref14">
<mixed-citation> Havnes, A., Smith, K., Dysthe, O., &amp; ludvigsen, K. (2012). Formative assessment and Feedback: Making learning visible. <italic>Studies in Educational Evaluation</italic>, 38(1), 21-27.  <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.1016/j.stueduc.2012.04.001">https://doi.org/10.1016/j.stueduc.2012.04.001</ext-link> </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Havnes</surname>
<given-names> A</given-names>
</name>
<name>
<surname>Smith</surname>
<given-names> K</given-names>
</name>
<name>
<surname>Dysthe</surname>
<given-names> O</given-names>
</name>
<name>
<surname>Ludvigsen</surname>
<given-names> K.</given-names>
</name>
</person-group>
<source>Studies in Educational Evaluation</source>
<year>2012</year>
<pub-id pub-id-type="doi">https://doi.org/10.1016/j.stueduc.2012.04.001</pub-id>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref15">
<mixed-citation> Jolly, B., &amp; Boud, D. (2015). El feedback por escrito. Para qué sirve y cómo podemos hacerlo bien. In d. boud, &amp; e. Molloy (eds.),<italic> El feedback en educación superior y profesional. Comprenderlo y hacerlo bien</italic> (pp. 131-152). Madrid: narcea. </mixed-citation>
<element-citation publication-type="book">
<person-group person-group-type="author">
<name>
<surname>Jolly</surname>
<given-names> B</given-names>
</name>
<name>
<surname>Boud</surname>
<given-names> D.</given-names>
</name>
</person-group>
<source>El feedback en educación superior y profesional. Comprenderlo y hacerlo bien</source>
<year>2015</year>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref16">
<mixed-citation> Mauri, T., Clarà, M., Ginesta, A., &amp; Colomina, R. (2013). La contribución al aprendizaje en el lugar de trabajo de los equipos docentes universitarios. Un estudio exploratorio. <italic>Infancia y Aprendizaje</italic>, 36(3), 341-360.  <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.1174/021037013807533025">https://doi.org/10.1174/021037013807533025</ext-link> </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Mauri</surname>
<given-names> T</given-names>
</name>
<name>
<surname>Clarà</surname>
<given-names> M</given-names>
</name>
<name>
<surname>Ginesta</surname>
<given-names> A</given-names>
</name>
<name>
<surname>Colomina</surname>
<given-names> R.</given-names>
</name>
</person-group>
<source>Infancia y Aprendizaje</source>
<year>2013</year>
<pub-id pub-id-type="doi">ttps://doi.org/10.1174/021037013807533025</pub-id>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref17">
<mixed-citation> Mauri, T., Ginesta, A., &amp; Rochera, M.J. (2016). The use of Feedback systems to improve Collaborative text Writing: a proposal for the higher education Context. <italic>Innovations in Education and Teaching International</italic>, 53(4), 411-424. (https://goo.gl/Qgio8u) (24-12-2016). </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Mauri</surname>
<given-names> T</given-names>
</name>
<name>
<surname>Ginesta</surname>
<given-names> A</given-names>
</name>
<name>
<surname>Rochera</surname>
<given-names> M.J.</given-names>
</name>
</person-group>
<source>Innovations in Education and Teaching International</source>
<year>2016</year>
<comment> <ext-link ext-link-type="uri" xlink:href="https://goo.gl/Qgio8u">https://goo.gl/Qgio8u</ext-link> </comment>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref18">
<mixed-citation> Morales, P. (2012). <italic>Análisis de ítems en las pruebas objetivas</italic>. Madrid: universidad pontificia Comillas. </mixed-citation>
<element-citation publication-type="book">
<person-group person-group-type="author">
<name>
<surname>Morales</surname>
<given-names> P.</given-names>
</name>
</person-group>
<source>Análisis de ítems en las pruebas objetivas.</source>
<year>2012</year>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref19">
<mixed-citation> Moreno, R., Martínez, R.J., &amp; Muñiz, J. (2015). Guidelines based validity Criteria for development of Multiple-choice items. <italic>Psicothema</italic>, 27(4), 388-394. ( <ext-link ext-link-type="uri" xlink:href="https://goo.gl/nyvrii">https://goo.gl/nyvrii</ext-link> ) (2016-05-20). </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Moreno</surname>
<given-names> R</given-names>
</name>
<name>
<surname>Martínez</surname>
<given-names> R.J</given-names>
</name>
<name>
<surname>Muñiz</surname>
<given-names> J.</given-names>
</name>
</person-group>
<source>Psicothema</source>
<year>2015</year>
<comment> <ext-link ext-link-type="uri" xlink:href="https://goo.gl/nyvrii">https://goo.gl/nyvrii</ext-link> </comment>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref20">
<mixed-citation> Nicol, D.J., &amp; Macfarlane-Dick, d. (2006). Formative assessment and self-regulated learning: a Model and seven principles of good Feedback practice.<italic> Studies in Higher Education</italic>, 31(2), 199-218.  <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.1080/03075070600572090">https://doi.org/10.1080/03075070600572090</ext-link> </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Nicol</surname>
<given-names> D.J</given-names>
</name>
<name>
<surname>Macfarlane-Dick</surname>
<given-names> D.</given-names>
</name>
</person-group>
<source>Studies in Higher Education</source>
<year>2006</year>
<pub-id pub-id-type="doi">https://doi.org/10.1080/03075070600572090</pub-id>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref21">
<mixed-citation> Petersen, A., Craig, M., &amp; Denny, P. (2016). Employing Multiple-answer Multiple-choice Questions.<italic> ITICSE '16 Proceedings of the 2016 ACM Conference on Innovation and Technology in Computer Science Education</italic>, 252-253. New York.  <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.1145/2899415.2925503">https://doi.org/10.1145/2899415.2925503</ext-link> </mixed-citation>
<element-citation publication-type="book">
<person-group person-group-type="author">
<name>
<surname>Petersen</surname>
<given-names> A</given-names>
</name>
<name>
<surname>Craig</surname>
<given-names> M</given-names>
</name>
<name>
<surname>Denny</surname>
<given-names> P.</given-names>
</name>
</person-group>
<source>ITICSE '16 Proceedings of the 2016 ACM Conference on Innovation and Technology in Computer Science Education</source>
<year>2016</year>
<pub-id pub-id-type="doi">https://doi.org/10.1145/2899415.2925503</pub-id>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref22">
<mixed-citation> Rodríguez-Garcés, C., Muñoz, M., &amp; Castillo, V. (2014). Tests informatizados y su contribución a la acción evaluativa en educación. <italic>Red</italic>, 43, 1-17. ( <ext-link ext-link-type="uri" xlink:href="https://goo.gl/c7wkkx">https://goo.gl/c7wkkx</ext-link> ) (2016-12-24). </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Rodríguez-Garcés</surname>
<given-names> C</given-names>
</name>
<name>
<surname>Muñoz</surname>
<given-names> M</given-names>
</name>
<name>
<surname>Castillo</surname>
<given-names> V.</given-names>
</name>
</person-group>
<source>Red</source>
<year>2014</year>
<comment> <ext-link ext-link-type="uri" xlink:href="https://goo.gl/c7wkkx">https://goo.gl/c7wkkx</ext-link> </comment>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref23">
<mixed-citation> Sánchez-Santamaría, J. (2011). Evaluación de los aprendizajes universitarios: una comparación sobre sus posibilidades y limitaciones en el espacio europeo de educación superior.<italic> Revista de Formación e Innovación Educativa Universitaria</italic>, 4(1), 40-54. ( <ext-link ext-link-type="uri" xlink:href="https://goo.gl/ufYg3p">https://goo.gl/ufYg3p</ext-link> ) (2016-06-30). </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Sánchez-Santamaría</surname>
<given-names> J.</given-names>
</name>
</person-group>
<source>Revista de Formación e Innovación Educativa Universitaria</source>
<year>2011</year>
<comment> <ext-link ext-link-type="uri" xlink:href="https://goo.gl/ufYg3p">https://goo.gl/ufYg3p</ext-link> </comment>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref24">
<mixed-citation> Shute, V. J. (2008). Focus on Formative Feedback. <italic>Review of Educational Research</italic>, 78, 153-189.  <ext-link ext-link-type="uri" xlink:href="https://doi.org/10.3102/0034654307313795">https://doi.org/10.3102/0034654307313795</ext-link> </mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Shute</surname>
<given-names> V. J.</given-names>
</name>
</person-group>
<source>Review of Educational Research</source>
<year>2008</year>
<pub-id pub-id-type="doi">https://doi.org/10.3102/0034654307313795</pub-id>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref25">
<mixed-citation> Williams, B., Brown, T., &amp; Benson, R. (2015). Feedback en entornos digitales. En d. boud, &amp; e. Molloy (eds.), <italic>El feedback en educación superior y profesional. Comprenderlo y hacerlo bien</italic> (pp. 153-168). Madrid: narcea. </mixed-citation>
<element-citation publication-type="book">
<person-group person-group-type="author">
<name>
<surname>Williams</surname>
<given-names> B</given-names>
</name>
<name>
<surname>Brown</surname>
<given-names> T</given-names>
</name>
<name>
<surname>Benson</surname>
<given-names> R.</given-names>
</name>
</person-group>
<source>El feedback en educación superior y profesional. Comprenderlo y hacerlo bien</source>
<year>2015</year>
</element-citation>
</ref>
<ref id="redalyc_15850360005_ref26">
<mixed-citation> Zaragoza, J., Luis-Pascual, J.C., &amp; Manrique, J.C. (2009). Experiencias de innovación en docencia universitaria: resultados de la aplicación de sistemas de evaluación formativa. <italic>Revista de Docencia Universitaria</italic>, 4, 1-33. (https://goo.gl/o4khqg) (2016-06-30).</mixed-citation>
<element-citation publication-type="journal">
<person-group person-group-type="author">
<name>
<surname>Zaragoza</surname>
<given-names> J</given-names>
</name>
<name>
<surname>Luis-Pascual</surname>
<given-names> J.C</given-names>
</name>
<name>
<surname>Manrique</surname>
<given-names> J.C.</given-names>
</name>
</person-group>
<source>Revista de Docencia Universitaria</source>
<year>2009</year>
<comment> <ext-link ext-link-type="uri" xlink:href="https://goo.gl/o4khqg">https://goo.gl/o4khqg</ext-link> </comment>
</element-citation>
</ref>
</ref-list>
</back>
</article>