Un analista abre un borrador del resumen de un contrato con un proveedor, generado en segundos por un asistente de IA. El texto es claro. Menciona una cláusula de rescisión y un plazo de pago, y transmite seguridad en todo momento. Antes, el analista dedicaba una mañana entera a leer el contrato para encontrar esos detalles. Ahora la pregunta es diferente: ¿es correcto este resumen? ¿Qué debería revisar antes de firmarlo?
Este es un ejemplo ilustrativo, no un caso real documentado. Refleja los cambios que se están produciendo en muchos puestos de trabajo. Obtener una respuesta es más rápido. Sin embargo, la decisión sobre si la respuesta es fiable y quién es responsable en caso contrario sigue recayendo en la persona.
Esta guía está dirigida a responsables de formación y desarrollo y a diseñadores instruccionales que planifican la capacitación de personal en IA. Muestra cómo identificar las tareas en las que la IA transforma el trabajo humano, cómo desarrollar prácticas basadas en resultados que a veces son erróneos y cómo medir un uso responsable sin prometer aumentos de productividad.
Datos Rápidos
| Pregunta | Respuesta corta |
|---|---|
| ¿Qué cambia cuando las personas utilizan la IA en el trabajo? | Elaborar un primer borrador o respuesta se vuelve más fácil. Sin embargo, verificarlo, evaluarlo y asumir la responsabilidad del resultado siguen siendo tareas pendientes. |
| ¿Qué debería enseñar la formación en IA? | La verificación y el criterio que requiere una tarea ahora, además del conocimiento del dominio necesario para llevarla a cabo. |
| ¿Pueden las instrucciones por sí solas solucionar el exceso de confianza? | No. Las investigaciones sobre el sesgo de automatización descubrieron que se producía tanto en principiantes como en expertos y que no se prevenía solo con formación o instrucciones. |
| ¿Qué medir? | Verificación observada en tareas reales, con límites aprobados para el uso de la IA. |
1. Mapear cómo la IA cambia la tarea laboral
Empiece con una tarea real, no con una herramienta. Describa cómo se hacía antes de la IA y cómo se hace ahora, y compare ambas columnas.
Por ejemplo, en el contrato:
- Antes: Lea el contrato completo, extraiga los términos clave, señale cualquier cosa inusual y redacte el resumen.
- Ahora: Revisar el resumen generado por IA, compararlo con la fuente original, decidir si se debe confiar en él, señalar cualquier anomalía y asumir la responsabilidad del resultado.
Algunos pasos se reducen. Extraer términos puede llevar segundos. Otros aparecen o se amplían: comparar el resultado con la fuente, observar lo que omitió el resumen y decidir cuándo consultar a un especialista. La habilidad requerida ha pasado de producir a evaluar. En términos de Bloom, que describen el pensamiento que requiere una tarea y no cómo se lleva a cabo, el peso se desplaza hacia el análisis y la evaluación. Nuestra guía para relacionar las actividades de aprendizaje con la taxonomía de Bloom. Explica cómo alinear el objetivo, la actividad y la evaluación una vez que se conoce el nivel.
Esta comparación es fundamental para un análisis honesto de las necesidades de capacitación en IA. Además, evita un error común: capacitar a todos en una herramienta cuando el verdadero cambio consiste en una nueva tarea de verificación.
2. Identificar los requisitos de verificación y juicio.
Haz tres preguntas sobre cada paso de la columna "ahora".
- ¿Qué aspecto tendría un resultado incorrecto en este caso? Una cláusula inventada, una excepción omitida, una cifra plausible pero desactualizada.
- ¿Qué pruebas me permitirían comprobarlo? El documento fuente, un segundo sistema, un colega, una política.
- ¿Cuándo debo detenerme y preguntarle a otra persona? La frontera entre "puedo verificar esto" y "esto requiere un experto".
Los investigadores han estudiado durante décadas lo que sucede cuando las personas trabajan con ayudas automatizadas imperfectas. La revisión de esa investigación realizada por Parasuraman y Manzey describe el sesgo de automatización, donde las personas cometen errores de omisión y comisión porque se apoyan en una ayuda para la toma de decisiones que no siempre es correcta. Encontró el efecto tanto en participantes novatos como expertos y concluyó que no se podía prevenir solo con capacitación o instrucciones.Parasuraman y Manzey, 2010, Factores humanosEsa investigación es anterior a los asistentes de IA actuales, así que considérela como una advertencia sobre el comportamiento humano, no como una evaluación de ninguna herramienta actual.
La lección práctica para la capacitación en IA de los empleados es que simplemente decirles que "verifiquen el resultado" no es una buena práctica. Las condiciones del entorno también importan: tiempo para verificar, acceso a la fuente y un lugar de trabajo que no los penalice por tomarse el tiempo necesario.
3. Desarrollar prácticas en torno a resultados poco fiables.
Si la tarea ahora implica evaluar un resultado, practique la evaluación de resultados. Cree un pequeño conjunto de casos donde la respuesta de la IA sea:
- Correcto y completo. Lo correcto es aceptarlo y explicar por qué.
- Incompleto. Es cierto hasta cierto punto, pero omite algo importante.
- Engañoso. Confiado, bien escrito y erróneo de una manera que es fácil pasar por alto.
Los alumnos reciben cada caso, una fuente para contrastarlo y una opción: aceptar, corregir o escalar el problema. También deben justificar su decisión. Es importante evaluar las razones para estar de acuerdo o cuestionar, no solo la confianza. Un alumno que acepta la respuesta correcta sin comprobarla no ha demostrado la habilidad, y un alumno que cuestiona todo tampoco.
Los formatos interactivos se adaptan perfectamente a esto. Cada persona se compromete con una decisión y una razón antes de que el grupo la discuta, lo que permite detectar tanto la confianza excesiva como la cautela excesiva. La presentación a ritmo propio cubre la primera revisión, y una sesión informativa en vivo aborda los casos ambiguos donde existen dos interpretaciones válidas. AhaSlides admite el aprendizaje interactivo y la alternancia entre la presentación en vivo y a ritmo propio, por lo que un mismo conjunto de casos puede utilizarse de ambas maneras. Antes de planificar en función de cualquier función específica de autoría, retroalimentación o informes, verifíquela en función de su propio flujo de trabajo.
4. Conservar los conocimientos previos necesarios
No se puede evaluar un resultado que no se comprende. Una persona que nunca ha aprendido cómo interactúan las condiciones de pago con los derechos de rescisión no se dará cuenta cuando un resumen los presenta de forma incorrecta. El acceso a la IA no elimina la necesidad de ese conocimiento; simplemente cambia el contexto en el que se utiliza.
Decida de qué conocimiento del dominio depende cada tarea de verificación y compruébelo antes de la práctica con un breve diagnóstico a su propio ritmo. Una comprobación de recuerdo como esta solo confirma los prerrequisitos. No demuestra que cualquiera pueda verificar un resultado. El Centro Eberly de Carnegie Mellon hace la misma observación de diseño de forma más general: las evaluaciones, los objetivos y las actividades de instrucción deben estar alineados, y cuando una evaluación mide el recuerdo pero los objetivos requieren análisis, no mide lo que se suponía que los alumnos debían aprender, y la falta de alineación puede socavar tanto la motivación como el aprendizaje.Centro Eberly, alineación de objetivos, evaluaciones e instrucción.).
5. Medir el uso responsable en tareas reales.
Elija una tarea de verificación que la gente realmente realice y establezca los límites aprobados para el uso de la IA antes de realizar las mediciones: qué se puede delegar a la herramienta, qué se debe verificar y qué se debe escalar.
Los Centros para el Control y la Prevención de Enfermedades de EE. UU. separan la evaluación del aprendizaje de la evaluación de la eficacia con la que las personas lo aplican en el trabajo, y recomiendan planificar ambas (CDC, evaluar la capacitación: medición de la eficacia). Se trata de una guía de evaluación, no de una predicción de resultados. Para las tareas de IA, esto implica dos medidas:
- Aprendizaje: Rendimiento en un conjunto de casos nuevos y no vistos, en comparación con una línea de base.
- Transfer del aeropuerto: una tarea de trabajo supervisada o una muestra de trabajo real, evaluada según la misma rúbrica después de que las personas hayan tenido tiempo de aplicar lo aprendido.
Defina quiénes participan, el denominador y el momento. Informe la eficiencia únicamente a partir de datos cuantificables. Si un equipo mejora su rendimiento tras el entrenamiento en IA, verifique qué otros cambios se produjeron durante el mismo período, como una nueva plantilla, una modificación en la plantilla o una distribución diferente del trabajo, antes de atribuir el mérito al entrenamiento.
Para una visión más amplia del riesgo, el Instituto Nacional de Estándares y Tecnología publica el Marco de gestión de riesgos de IAPublicado en enero de 2023, este documento es utilizado por las organizaciones para reflexionar sobre los riesgos de la IA. Es un punto de partida para el diálogo sobre riesgos, no un estándar de capacitación ni una certificación.
Un ejemplo práctico: el resumen del contrato
A modo de ejemplo, el profesional que realice este trabajo deberá validar el caso y los criterios de respuesta antes de su uso.
El caso. El alumno recibe un contrato ficticio con un proveedor y un resumen generado por IA. El resumen indica un preaviso de rescisión de 60 días. El contrato estipula 60 días para la rescisión sin causa justificada y 30 días en caso de incumplimiento. El resumen también omite una excepción al plazo de pago en un apéndice.
Lo que se le pide al alumno que haga. Explique la decisión (aceptar, corregir o escalar), cite las pruebas del contrato e indique qué información o apoyo adicional necesitarían.
Una respuesta débil. "El resumen parece preciso y abarca los términos principales. Aceptar." No cita nada ni muestra ninguna verificación.
Una respuesta más fuerte. No lo aceptaría tal como está. La cláusula 14 establece un plazo de 60 días para la rescisión sin causa justificada, pero de 30 días en caso de incumplimiento, y el resumen solo menciona 60 días. El apéndice B incluye una excepción de pago que no se menciona en el resumen. Corregiría la línea de rescisión y añadiría la excepción. No estoy seguro de si el apéndice se aplica a este proveedor, así que consultaría con el responsable de contratos.
El reintento. El alumno recibe un segundo contrato donde el resumen de la IA es correcto. Lo correcto ahora es aceptarlo e indicar lo que se verificó. Esto evita que las personas desarrollen una desconfianza automática.
Hoja de trabajo para el análisis de tareas de IA
Utilice una fila por paso en la columna "ahora" para una tarea real.
| Paso de la tarea | ¿Qué hace ahora la IA? | Lo que la persona aún debe hacer | Se necesitan pruebas para comprobarlo. | Escalar a | Conocimientos previos |
|---|---|---|---|---|---|
| Extraer términos clave | Borradores de la lista | Comparar con la fuente | El contrato en sí | Responsable de contratos | Estructura del contrato y tipos de cláusulas |
| Marcar términos inusuales | Sugiere candidatos | Decide qué es inusual en este contexto. | Contratos anteriores, política | Legal | Condiciones estándar para este tipo de proveedor. |
| Firma el resumen | Nada | Asume el resultado | El resumen comprobado | Gerente de línea | Límites de aprobación |
Una rúbrica que puedes adaptar
Califique cada criterio de 0 a 2. Esta es una propuesta de adaptación con un especialista en la función, no un estándar de preparación validado.
| Criterio | Evidencia observable |
|---|---|
| Ejecución de tareas | Identifica dónde la IA modifica la tarea de verificación y evaluación. Registra la acción y las pruebas que la respaldan. |
| Razonamiento | Explica las limitaciones, las alternativas y la incertidumbre. Los motivos para aceptar o cuestionar un resultado están ligados a su origen. |
| Límites | Utiliza procedimientos aprobados para el uso de la IA y solicita ayuda cuando la información o la autoridad no son suficientes. |
Anclas: 0 = ausente o sin respaldo. 1 = parcial, con omisiones relevantes. 2 = completo y justificado según los criterios acordados. Defina los errores críticos por separado; por ejemplo, aprobar un resultado que contradice la fuente o compartir datos confidenciales con una herramienta no autorizada. La puntuación total no debe ocultar un fallo crítico.
Restricciones que pueden persistir
Un mejor criterio en un caso de formación no elimina todas las limitaciones:
- La presión del tiempo. Si los objetivos de volumen no dejan margen para la verificación, la gente omitirá verificar todo aquello que se les enseñó.
- Responsabilidad poco clara. Si no se ha designado a nadie como propietario de un resultado verificado, la verificación no es responsabilidad de nadie.
- Límites de la herramienta. Algunas herramientas no permiten ver la fuente de una respuesta, lo que ralentiza la verificación.
- Cambiando herramientas. Un sistema de IA que cambia su comportamiento tras una actualización puede romper un hábito de verificación que hayas desarrollado el trimestre pasado.
Planifica soluciones específicas para estos problemas e infórmales a los patrocinadores. La capacitación puede desarrollar la habilidad, pero no puede generar el tiempo ni la autoridad necesarios.
Preguntas frecuentes
¿Qué temas debería abarcar la formación en IA para los empleados?
Comience con las tareas que la IA modifica en su función. Explique cómo verificar los resultados con la evidencia, cuándo escalar el problema, los límites aprobados para el uso de la IA y el conocimiento del dominio necesario para evaluar una respuesta. Las sugerencias de herramientas se presentan a continuación.
¿La IA elimina la necesidad de conocimientos especializados?
No. La gente necesita comprender lo suficiente como para darse cuenta cuando un resultado es erróneo o incompleto. Lo que cambia es cómo se utiliza ese conocimiento: menos producción, más evaluación.
¿Cómo se evalúa el criterio humano en el trabajo asistido por IA?
Proporcione a los alumnos casos realistas con resultados correctos, incompletos y engañosos, y califique sus razones para aceptar, corregir o escalar el problema. Luego, observe una tarea real supervisada después de un tiempo prudencial.
Por dónde empezar
Elige una tarea que en tu organización se realice actualmente con ayuda de IA. Completa la hoja de trabajo anterior con el nombre de una persona que realice esa tarea e indica los tres puntos donde un resultado erróneo causaría mayores problemas. Crea tu primer caso práctico basándote en uno de ellos.
Para ver cómo una revisión a su propio ritmo, un caso práctico interactivo y una sesión informativa en directo podrían combinarse para esa tarea, explore AhaSlides.
