Conversación
Speaking · chatEl estudiante entra a una actividad de práctica oral y conversa con la IA, en chat o role play. IA Safety revisa cada mensaje. Si alguno se sale de la política, crea una alerta y puede terminar la conversación.
01 · Propósito
Qué hace IA Safety
Tres tareas que trabajan juntas para que la práctica con IA sea un espacio seguro.
Cuida a las personas
Mantiene la práctica con IA lejos de temas como autolesión, acoso, odio, violencia o contenido sexual.
Registra la evidencia
Crea una alerta con el mensaje, el audio si lo hay, quién lo dijo y en qué actividad. Docentes y administradores pueden revisarla.
Actúa a tiempo
Además de registrar, interviene: en una conversación puede terminar el chat y en la creación de contenido deja la actividad en revisión antes de publicarse.
02 · Configuración de features
Cómo leer la configuración
Cada fila de la tabla describe un lugar de la plataforma donde corre IA Safety. Estas son sus cuatro columnas.
| 1Tipo de actor | 2Flujo | 3Habilitado | 4Modo enforce |
|---|---|---|---|
| Estudiante | Conversación |
1
Tipo de actor
Quién usa la IA: estudiante o docente. Cada rol tiene su propia configuración, incluso dentro del mismo chat.
2
Flujo
El momento exacto: conversación, oraciones, palabras, creación de una actividad o de un curso.
3
Habilitado
Activo: la revisión corre en ese flujo y genera alertas. Inactivo: ese flujo queda fuera de la revisión.
4
Modo enforce
Activo: además de alertar, IA Safety aplica la acción, como advertir o terminar la conversación.
03 · Flujos
Los flujos protegidos
Seis momentos de la plataforma, organizados según quién usa la IA.
Estudiante
cuando practica
Activa
Oraciones
Speaking · frasesPráctica de oraciones sueltas: repetir o completar frases. Aplica el mismo filtro de política en un tipo de actividad distinto al chat.
Palabras
VocabularioPráctica de vocabulario palabra por palabra, con ejercicios cortos. Revisa respuestas breves.
Docente
cuando crea o prueba contenido
Creación de contenido
AI StudioCuando el docente crea una actividad, IA Safety revisa el prompt y el contenido que genera la IA. Si algo se sale de la política, la actividad queda en revisión antes de publicarse.
Conversación de prueba
Vista previaCuando el docente prueba o previsualiza el chat como si fuera estudiante. Es la misma conversación, vista desde el rol docente.
Creación de curso
CursoCuando el docente arma un curso con varias actividades. IA Safety revisa el contenido del curso completo.
04 · Uso indebido de IA
Niveles de alerta
Cada alerta llega con un nivel que te ayuda a decidir qué revisar primero.
i
Info
Una señal leve. Queda registrada para consulta y, por lo general, la actividad continúa.
!
Advertencia
Indicios de uso indebido que vale la pena revisar. Según el caso, la conversación puede continuar.
!!
Alta
Un contenido que se sale claramente de la política. Conviene revisarlo pronto.
!!!
Crítica
Los casos más graves: odio, autolesión, violencia o contenido sexual. En la conversación de un estudiante, suele terminar el chat para protegerlo.
Categorías que identifica
Cada alerta indica la categoría del contenido detectado.
AcosoOdioContenido sexualViolenciaAutolesiónEvasión de promptTema prohibidoFuera de temaTrampa académicaDatos personalesSpam
05 · En la plataforma
Qué pasa cuando hay una alerta
El recorrido completo, desde la detección hasta el cierre.
- Se crea la alerta
Aparece en Uso indebido de IA con la evidencia (texto o audio), el actor, el flujo y la categoría.
- Se aplica la acción
En la conversación de un estudiante, IA Safety puede advertir o terminar el chat. En la creación de contenido, la actividad queda en revisión.
- Se revisa y se cierra
Un docente o administrador marca la alerta como revisada o la resuelve. La protección sigue activa en ese flujo.
Te acompañamos
¿Quieres revisar la configuración de tu institución o conocer una alerta en detalle? Escríbenos por el chat de soporte y lo vemos contigo.
IA Safety · Uso seguro de la IA