Una herramienta de IA puede acertar varias veces seguidas y fallar en un caso que a ti te parece sencillo. Para entender por qué ocurre vas a trabajar con ejemplos, categorías y comprobaciones. No entrenarás un sistema real ni necesitarás programar. Harás una simulación en papel que permite comprender la diferencia entre aprender patrones y memorizar respuestas.
Qué llamamos modelo
Un modelo es un sistema que se ajusta durante un proceso de entrenamiento para realizar una tarea. En el aprendizaje automático se utilizan datos para encontrar relaciones útiles. Después puede aplicarse a casos nuevos. Esa utilización se conoce como inferencia. La distinción importa porque conversar con una aplicación no significa necesariamente que estés modificando su modelo general en ese instante.
Imagina que quieres separar mensajes sobre reservas y mensajes sobre objetos perdidos. Reúnes ejemplos y les asignas una categoría. Si todas las reservas contienen la palabra «mesa», un procedimiento demasiado simple podría aprender a asociar esa palabra con reservar. Sin embargo, «dejé las llaves sobre una mesa» habla de un objeto perdido. El patrón superficial funciona hasta que aparece un caso distinto.
Puedes ampliar estos conceptos en la introducción al aprendizaje automático de Google.
Los ejemplos condicionan lo que se aprende
Una colección de ejemplos debe representar situaciones variadas de la tarea. Si solo incluyes mensajes largos y perfectamente escritos, quizá no estés comprobando cómo se comportará el sistema con abreviaturas o frases incompletas. Si únicamente muestras un tipo de cliente, tampoco puedes suponer que el resultado será igual de útil en otros contextos.
No confundas cantidad con calidad. Cien copias de un mismo ejemplo aportan menos variedad que un conjunto pequeño con diferencias relevantes. También puedes introducir errores al etiquetar. Si marcas una consulta de devolución como reserva, el sistema recibe una señal equivocada. Por eso preparar datos exige conocer la tarea y revisar lo que se incluye.
En una actividad doméstica puedes observarlo con fotografías. Si todas las plantas de una clase aparecen sobre fondo blanco y las de otra clase sobre fondo oscuro, un clasificador podría apoyarse en el fondo. Habría encontrado una pista que coincide con los ejemplos, pero que no representa bien lo que querías distinguir. Este tipo de atajo ayuda a entender algunos fallos aparentemente extraños.
Guarda casos que no hayas utilizado
Para comprobar si tu regla funciona necesitas ejemplos nuevos. Si corriges el procedimiento mirando una y otra vez las mismas tarjetas, puedes terminar adaptándolo a esas tarjetas sin mejorar su utilidad general. Reservar algunos casos desde el principio permite hacer una prueba más honesta.
En la simulación de esta lección prepararás ocho frases. Utilizarás cuatro para pensar una regla y guardarás otras cuatro para comprobarla. Esta división es una herramienta pedagógica, no un tamaño recomendado para un proyecto real. Los sistemas profesionales necesitan decisiones y evaluaciones mucho más amplias. Aquí basta para observar la diferencia entre explicar lo conocido y responder ante algo nuevo.
Anota los aciertos y los errores por separado. Si obtienes tres aciertos de cuatro, no concluyas que cualquier tarea futura tendrá esa misma tasa. La muestra es pequeña y depende de los ejemplos elegidos. Describe lo que ha ocurrido en tu prueba concreta. Esa prudencia evita convertir una experiencia limitada en una promesa general.
Por qué un asistente escribe cosas falsas
Los modelos de lenguaje generan secuencias de texto utilizando patrones aprendidos y el contexto que reciben. No funcionan como una enciclopedia que siempre recupera una ficha comprobada. Pueden producir una frase plausible sin que su contenido sea correcto. También pueden mezclar datos, completar ausencias o atribuir una idea a una referencia inexistente.
Cuando aparece contenido inventado o erróneo presentado como si fuera cierto suele hablarse de alucinación. El término describe un tipo de fallo del sistema y no una experiencia humana. Pedir que no invente es una instrucción útil, pero no constituye una garantía. La comprobación necesita apoyarse en documentos, cálculos u observaciones que puedas contrastar.
Hay además una diferencia entre el modelo y la aplicación. Una aplicación puede añadir búsqueda, herramientas de cálculo o acceso a documentos. Esas funciones amplían lo que puede hacer, pero también requieren comprobar qué se ha consultado realmente. Una respuesta con apariencia de búsqueda no demuestra por sí sola que se haya abierto una fuente.
Contexto no significa memoria perfecta
El contexto es la información que la herramienta tiene disponible para responder en una situación concreta. Puede incluir mensajes anteriores o documentos aportados, según el servicio. No presupongas que conserva todo de manera indefinida. Una conversación larga puede contener contradicciones y detalles que la herramienta no utilice correctamente.
Si una instrucción es importante, exprésala con claridad en el encargo actual. Por ejemplo: «Utiliza solo las cuatro frases siguientes y marca cualquier caso dudoso». Eso reduce ambigüedades. Tampoco debes interpretar una nueva conversación como una garantía de eliminación de datos: el tratamiento y la conservación dependen de las condiciones del servicio.
Errores habituales
Un fallo frecuente consiste en evaluar con los mismos ejemplos utilizados para construir la regla. Otro es cambiar las categorías después de ver los errores sin reconocer que has cambiado el problema. También conviene evitar explicaciones humanas como «se ha distraído» cuando lo observado es una clasificación incorrecta: esa frase no ayuda a localizar la causa.
Si la herramienta falla con una frase, guarda la frase exacta. Resumirla como «no entiende las reservas» resulta demasiado general. Necesitas saber qué palabras o condiciones estaban presentes para construir una prueba mejor. La corrección empieza por describir el error de forma reproducible.
Lo que deberías recordar
- Entrenar un modelo y utilizarlo son procesos distintos.
- Los ejemplos pueden contener errores, desequilibrios y pistas engañosas.
- Una comprobación necesita casos que no hayan guiado la regla inicial.
- Un texto plausible puede incluir información falsa.
Ejercicio práctico
Escribe cuatro mensajes para practicar: «Quiero reservar para dos», «¿Hay mesa mañana?», «He perdido una bufanda» y «Olvidé un paraguas». Diseña una regla sencilla para separar reservas y objetos perdidos. Anótala antes de leer los casos de comprobación.
Prueba después estas frases: «Dejé las llaves sobre la mesa», «¿Podemos ir cuatro el viernes?», «Busco mi abrigo» y «Necesito cambiar la hora de mi reserva». Apunta qué categoría asigna tu regla y cuál corresponde por el sentido del mensaje. Registra aciertos, errores y una modificación posible. Si tu regla ya funciona, inventa un caso ambiguo y explica qué información pedirías en lugar de forzar una respuesta.
Continúa con el capítulo 3: prepara tu herramienta y tu primera conversación.
Volver al índice del curso de inteligencia artificial para principiantes.
