Gestion de riesgos de la IA generativa en las pruebas de software
Cubre alucinaciones, errores de razonamiento, sesgos, privacidad, seguridad, consumo de energia, regulaciones y marcos de buenas practicas.
Calidad de la salida GenAI
Los resultados de un LLM pueden contener hechos inventados, razonamiento incorrecto, sesgo o variacion no deseada.
- Comprueba contra fuentes confiables.
- Prueba con prompts adversos y variantes.
- Usa configuraciones y criterios repetibles cuando el riesgo lo exige.
Privacidad y seguridad
El uso de GenAI en pruebas puede exponer datos, requisitos, arquitectura, vulnerabilidades o informacion de clientes si no hay controles.
- Anonimiza o sintetiza datos.
- Evalua manipulacion de contexto, fuga de datos y prompt injection.
- Define politicas de uso y aprobacion.
Responsabilidad y sostenibilidad
El contexto regulatorio, el consumo energetico y las mejores practicas deben traducirse en requisitos verificables.
- Elige modelos de forma proporcional.
- Documenta decisiones.
- Considera impacto ambiental, legal y etico.
Términos clave
Objetivos de aprendizaje
- GenAI-3.1.1 · K1Recordar alucinacion, error de razonamiento y sesgo
Define fallas tipicas de salida GenAI que afectan testware.
- GenAI-3.1.2 · K3Identificar fallas en resultados LLM
Analiza salidas para detectar hechos inventados, inferencias incorrectas o sesgos.
- GenAI-3.1.3 · K2Resumir mitigaciones para fallas GenAI
Usa fuentes confiables, RAG, ejemplos, restricciones, revision humana y pruebas repetidas.
- GenAI-3.1.4 · K1Recordar mitigaciones para no determinismo LLM
Reconoce control de parametros, versionado, semillas cuando existan y criterios de tolerancia.
- GenAI-3.2.1 · K2Explicar riesgos de privacidad y seguridad
Relaciona datos sensibles, secretos, propiedad intelectual, prompt injection y fuga de informacion.
- GenAI-3.2.2 · K2Dar ejemplos de vulnerabilidades en uso de GenAI
Incluye manipulacion de contexto, exposicion de datos, dependencia de proveedor, prompts maliciosos y salidas inseguras.
- GenAI-3.2.3 · K2Resumir estrategias de privacidad y seguridad
Aplica anonimizar, minimizar datos, control de acceso, registro, evaluacion y politicas.
- GenAI-3.3.1 · K2Explicar impacto energetico de tareas GenAI
Relaciona tamano de modelo, numero de consultas, complejidad, contexto y reintentos con energia y emisiones.
- GenAI-3.4.1 · K1Recordar regulaciones, estandares y buenas practicas
Reconoce que marcos de IA, privacidad, seguridad y calidad pueden aplicar a pruebas con GenAI.
Errores frecuentes
- Usar GenAI sin revision humana ni trazabilidad.
- Confundir una respuesta convincente con evidencia suficiente.
- Ignorar privacidad, seguridad, coste o cumplimiento por enfocarse solo en velocidad.
Ejemplos aplicados
- Ejemplo de estudio: aplica Gestion de riesgos de la IA generativa en las pruebas de software a una historia de usuario real y registra prompt, salida, revision y decision.
- Ejemplo profesional: compara una tarea hecha manualmente contra una apoyada por GenAI y mide calidad, cobertura, coste y riesgo.