IA Responsable
De Wiki de TI Responsable
La IA responsable designa una práctica de la inteligencia artificial que integra sus efectos ambientales, sociales y éticos desde el diseño, y no como corrección posterior.
Cuatro exigencias
- Utilidad demostrada
- la primera pregunta no es cómo construir el modelo, sino si el problema requiere uno. Una regla explícita o una consulta a una base resuelven muchos casos con un coste sin comparación.
- Sobriedad
- el entrenamiento concentra un coste visible, pero el uso acumulado lo supera con rapidez cuando el servicio se generaliza. Un modelo más pequeño y ajustado a la tarea suele bastar.
- Transparencia
- saber con qué datos se entrenó el modelo, qué sabe hacer y, sobre todo, qué no sabe hacer.
- Supervisión humana
- situada antes de la acción cuando el sistema actúa por sí mismo, no después.
Los riesgos que trata
- El sesgo algorítmico, que reproduce y amplifica las desigualdades presentes en los datos de entrenamiento.
- La alucinación: un modelo generativo produce enunciados plausibles y falsos, sin señal que los distinga.
- La opacidad, que impide explicar una decisión a la persona afectada.
- El Shadow AI: el uso no declarado de herramientas externas, que expone datos internos a terceros.
Marco normativo
El AI Act europeo clasifica los usos por nivel de riesgo y hace recaer obligaciones documentales sobre los modelos de uso general. Los sistemas que intervienen en decisiones relativas a personas quedan generalmente en la categoría de riesgo alto.
Una tensión que conviene nombrar
La IA se presenta a la vez como palanca ambiental y como fuente de consumo. Ambas afirmaciones pueden ser ciertas para casos distintos. Lo que falta casi siempre es la comparación: el ahorro obtenido frente al coste del sistema que lo produce. Sin esa medición, el discurso no se puede verificar.
