La ética de la IA no está en la IA
La inteligencia artificial no decide qué está bien. Lo decidimos nosotros cuando la diseñamos, la compramos y la usamos. Cinco principios para implementarla sin perder el criterio humano.
Hay una pregunta que aparece en casi todas las conversaciones sobre inteligencia artificial: ¿es buena o es mala?
La pregunta está mal hecha.
La IA no es ética ni antiética. Es una herramienta muy poderosa que amplifica lo que ya somos: nuestras intenciones, nuestros criterios y también nuestros sesgos.
Un martillo puede construir una casa o romper una ventana. La diferencia no está en el martillo.
Con la IA pasa lo mismo, con una diferencia importante: el martillo no repite la misma decisión miles de veces sin que nadie la revise.
La tentación de medirla en horas ahorradas
Hoy casi todas las organizaciones están probando inteligencia artificial: para escribir, para atender clientes, para seleccionar personal, para evaluar, para enseñar.
Y casi siempre la primera pregunta es la misma: ¿cuánto tiempo nos ahorra?
Es una pregunta válida. Pero si es la única, estamos midiendo la IA con la vara equivocada. Una herramienta que ahorra mil horas y deja a cien personas mal evaluadas no es eficiente. Es un problema que se multiplica en silencio.
La ética de la IA no está en el algoritmo. Está en las decisiones que tomamos alrededor de él: qué automatizamos, con qué datos, para quién y quién responde cuando algo sale mal.
El mundo ya empezó a ponerle reglas
En 2021, los 193 Estados miembros de la UNESCO adoptaron la primera recomendación mundial sobre la ética de la inteligencia artificial. En 2024 entró en vigor en Europa la Ley de Inteligencia Artificial, que clasifica los usos según su riesgo: no es lo mismo una IA que te recomienda una canción que una que decide quién recibe un crédito o quién pasa a una entrevista de trabajo.
Las normas van a seguir llegando. Pero esperar a que la ley nos diga qué hacer es llegar tarde. La ética no es cumplimiento. Es criterio.
Cinco principios para usarla bien
No son teoría. Son las preguntas que deberíamos hacernos antes de poner una IA a trabajar con personas.
1. Primero el propósito, después la herramienta
Antes de preguntar qué puede hacer la IA, pregúntate qué problema humano quieres resolver.
Un asistente que responde a las once de la noche las dudas de un colaborador nuevo resuelve un problema real. Uno que vigila cuántos minutos pasa conectado, probablemente no. Las dos son «soluciones de IA». Solo una tiene propósito.
2. Siempre hay una persona que responde
La IA puede recomendar. Pero en lo que afecta la vida de otros (contratar, evaluar, promover, despedir, aprobar un crédito) decide una persona. Y esa persona da la cara.
Si nadie firma, nadie responde. Y cuando nadie responde, la confianza se cae.
3. La gente tiene derecho a saber
Si alguien está hablando con una IA, debe saberlo. Si una evaluación, una recomendación o una retroalimentación la generó una IA, también.
La transparencia no le quita valor a la herramienta. Se lo da: nadie confía en lo que se le oculta.
4. Los datos de otros se cuidan como propios
Cada vez que subimos a una herramienta la información de un cliente, de un colaborador o de un estudiante, estamos decidiendo por ellos.
Usa solo los datos necesarios. Revisa dónde quedan guardados y quién puede verlos. Y si no le contarías a esa persona lo que estás haciendo con su información, no lo hagas.
5. Mide lo que les pasa a las personas, no solo a los indicadores
¿La gente aprendió más? ¿Decidió mejor? ¿Alguien quedó por fuera? ¿El resultado es igual de bueno para hombres y mujeres, para jóvenes y mayores, para quienes viven en la ciudad y para quienes no?
Una IA puede ser muy precisa en promedio y muy injusta con un grupo. Eso solo se ve si lo miramos a propósito.
La ética también se aprende
Hay un riesgo del que se habla poco: no es la IA que se equivoca, es la persona que confía en ella sin criterio.
Por eso, implementar inteligencia artificial no es solo comprar licencias. Es formar a la gente para usarla bien: saber qué preguntarle, cómo verificar lo que responde y cuándo no usarla.
En el mundo del aprendizaje organizacional, que es el mío, lo decimos así: la tecnología acelera lo que una cultura está preparada para sostener. Si la cultura no tiene criterio, la IA solo lo hace más rápido.
Hagamos la prueba
Antes de implementar cualquier herramienta de IA en tu organización, respondan estas cinco preguntas en una sola página:
- ¿Qué problema humano resuelve?
- ¿Quién responde por sus decisiones?
- ¿Cómo se enteran las personas de que interviene una IA?
- ¿Qué datos usa, dónde quedan y quién los ve?
- ¿Cómo vamos a saber, en seis meses, si mejoró la vida de las personas además de los indicadores?
Si alguna se queda sin respuesta, todavía no están listos. Y está bien: es mejor llegar un poco después que llegar sin criterio.
La pregunta no es qué puede hacer la IA. Es qué estamos dispuestos a permitirle hacer.
Para profundizar: UNESCO, «Recomendación sobre la ética de la inteligencia artificial» (2021); Unión Europea, «Reglamento de Inteligencia Artificial» (2024); OCDE, «Principios sobre inteligencia artificial» (2019).