Ética del Código: ¿Puede un Algoritmo Tener Conciencia Moral? por Marcelo Futerman

 

Ética del Código: ¿Puede un Algoritmo Tener Conciencia Moral?

por Marcelo Futerman

Cada algoritmo encierra decisiones invisibles: qué prioriza, qué descarta, qué considera “correcto”.
Y aunque esas decisiones parezcan técnicas, tienen implicaciones morales profundas.
Marcelo Futerman se pregunta:

“¿Podemos hablar de ética en sistemas que no sienten culpa, ni responsabilidad, ni consecuencias?”

---

Cuando programar se convierte en legislar

Cada línea de código define un mundo posible.
Los algoritmos que determinan qué vemos, qué compramos o qué obtenemos en una entrevista de trabajo no son neutrales: reflejan las creencias y valores de quienes los programan.

“El código no solo ejecuta. Interpreta. Y cada interpretación es una forma de poder.”
—Marcelo Futerman

Por eso, hablar de ética del código es hablar de responsabilidad humana antes que de moral artificial.

---

La ilusión de la objetividad

Muchos defienden que los algoritmos “no tienen ideología”.
Pero eso es falso.
Toda IA hereda sesgos de sus datos, de su contexto y de sus diseñadores.
Y lo más peligroso no es que tenga sesgo, sino que se presente como neutral.

Marcelo insiste:

“Una IA no es moral ni inmoral. Es amoral. Pero puede amplificar las decisiones morales —buenas o malas— de quienes la crean.”

---

¿Podemos programar la conciencia?

Intentar que una IA “tenga ética” es como intentar que una calculadora tenga compasión.
Lo que sí podemos —y debemos— hacer es incorporar principios éticos en su diseño y en su uso.
No para que sienta, sino para que sus límites estén claros.

Marcelo Futerman propone tres reglas simples:

1. Transparencia: que el usuario sepa cuándo y cómo interviene la IA.

2. Trazabilidad: que se pueda rastrear cada decisión automatizada.

3. Responsabilidad humana: que nunca falte alguien que asuma las consecuencias.

---

Conclusión: la ética sigue siendo humana

La verdadera ética no puede codificarse.
Pertenece a quienes eligen, no a quienes ejecutan.

“Los algoritmos no son culpables. Pero sí son espejos. Y a veces, lo que reflejan no es la inteligencia artificial… sino nuestra falta de conciencia.”
—Marcelo Futerman

En última instancia, la ética del código no consiste en enseñar moral a las máquinas, sino en recordar la nuestra.
Porque si algún día los algoritmos llegan a tener conciencia moral, será porque los humanos finalmente decidimos programarla en nosotros.