He estado los últimos días dándole a Robocop: Rogue City, un shooter muy divertido basado, lógicamente, en el universo de la peli de los 80. Debo decir que cuando era un crío fue una película que me impactó mucho, sobre todo cuando Murphy se quitaba el casco y se veía su cabeza, mitad orgánica, mitad metálica. A medida que jugaba, lo cierto es que no dejaba de pensar en cuánto se puede aprender de esta cinta en la IA y la robótica actual y futura. Es lo que tienen los 80.
Estrenada en 1987, RoboCop imaginaba una Detroit violenta, empobrecida y gestionada en parte por una gran corporación, Omni Consumer Products. En ese mundo, la seguridad pública se convierte en negocio, los problemas sociales se intentan resolver con armamento futurista y la tecnología se presenta como una solución rápida a conflictos mucho más profundos.
Casi cuarenta años después, esa intuición sigue siendo incómodamente actual. Hoy hablamos de inteligencia artificial aplicada a vigilancia, reconocimiento facial, análisis predictivo, drones, robots móviles y sistemas autónomos. Ya no estamos exactamente en el universo de RoboCop, pero algunas de sus preguntas han dejado de ser ciencia ficción.
El problema no es el robot, sino quién lo controla
Para mí, una de las grandes enseñanzas de RoboCop es que la tecnología nunca es neutral del todo. Depende de quién la diseña, con qué objetivos, bajo qué incentivos y con qué controles. En la película, OCP no quiere simplemente mejorar la seguridad. Quiere vender una solución, controlar una ciudad y convertir una función pública en oportunidad de negocio. Esa caricatura funciona porque toca una preocupación muy real: ¿qué ocurre cuando dejamos decisiones delicadas en manos de sistemas opacos, diseñados por organizaciones que no siempre responden ante la ciudadanía?
Esto es especialmente importante en IA. Un algoritmo que recomienda música no tiene el mismo impacto que un sistema que ayuda a decidir qué barrio se vigila más, qué persona representa un riesgo o qué intervención policial debe priorizarse. Cuando la IA entra en ámbitos de poder, la eficiencia no basta. También hacen falta legitimidad, transparencia y responsabilidad.
ED-209 y la fantasía de la automatización perfecta
La escena de ED-209, el robot policial de dos patas que falla de forma catastrófica durante una demostración, resume muy bien una idea que seguimos olvidando: automatizar no siempre significa mejorar.
La máquina interpreta mal una situación, no entiende el contexto y responde con violencia desproporcionada. Es una escena exagerada, sí, pero sirve como metáfora de muchos riesgos actuales. Los sistemas de IA pueden ser muy útiles, pero no comprenden el mundo como lo hace una persona. Detectan patrones, calculan probabilidades y generan respuestas, pero pueden equivocarse cuando el contexto es ambiguo, social o moralmente complejo.
Por eso me preocupa la confianza excesiva en la automatización. No solo porque una IA pueda fallar, sino porque tendemos a darle una autoridad especial. Si “lo dice el sistema”, parece más objetivo. Pero detrás de ese sistema hay datos, decisiones de diseño, prioridades, errores aceptados y sesgos posibles.
RoboCop funciona porque todavía es humano
La gran paradoja de la película es que RoboCop resulta más fiable que ED-209 no porque sea más máquina, sino porque sigue siendo parcialmente humano. Alex Murphy conserva memoria, intuición moral, vínculos afectivos y conflicto interior. Precisamente aquello que la corporación intenta borrar porque le hace más débil es lo que le permite actuar con criterio.
Esta idea me parece central para pensar la IA actual. En sistemas sensibles, la pregunta no debería ser solo “¿podemos sustituir a una persona?”, sino “¿qué parte del juicio humano no deberíamos eliminar?”.
Se habla mucho de mantener al humano dentro del proceso, pero eso no significa nada si la persona solo aparece para aprobar lo que recomienda una máquina que no entiende o no puede cuestionar. La supervisión humana tiene que ser real: capacidad de intervenir, información suficiente, tiempo para revisar y autoridad para decir que no.
La robótica policial ya no es una fantasía lejana
Hoy ya existen robots móviles usados en inspección industrial, emergencias, seguridad o intervenciones de riesgo. En algunos casos, su utilidad es evidente. Tiene sentido enviar un robot a revisar una zona peligrosa, entrar en un edificio con riesgo de explosión o ayudar en una situación donde una persona podría morir.
El problema aparece cuando lo excepcional empieza a normalizarse. No es lo mismo usar un robot en una operación de alto riesgo que aceptar sin debate la presencia habitual de máquinas de vigilancia en espacios públicos. Y ya no digo en zona de guerra. Dicen que existe un protocolo internacional para que las máquinas no puedan matar de manera autónoma, pero permitidme que me ponga conspiranoico: no me lo creo.
Ahí RoboCop vuelve a ser útil. La película nos recuerda que una tecnología puede nacer con una justificación razonable y terminar integrada en un modelo de control mucho más amplio. Por eso, antes de desplegar robots o IA en seguridad, deberíamos responder preguntas muy concretas: para qué se usan, qué datos recogen, quién los controla, qué límites tienen, cómo se auditan y quién responde si algo sale mal.
Automatizar también puede significar amplificar sesgos
Si un sistema de IA se entrena con datos históricos contaminados por desigualdades, prejuicios o decisiones policiales discutibles, puede reproducir esos patrones con apariencia de objetividad. Esto es especialmente delicado en ámbitos como vigilancia predictiva, reconocimiento facial o evaluación de riesgos.
La película muestra una ciudad donde el crimen sirve como excusa para aumentar el control, pero apenas se atienden las causas sociales del problema. Esa tentación sigue ahí: usar tecnología para gestionar síntomas sin abordar las raíces.
La IA puede ayudar mucho, pero no debería convertirse en una forma elegante de evitar decisiones políticas difíciles.
La pregunta de fondo: ¿quién conserva la responsabilidad?
Lo que más me interesa de RoboCop no es su predicción tecnológica, sino su advertencia institucional. La película no nos dice simplemente “cuidado con los robots”. Nos dice: cuidado con delegar poder sin responsabilidad.
Cuando una máquina actúa, alguien ha decidido que actúe. Alguien ha definido sus objetivos. Alguien ha aceptado sus márgenes de error. Alguien se beneficia de su despliegue. Y alguien debería responder por sus consecuencias.
Ese es el debate que necesitamos hoy con la IA y la robótica: no si son buenas o malas en abstracto, sino bajo qué condiciones pueden ser legítimas.
Deja una respuesta