La posibilidad de que las máquinas adquieran autopercepción ya no es solo ciencia ficción. Ingenieros y pensadores discuten si es técnicamente viable y éticamente deseable dotar de ‘razón’ a los robots. Mientras unos buscan mejorar su eficiencia, otros se preguntan si alguna vez podrán experimentar el mundo como nosotros.
Consciencia técnica vs. metafísica
Ricardo Sanz, profesor de la Universidad Politécnica de Madrid (UPM) y fundador del Laboratorio de Sistemas Autónomos, explica que existe una diferencia clave entre lo que los anglosajones llaman ‘consciousness’ (consciencia metafísica) y ‘awareness’ (autopercepción del entorno). En español, esa distinción se diluye, pero en el ámbito técnico es fundamental. Sanz aclara: “Yo me dedico a las máquinas conscientes, pero me dedico fundamentalmente a investigar cómo conseguir máquinas que se den cuenta de las cosas y entiendan lo que está pasando para ser más eficaces. No estoy interesado en replicar consciencia humana ni animal”.
Para Sanz, la meta no es crear un alma artificial, sino sistemas que integren información de manera global. Hoy, los robots manejan cada contingencia con programas específicos: uno para evitar quedarse sin batería, otro para esquivar obstáculos, etc. Pero no hay un sistema unificado que les permita comprender la situación como un todo. “Nosotros investigamos de qué manera se pueden manejar todas estas situaciones de forma integral. Un sistema que le permita al robot incorporar cualquier cosa que necesite comprender”, afirma.
Robots que entienden el contexto
Pensemos en un coche autónomo que circula por autopista y ve un cartel publicitario con una señal de stop. El sistema de visión puede confundirse y frenar de golpe, provocando un accidente. “Este tipo de situaciones demuestran que las máquinas no entienden a fondo la realidad aunque la vean”, señala Sanz. Una capacidad de “darse cuenta” más profunda evitaría estos errores.
Lo mismo ocurre con robots industriales: si un láser de barrido falla, la máquina debe saberlo y reaccionar correctamente, no solo ignorar el fallo. “Si un robot se mueve con un láser que está fallando, va a chocar con las cosas”, advierte Sanz. La consciencia, en este sentido práctico, sería un gran avance en robustez y adaptabilidad.
La mirada filosófica: ¿puede sufrir un robot?
Desde la filosofía, Santiago Sánchez-Migallón introduce el concepto de “sintiencia”: la capacidad de tener experiencias subjetivas, como percibir colores, sonidos o emociones. “Consciencia es la capacidad de captar el mundo y muchas veces captamos el mundo emocionalmente. Así que las emociones entrarían”, explica. Si una máquina tuviera consciencia en este sentido, surgirían preguntas éticas ineludibles: ¿podría sufrir? ¿tendría derechos?
Para Sánchez-Migallón, el límite estaría en la capacidad de sentir dolor. “Si podemos crear una máquina que sufre, ahí hay un sujeto de derechos. Tú no puedes crear algo que sufre y dejarlo al libre albedrío”. Esto plantea dilemas legales: ¿cómo castigar a un robot consciente? Meterlo en la cárcel no tiene sentido, pero si no sufre, el castigo es inútil. Sanz coincide: “Si las máquinas son conscientes, ¿van a ser responsables de sus actos? En algún momento las máquinas serán responsables y habrá que ver cómo se las va a penalizar”.
Niveles de consciencia: del C0 al C2
Un influyente artículo publicado en Science en 2017 propuso una clasificación de niveles de consciencia en máquinas. El nivel C0 corresponde a la inteligencia humana básica: reconocer objetos, comprender lenguaje, aprender por refuerzo. C1 implica una relación entre el sistema cognitivo y los objetos, generando representaciones mentales. C2, el más alto, incluye la metacognición: la capacidad de observar los propios procesos mentales. Según los autores, estos niveles son alcanzables con la arquitectura computacional adecuada.
Sin embargo, no todos comparten el optimismo. Vicent Botti, catedrático de la Universitat Politècnica de València y director del instituto VRAIN, sostiene: “Creo que no es necesario en ese sentido para resolver problemas, para poder automatizar procesos. Los modelos de IA actuales no tienen experiencia. Los humanos, en cambio, acabamos dándoles vueltas y resolviendo dilemas éticos”. Botti recuerda que desde los años 90 la teoría de agentes autónomos ya incluye la reactividad (percibir y actuar), pero sin llamarlo consciencia.
¿Para qué queremos máquinas conscientes?
Las aplicaciones prácticas son claras: robots más autónomos, capaces de adaptarse a entornos cambiantes sin intervención humana. Un robot que entienda que una puerta está cerrada y busque otra ruta, o que un colega humano le ofrece un objeto y sepa que debe tomarlo. Hoy, cada una de esas acciones se programa de forma artesanal. Un sistema unificado de “awareness” simplificaría todo.
Pero el camino es incierto. Sánchez-Migallón duda de que el simple cómputo pueda generar consciencia: “Es solo código informático, es código que puede hacer cálculos. A esa máquina habría que incorporarle algo más para que tenga consciencia”. Mientras tanto, los investigadores siguen explorando los límites de la inteligencia artificial, y las preguntas filosóficas no dejan de multiplicarse.
En definitiva, el debate sobre la consciencia artificial combina desafíos técnicos, preguntas metafísicas y dilemas éticos. Aunque la ciencia ficción nos ha preparado para un futuro de robots autoconscientes, la realidad avanza paso a paso, con más preguntas que respuestas. Como resume Sanz: “Las máquinas se van acercando a ese punto en que se parecen a un adulto capaz. Habrá que ver cómo gestionamos esa nueva realidad”.
Fuente: Artículo original de Pablo G. Bejerano en Xataka.
¿Necesitas ayuda con tu proyecto digital?
Sabes que siempre que necesites ayuda, el equipo de Efecto esta para vos. Podemos ayudarte con diseño UX, desarrollo web, branding y estrategia digital.