La inteligencia artificial y la neurotecnología suelen presentarse bajo el lenguaje del avance. Se habla de modelos que aprenden, sistemas que predicen, dispositivos que leen señales cerebrales, algoritmos que optimizan procesos y máquinas capaces de acompañar decisiones cada vez más complejas. Ese vocabulario produce fascinación, y con razón. Hay allí posibilidades reales para la medicina, la educación, la investigación científica, la accesibilidad y la comprensión de fenómenos que antes resultaban difíciles de observar. Sin embargo, la pregunta ética no aparece solo cuando una tecnología falla, discrimina o causa daño. Aparece antes, en el momento en que una sociedad decide qué espera de sus herramientas, qué deja en manos de ellas y qué costos está dispuesta a invisibilizar.
Durante años, lo digital fue presentado como si perteneciera a un espacio inmaterial. La palabra “nube” ayudó a consolidar esa ilusión. Parecía que los datos flotaban en algún lugar abstracto, ajenos al suelo, al agua, a la energía y a los cuerpos. Pero la nube tiene peso. Depende de centros de datos, servidores, sistemas de refrigeración, redes eléctricas, minerales, cables submarinos, fábricas de microchips y cadenas de extracción. Cada consulta, cada imagen generada, cada modelo entrenado y cada dispositivo conectado participa de una infraestructura física. Lo virtual no se opone a lo material: lo presupone.
Esta constatación cambia el modo de hablar de innovación. No basta con preguntar qué puede hacer una tecnología. También hay que preguntar qué necesita para hacerlo, de dónde provienen sus recursos y qué territorios soportan sus efectos. La inteligencia artificial consume energía y agua; la neurotecnología necesita sensores, chips, baterías y procesamiento de datos. Detrás de esos elementos aparecen minerales como el litio, el cobalto o el coltán, cuya extracción suele ocurrir en regiones marcadas por desigualdad económica, fragilidad ambiental y débil capacidad de negociación frente a las grandes cadenas globales de valor. La tecnología no se sitúa por fuera de la ecología ni por fuera de la política. Está dentro de ambas.
Hans Jonas, en El principio de responsabilidad, formuló una advertencia que hoy resulta especialmente vigente: la técnica moderna no amplía solo nuestra capacidad de actuar, también amplía el alcance de las consecuencias por las que debemos responder. En las éticas antiguas, muchas acciones humanas tenían efectos relativamente próximos: afectaban a una comunidad, a una generación o a un entorno limitado. La civilización tecnológica modificó esa escala. Ahora una decisión técnica puede comprometer ecosistemas, generaciones futuras, equilibrios sociales y formas de vida que no participaron en la decisión. La responsabilidad deja de ser un asunto privado o inmediato y se convierte en una categoría histórica.
Jonas no invitaba a desconfiar del conocimiento ni a detener la ciencia. Su preocupación era más fina: cuando el poder de intervención crece, la prudencia deja de ser timidez y se convierte en lucidez moral. Allí donde una innovación puede producir daños irreversibles, la promesa de beneficio no debería anular la pregunta por sus consecuencias. En el caso de la inteligencia artificial y la neurotecnología, esa prudencia resulta decisiva porque ambas operan sobre dimensiones sensibles de la vida humana: decisiones sociales, autonomía, privacidad, salud mental, educación, trabajo, memoria, atención y formas de relación.
La neurotecnología radicaliza esta discusión porque desplaza la frontera de la intervención. Ya no hablamos únicamente de máquinas externas que usamos para comunicarnos, escribir, calcular o almacenar información. Hablamos de dispositivos capaces de leer, monitorear o modificar señales del sistema nervioso. La pregunta por la intimidad cambia de lugar. Antes se trataba de proteger documentos, conversaciones, fotografías, datos bancarios o historias clínicas. Ahora aparece la posibilidad de registrar estados de atención, emoción, estrés, deseo o intención. La privacidad ya no se juega solo en lo que una persona dice o hace, sino en aquello que podría inferirse de su actividad cerebral.
La UNESCO, en sus trabajos recientes sobre ética de la inteligencia artificial y neurotecnología, ha insistido en que la dignidad humana debe seguir siendo el criterio central de orientación. Esa afirmación puede sonar evidente, pero en este campo adquiere una gravedad nueva. Si los datos neuronales se convierten en mercancía, la interioridad humana entra en el circuito económico de la extracción. La persona deja de ser únicamente usuaria de una tecnología y puede convertirse en fuente permanente de información. El yo se transforma en dato; el dato, en perfil; el perfil, en predicción; la predicción, en oportunidad de negocio o de control.
Por eso la protección de datos, aunque indispensable, no agota el problema. El asunto no es solo quién accede a la información, sino qué modelo de sociedad se construye cuando la información íntima se vuelve poder económico, político o institucional. Quien posee grandes volúmenes de datos puede clasificar poblaciones, anticipar comportamientos, orientar narrativas, segmentar deseos y organizar formas de influencia cada vez más precisas. En educación, salud, crédito, justicia, empleo o consumo, un sistema automatizado puede abrir y cerrar oportunidades bajo una apariencia de neutralidad. El algoritmo no necesita tener intención moral para producir efectos morales.
Hannah Arendt, en La condición humana, ayuda a comprender este riesgo desde otra perspectiva. Su preocupación por la técnica no se limita al artefacto, sino al peligro de que los procesos automáticos sustituyan la acción, el juicio y la deliberación. Una sociedad puede acostumbrarse a obedecer sistemas que clasifican, recomiendan, priorizan y deciden sin detenerse a preguntar quién definió los criterios, qué datos alimentaron el modelo y qué mundo social produce esa automatización. La eficiencia, cuando se separa del juicio, tiende a presentarse como evidencia suficiente. Pero una decisión rápida no es necesariamente justa. Un cálculo preciso no es necesariamente humano.
En la educación, esta tensión se vuelve visible. La inteligencia artificial puede apoyar el aprendizaje, facilitar el acceso a información, personalizar procesos y liberar tiempo de tareas mecánicas. Sin embargo, también puede erosionar el ejercicio de pensar por cuenta propia si se convierte en sustituto de la lectura, la escritura, la argumentación y la duda. La pregunta educativa no consiste solo en permitir o prohibir herramientas. El asunto de fondo es qué tipo de relación con el conocimiento se forma cuando una máquina redacta, resume, interpreta y responde antes de que el estudiante haya atravesado la dificultad de comprender.
Adela Cortina, en Ética de la razón cordial, recuerda que la vida moral no se sostiene únicamente en cálculos correctos. También requiere reconocimiento, vínculo, sensibilidad ante el otro y responsabilidad compartida. Esa idea resulta importante porque muchos discursos tecnológicos tienden a reducir la inteligencia a procesamiento de información y la decisión ética a optimización de variables. Pero la justicia no surge solo de ordenar datos. Exige comprender contextos, escuchar voces, reconocer heridas históricas y advertir vulnerabilidades. Un sistema puede encontrar patrones con gran eficacia y, al mismo tiempo, reproducir desigualdades inscritas en los datos con los que fue entrenado. La desigualdad atraviesa todo este debate. Si las patentes, los laboratorios, los datos, los centros de cómputo y el capital se concentran en pocos países y corporaciones, la promesa de democratización tecnológica queda debilitada. El riesgo no es solo que algunas poblaciones tengan menos acceso a las herramientas. También pueden ser incorporadas como proveedoras de minerales, datos, trabajo precarizado o territorios de sacrificio ambiental. En el caso de la neurotecnología, la desigualdad puede adquirir una forma todavía más inquietante: la posibilidad de que ciertas mejoras cognitivas, atencionales o sensoriales queden disponibles solo para quienes puedan pagarlas. La brecha dejaría de ser únicamente educativa o económica y podría expresarse incluso en capacidades biológicas intervenidas.
Josep M. Esquirol, al comentar los problemas filosóficos de la técnica contemporánea, insiste en la relación entre técnica y permanencia del mundo. Esa expresión resulta especialmente sugerente porque desplaza la discusión desde la novedad hacia la habitabilidad. Una tecnología no debería evaluarse solo por su potencia, velocidad o rentabilidad, sino por el tipo de mundo que ayuda a sostener. Hay innovaciones que amplían posibilidades humanas; otras intensifican el consumo, la vigilancia, la distracción o la dependencia. La diferencia no siempre está en el dispositivo, sino en la forma social que lo incorpora.
Desde esta perspectiva, la bioética tiene que ampliar su campo de intervención. Ya no puede permanecer circunscrita al hospital, al consentimiento informado o al comité clínico tradicional. La vida humana está siendo afectada por arquitecturas digitales, sistemas de recomendación, plataformas de datos, dispositivos biométricos, modelos predictivos y tecnologías capaces de entrar en contacto con la actividad cerebral. La pregunta bioética ya no se limita a cómo proteger un cuerpo enfermo. Incluye cómo proteger una vida humana expuesta a sistemas que la miden, clasifican, predicen, estimulan y monetizan.
También está en juego la manera como una época comprende la vulnerabilidad. Si toda fragilidad se interpreta como defecto que debe corregirse, la técnica queda sometida al ideal de rendimiento permanente. La lentitud, la dependencia, el cansancio, la enfermedad, el error o la incertidumbre empiezan a verse como fallas del sistema humano. En ese contexto, la promesa de mejoramiento puede deslizarse hacia una forma de desprecio por la condición humana concreta. Jonas veía en la vulnerabilidad una fuente de responsabilidad. Cuidamos porque algo puede ser dañado. Respondemos porque alguien puede quedar expuesto. La fragilidad no es un residuo vergonzoso de lo humano; es una de las razones por las que la ética existe.
La inteligencia artificial y la neurotecnología no obligan a escoger entre humanidad y técnica. Esa oposición sería demasiado simple. La cuestión es impedir que la técnica se convierta en el criterio último de lo humano. Una herramienta puede contribuir al cuidado, al conocimiento, a la inclusión y a la justicia. Pero también puede reforzar desigualdades, intensificar la vigilancia, capturar la atención, explotar recursos escasos o convertir la interioridad en mercado. La diferencia depende de las decisiones culturales, políticas y económicas que acompañan su desarrollo.
La pregunta decisiva de nuestro tiempo no es si lograremos construir máquinas más inteligentes o dispositivos más íntimos. Probablemente lo haremos. La pregunta es si tendremos suficiente responsabilidad para gobernar aquello que somos capaces de crear. La técnica ya no está al margen de la existencia; participa en la forma como aprendemos, sentimos, trabajamos, decidimos y nos comprendemos. Precisamente por eso necesita pensamiento. No un pensamiento enemigo de la innovación, sino uno capaz de recordar que ninguna tecnología merece llamarse progreso si debilita la dignidad de la persona, la libertad interior, la justicia entre comunidades y la permanencia de una vida humana auténtica en la Tierra.