La inteligencia artificial y la neurotecnología amplían nuestra capacidad de intervenir en el mundo y en nosotros mismos. ¿Cómo orientar ese poder hacia el cuidado de la vida y el respeto por la dignidad humana?
Un sistema que ayuda a detectar una enfermedad o un dispositivo que permite recuperar una función perdida ofrecen razones para valorar el desarrollo tecnológico. Algunas aplicaciones ya se utilizan en la atención de la salud. Otras se encuentran en investigación y sus beneficios requieren pruebas que permitan establecer su alcance.
Estas posibilidades abren preguntas sobre las decisiones que estamos dispuestos a delegar y las condiciones que exigiremos para hacerlo. También nos llevan a considerar quién asumirá los costos y cómo podrán reclamar las personas afectadas por una aplicación. Conviene discutirlo desde el momento en que se decide qué desarrollar y para qué.
La expresión “guardar en la nube” puede hacer que olvidemos la infraestructura que sostiene un archivo digital. Abrimos una fotografía en la pantalla y rara vez pensamos en el centro de datos donde se almacena. Ese gesto depende de servidores conectados a una red eléctrica, con sistemas de refrigeración y equipos que necesitan mantenimiento.
La nube tiene peso. Cada consulta a un sistema de inteligencia artificial requiere recursos de cómputo, cuyo consumo depende del modelo y de la tarea solicitada. Los dispositivos tienen, además, una historia anterior a su llegada a nuestras manos. Su fabricación comienza con la obtención de materiales e involucra a trabajadores cuyas condiciones suelen quedar fuera de nuestra experiencia como usuarios.
Examinar una innovación exige atender a ese recorrido. ¿Dónde se obtienen los materiales? ¿Quién recibe los beneficios y quién se encarga de los residuos? Cuando estas actividades ocurren en territorios distantes, resulta más difícil reconocer la relación entre el servicio que utilizamos y sus costos ambientales.
En El principio de responsabilidad, Hans Jonas sostiene que el alcance de la técnica moderna exige ampliar nuestras obligaciones hacia las generaciones futuras y las condiciones que hacen posible la vida. Su reflexión permite examinar decisiones cuyos efectos se extienden más allá de quienes las toman.
Desde esta perspectiva, la evaluación de una tecnología debe considerar lo que puede ocurrir después de su puesta en marcha. Una aplicación podría ofrecer beneficios inmediatos y dejar daños difíciles de reparar. Ante esa posibilidad, la prudencia puede exigir más pruebas o la suspensión de un uso mientras se comprende mejor el riesgo.
Esperar también es una decisión. En un proyecto sujeto a plazos de inversión o a la competencia por llegar primero al mercado, justificar una demora puede resultar difícil. Esa dificultad hace necesario definir quién tiene la autoridad para detener una aplicación y con qué criterios debe hacerlo.
La neurotecnología lleva estas preguntas a un terreno íntimo. Los dispositivos que registran o estimulan la actividad del sistema nervioso ofrecen posibilidades para el tratamiento y la rehabilitación. Cada uso plantea exigencias específicas sobre el consentimiento y la protección de la información obtenida.
Aquí conviene precisar el lenguaje. El registro de la actividad cerebral permite estudiar señales e inferir ciertos estados bajo condiciones determinadas. El alcance de esas inferencias depende del dispositivo y del procedimiento de análisis. Hablar de un acceso ilimitado a los pensamientos exagera esas capacidades y dificulta la discusión sobre los riesgos que sí merecen atención.
Uno de ellos es el uso de los registros fuera del propósito para el cual fueron obtenidos. Pensemos en una empresa que pretendiera evaluar la atención de sus trabajadores mediante un dispositivo de este tipo. La pregunta por la validez de la medición tendría que acompañarse de otra sobre las condiciones de participación. ¿Podría un trabajador negarse sin poner en riesgo su empleo?
La firma de un consentimiento requiere examinar esa presión. Aceptar una condición para conservar el trabajo tiene un significado distinto de elegirla cuando existe una posibilidad efectiva de rechazarla. La protección de la intimidad depende también de las relaciones de poder.
Una dificultad cercana aparece cuando se emplean sistemas automatizados para evaluar solicitudes de crédito o seleccionar candidatos a un empleo. Una calificación puede influir en una decisión que afecta la vida de una persona. Si los criterios permanecen ocultos, quien recibe una negativa encuentra pocas oportunidades para discutirla.
La presentación de un resultado numérico puede inspirar confianza. Su validez exige conocer cómo se construyó y para qué situaciones resulta adecuado. Los datos pueden contener errores o reflejar desigualdades previas. Por eso, la posibilidad de solicitar una explicación y obtener una revisión humana forma parte de las condiciones que deberían acompañar estos usos.
En el ensayo El pensar y las reflexiones morales, recogido en Responsabilidad y juicio, Hannah Arendt examina la relación entre la actividad de pensar y la capacidad de juzgar situaciones particulares. Esa reflexión ofrece un punto de partida para preguntar qué ocurre cuando aceptamos una recomendación sin examinar las razones que la sostienen.
La pregunta adquiere una forma concreta cuando una institución adopta una recomendación porque el sistema la produjo. ¿Quién revisa el criterio? ¿Quién responde por sus efectos? La existencia de un procedimiento puede facilitar el trabajo y, al mismo tiempo, volver menos visible la responsabilidad de quienes lo utilizan.
En la educación encontramos una situación cercana. La inteligencia artificial puede ayudar a un estudiante a comprender un concepto o a examinar una objeción a su argumento. También puede producir un trabajo que el estudiante entregue sin comprender cómo fue elaborado.
La diferencia se aprecia en lo que sucede durante el aprendizaje. Comprender una página suele exigir tiempo. A veces hay que volver al comienzo y reconocer que la primera lectura fue insuficiente. En la escritura, buscar una palabra puede llevarnos a descubrir un problema en la idea que queríamos expresar. Esa dificultad tiene un valor formativo.
Cuando una herramienta resuelve toda la tarea antes de que el estudiante examine el problema, puede reducir las oportunidades de ejercitar esas capacidades. La discusión educativa necesita atender a lo que ocurre durante el proceso. Una conversación sobre el trabajo permite reconocer qué comprende el estudiante y qué decisiones puede justificar.
Adela Cortina desarrolla en Ética de la razón cordial una propuesta que vincula la argumentación moral con el reconocimiento de los demás. En su artículo Ethica cordis examina la dimensión cordial del vínculo comunicativo, que da sustento a la preocupación por la justicia.
Esta perspectiva invita a escuchar a quienes viven las consecuencias de una decisión tecnológica. Una evaluación puede pasar por alto circunstancias que las personas afectadas consideran decisivas. Conocerlas permite revisar qué se entiende por un resultado aceptable y para quién lo es.
La cuestión del acceso requiere esa atención. Una tecnología puede ofrecer un beneficio clínico y quedar fuera del alcance de quienes la necesitan por su precio o por la ausencia de servicios de salud cercanos. En ese caso, la evaluación ética debe examinar las condiciones que permitirían utilizarla.
En la neurotecnología, las posibles aplicaciones de mejoramiento abren otra discusión. Si una intervención llegara a ofrecer una ventaja relevante y su acceso dependiera de la capacidad de pago, podría ampliar diferencias existentes. Habría que considerar, además, la presión sobre quienes prefirieran prescindir de ella. Una elección deja de ser tan libre cuando una empresa comienza a tratarla como requisito para competir por un puesto.
Esto conduce a la manera en que comprendemos los límites del cuerpo. El cansancio puede indicar la necesidad de descansar o de revisar una carga de trabajo. Tratarlo siempre como una falla individual que debe corregirse mediante una intervención desplaza la atención de las condiciones que lo producen. El cuidado exige reconocer cuándo hace falta modificar esas condiciones.
La reflexión de Jonas vuelve a ser pertinente en este punto. En El principio de responsabilidad, la relación entre padres e hijos ocupa un lugar central en su explicación de la responsabilidad. El cuidado de quien depende de otros permite pensar una obligación que se extiende hacia su futuro. Desde esa perspectiva, podemos preguntarnos cómo responder por las personas que quedarán expuestas a los efectos de nuestras decisiones tecnológicas.
La bioética ofrece un espacio para examinar estas preguntas. Su reflexión sobre la autonomía permite evaluar las condiciones del consentimiento. La preocupación por la justicia lleva a discutir el acceso y la distribución de los riesgos. Estas cuestiones atraviesan decisiones que se toman en los centros de investigación y llegan después a la atención clínica o al trabajo.
La posibilidad de intervenir depende de mecanismos concretos. Una institución puede establecer procedimientos para revisar una decisión automatizada. Un equipo de investigación puede incorporar la experiencia de las personas que utilizarán un dispositivo. Las autoridades pueden exigir una evaluación de los efectos de una aplicación antes de autorizar su uso en un contexto determinado.
Orientar aquello que somos capaces de crear exige sostener esa tarea a lo largo del tiempo. Las pruebas iniciales ofrecen una base para decidir; el uso puede revelar efectos que requieren cambios. La responsabilidad consiste también en reconocerlos y corregir el rumbo. Cada decisión contribuye a definir las condiciones en las que podremos vivir con las tecnologías que desarrollamos.