Nuestros actos no siempre responden a intenciones deliberadas, especialmente cuando las pantallas de nuestros dispositivos móviles están diseñadas para predecir nuestros comportamientos mientras los usamos.

El sentido de agencia es “la sensación que tenemos de controlar nuestras acciones deliberadas”. Un artículo publicado en Neuroethics advierte que los miles de millones de usuarios de teléfonos inteligentes creen que tienen control sobre sus actos cuando interactúan con sus dispositivos, pero la realidad es que sólo reaccionan a un entorno digital diseñado para responder de manera predecible. Este trabajo propone tres dominios desde donde se puede responder a la probabilidad de que el individuo tenga la sensación de controlar deliberadamente sus acciones cuando en realidad éstas están siendo dirigidas por los estímulos que recibe. A esto se le llama «ilusión de agencia».

Los avances en neurociencia y neurotecnología descubren nuevos usos que permiten el acceso a los procesos mentales de sus usuarios. Nuestros actos no siempre responden a intenciones deliberadas, especialmente cuando las pantallas de nuestros dispositivos móviles están diseñadas para predecir nuestros comportamientos mientras los usamos.

¿Esto quiere decir que somos como robots que siempre responden de la misma manera a determinados estímulos ambientales? Las personas “equilibramos las prestaciones ambientales inmediatas con los objetivos a largo plazo mediante la inhibición de la acción de algún mecanismo de supervisión”. Aunque nosotros percibamos ciertos estímulos que pondrían en marcha ciertas rutinas motoras, el cerebro humano tiene la capacidad de inhibir la respuesta esperada según si es apropiado por el contexto o si nuestro código moral nos indica lo contrario.

Las ilusiones de agencia no solo se dan en interacciones humano-ordenador. Individuos con ciertas patologías como la esquizofrenia, el trastorno de despersonalización, el síndrome de la mano anárquica, el comportamiento de utilización o de imitación o el Síndrome de Dependencia Ambiental presentan ilusiones de agencia. También pueden darse las ilusiones de agencia en casos no patológicos: podemos realizar acciones por las que no experimentamos ningún sentido de agencia, por ejemplo, cuando se trata de introducir una acción nueva en una rutina ya establecida.

La supervisión intencional

El artículo sostiene que los dispositivos inteligentes están diseñados para “disparar” procesos mentales que “van desde la percepción hasta la activación de esquemas motores y la acción”. Al mismo tiempo, “las ilusiones de agencia son posibles y probablemente generadas por los teléfonos inteligentes en virtud de las formas en que se diseñan las aplicaciones”.

El autor del artículo explica que el diseño del interfaz usuario cuenta con las pautas necesarias para que tengamos la ilusión de agencia. Así, la pantalla crea un entorno adecuado para “hacernos sentir que tenemos el control” al interactuar con nuestros dispositivos. Por ejemplo, empresas como Apple y Microsoft insisten en dos señales imprescindibles para determinar el sentido de agencia en el diseño del interfaz usuario: la previsibilidad y la eficiencia. Aunque la satisfacción del usuario sea la justificación perfecta para poder defender estas líneas de acción desde Silicon Valley, es importante destacar la pérdida de supervisión intencional de nuestras mentes cuando utilizamos nuestros dispositivos.

Un informe relacionado, publicado en la prestigiosa revista Pnas, después de realizar una investigación sobre las ilusiones de agencia frente a nuestros dispositivos inteligentes, propone que realmente hay una “falta de supervisión intencional” en los participantes del estudio. Se percibieron “patrones de compromiso con los teléfonos inteligentes que carecen de intenciones específicas y, por tanto, carecen de supervisión inhibitoria”. Incluso desde la perspectiva neurofisiológica se descubrió que “los sujetos que usaban teléfonos inteligentes mostraban una respuesta neuronal durante las tareas que sugieren deficiencias generales en la etapa temprana del control inhibitorio” (ver más).

Comus, escrita por John Milton en 1634 relata la situación de una mujer secuestrada en un castillo por un hechicero que pretende seducirla a través de sus encantamientos. La doncella defiende su libertad personal apelando a la mente como lugar donde ésta permanece siempre a pesar de que su cuerpo esté preso. ¿Está nuestra libertad cognitiva en peligro de ser vulnerada? ¿Y nuestra integridad mental? ¿Somos realmente autores de nuestras acciones frente a nuestros dispositivos? ¿Son prudentes nuestros actos cuando interactuamos con nuestros teléfonos móviles?

Los diseños de nuestros dispositivos no buscan el bien de sus usuarios, sino que los utilizan con otras intenciones. La integridad mental y la libertad están vulneradas, faltando al respeto a la autonomía en el momento en que somos manipulados y realizamos ciertas acciones sin supervisión intencional. También somos controlados desde fuera según unos intereses externos que intervienen en nuestros procesos neuronales sin que seamos conscientes. Nuestra identidad y privacidad personal se ven amenazadas en el momento en que nuestras acciones internautas quedan registradas en una dimensión digital a la vez que proporcionan datos constantes sobre nuestros procesamientos neuronales.

Pycroft y otros (2016)  emplearon el término “brainjacking” (secuestro cerebral) para poder nombrar “el riesgo de modificación de la actividad cerebral de una persona mediante los dispositivos neurológicos por parte de terceros”. Aunque parece que los implantes cerebrales sea una práctica lejana, serían el resultado de una pendiente resbaladiza que empieza en los diseños de los dispositivos inteligentes como los que conocemos hoy.

La tecnología inteligente nos facilita las tareas cotidianas, así como nos ayuda a informarnos, comunicarnos, trabajar e incluso relacionarnos. El artículo presentado propone tres líneas de investigación que permitan proteger a los individuos de los peligros expuestos:

  1. La investigación en aplicaciones que no perjudiquen el sentido de agencia, sin provocar la ilusión.
  2. La educación, para “el público en general y en entornos educativos” donde los estudiantes deben saber que sus dispositivos están diseñados para ser intuitivos y para que pierdan el control al usarlos, provocando, incluso, sensación de logro por manejarlos fácilmente.
  3. Por último, los avances tecnológicos deben ir acompañados de una reflexión ética que permita la regulación de las características permitidas en nuestros dispositivos.

 

 

Clara Pérez Collado

Alumna del Master Universitario en Bioética

Observatorio de Bioética

Universidad Católica de Valencia