Lectura Semana 4 / 2 Ciencias A / Literatura

 

Razón 1
Estás perdiendo el libre albedrío

BIENVENIDO A LA JAULA QUE TE ACOMPAÑA DONDEQUIERA QUE VAYAS

Está sucediendo algo completamente novedoso. Apenas en los últimos cinco o diez años, prácticamente todo el mundo ha empezado a llevar consigo en todo momento un pequeño dispositivo llamado «teléfono inteligente», apto para la modificación algorítmica de la conducta. Muchos de nosotros empleamos asimismo otros dispositivos similares, como los denominados «altavoces inteligentes», en la encimera de la cocina o el salpicadero del coche. Nos siguen el rastro y miden lo que hacemos constantemente, y nos devuelven reacciones prediseñadas todo el tiempo. Poco a poco, unos ingenieros a los que no vemos nos van hipnotizando con intenciones que desconocemos. Somos animales de laboratorio.

Los algoritmos se atiborran de datos sobre nosotros cada segundo. ¿En qué tipo de enlaces hacemos clic? ¿Qué vídeos vemos hasta el final? ¿Cuánto tardamos en pasar de una cosa a la siguiente? ¿Dónde estamos cuando hacemos estas cosas? ¿Con quién tenemos contacto, en persona y a través de internet? ¿Qué expresiones faciales mostramos? ¿Cómo cambia nuestro tono de piel en distintas situaciones? ¿Qué estábamos haciendo justo antes de comprar algo, o de no comprarlo? ¿Votamos o no votamos?

Todas estas mediciones, y muchas más, se comparan con otras similares sobre la vida de multitud de personas obtenidas mediante espionaje masivo. Los algoritmos establecen correlaciones de lo que hacemos con lo que hacen casi todos los demás.

Los algoritmos no nos entienden realmente, pero los datos confieren poder, sobre todo en grandes cantidades. Si a muchas otras personas a las que les gustó la misma comida que a nosotros les desagrada ver imágenes de un candidato enmarcadas en color rosa en lugar de en azul, probablemente a nosotros también, y no hace falta que nadie sepa por qué es así. Las estadísticas son fiables, pero solo como autómatas idiotas. ¿Estamos tristes, nos sentimos solos o asustados? ¿Alegres, confiados?

¿Tenemos la regla? ¿Estamos experimentando un pico de ansiedad laboral?

Supuestos anunciantes pueden aprovechar el momento en que estamos perfectamente predispuestos para influir en nosotros con mensajes que han funcionado en otras personas con las que compartimos rasgos y situaciones. Digo «supuestos» porque no está bien llamar publicidad a la manipulación directa de las personas. Antes los anunciantes tenían contadas ocasiones para intentar vender sus productos, y ese intento podía ser subrepticio o molesto, pero era pasajero. Además, muchísima gente veía el mismo anuncio en televisión o en prensa: no estaba adaptado a cada individuo. La mayor diferencia era que no se nos monitorizaba y evaluaba continuamente para poder  enviarnos  estímulos  optimizados  de  forma  dinámica  —ya  fuesen «contenidos» o anuncios— para captarnos y alterarnos.

Ahora todo aquel que está presente en las redes sociales recibe estímulos que se ajustan de manera individual y continua, sin descanso, siempre que se use  el  teléfono  móvil.  Lo  que  en  otra  época  podría  haberse  llamado «publicidad»  ahora  debe  entenderse  como  modificación  continua  de  la conducta a una escala colosal.

Por   favor,   no   te   ofendas.   Sí,   estoy   sugiriendo   que   podrías   estar convirtiéndote,  un  poquito,  en  un  perro  adiestrado,  o  en  algo  menos simpático, como una rata de laboratorio o un robot. Que clientes de grandes empresas te están controlando a distancia, un poquito. Pero, si estoy en lo cierto, tomar conciencia de ello podría liberarte. Así que... ¿por qué no me das una oportunidad?

Antes de que se inventasen los ordenadores, surgió un movimiento científico llamado «conductismo». Los conductistas estudiaban maneras nuevas, más metódicas, asépticas y sesudas, de adiestrar a los animales y a los humanos.

Un célebre conductista fue B. F. Skinner, quien ideó un sistema conocido como «caja de Skinner», donde encerraba animales que recibían recompensas cuando hacían algo en particular. No había nadie acariciando o susurrando al animal, sino solo una acción aislada puramente mecánica: una nueva forma de adiestramiento para la época moderna. Diversos conductistas, muchos de los cuales eran bastante siniestros, aplicaron este método en personas. Las estrategias conductistas a menudo lograban resultados, lo que hizo que todo el mundo se pusiese de los nervios, y acabaron dando lugar a numerosos guiones de películas de ciencia ficción y de terror sobre «control mental» de lo más inquietantes.

Una  circunstancia  desafortunada  es  que  se  puede  adiestrar  a  alguien usando técnicas conductistas y que la persona ni siquiera sea consciente de ello. Hasta hace muy poco tiempo, esto sucedía muy rara vez: únicamente si uno aceptaba someterse a pruebas experimentales en el sótano de la facultad de Psicología de alguna universidad. En ese caso, entraba en una sala donde se le realizaban las pruebas mientras alguien lo observaba a través de un espejo unidireccional. Aunque el sujeto sabía que se estaba llevando a cabo un experimento, ignoraba cómo estaba siendo manipulado. Al menos, uno daba su consentimiento para que lo manipulasen de alguna forma. (Bueno, no siempre. Se llevó a cabo toda clase de crueles experimentos con prisioneros, pobres y, sobre todo, con gente de determinadas razas.)

Este  libro  argumenta  de  diez  maneras  que  lo  que  de  pronto  se  ha convertido en algo normal —la vigilancia generalizada y la manipulación sutil  y  constante—  es  inmoral,  cruel,  peligroso  e  inhumano.  ¿Peligroso? Desde luego. Porque ¿quién sabe quién podría usar ese poder, y para qué?

EL CIENTÍFICO LOCO SE PREOCUPA POR EL PERRO ENJAULADO

Quizá  hayas  oído  las  quejumbrosas  confesiones  de  los  fundadores  de imperios basados en redes sociales, que yo prefiero llamar «imperios de modificación de la conducta».

Esto es lo que dice Sean Parker, el primer presidente de Facebook:

Tenemos que proporcionarle como un pequeño chute de dopamina cada cierto tiempo, porque alguien le ha dado a «me gusta» o comentó una foto, una publicación o lo que sea [...]. Es un bucle de retroalimentación de validación social [...], exactamente una de esas cosas que inventaría un hacker como yo para explotar un punto débil en la psicología humana  [...].  Los  inventores,  los  creadores  —alguien  como  yo,  Mark  [Zuckerberg], Kevin Systrom de Instagram, toda esa gente—, lo entendíamos de manera consciente. Y, aun así, lo hicimos [...]. Cambia literalmente la relación de la persona con la sociedad, con los demás [...]. Probablemente interfiera en la productividad de formas inesperadas. A saber lo que está haciendo en los cerebros de nuestros hijos.[1]

Y   esto,   lo   que   afirma   Chamath   Palihapitiya,   exvicepresidente   de crecimiento de usuarios en Facebook:

A corto plazo, los bucles de retroalimentación a base de dopamina que hemos creado están  destruyendo  la  manera  en  que  funciona  la  sociedad  [...].  Ni  debate  público civilizado ni cooperación: desinformación, afirmaciones engañosas. Y no se trata de un problema estadounidense, no tiene nada que ver con la publicidad rusa. Es un problema global [...]. Siento una tremenda culpabilidad. Creo que, en el fondo, todos lo sabíamos, aunque  fingíamos  que  nos  creíamos  la  idea  esta  de  que  probablemente  no  habría consecuencias  imprevistas  negativas.  Pienso  que,  en  el  fondo,  en  lo  más  profundo, sabíamos que algo malo podía ocurrir [...]. Así que, en mi opinión, la situación ahora mismo es realmente nefasta. Está erosionando los cimientos de cómo se comportan las personas entre sí. Y no tengo una buena solución. Mi solución es que he dejado de usar esas herramientas. Hace ya años.[2]

Más vale tarde que nunca. Muchos críticos como yo llevamos ya mucho tiempo avisando de que estaba sucediendo algo malo, pero el hecho de escucharlo de quienes lo hicieron supone un avance, un paso adelante.

Durante años tuve que soportar dolorosas críticas de amigos de Silicon Valley que me veían como un traidor por criticar lo que estaban haciendo. Últimamente tengo el problema contrario. Explico que, por lo general, la gente de Silicon Valley es decente, y pido que no se les convierta en villanos. Y decir eso me cuesta muchas críticas. Es difícil saber si soy demasiado duro o demasiado blando con mis colegas.

La cuestión más importante es si todas estas críticas tendrán alguna repercusión. Lo que innegablemente forma parte ya del debate público es que una mala tecnología nos está haciendo daño, pero ¿seremos capaces —lo serás tú— de resistir y contribuir a conducir el mundo hacia un lugar mejor?

Compañías como Facebook, Google y Twitter están intentando por fin arreglar algunos de los enormes problemas que han creado, aunque muy poco a poco. ¿Se debe esto a la presión que se ejerce sobre ellos o a que consideran que es lo que deben hacer? Probablemente, un poco de cada.

Las empresas están cambiando sus políticas, contratando a personas para supervisar lo que sucede y a científicos de datos para desarrollar algoritmos que eviten los peores errores. El antiguo lema de Facebook era «Muévete rápido y rompe cosas»,[3] y ahora están ideando lemas mejores y recogiendo unos cuantos de los pedazos de un mundo roto para volverlos a pegar.

Este libro sostiene que lo que hagan las compañías por sí solas no bastará para recomponer el mundo.

Como la gente de Silicon Valley está mostrando remordimientos, cabría pensar que ahora solo hay que esperar a que solucionen el problema. Pero las cosas no funcionan así. Si no formas parte de la solución, no habrá solución.

Esta primera razón expondrá unos cuantos conceptos clave en los que se basa el diseño de adictivos y manipuladores servicios en red. La concienciación es el primer paso hacia la libertad.

REFLEXIONEMOS 

1) De acuerdo con el texto, ¿por qué a pesar de que sabemos que nos manipulan seguimos usando las redes sociales, cada día, hora minuto? Argumente su respuesta.

2) De acuerdo al texto, ¿de qué manera el uso de las redes sociales a modificado su conducta y por qué? Argumente su respuesta.