“El dilema social” (The social dilemma), de Jeff Orlowski, debiera ser de visión obligatoria en escuelas, institutos, empresas, centros sociales, culturales o artísticos, o en cualquier lugar en el que hayan personas que sientan cierto interés por su vida, por la vida de los demás o por el mundo en el que vivirán las próximas generaciones.

El documental plantea básicamente dos grandes realidades: el poder creciente de la tecnología en la red, capaz de modificar nuestra conducta y creencias, y su naturaleza amoral, programada mediante algoritmos para capturar el máximo posible la atención de sus usuarios -su tiempo, su vida-, con la única finalidad de crecimiento, poder y mayor eficacia en su publicidad.

El problema llega a considerarse incluso “existencial”, no porque las máquinas nos quieran hacer daños (aunque la Inteligencia Artificial aplicada a las redes puede analizar y manipular la psiquis humana, no tiene criterio propio ni responsabilidad moral alguna: se limita a obtener cada vez mejores resultados en función de lo que ha sido programada), sino por lo que aviva y acrecienta en nuestra parte caótica, en nuestras sombras como especie. Aunque esta realidad ya está sucediendo y de forma exponencial aún estamos a tiempo, según afirman los jóvenes ingenieros responsables de estos algoritmos y aplicaciones.

¿Nos encontramos realmente ante un punto de inflexión existencial? ¿Podemos hacer algo al respecto? A estas y otras preguntas trata de dar respuesta este importante trabajo. A continuación, algunas de las afirmaciones más importantes emitidas en este intenso documental de obligada visión.

“Sólo hay dos industrias que llaman usuarios a sus clientes: el narcotráfico y la tecnología” – Edward Tufte.

TRISTAN HARRIS, ex diseñador ético de Google y cofundador del Centro para la Tecnología Humana

01.- “¿Qué tiene de malo la industria de la tecnología?

-Insultos, escándalos, robos de datos personales, adicción a la tecnología, noticias falsas, polarización, hackeo en las elecciones…”

-o-

02.-  “Nunca antes, 50 diseñadores entre 20 y 35 años en California habían tomado decisiones que afectaran a más de 2000 millones de personas”.

-o-

03.- “Hay una frase famosa, “si no pagas por el producto, entonces es que tú eres el producto”. Mucha gente piensa que Google es un buscador y Facebook un lugar para encontrarse con los amigos y sus fotos, pero no se dan cuenta de que ambas compiten por nuestra atención… Todas nuestras acciones -todos los clicks, con sus videos, todos los “me gusta”- todo eso se integra para construir un modelo más preciso de cada uno de nosotros. Y una vez que tienen este modelo, pueden predecir en gran medida lo que la persona hará”.

-o-

04.- “Muchas compañías de tecnología tienen básicamente tres objetivos:

1.-Retener al máximo tu atención (aumentar el tiempo que pasas deslizando el dedo en la pantalla).

2.-Aumentar al máximo su crecimiento (intentar que regreses e invites a otros amigos, y estos a otros).

3.-Crecer en publicidad (que mientras todo esto ocurre, se cobre más dinero en publicidad).

Todas estas metas se apoyan en algoritmos que analizan qué mostrarte para mejorar esos números”.

-o-

05.- “Hemos pasado de un ambiente de tecnología basado en herramientas, a uno de tecnología basado en la adicción y la manipulación. Las redes sociales no son una herramienta que espera ser utilizada. Tienen sus propios objetivos, y escuchen esto: USAN NUESTRA PSICOLOGÍA EN NUESTRA CONTRA”.

-o-

06.- “Queremos que los usuarios no dejen de desplazar la pantalla con el dedo. No sabes cuándo lo obtendrás o si obtendrás algo;  funciona como las máquinas tragaperras de las Vegas.  No nos basta con que uses el producto conscientemente. Queremos llegar hasta tu tronco cerebral y plantar un hábito inconsciente dentro de ti para programarte desde un nivel tan profundo, que ni te des cuenta.

Cuando no paras de mirar el móvil a ver qué obtienes como en una máquina tragaperras… Esta atracción constante no es casual ni por accidente: es una técnica diseñada. La tecnología persuasiva es un diseño aplicado en extremo con la intención de modificar el comportamiento».

-o-

07.- «Con la evolución comenzó a importarnos lo que nuestra tribu opinara de nosotros porque es importante, pero no debería importarnos lo que diez mil personas piensen de nosotros. No nos preparamos para recibir aprobación social cada cinco minutos. No estamos hechos para experimentar eso. No lo estamos».

-o-

8.- «Incluso dos personas que vivan muy próximas y tengan los mismos amigos, al buscar en Google verán mundos y respuestas diferentes, porque los resultados dependen de los cálculos que hacen las computadoras sobre cada usuario. No hay un solo resultado de búsqueda. No hay una sola verdad. La verdad se adapta a las creencias e impulsos de cada individuo«.

-o-

9.- «Esperamos que la inteligencia artifical supere las fortalezas y la inteligencia humana, que acabe con las singularidades, reemplace a los empleados y sega más inteligente que nosotros. Pero habrá un momento más próximo, en el que la tecnología se apropiará de las debilidades humanas. Ese momento nos traerá adicción, polarización, radicalización, indignación colectiva, vanidad, etc».

-o-

10.- «Si quisiera manipular las elecciones, sólo tendría que unirme a un grupo de Facebook de teorías conspirativas y encontrar a cien personas que crean que la Tierra es plana y que el hombre nunca llegó a la Luna. Entonces le diría a Facebook, “encuentra mil usuarios que se parezcan a estos”. Facebook me enviará miles de usuarios con el mismo perfil a los que puedo comenzar a bombardear con más teorías conspirativas».

-o-

11.- «Decir que la tecnología es una amenaza existencial es una gran afirmación. Y es fácil pensar, cuando estoy ante el movil, ¿dónde está la amenaza existencial? Sí, la supercomputadora al otro lado de la pantalla que apunta a mi cerebro me hizo ver otro video… ¿cuál es la amenaza existencial?

La tecnología no es una amenaza existencial en sí misma, sino su capacidad para sacar lo peor de la sociedad. Y lo peor de la sociedad es lo que constituye la amenaza existencial.

Si la tecnología crea caos masivo, indignación, incivilidad, falta de confianza en los demás, soledad, alienación, más polarización, más fraude electoral, más populismo, más distracción e incapacidad para centrarse en los problemas reales… Eso es la sociedad. Y ahora la sociedad es incapaz de curarse a sí misma y se convierte en caos».

TIM KENDALL, ex ejecutivo de Facebook , ex presidente de Pinterest

01.- «Facebook hizo mucho bien al mundo, aparte de ser en sí una máquina de dinero».

-o-

02.– «El modelo de negocio de empresas como Facebook, Snapchat, Twitter, Instagram, Youtube, Tiktok o Google busca la manera de que las personas estén enganchadas a la pantalla el mayor tiempo posible. ¿Cuánto tiempo podemos retenerte? ¿Cuánta vida podemos lograr que nos entregues?»

-o-

03.- «Yo lo tengo muy claro. Estos servicios matan personas y causa que las personas se quiten la vida».

JARON LANIER, pionero histórico en el campo de la realidad virtual. Científico informático. Autor del best seller “Diez razones para borrar tus redes sociales ahora mismo”

01.- «Nosotros no sólo “somos el producto”, como dice esa frase; es simplista. El producto real  es el pequeño cambio gradual e imperceptible en nuestro comportamiento. Cambiar lo que haces, cómo piensas y quién eres. Es un cambio gradual, sutil».

-o-

02.- «Creamos un mundo en que la conexión es primordial, en especial con las nuevas generaciones. Sin embargo, cuando dos personas se conectan es a través de alguien que paga para manipular a esas personas. Creamos una generación global de personas que crecen en un contexto de comunicación; y el significado de cultura es la manipulación. Colocamos el engaño en el centro de todo lo que hacemos».

-o-

03.- «Una manera de que la gente entienda lo malo que es informarse en lugares como Facebook, es hablando de Wikipedia. Cuando buscas algo en Wikipedia, encuentras lo mismo que otras personas; es una de las pocas cosas que tenemos en Internet en común. Imagínense que  los de Wikipedia deciden darle a cada persona una versión personalizada y que reciban dinero por ello. Entonces Wikipedia comenzaría a espiarnos, calcularía “¿qué puedo hacer para que esta persona cambie un poco a favor de un interés comercial. ¿Se lo imaginan? Pues eso es exactamente lo que pasa en Facebook o en Youtube”.

-o-

04.-  “Mucha gente en Silicon Valley cree y  piensa así: “estamos construyendo un supercerebro global y nuestros usuarios son sólo neuronas intercambiables sin importancia individual. Subyugamos a las personas en este papel, como un elemento cibernético programado con  manipulación del comportamiento para seguir a este supercerebro”.

Para estas empresas tú no importas… No te van a pagar, no te van a reconocer, no tienes voluntad. Te manipulan a hurtadillas porque para ellos eres un nódulo informático y necesitan programarte como un nódulo informático”.

-o-

05.- «Si seguimos con este status quo por otros veinte años probablemente destruyamos nuestra civilización por ignorancia. No lograríamos detener el cambio climático, degradaríamos las democracias del mundo, y caeríamos en una especie de disfunción autocrática. Arruinaríamos la economía mundial. Probablemente no sobrevivamos. Yo lo veo como algo existencial».

-o-

06.-  «En la historia, cada vez que algo ha mejorado, es porque alguien ha dicho : “esto no sirve. Podemos mejorar”. Los críticos impulsan las mejoras. Los críticos son los optimistas».

-o-

07.-  «Los incentivos financieros mueven al mundo. Y cualquier solución a este problema tiene que reorientar los incentivos financieros».

JEFF SEIBERT, ex ejecutivo de Twitter

“Quiero que la gente sepa que todo lo que hace en internet se observa, se registra y se mide. Todas sus acciones son monitorizadas y grabadas. Saben qué paginas miras y  cuánto tiempo las miras. Saben si alguien se siente solo o deprimido, o si alguien mira fotos de su expareja. Lo saben todo. Saben si eres introvertido o extrovertido, cuál es tu neurosis, cuál es tu personalidad”.

SANDY PARAKILAS, ex gerente de operaciones de Facebook. Ex gerente de productos de Uber

01- «Cada vez se hacen mejores predicciones respecto a lo que haremos y quiénes somos. Estos sistemas se alimentan y se perfeccionan con toda la información que volcamos constantemente en la red sobre nosotros y nuestra vida. Son sistemas que carecen de control humano.

-o-

02.- «Existe la creencia errónea de que Facebook vende nuestra información. A Facebook no le interesa deshacerse de nuestra información. Con toda la información crean modelos que predicen nuestras acciones. Y quien tenga el modelo más afín a nuestra realidad, gana».

-o-

03.- «En el otro lado de la pantalla es como si tuvieran un avatar de nosotros, un muñeco vudú. Compañías como Google o Facebook con frecuencia hacían pequeños experimentos con los usuarios. Con el tiempo, con estos experimentos desarrollaron la manera óptima de hacer que los usuarios hagan lo que ellos quieren. Eso es manipulación».

JONATHAN HAIDT, psicólogo social de la Escuela de Negocios de Stern de la Universidad de Nueva York

01.- «En Estados Unidos, entre las adolescentes mayores de quince a diecinueve años hubo un incremento del 62 % desde 2009 a 2017 en casos de  heridas autoinfringidas. Este porcentaje aumentó hasta el 189% en niñas entre 10 y 14 años. De igual forma, los suicidios entre adolescentes aumentaron un 70%, llegando a un 151% en las niñas«.

Este patrón coincide con el despegue de las redes sociales, disponibles en teléfonos a partir de 2009.

-o-

02.-  «Cuando preguntas en Google sobre el cambio climático vas a recibir respuesta en función en donde vivas. En ciertas ciudades completará la búsqueda “el cambio climático es…”, con:  “un engaño”, “una farsa”, “una mentira”, etc. En otras zonas del planeta, rellenará el texto de búsqueda con; “el cambio climático es…” “político”, “está causando cambios extremo en la naturaleza”, “un gran problema medioambiental”, etc.  Es decir, Google no da una respuesta en función de la verdad de los datos, sino en función del lugar en que estás entrando a Google y a lo que Google sabe sobre ti».

DRA. ANNA LEMBKE, profesora de Psiquiatría, Psicología y Ciencias del Comportamiento de la Universidad de Standford. Facultad de Medicina

“Lo que sucede es que las redes sociales son una droga. Estamos programados biológicamente para conectar con otras personas. Esto libera dopamina en el campo de la recompensa. Sin duda es un vehículo que optimiza la conexión real entre personas, pero aplicado a las redes sociales es potencialmente adictivo”. 

CHAMATH PALIHAPITIYA, ex vicepresidente de crecimiento de Facebook

01.- «Averiguamos con la psicología cómo manipularte y luego golpearte con dopamina. Lo hicimos en Facebook. Instagram lo ha hecho de forma brillante; Whatsapp lo ha hecho; Snapchat lo ha hecho; Twitter lo ha hecho.

-o-

02.- «Valoramos nuestras vidas con base a la sensación de perfección, porque recibimos recompensas a muy corto plazo. Corazones, reacciones, pulgares, emoticones… Le otorgamos valor. Los consideramos verdaderos, pero en realidad es popularidad falsa que dura poco y que nos deja aún más vacíos. Te empuja a un círculo viciosos en el que piensas “¿qué tengo que hacer para tener esto otra vez?” Piensa en dos mil millones de personas haciendo esto y cómo reaccionan ante la percepción de otros. Es algo muy malo. Está muy, muy mal».

JOE TOSCANO, ex consultor de experiencia de diseño de Google

“Si deslizas la pantalla buscando con el dedo, ansías hallar algo nuevo. En psicología lo llamamos reforzamiento positivo intermitente”.

SHOSHANA ZUBOFF, Profesora emérita de negocios de Harward. Autora de “La era del capitalismo de vigilancia”

01.-  «Ellos venden certeza: la certeza de que los anuncios serán efectivos, haciendo buenas predicciones; y las buenas predicciones funcionan con una máxima: necesitas un montón de información.

-o-

02.-  «El mercado de las redes sociales es un nuevo mercado comercial, lo que nunca antes había existido. Este es un mercado del futuro en el que se comercia exclusivamente con humanos. De hecho, este mercado ya ha convertido a las industrias de internet en las más ricas de todos los tiempos. Tienen información sobre nosotros como nunca ha ocurrido en toda la historia la humanidad.

Ellos comprendieron que pueden afectar el comportamiento y las emociones del mundo real sin necesidad de que el usuario se entere. La mayoría de las personas no tienen ni la menor idea de esta realidad que nos sucede.

RANDIMA FERNANDO, ex ejecutivo de Facebook , ex presidente de Pinterest

“Lo más peligroso de todo esto es que se debe a la tecnología, que está creciendo de forma exponencial. Aproximadamente desde los años 60 hasta hoy la potencia de procesamiento ha aumentado alrededor de un millón de veces. Nada de lo que tenemos ha avanzado a ese ritmo. Los autos son sólo el doble de rápido, y casi todo lo demás es insignificante. Y lo más importante es que nuestra psicología, nuestros cerebros, no han evolucionado en absoluto”.

 

 

 

GUILLAUME CHASLOT, ex ingeniero en Youtube, director ejecutivo de intuitiveai, fundador de Algotransparency

01.-  «Me inquieta que un algoritmo en el que trabajé esté aumentando la polarización en la sociedad, aunque desde el punto de vista del tiempo de atención, esta polarización es extremadamente eficiente para mantener a la gente en línea.

La gente cree que el algoritmo está creado para darles lo que quieren, pero no es así. El algoritmo está buscando laberintos. Trata de encontrar el laberinto que más se acerque a tus intereses. Si ves una clase de videos, el algoritmo te lo recomendará una y otra vez».

-o-

02.-  «Un estudio del instituto tecnológico de Massachusetts muestra que las noticias falsas en Twitter viajan seis veces más rápidos que las noticias reales. Creamos un sistema que favorece la información falsa. No porque quisiéramos sino porque la información falsa les genera más dinero a las compañías. La verdad es aburrida.

En este modelo de negocio, se lucra con la desinformación. Ganan dinero dejando que el mejor postor envíe mensajes no regulados».

BAILEY RICHARDSON, miembro del equipo inicial de Instagram.

“En sus inicios Internet era un lugar raro, algo experimental.  Cosas creativas sucedieron en Internet y todavía suceden, pero hoy en día se siente como un centro comercial gigante. Tiene que servir para algo mejor.

Me considero optimista, y creo que podemos cambiar el significado y aspecto de las redes sociales”. 

Artículos relacionados

• La globalización e internet
• ¿Puede sobrevivir la Humanidad a la era tecnológica?

Recibe al instante cada nueva entrada y material gratuito de valor

SUSCRÍBETE

	Descubre mis libros en Amazon: → Ver mis libros aquí
	Visita mi canal de YouTube: → Canal El Viaje de Riddhi
	Sígueme en Facebook: → Página El Viaje de Riddhi