El problema ético de las tecnologías que manipulan usuarios

La cantidad de información dedicada a manipular a los usuarios crece sin parar y la capacidad para lidiar con esta situación no sigue el compás. “Lo más importante es cambiar los hábitos de consumo de información y entretenimiento”, dijo a 180 el científico de datos Marcelo Rinesi.

Actualizado: 18 de enero de 2018 | Por: Nicolás Kronfeld

El problema ético de las tecnologías que manipulan usuarios

AFP

Rinesi es director de Tecnología del Instituto para la Ética y las Tecnologías Emergentes de Connecticut, Estados Unidos, y miembro del Instituto Baikal de Argentina, para el que escribió un artículo titulado “El ubicuo y silencioso modelo de negocios de usar Inteligencias Artificiales para inducir problemas mentales”.

En el texto, Rinesi explicó que “los efectos emocionales y políticamente tóxicos de plataformas como Facebook y Twitter, junto con las organizaciones que las explotan, pueden no haber estado entre sus objetivos, pero no son accidentales. Si uno configura un sistema basado en datos para descubrir la mejor manera de inducir a los usuarios a que se queden en la plataforma e interactúen con ella y con sus anunciantes, simplemente hará eso”.

Además, fue crítico con el objetivo de los negocios en línea, que apelan a retener al usuario en su plataforma sin importarles “para qué ni sus efectos en el usuario y en terceros” y dijo que para conseguirlo apelan a “herramientas de la apuesta compulsiva y la manipulación psicológica constante. No son herramientas que hagan al usuario más sano emocionalmente, sino todo lo contrario, pero nadie programó a estos algoritmos para medir, y mucho menos evitar, estos efectos secundarios”.

Consultado por 180 acerca de regular los negocios, sugirió “una convergencia hacia niveles de manipulación aceptada, con regulación explícita para casos puntuales (por ejemplo, en niños). En ese sentido, no es muy diferente al alcohol, la publicidad en la vía pública o la campaña política moderna. Algo cambia en nuestra vida emocional, pero es tan omnipresente que dejamos de notarlo como algo a debatir y decidir”.

Ante la duda de si la regulación podría molestar a las empresas tecnológicas, aclaró que no es realmente un problema: “La industria del juego en Las Vegas participa activamente en su regulación, sin que afecte su rentabilidad. Una posible razón es que regular prácticas extremas legitima todo lo que no haya sido prohibido".

Conocimiento total

Rinesi explicó que estos negocios usan “el conocimiento de las experiencias y acciones diarias de miles de millones de personas para ser el terapeuta conductual más efectivo y menos ético del mundo, alimentado en tiempo real con cada pieza de información disponible sobre el usuario, interactuando constantemente con cada dispositivo digital, servicio, y fuente de información con el que está en contacto”.

También subrayó que son capaces de “elegir lo que el usuario ve y lo que se le sugiere que vea —incluso de inventar cualquier texto, audio, o video que necesite— y está dedicado exclusivamente a modificar sus emociones y forma de ver el mundo, sin ningún cuidado por su bienestar y actuando de acuerdo a las preferencias de la persona o programa que le esté pagando más en ese momento”.

Rinesi advierte que “una inteligencia artificial superhumanamente capaz de explotar cada uno de tus puntos débiles emocionales está a solo unos años de ser tecnológicamente posible, y está explícitamente en las hojas de ruta de I+D (Investigación+Desarrollo) de la industria”.

En términos de disponibilidad tecnológica, la generación de imágenes de publicidad específicas para cada persona, en base a su perfil, no demoraría más de cinco años. “Después de todo, una  enorme cantidad del contenido de Twitter y de los comentarios en general en todo internet son generados por computadora. Solo falta el pase de texto a imagen y de algo genérico a personalizado, ambas prácticas muy comunes en la industria”, resaltó Rinesi a 180.

Sobre el final del artículo, el científico de datos destacó que “está creciendo exponencialmente la cantidad de información y puro poder cognitivo dedicado a manipular a cada uno en cada minuto, y nuestra habilidad para lidiar con esto ciertamente no lo hace. Cómo nos ajustemos a esto será un factor sutil pero poderoso en el desarrollo de nuestras sociedades en las próximas décadas”.

Consultado por 180, sostuvo que “la parte más importante del proceso es la acumulación de métodos y hábitos de consumo de información y entretenimiento” y aclaró que “los casos más complicados y potencialmente dañinos van a venir de empresas nuevas y ambiciosas".

Noticias relacionadas