Por qué los algoritmos de las redes sociales son cada vez más peligrosos – SuNoticiero
онлайн займ на банковскую карту

Por qué los algoritmos de las redes sociales son cada vez más peligrosos

Stuart Russell, profesor de la Universidad de California en Berkeley, se ha dedicado al estudio de la ingeniería artificial (IA) durante décadas.

Pero también es uno de sus críticos más conocidos, al menos del modelo de IA al que todavía ve como «estándar» en el mundo.

Rusell ha advertido que el modelo predominante de IA es, en su opinión, una amenaza para la supervivencia de los seres humanos.

Pero, a diferencia de las tramas de películas de Hollywood sobre el tema, no se trata de que estas tecnologías se vuelvan conscientes y se vuelvan contra nosotros.

La principal preocupación de Russell es la forma cómo sus desarrolladores humanos han programado esta inteligencia: tienen la tarea de optimizar sus tareas tanto como sea posible, básicamente a cualquier costo.

Y así se vuelven «ciegos» e indiferentes a los problemas (o, en última instancia, a la destrucción) que pueden causar a los humanos.

El genio salió de la botella

Para explicarle esto a BBC News Brasil, Russell utiliza la metáfora de un genio de una lámpara que cumple los deseos de su maestro.

«Le pides al genio que te convierta en la persona más rica del mundo, y así sucede, pero solo porque el genio hizo que el resto de las personas desaparecieran», dice.

«(En IA) construimos máquinas con lo que yo llamo los modelos estándar: ellas reciben objetivos que tienen que lograr u optimizar, para los cuales encuentran la mejor solución posible. Y luego llevan a cabo esa acción».

Incluso si esta acción es, en la práctica, perjudicial para los humanos, argumenta.

«Si construimos la IA para optimizar un objetivo fijo dado por nosotros, ellas (las máquinas) serán como psicópatas, persiguiendo ese objetivo y siendo completamente ajenas a todo lo demás, incluso si les pedimos que se detengan».

Un ejemplo cotidiano de esto, dice Russell, son los algoritmos que rigen a las redes sociales, que se han vuelto tan evidentes en los últimos días con el colapso global que afectó a Facebook, Instagram y WhatsApp durante unas seis horas.

La tarea principal de estos algoritmos es mejorar la experiencia del usuario en las redes sociales. Como, por ejemplo, recopilando la mayor información posible sobre ese usuario y proporcionándole contenido que se adapte a sus preferencias para que permanezcan conectados por más tiempo.

Incluso si esto se produce a expensas del bienestar del usuario o la ciudadanía global, continúa el investigador.

«Si construimos la Inteligencia Artificial para optimizar un objetivo fijo dado por nosotros, ellas (las máquinas) serán casi como psicópatas, persiguiendo ese objetivo y siendo completamente ajenos a todo lo demás, incluso si les pedimos que se detengan».

«Las redes sociales crean adicción, depresión, disfunción social, tal vez extremismo, polarización de la sociedad y, tal vez contribuyen a difundir desinformación», señala Russell.

«Y está claro que sus algoritmos están diseñados para optimizar un objetivo: que las personas hagan clic, que pasen más tiempo enganchadas con el contenido», continúa.

 

«Y, al optimizar estas cantidades, podemos estar causando enormes problemas a la sociedad».

No obstante, prosigue Russel, esos algoritmos no se someten a un escrutinio lo suficiente como para ser verificados o «arreglados», por lo que siguen trabajando para optimizar su objetivo, indistintamente del daño colateral.

«(Las redes sociales) no solo están optimizando lo incorrecto, sino que también están manipulando a las personas, porque al manipularlas consigue aumentar su compromiso. Y si puedo hacerte más predecible, por ejemplo, transformándote en un ecoterrorista extremo, puedo enviarte contenido ecoterrorista y asegurarme de que hagas clic para optimizar mis clics».

Estas críticas fueron reforzadas la semana pasada por la ex trabajadora de Facebook (y actual informante) Frances Haugen, quien testificó ante una audiencia del Congreso de Estados Unidos.

Haugen dijo que las redes sociales «dañan a los niños, provocan divisiones y socavan la democracia».

Facebook ha reaccionado diciendo que Haugen no tiene suficiente conocimiento para hacer tales afirmaciones.

IA con «valores humanos»

Russell, a su vez, explicará sus teorías a una audiencia de investigadores brasileros el próximo 13 de octubre durante una conferencia de la Academia Brasileña de Ciencias de forma virtual.

El investigador, autor de «Compatibilidad Humana: Inteligencia artificial y el problema del control», es considerado pionero en el campo al que él llama «inteligencia artificial compatible con la existencia humana».

Con información de BBC New Mundo

SuNoticiero