¿Dónde ha desaparecido Philip Agre, el científico que predijo la hostilidad de la inteligencia artificial hace 30 años
El profesor Philip Agre (Philip Agre) a principios de los años 90 previó la vigilancia de las personas a través de Internet. En ese entonces, predijo la recopilación de datos sobre los usuarios sin su consentimiento y la tecnología de la manipulación masiva. El científico advirtió sobre el peligro, pero luego sus predicciones parecían distópicas. Ahora que casi todo esto se ha hecho realidad, se han acordado de Agra, pero esto no cambiará nada.
En 1994, un joven profesor de la Universidad de California, Philip Agre, publicó un artículo inusual. En él, contó cómo los sistemas informáticos recopilarán datos sobre las personas en el futuro. La información será proporcionada de forma totalmente voluntaria, sin violación de derechos y libertades.
Así es como Agre describió el futuro, si Internet se desarrolla de la manera elegida ya entonces.
Como resultado, han pasado 30 años y todo se ha hecho realidad. Después de todo, ahora los datos son recopilados con éxito por redes sociales, programas y motores de búsqueda. Son recibidos por aquellos que saben perfectamente cómo beneficiarse de ellos. Estas personas ahora controlan a las masas, y en una variedad de situaciones. Por ejemplo, pueden obligarnos a comprar un nuevo televisor, escuchar cierta música, votar en las elecciones por el candidato "correcto".
El columnista del Washington Post Reed Albergotti escribe sobre esto de la siguiente manera:
Reed Albergotti finalmente logró reunirse con amigos y colegas del profesor. Todos ellos están asombrados por lo que está sucediendo y, en primer lugar, por las predicciones precisas de Philip Agre. Desafortunadamente, el propio científico no dirá cómo llegó a tales conclusiones. Y todo porque el profesor desapareció en 2009, dejando su casa y su trabajo. No advirtió a nadie sobre sus planes, pero la policía lo encontró un año después.
Agre fue examinado por médicos y encontrado completamente cuerdo. Después de regresar, el científico se niega a comunicarse con periodistas e incluso ex colegas. Moreover, his place of residence is now unknown. Dicen que fue visto en Los Ángeles, pero esta es información no verificada.
El año en que Philip Agre recibió su doctorado coincidió con el año de la creación de WWW - la World Wide Web. Era 1989. Entonces nadie tomó en serio cualquier red de computadoras conectadas entre sí. En ese momento, incluso los expertos de Silicon Valley venture no podían predecir el futuro de la TI. Pero Agre ya sabía lo que pasaría después y habló abiertamente de ello.
Hoy está claro para muchos que Internet se está desarrollando en la dirección equivocada. Y el Dr. Philip Agre llegó a esto a principios de los 90. Ahora el científico es recordado a menudo. Por ejemplo, Agre dijo que la inteligencia artificial (IA) sería mala para distinguir a personas de diferentes razas mucho antes de la llegada de los sistemas de reconocimiento. Entonces creyó que esto conduciría a un sesgo, que es lo que estamos viendo ahora.
Jeffrey Bowker, profesor Emérito de Ciencias de la Computación en la Universidad de California, llama la atención sobre el artículo de Agre de 1997. Se llama " Lecciones aprendidas al Intentar reformar la IA."En él, el autor argumenta que los desarrolladores de redes neuronales no escuchan las críticas. Pero es la crítica la que debería estar a la vanguardia del desarrollo de la IA.
Reed Albergotti escribe:
Gracias a las computadoras más potentes, la IA recopila grandes cantidades de información sobre las personas. Y esto es en lugar de tratar con problemas importantes y útiles para la humanidad. Las tecnologías no hacen del mundo un lugar mejor, sino que siembran la discriminación, difunden información errónea y ayudan a dictaduras y monopolios.
Las principales empresas de TI no aceptan e incluso temen las críticas. Por ejemplo, en 2020, el liderazgo del gigante tecnológico Google despidió a Timnit Gebra, un investigador líder en problemas de inteligencia artificial. La culpa de la mujer fue solo que escribió un artículo sobre los problemas éticos de la IA.
En 1994, Philip Agre le dijo al mundo que cuando comience la recopilación global de información confidencial, la gente no se resistirá. Esto sucederá porque simplemente no entenderán cuál de los recolectores de datos está trabajando para el bien y quién está planeando el mal.
El profesor previó que gracias a las innovaciones sería muy fácil manipular a las masas y a los individuos. ¿Y qué puede impedir que aquellos que conocen las preferencias, debilidades, estado de ánimo y planes de cada miembro de la sociedad hagan esto? Reed Albergotti escribe:
Años después de la publicación de los primeros artículos, Agre protestó contra la introducción masiva de sistemas de reconocimiento facial. "Tu cara no es un código de barras", ironizó amargamente sobre las cámaras y escáneres que determinan la identidad de una persona. Entonces la tecnología del reconocimiento facial en lugares públicos estaba naciendo. El doctor escribió que tan pronto como aparezcan sistemas de este tipo en los Estados Unidos, serán adoptados en otros países. Y estos no serán necesariamente países de democracia desarrollada.
Tenía razón, porque ahora se considera a China el líder en esta industria, no a Estados Unidos. En un país donde se sabe que la persecución de los disidentes florece, AI puede encontrar a cualquiera en la multitud y entregarlo para su arresto o ejecución. En los EE.UU., las capacidades de tales sistemas son ahora limitadas y hay un debate continuo sobre esto. Pero en China, casi nadie lo hará-allí AI trabaja para el Partido Comunista, que no está sujeto a críticas.
hace 30 años, el profesor Philip Agre entendió que sus artículos eran " la voz de uno que llora en el desierto."Ellos no lo entendieron, no lo escucharon, y no querían conocerlo. Trató de decirle a los sordos y mostrar a los ciegos, y eso lo deprimió. Antes de entrar en las sombras, Agre comenzó a escribir un libro sobre Internet. En él, quería analizar su trabajo e influencia en las personas.
El científico no lo terminó. Dejó de trabajar en él por una razón desconocida. Cuando los colegas de Agre intentaron sistematizar sus obras y crear su colección, el autor les pidió que no lo hicieran.