Esta quinta entrega de la serie, “La IA, la puerta de entrada a una nueva etapa histórica”, está destinada a ofrecer el posicionamiento y acciones de los movimientos sociales ante la irrupción de esta cuarta revolución tecnológica, que ha generado un profundo impacto en todos los ámbitos de la sociedad, y que ha centrado la atención y preocupación por parte de los movimientos sociales, es decir, la expresión colectiva de un grupo de ciudadanos que busca transformar o defender aspectos sociales, a través de la movilización, la protesta, la propuesta de alternativas y difusión de los diferentes problemas que afectan a la ciudadanía.
El abordaje que realizamos tiene un carácter general y se
distinguen tres fases en función a su evolución con respecto al contexto
histórico y, por consiguiente, en relación a los posicionamientos.
Fase pionera
Se extiende desde los orígenes de la IA hasta finales del siglo XX
y se caracteriza por su vinculación a la ciencia ficción, el ciberpunk, el
hacktivismo y el software libre. Estos movimientos exploraron las posibilidades
y los riesgos de la IA, tanto en el plano imaginario como en el práctico. En ese
sentido, se puede considerar a estos movimientos como los primeros que plantearon
cuestiones sobre la identidad, la ética y el poder de la IA, así como en
proponer formas alternativas de desarrollar y usar la tecnología desde una
perspectiva crítica y creativa. Algunos ejemplos son las obras de Isaac Asimov,
William Gibson o Philip K. Dick, quienes plantearon cuestiones sobre la
identidad, la ética y el poder de la IA; o los proyectos de Richard Stallman,
Linus Torvalds o Tim Berners-Lee, que promovieron el acceso y la colaboración
en el desarrollo de la tecnología.
Fase crítica
Se desarrolla entre principios del siglo XXI hasta mediados de la
década de 2010 y tiene como principal acción la denuncia de los efectos
negativos de la tecnología en la sociedad (vigilancia, desigualdad,
discriminación, deshumanización…). Estos movimientos se basaron en evidencias
empíricas, testimonios personales y análisis teóricos para cuestionar el uso y
el control de la IA por parte de gobiernos, corporaciones y elites. De modo que,
se puede considerar a estos movimientos como los primeros en evidenciar las
consecuencias sociales, políticas y económicas de la IA, así como en resistir y
desafiar las prácticas abusivas o injustas de los actores dominantes. Algunos
ejemplos son las campañas de Edward Snowden, Julian Assange o Chelsea Manning,
que revelaron las prácticas de espionaje masivo; o las obras de Evgeny Morozov,
Shoshana Zuboff o Cathy O’Neil, que criticaron el capitalismo de vigilancia, el
sesgo algorítmico y las armas de destrucción matemática.
Fase actual
Va desde finales de la primera década del siglo XXI hasta la
actualidad con propuestas alternativas para el desarrollo y el uso de la
tecnología, basadas en principios como la justicia, la democracia, la
diversidad o la sostenibilidad. Estos movimientos se apoyan en iniciativas
ciudadanas, académicas, artísticas y activistas para generar conocimiento,
conciencia y acción sobre la IA y pueden ser definidos como los más
propositivos e innovadores en cuanto a ofrecer soluciones para mejorar el
diseño, la implementación y el uso de la IA desde una perspectiva socialmente
responsable. Al tiempo que denuncian que la IA puede generar o agravar
problemas sociales como el desempleo, la desigualdad, la discriminación, la
vigilancia, la manipulación, la pérdida de autonomía y la amenaza existencial.
Estos movimientos proponen medidas para regular y controlar la IA, así como
para garantizar una mayor participación y transparencia de los actores
involucrados. Su posición se basa en la idea de que la IA no es neutra ni
beneficiosa por sí misma, sino que depende de cómo se diseña, se implementa y
se usa. Entre esos movimientos podemos señalar los siguientes:
Stop Killer Robots
Es una coalición global fundada en 2012 que cuenta con más de 180
organizaciones no gubernamentales internacionales, regionales y nacionales y
socios académicos que trabajan en 66 países. Su objetivo se centra en la lucha
por la prohibición del desarrollo, la producción y el uso de armas autónomas
letales, es decir, armas que pueden seleccionar y atacar objetivos sin
intervención humana. Su argumento central se basa en la idea de que delegar la
decisión de matar a las máquinas es inmoral, ilegal e inaceptable y supone una
amenaza para la paz, la seguridad y la dignidad humana. Stop Killer Robots ha
logrado poner el tema de las armas autónomas en la agenda internacional y ha
impulsado el debate sobre la necesidad de un tratado legalmente vinculante que
las prohíba. Su página web oficial es [https://www.stopkillerrobots.org].
Ban Facial Recognition
Fundada en 2012, plantea la prohibición y limitación del uso de
tecnologías de reconocimiento facial por parte de gobiernos, empresas y otras
entidades. Este movimiento argumenta que estas tecnologías violan la
privacidad, la libertad y los derechos humanos de las personas, y que pueden
ser utilizadas para fines de vigilancia masiva, control social y
discriminación. Su trabajo se apoya en evidencias científicas, jurídicas y
sociales que demuestran los peligros y los errores de las tecnologías de
reconocimiento facial, especialmente para las personas racializadas, las
mujeres y los grupos minoritarios. Ban Facial Recognition ha conseguido algunas
victorias legislativas y judiciales en varios países, donde se han prohibido o
restringido el uso de estas tecnologías. Su página web oficial es [https://www.banfacialrecognition.com].
Algorithm Watch
Fundado en 2015 por dos periodistas e investigadores alemanes
especializados en el campo de la tecnología y la sociedad, es una organización
sin fines de lucro que monitorea y evalúa los efectos de los algoritmos y la
automatización en la sociedad. Este movimiento busca generar conciencia pública
sobre los riesgos y las oportunidades de la IA. Su misión es promover la
transparencia, la rendición de cuentas y la participación ciudadana en el uso
de la inteligencia artificial y otras tecnologías digitales que afectan a los
derechos humanos, la democracia y el estado de derecho. Algorithm Watch se basa
en una metodología rigurosa e interdisciplinaria para investigar y documentar
casos de uso de algoritmos de IA en diferentes sectores y países, así como para
proponer soluciones basadas en principios éticos y legales. Ha publicado varios
informes anuales sobre el estado de los algoritmos e IA en Europa y el mundo.
Su página web oficial es [https://algorithmwatch.org/en].
AI Now Institute
Es un centro de investigación interdisciplinario estadounidense
fundado en 2016 que estudia el impacto social de la IA y propone soluciones
para asegurar que la IA sea justa, responsable y sostenible. Analiza temas como
la ética, la gobernabilidad, el trabajo, la salud, el medio ambiente y la
justicia en relación con la IA. Se apoya en un equipo diverso e inclusivo de
expertos, académicos, artistas y activistas que colaboran en proyectos
innovadores para generar conocimiento crítico sobre la IA y ha publicado varios
informes anuales sobre el estado social de la IA.) Su página web oficial es [https://ainowinstitute.org].
Data Justice Lab
Es un centro de investigación de la Universidad de Cardiff, fundado
en 2017, que explora las implicaciones políticas, sociales y éticas de los
datos y la IA y promueve una justicia basada en los derechos humanos, la
democracia y la equidad en el ámbito digital. Este movimiento se basa en una
visión crítica y holística de los datos y la IA, que considera tanto sus
aspectos técnicos como sus aspectos sociales, culturales y políticos. Data
Justice Lab ha desarrollado varios proyectos sobre temas como la vigilancia, la
participación, la sostenibilidad y la solidaridad en relación con los datos y
la IA. Su página web oficial es [https://datajusticelab.org].
AlgoRace
Fundada en 2020 en España, investiga y visibiliza casos de discriminación algorítmica, es decir, cuando la IA reproduce o amplifica las desigualdades sociales existentes, además, intenta sensibilizar y movilizar a la ciudadanía sobre este tema. Su objetivo es vincular el movimiento antirracista y anticolonial con el debate sobre la IA y sus implicaciones sociales. Este movimiento se basa en una perspectiva decolonial e interseccional para analizar y denunciar los casos de uso racista de la IA por parte de las administraciones públicas, las empresas y otras entidades. Recientemente ha publicado un informe titulado “(Des)racializando la IA”, donde se analizan los principales riesgos y oportunidades que plantea la IA para las poblaciones racializadas en España. Su página web oficial es [https://algorace.org].
 |
| Bing. (2023). La inteligencia artificial [imagen generada por IA]. |
Por otro lado, diversos autores y colectivos han cuestionado el desarrollo y el impacto de la IA en la sociedad, desde diferentes perspectivas y ámbitos con una visión crítica y alternativa, así como una resistencia y una propuesta frente a sus desafíos. Algunos de los aspectos que han sido objeto de crítica son:
- La IA como una forma de dominación y explotación
Esta crítica se fundamente en que la IA genera nuevas
formas de desigualdad, exclusión y violencia. Por ejemplo, Shoshana Zuboff ha
acuñado el concepto de capitalismo de vigilancia para referirse al modelo
económico basado en la extracción y el análisis de los datos personales de los
usuarios por parte de las grandes corporaciones tecnológicas, que los utilizan
para manipular su comportamiento y obtener beneficios. Por su parte, Nick
Srnicek y Alex Williams, han analizado cómo la IA está transformando el mundo
del trabajo, creando una masa de trabajadores precarios, desempleados o
sometidos a la automatización. También se ha criticado el uso militar y
policial de la IA, que implica el desarrollo de armas autónomas, sistemas de
vigilancia masiva y técnicas de control social. Estas críticas ponen en
evidencia las consecuencias sociales, políticas y económicas de la IA, así como
las prácticas abusivas o injustas de los actores dominantes y plantean la
necesidad de regular y controlar la IA, así como de proteger los derechos y los
intereses de los ciudadanos frente a las amenazas que supone. Recomendamos al
lector los siguientes materiales:
- El documental The Social Dilemma (2020), que explora el impacto negativo de las redes sociales y las plataformas digitales en la sociedad.
- El libro Radical Technologies: The Design of Everyday Life (2017), de Adam Greenfield, que examina cómo las tecnologías emergentes como la IA, el internet de las cosas o la realidad aumentada afectan a nuestra vida cotidiana.
- El informe The State of AI Ethics Report (2021), del Montreal AI Ethics Institute, que recoge los últimos avances e incidentes relacionados con la ética de la IA.
- La IA como una forma de alienación y deshumanización
Esta crítica cuestiona el papel de la IA en la
cultura, la comunicación y la subjetividad, señalando los riesgos de perder la
identidad, la creatividad y la autonomía frente a las máquinas inteligentes. En
ese sentido, Jaron Lanier ha advertido sobre los efectos nocivos de las redes
sociales y las plataformas digitales, que reducen la diversidad y la
originalidad de las expresiones humanas, y fomentan la adicción, el conformismo
y el odio. Mientras Byung-Chul Han reflexiona sobre cómo la IA genera una
sociedad del rendimiento, donde los individuos se someten a una presión
constante por optimizar su productividad, su eficiencia y su felicidad, sin
cuestionar el sentido de sus acciones. Estas críticas ponen en evidencia los
efectos psicológicos, emocionales y existenciales de la IA, así como las formas
de manipulación o dominación que ejerce sobre los individuos. Estas críticas
también plantean la necesidad de recuperar el control sobre nuestros datos,
nuestra atención y nuestra creatividad, así como de cuestionar el sentido y el
valor de nuestras acciones frente a la IA. En relación a este aspecto, recomendamos
los siguientes materiales:
- El libro Homo Deus: A Brief History of Tomorrow (2016), de Yuval Noah Harari, que explora cómo la tecnología puede transformar al ser humano en un dios o en un esclavo.
- El libro The Age of Spiritual Machines: When Computers Exceed Human Intelligence (1999), de Ray Kurzweil, que predice cómo la inteligencia artificial superará a la inteligencia humana y cambiará el destino de la humanidad.
- El documental Do You Trust This Computer? (2018), que analiza los beneficios y los peligros de la inteligencia artificial.
- La IA como una forma de colonización y
homogeneización
Esta crítica plantea que la IA impone una visión
hegemónica y occidental del mundo, que ignora o margina otras formas de
conocimiento, sabiduría y cosmovisión. Así, Arturo Escobar ha propuesto el
concepto de ontologías del diseño para referirse a las diferentes maneras de concebir
e intervenir en la realidad, que están en conflicto con el paradigma dominante
de la modernidad. Y Vandana Shiva defiende la importancia de preservar la
diversidad biológica y cultural frente a las amenazas de la biotecnología y la
inteligencia artificial. Estas críticas ponen en evidencia las limitaciones y
los sesgos de la IA, así como las formas de exclusión o dominación que ejerce
sobre los pueblos indígenas, las mujeres y los campesinos. También plantean la
necesidad de reconocer y valorar la diversidad ontológica y epistemológica, así
como de promover el diálogo intercultural y el pluralismo ecológico. Le
ofrecemos los siguientes materiales que podrían ser de su interés:
- El libro The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World (2015), de Pedro Domingos, que explica cómo la IA busca encontrar el algoritmo universal que explique y prediga todo lo que ocurre en el mundo.
- El libro The Invention of Nature: Alexander von Humboldt’s New World (2015), de Andrea Wulf, que narra la vida y las ideas del naturalista alemán que descubrió la complejidad y la diversidad de la naturaleza.
- El documental The Seeds of Vandana Shiva (2021), que cuenta la historia y el legado de la activista india que lucha por la soberanía alimentaria y la justicia ambiental.
En conclusión, podemos decir que la IA es un fenómeno complejo y polémico, que genera tanto beneficios como riesgos para la humanidad. La IA ha sido objeto de crítica por parte de diversos autores y colectivos, que han cuestionado su desarrollo y su impacto desde diferentes perspectivas y ámbitos. Estas críticas nos invitan a reflexionar sobre los aspectos éticos, sociales y culturales de la IA, así como sobre las alternativas y resistencias que se pueden generar desde la sociedad civil. Sin embargo, también plantean algunas limitaciones y problemas, como la falta de consenso, la dificultad de implementación o el riesgo de simplificación. Por ello, es necesario seguir investigando y debatiendo sobre la IA, desde una visión crítica, creativa e interdisciplinaria. Algunas preguntas o sugerencias que podrían orientar este proceso serían:
- ¿Qué
criterios o principios deberían guiar el diseño, la implementación y el
uso de la IA?
- ¿Qué
mecanismos o instituciones deberían regular y controlar la IA?
- ¿Qué
actores o sectores deberían participar en el desarrollo y el uso de la IA?
- ¿Qué
beneficios o riesgos tiene la IA para el bienestar humano y el medio
ambiente?
- ¿Qué tipo de educación o formación se necesita para fomentar una ciudadanía crítica y responsable frente a la IA?
No hay comentarios:
Publicar un comentario