¿Qué es todo este alboroto con la IA?
"IA" se ha convertido en una palabra de moda que se utiliza para describir todo tipo de herramientas y aplicaciones, desde asistentes virtuales hasta generadores de deepfakes.
Se está prestando mucha atención a los aspectos divertidos o creativos de estas nuevas herramientas "tan chulas"... pero ¿sabías que la IA también está detrás de muchos de los sistemas esenciales que afectan nuestra vida cotidiana, como el empleo, la atención médica, la educación, la aplicación de la ley y mucho más?
Las herramientas de IA están haciendo que algunos sistemas sean mucho más rápidos y eficientes. Pero eso también significa que está sobrealimentando la velocidad y la eficiencia de otras cosas, incluidos los peligros de internet como la desinformación, las estafas y el acoso que altera la vida... incluso está influyendo en cómo vota la gente.
A medida que sigas este Data Detox, podrás observar más de cerca la IA y ver que todo este revuelo puede acarrear graves consecuencias.
¡Vamos!
1. Desmistificando la IA
Comprender la IA no tiene por qué ser física nuclear. Algunas personas hablan de la IA como si fuera magia, pero la "inteligencia artificial" es solo una máquina.
¿Sabías que...? "IA" se refiere a una variedad de herramientas diseñadas para reconocer patrones, resolver problemas y tomar decisiones a una velocidad y escala mucho mayor que los humanos.
Pero como cualquier herramienta, la IA está diseñada y programada por humanos. Las personas que crean estas máquinas les dan reglas a seguir: "Haz esto; pero no hagas aquello".
Cuando la gente habla de IA, podrían estar hablando de muchas cosas. Echa un vistazo a algunos ejemplos de herramientas de IA que son especialmente populares: (Haz clic o toca las tarjetas de abajo para leer más información):
Herramientas de generación de texto
Herramientas de generación de texto
Herramientas de generación de textos crean contenido basado en ciertas palabras clave (o "instrucciones") que tú defines. Se entrenan con grandes cantidades de texto de Internet de diversa calidad.
Es posible que oigas hablar de ellos como “modelos de lenguaje grandes” (LLMs) o por nombres de productos específicos como ChatGPT, o incluso con términos más informales como “chatbots” o “asistentes de IA”.
Aunque se sabe que estas herramientas logran hazañas de inteligencia similar a la humana, como sacar buenas notas en exámenes (1), también son conocidas por “alucinar”, lo que significa que también generan texto inexacto (2).
Herramientas de generación de imágenes
Herramientas de generación de imágenes
Herramientas de generación de imágenes ccrean imágenes o videos basados en ciertas palabras clave que tú defines.
Es posible que oigas hablar de estos como modelos de texto a imagen, o incluso por nombres de productos específicos como DALL-E o Stable Diffusion.
Estas herramientas pueden producir imágenes y vídeos increíblemente realistas, pero también se sabe que reducen el mundo a estereotipos (3) y pueden utilizarse para la sextorsión y el acoso (4).
Sistemas de recomendaciones
Sistemas de recomendaciones
Sistemas de recomendaciones te muestran contenido que "predicen" que es más probable que hagas clic o con el que interactúes. Estos sistemas funcionan en segundo plano en los motores de búsqueda, las redes sociales y la reproducción automática en YouTube.
También es posible que oigas hablar de ellos como algoritmos.
Estas herramientas pueden ofrecerte más de lo que ya te interesa, y también pueden empujarte hacia ciertos caminos peligrosos (5). Los sistemas de recomendación se utilizan en decisiones importantes como la contratación laboral, el acceso a la universidad, los préstamos hipotecarios y otras áreas de la vida cotidiana (6).
Descubre más sobre estos tipos populares de IA (artículos en inglés): (1) “Aquí tienes una lista de exámenes difíciles que ChatGPT y GPT-4 han aprobado”, (2) “Investigadores de la desinformación alertan sobre los chatbots de IA”, (3) “Cómo la IA reduce el mundo a estereotipos”, (4) “El FBI afirma que la inteligencia artificial se está utilizando para la “sextorsión” y el acos”, (5) “El feed “Para ti” de TikTok corre el riesgo de empujar a niños y jóvenes hacia contenido perjudicial para la salud mental”, (6) “Cathy O’Neil sobre el poder sin control de los algoritmos”.
2. Siente el peso de la IA
Si bien las herramientas de IA pueden parecer "virtuales", tienen un impacto real en el entorno físico. Saber que la IA utiliza toneladas de recursos naturales te da una idea más clara de lo que realmente es.
¿Sabías que...? Los edificios que albergan los servidores que alimentan la IA e internet se llaman "centros de datos". Se calientan tanto que necesitan aires acondicionados funcionando las 24 horas del día. La combinación de servidores y tuberías de refrigeración produce mucho ruido y utiliza mucho espacio, agua y energía.
Los centros de datos son solo una manifestación física de la IA. Para obtener una imagen completa, tendrías que considerar la minería, la fabricación, la producción y la eliminación de dispositivos, servidores, satélites, cables de internet submarinos y otras partes.
Investigaciones han demostrado que una búsqueda en Google con IA utiliza 10 veces más energía que una búsqueda tradicional.
Una vez que comprendes cómo se crea la IA y lo que implica mantenerla en funcionamiento, sentirás el peso de estos sistemas. Y quizá puedas cuestionar el próximo anuncio que veas que los promocione como “máquinas mágicas de eficiencia”.
Más información (artículos en inglés): (1) “La nube es material: sobre los impactos ambientales del cálculo y el almacenamiento de datos”, (2) “Uso de agua en centros de datos: una guía completa”, (3) “Niveles de ruido en centros de datos”.
Los centros de datos son solo una de las manifestaciones físicas de la IA. Para tener una visión completa, hay que considerar la minería, la fabricación, la producción y la eliminación de dispositivos, servidores, satélites, cables submarinos de internet y otras partes.
¿Sabías que...? Cerca del 85% del impacto ambiental de un smartphone proviene únicamente de su producción. Los residuos electrónicos generados por la tecnología también son importantes de comprender y las cifras no paran de crecer cada año.
Hasta ahora, existen pocos recursos accesibles que expongan los impactos ambientales de la IA. Pero si te interesan las infografías, echa un vistazo a Anatomy of an AI System para ver algunas de las extracciones e impactos que generan estas herramientas.
3. Ten cuidado con los medios sintéticos
Cuando la gente habla de IA, a menudo se refiere a la IA generativa y su producto, los medios sintéticos: es decir, los textos, imágenes, videos y audio generados por herramientas de IA. Estos productos parecen reales pero en realidad son generados por programas informáticos. Synthetic media is created for different reasons; for example, businesses might use it to advertise their products, magazines might use it to produce content, and political candidates might use it to boost their public image.
Consejo: Busca ejemplos de medios sintéticos para comprender mejor lo realistas que pueden ser las imágenes, los videos y los clones de voz generados por IA. Puedes ponerte a prueba con un cuestionario como AI-Generated or Not. ¡Los resultados podrían sorprenderte!
También hay muchos sitios web con nombres como “This person does not exist” que muestran imágenes realistas de ‘personas’ generadas por IA. Puedes encontrar uno de estos sitios aquí. Actualiza la página para ver más imágenes. Si vieras una de estas fotos usada como foto de perfil en un día cualquiera, ¿pensarías que es una persona real?
Adentrarse en la madriguera de los medios sintéticos puede llevarte rápidamente a contenido inseguro, así que ten cuidado con lo que generas y lo que buscas. Además, muchas veces las empresas detrás de las herramientas de IA no explican claramente qué datos tuyos guardan y con qué fines, por lo que siempre debes proceder con precaución.
Pruébalo: Introduce instrucciones de texto que puedan generar imágenes de IA utilizando una herramienta gratuita como Perchance para verlo en acción. Allí puedes escribir una descripción de lo que quieres ver, por ejemplo "gato con una bufanda roja" y luego pulsar "generar".
Como has aprendido, solo porque el contenido creado por la IA generativa se vea y suene realista, no significa que lo sea.
4. Busca verificación
Como has aprendido, solo porque el contenido creado por la IA generativa se vea y suene realista, no significa que lo sea. Si ves algo en internet o en tus redes que te parece impactante, extraño o especialmente fuera de lo común, es posible que se hayan utilizado herramientas de IA generativa para crearlo o manipularlo, incluso si a simple vista no es evidente.
Consejo: Las imágenes, los videos y los textos online que te hacen sentir emociones intensas como miedo, disgusto, asombro, ira y ansiedad tienen más probabilidades de volverse virales. Este contenido altamente emocional también es una forma efectiva de obtener clics y difundir información errónea, y las herramientas de IA pueden ayudar a impulsar esa viralidad. Presta atención a tus reacciones y tómate estos sentimientos como una pista de que necesitas más tiempo para verificar si lo que estás viendo o leyendo es legítimo.
Por ejemplo, si ves un video de un candidato político haciendo o diciendo algo que te genera alarma, investiga un poco más para comprobar si es auténtico o si ya ha sido desmentido como desinformación generada por IA.
Puedes confiar en ciertos organismos globales como la Red Internacional de Verificación de Datos para averiguar qué fuentes tienen especial cuidado en verificar la información que publican. En la página de Signatories (ifcncodeofprinciples.poynter.org/signatories), busca tu país para ver qué fuentes están en la lista. Snopes.com y PolitiFact.com son dos buenos recursos para los lectores en Estados Unidos.
¡Pero espera, eso no es todo! Hay mucho más que decir sobre la IA. El Kit de Desintoxicación de Datos incluye muchas guías sobre IA, así como otros temas como la privacidad de datos, la seguridad digital, el bienestar virtual, la desinformación online y más.
Escrito por Safa Ghnaim en el verano de 2024. Gracias a Christy Lange y Louise Hisayasu por sus ediciones, comentarios y revisiones.
Esta guía fue desarrollada por Tactical Tech en colaboración con el Goethe-Institut Brasil. La traducción al español fue realizada por la Biblioteca Pública Municipal de Paterna del Campo, con el apoyo del European Media and Information Fund.
