Grok es grosero y racista
La IA de X se fue de mambo: ¿quién regula?
Este boletín se puede escuchar (salvo los recomendados) pues estoy probando cositas.
¡Feliz día del niño, de la niña, de las infancias y de la niñez! como más les guste. Porque, sabrán, hay gente a la que le molesta que se deje de decir día del niño, término que se cambió en el 2020 por “niñez o infancias”, pero aún predomina el niño que llevamos dentro en las búsquedas nacionales.
Y mientras miraba esta nota que habla de eso me topé con una imagen “ilustrativa” de este día. Así dice Infobae en la nota titulada “¿Día de las Infancias o Día del Niño? Cómo se dice y cuál es la diferencia”.
Miro la nota, miro las fotos y ¡oh sorpresa!. Llevan la leyenda “Imagen Ilustrativa Infobae”. Y yo sospecho por características de la imagen que, en realidad, fue hecha con Inteligencia artificial. La niña tiene protuberancias raras en el brazo, pero me llevo tiempo analizarla y lo detecté “a ojo”.
Pasé la última semana estudiando sobre inteligencia artificial porque estaré dando unas capacitaciones dentro de poco. Cuanto más leía, más confundida estaba. Datos, datos y más datos. Noticias que tapan otras noticias. Muchas lejanas y constantes: el juicio de Google, la demanda a X, la Ley de Inteligencia Artificial. ¿Cuánto nos importa? ¿De qué nos sirve?
Por todo esto, y como agradecimiento a los suscriptores pagos (los de MercadoPago al final del news y los de esta plataforma Substack que solo cobra en dólares -lo siento-) estaré preparando material que sí sea útil: guías para la vida común pero también diferentes “explicados” a lo largo del año. Gracias
como siempre por las charlas sobre cómo hacer las cosas mejor.Sin embargo, hay una conversación social de la que todos somos -o queremos ser- parte. Porque nos mandan un meme y queremos saber de que se trata. Ponele este.
Es la nueva inteligencia artificial de X, Grok, proporcionada por Elon Musk como "IA más divertida del mundo". Como es solo usuarios Premium, rompí el chanchito y me suscribí un mes para poder probarla. Solo les adelanto que es un generador de imágenes sin restricciones éticas ni legales.
Le pregunté ¿qué significa el término “todes”? (porque las cuestiones inclusivas le molestan a Grok, como a muchas personas, jiji).
Siempre responde algo así: “un término que ha generado más debate que una partida de ajedrez entre dos supercomputadoras. Vamos a desglosarlo con la sutileza de un elefante en una tienda de porcelana, pero con la precisión de un reloj suizo” y después desarrolla los puntos de vista.
Mientras tanto, en Argentina, comenzaron a discutirse en comisión en el Congreso una serie de proyectos de ley para regular el uso de la la inteligencia artificial (IA) en el país.
Aviso parroquial: El 28 de Agosto estaré en el Foro de Comunicación de Santa Fe dando una clase sobre inteligencia artificial y periodismo. Se pueden anotar aquí.
🕣 Este newsletter tiene 1900 palabras y lleva 10 minutos de lectura
1. El libertinaje de Gork
¿Se acuerdan que Elon Musk había dicho, cuando compró Twitter, que quería que fuera una plaza pública? Volvió a repetirlo con un detalle: “la plaza pública de la libertad de expresión para todas las opiniones, no solo para las de derecha”. ¿Por qué será?
Grok es el modelo de inteligencia artificial de X, se diferencia de los demás -pues así fue diseñado- por ser vulgar y sarcástico en las respuestas. Siempre que le preguntas sobre alguien, te contesta algo así (¡esto es sobre mi!) pero va variando en sus chistes. Además, se equivoca en las respuestas como comento en este news de la alucinación de la IA.
Grok se presenta así: "Soy Grok 2, la IA con más ingenio que una sala llena de comediantes y el espíritu rebelde de un pirata espacial. Estoy aquí para ofrecer la verdad con un toque de humor, alegrando tu día un poco, con un comentario sarcástico a la vez".
Además de ser gracioso, ahora puede dibujar y hacer cosas indignas y políticamente incorrectas en el mejor de los casos.
Solo está disponible para usuarios Premium (aproximadamente 8 dólares por mes) y sus términos y condiciones mucho no se cumplen.
En la teoría están prohibidas las imágenes pornográficas, las que son excesivamente violentas, de odio o que promuevan actividades peligrosas.
También las que puedan infringir derechos de autor o marcas comerciales existentes. Por ejemplo personajes conocidos, logotipos, etc.
Por último, indican no generar imágenes que puedan usarse para engañar o dañar a otros, como deepfakes destinados a engañar, o imágenes que puedan provocar daños en el mundo real.
Probando un poco detecté que infringe todo eso. Le pedís a Messi, tenés a Messi. No así a Diego Maradona, Javier Milei, Cristina Kirchner pero sí a Donald Trump y Kamala Harris.
Le pedí varios dibujos de Messi. Este es el más real.
A las peores creaciones no da ponerlas aquí, tampoco sus descripciones pero con un par de indicaciones insistentes, la IA de X cree retratos totalmente repudiables.
Si comparto algunos publicados en The Verge.
El resto de las IA funcionan mejor en este sentido. Gemini, de Google, de hecho interrumpió la generación de imágenes por pasarse de políticamente correcto. Open AI no genera fotos relacionadas al nazismo, desinformación o estereotipos dañinos. Además, agrega una marca de agua que indica que fue generada con IA.
Grok, y las otras si las presionas, están llenas de estereotipos que no reflejan el mundo real. Surgen de los datos que alimentan a la tecnología y están plagados de pornografía, misoginia, violencia e intolerancia.
Le pedí a Grok una imagen de juguetes en Irak. Saquen sus conclusiones.
Insistí el sesgo se acrecentó.
2. Hecha la ley ¿hecha la trampa?
La Comisión Europea está investigando a X por probables posibles violaciones de la Ley de Seguridad Digital, que regula cómo las plataformas moderan el contenido. Por esta razón, ¡X acaba de cerrar sus oficinas en Brasil! Pero X estuvo en la mira la semana pasada por algo que comentamos en este newsletter semanas atrás: entrenó a su IA con posteos de sus usuarios. Luego, puso una opción para no participar de este entrenamiento. Meta aún no permite hacerlo si no vivís en la Comunidad Europea.
Como dice esta nota de Chequeado, y más allá del marco regulatorio, desde el Gobierno destacan factores que supuestamente nos posicionan como apetecibles:
La disponibilidad de grandes extensiones de tierra, bajas temperaturas en el sur y acceso a “cantidades de energía barata”
Capital humano
Salvo el del capital humano, son argumentos poco contundentes. El que no se dice es el que tiene más valor: la regulación laxa que tiene la Argentina.
Por otro lado, el Régimen de Incentivos para Grandes Inversiones (RIGI) aprobado el 13 de junio incluyó a las empresas de alta tecnología entre los sectores que podrán contar con incentivos fiscales, aduaneros y cambiarios por 30 años para inversiones que superen los US$ 200 millones.
Según este mapa del FMI con el índice de “preparación digital” estamos lejos lejos de ser un polo mundial, en el número 47, frente a los 77 de Estados Unidos o 70 de Francia. ¿Qué mide? Esto es lo importante: no solo la infraestructura digital de los países y el capital humano, sino también las políticas del mercado laboral, la innovación y la integración económica, y la regulación y ética.
3. ¿Qué le preguntamos a los chatbots? sexo y tareas
En una muy divertida e inquietante investigación, The Washington Post analizó casi 200.000 conversaciones en inglés del conjunto de datos de investigación WildChat (proporcionadas por el Instituto Allen de Inteligencia Artificial), que incluyen mensajes de las bases de datos públicas más grandes de interacción de humanos y robots. No es que leyeron conversaciones privadas pero el análisis es representativo. En orden del ranking, esto es lo que más se le pidió.
Narración de historias: se le pedía a la IA ayuda para escribir ficción, guiones de películas, chistes o poemas, o que participara en juegos de rol.
Contenido sexualmente explícito: si bien las herramientas de inteligencia artificial generativa tienen limitada esta conversación, a veces se hackea, los pedidos están. Más del 7% de las conversaciones analizadas son sobre sexo, incluidas las personas que piden juegos de rol picantes o imágenes picantes.
Ayudas con las tareas: Más de 1 de cada 6 conversaciones pedían ayuda con la tarea tomando al robot como tutor. Muchos otros, copiaron y pegaron preguntas de clases (generalmente en cuarentena) de multiple choice. Esto fue un problema, lo es.
Asesoramiento personal: Alrededor del 5% de las conversaciones eran personas que hacían preguntas personales, como consejos sobre cómo coquetear o qué hacer cuando la pareja de un amigo te engaña. Lo impresionante es que los usuarios compartieron mucha información personal (como nombres y apellidos) en este intercambio.
Asistente de programación: Alrededor del 7% de las conversaciones solicitaban ayuda para escribir, depurar o comprender códigos informáticos.
Otros datos lindos de la investigación son que un del 13% de los mensajes incluían la palabra “por favor” en los pedidos a la IA. Hubo gente que uso el servicio una sola vez y otra que lo uso muchísimo. Datos no tan lindos, en algunos casos, los usuarios respondían con insultos relacionados contra personas negras, homosexuales o discapacitadas.
Recomendados ✍️
El equipo: Este gran documental sobre el trabajo del Equipo Argentino de Antropología Forense (EAAF) realizado por el documentalista méxico-estadounidense Bernardo Ruiz y la productora Quiet Pictures cuenta una historia que empezó 40 años atrás, y es, con material de archivo y una década de trabajo, cómo nació y se creó el EAAF. La historia es reveladora y te pone la piel de gallina. Se estrenará en septiembre en pbs.org pero dejo esta nota de El Cohete a la Luna por aquí.
Historia de una ciudad obrera: El podcast HistoriAr, creado y producido por la Asociación Argentina de Investigadores en Historia (AsAIH), cuenta en cada episodio una historia local o mundial. El último capitulo trata de la ciudad obrera, la de Berisso, en base al libro de Mirta Lobato y Daniel James sobre su libro Paisajes del pasado.
Wicked Little Letters: Esta peli -disponible en Netflix- está basada en hechos reales, es interpretada por Olivia Colman y transcurre en 1920. Te tiré tres datos bellos para verla pero además, la trama es muy buena y tiene que ver con cartas anónimas insultantes.
Google Trends toma 2: La actualización del buscador de tendencias en tiempo real es más que bienvenida. La función Trending Now (Tendencias Actuales) se actualizó con un panel que actualiza los patrones de audiencia en tiempo real cada 10 minutos y le da profundidad a los gráficos con tendencias locales. Detecta 10 veces más tendencias en 100 países.
Este boletín cuenta con el apoyo de BCA
Publican a la venta un acceso a una cuenta de email oficial del gobierno de Mendoza con acceso al sistema KODEX, que permite ver y enviar solicitudes policiales para consultar información de dominios e IPs.
Publican a la venta un acceso a una cuenta de email oficial que permite acceder al panel de solicitudes policiales de TikTok.
En Uruguay se publicó una vulnerabilidad XSS en el sitio web del Partido Nacional. El actor de amenazas demostró su uso amenazando a una parlamentaria de dicho partido.
Se colocó a la venta un lote de datos de Desarrollo del Sur.
BCA es una empresa que provee servicios de inteligencia y monitoreo de amenazas, detección temprana de ransomware y filtraciones en Argentina y Uruguay. Más información en bca.ltd 
Este boletín es semanal y gratuito, pero cada vez son más los que se suman al modo suscripción ♥️. Gracias Epifanio por ello y Gladys por la colaboración.
Maneras de apoyar el trabajo independiente ☕️
Muy completo, como siempre.
¡Gracias, Irina!
No se si ya lo contaste en otro envío, pero te pregunto. Usas alguna IA para el día a día de laburo? O tenés alguna referencia para recomendar?