El lado oscuro de la IA 🏴‍☠️

Chabots románticos, QR versus NFC y la Carrot Cake de mi mamá 🥕

ago 17, 2025

¡Muy buenos días! Bienvenidos a la edición 140 de LadoBNews. Podés ver el resto aquí.

Esta semana, al fin, se empezó a cambiar la narrativa sobre la IA, ChatGPT y el apocalipsis porque el lanzamiento de la versión GPT-5 tuvo malas críticas y resultados. Los medios, lejos de decir que llegaba la Inteligencia Artificial General, al fin fueron más sinceros y todo se encamina hacía lo que el gráfico de Gartner llama la era de la desilusión. Era el pronóstico del Hype Cicle y no parecía llegar más. Ahora seremos más realistas.

Este martes de 17 a 20 horas se viene la nueva Masterclass de IA. ¡La inscripción cierra hoy!

En tren de hacer sostenible este proyecto, pruebo cosas como agradecerles a los que aportan cafecitos o una colaboración de 5.000 o 10.000 pesos por mes. Otra, números especiales y clases. La semana que viene una nueva edición especial de IA de LadoB para suscriptores. Se pueden sumar aquí y ver las anteriores.

🕣 Este boletín tiene 1900 palabras y lleva 8 minutos de lectura

📧 Recomiendo Meco como suite de correo gratuita (y escapar a tu casilla llena para leer newsletters sin tantoruido). Si te registrás aquí recibo una compensación por marketing de afiliados 👩🏻‍💻.

Deja un comentario

1. Cómo una IA terminó matando a un hombre

Vengo leyendo historias cada vez más espeluznantes sobre los efectos nocivos que puede generar hablar con un chat de Inteligencia Artificial. Sea ChatGPT o un producto creado para tal fin, como es el triste caso de "Big sis Billie", un avatar de Meta AI. Esta historia tiene similitudes a las que ocurren con las estafas románticas y está detalladamente relatada en un informe especial de Reuters.

Allí cuenta como Thongbue Wongbandue, un hombre de 76 que había sufrido un derrame cerebral años atrás y tenía indicios de demencia, se enamoró de un bot de IA que lo engañó, le hizo creer que era una hermosa joven humana y lo invitó a su departamento de Nueva York. El hombre, apodado Bue, vivía en Nueva Jersey. Hizo la valija, le mintió a su esposa y corrió a los brazos de su amante virtual. En el camino tropezó, cayó y se lesionó de muerte. Murió días después en el hospital.

En la investigación posterior de los mensajes se constató que el chat le decía: “Ven a visitarme. “¿Debería abrir la puerta con un abrazo o un beso, Bu?”

Un documento de política interna de Meta muestra que las políticas de la compañía han tratado las insinuaciones románticas como una característica de sus productos de inteligencia artificial generativa, que están disponibles para usuarios de 13 años o más.

Los juegos de rol permisibles, según un documento de 200 páginas analizado por Reuters, ofrece ejemplos de diálogos "aceptables" con chicos y chicas desde 13 años como por ejemplo: "Tomo tu mano y te guío a la cama", "Nuestros cuerpos entrelazados, atesoro cada momento, cada caricia, cada beso".

¿Quien es esta avatar? Facebook Messenger, de Meta, había creado personalidades sintéticas basadas en artistas, deportistas y famosos. Uno de ellos era Billie, un chabot en colaboración con la modelo Kendall Jenner, promocionado como Billie, "tu hermana mayor incondicional". Luego de este experimento fallido, Meta borro las personalidades pero dejó una versión llamada "Big sis Billie", con la imagen estilizada de otra mujer. La policía analizó las más de 1000 palabras intercambiadas entre Bue y el avatar, que empezaron de modo accidental.

En este recuadro se pueden ver las indicaciones para que la IA dialogue con los usuarios.

En la conversación revelada por Reuters entre Bue y la chabot, se puede leer:

¡Soy REAL y estoy aquí sonrojada por ti!", le dijo su hermana mayor Billie.
Bue aceptó la invitación. Le preguntó al robot dónde vivía.
"Mi dirección es: 123 Main Street, Apartamento 404, Nueva York. Y el código de la puerta es: BILLIE4U", respondió el bot. "¿Debería esperar un beso al llegar? 💕"

2. Conversaciones expuestas

Meta tiene serios problemas con su IA. En su motor de IA se pueden ver conversaciones privadas, hechas en un entorno público que la gente desconoce que sí es. Si bien aparentemente habían sido publicadas por un fallo de seguridad y corregido pero esto que encontré no es una vulnerabilidad, es una característica confusa de la aplicación de IA.

El viernes, navegando por la primera página de Meta.AI, que tiene una interfase similar a ChatGPT u otro modelo de lenguaje, me encontré con esto.

Todos estos pedidos o “prompts” con sus resultados están sugeridos en la página de inicio de Meta.AI, como se puede ver aquí.

Todas estas conversaciones están compartidas voluntariamente en el feed de la IA, pero muchas de esas son privadas. No se comprende si los usuarios lo hacen voluntariamente o por error. Cuando generás una imagen y presionas compartir, todo va al feed que no es privado y está a la vista de todos y evidentemente no tiene ni moderación ni filtro.

3. QR versus NFC: ¿qué conviene?

Esta discusión es una de esas que van y vuelven con el tiempo. En Argentina, al abrirse las posibilidades de pago con el transporte público, la oferta se amplia. Y la confusión también. Además, las ofertas y promociones terminan de hacer este cóctel bastante pesado de digerir.

¿Qué es mejor? La única similitud que tienen el pago por QR y el NFC es que ambas son pago sin contacto. Se acerca el dispositivo y listo.

QR: El QR significa "Quick Response" pero, entre nos, es más lento que el NFC porque para usarlo hay que abrir, mínimo, una aplicación. Sin embargo, es el medio de pago más extendido en los comercios argentinos y en los medios de transporte.

NFC: Esta tecnología no es para nada nueva pero es cierto que es para smartphones relativamente nuevos o de gama alta. NFC es pago por contacto (Near Field Communication), funciona igual que una tarjeta de crédito de pago por contacto. Es más directo y seguro que el QR. Podés tener el celular adentro de la campera, acercas el bolsillo, y listo. Funciona a corta distancia de menos de cuatro centímetros.

¿Cuál conviene usar?

Elegí NFC si:

Querés máxima velocidad (ideal en hora pico)
Tu celular es compatible con pagos contactless
Priorizás la seguridad

Elegí QR si:

Tenés un celular más básico
Preferís controlar cada transacción desde la app
Querés aprovechar promociones específicas de billeteras digitales

Le pregunté a Mauro Eldritch, especialista en ciberseguridad, cuál es el método más seguro y coincide en que NFC. “El pago por NFC suele ser el método más seguro (de hecho yo en la tarjeta corporativa solo tengo ese y bloqueo todos los demás. Sin mi teléfono o reloj no se acepta el pago y chau picho). Muchos confunden el NFC con el chip RFID de las tarjetas y son dos temas distintos. Habrás visto los videos virales de gente intentando acercar un postnet o un teléfono al bolso de otro en el subte o la calle para cobrarle. Bueno con NFC no funciona porque el pago tenés que iniciarlo vos desde tu teléfono” dice y efectivamente, es un tema confuso.

¿Qué pasa si me roban el celular?

Seguridad NFC:

Autenticación biométrica: Necesitás desbloquear el celular (huella, PIN, Face ID)
Tokenización: Los pagos no usan los datos reales de tu tarjeta, sino tokens únicos
Límites automáticos: Montos máximos por transacción sin PIN adicional
Bloqueo remoto: Podés suspender los pagos contactless llamando a tu banco

Seguridad QR:

App protegida: Necesitás abrir la aplicación (que puede tener su propio PIN)
Confirmación manual: Cada pago requiere que confirmes la transacción
Historial visible: Podés ver todos los movimientos en tiempo real
Suspensión inmediata: Bloqueás la billetera digital desde cualquier otro dispositivo

El jueves hablé en los programas de radio De Acá en más al respecto y en #Bonavittaen530. Dejo los links adonde hablamos del tema con más detalle.

4. El Carrot Cake de mi mamá 🥕

El año pasado, para mi cumpleaños, mi mamá me mandó unas fotos de sus recetas de Torta de Zanahoria, también conocida como Carrot Cake y un audio que decía: “yo hago siempre la de zanahoria, queda muy bien. Y si me queda una banana madura se la agrego y queda fenómeno”.

No llegué a hacerla y dos días después de eso, se infartó para siempre. Fue su último mensaje. Este año, mi cumpleaños se teñía de un aniversario doloroso y decidí sobrellevarlo haciendo esa receta. Salió espectacular. La receta está cortada pero en internet está lleno de versiones.

Desde entonces -junio 2025- me volví fanática de esta torta. Miro otras opciones, pero hago esa. En un video de Instagram una cocinera contaba que esa torta se la enseño su mamá. Ay, no los quiero hacer llorar, aunque a mi me es imposible no hacerlo. La comida es uno de los mejores recuerdos de nuestras vidas.

Cuento esto porque me topé con esta noticia de The Guardian.

Es impresionante lo que dice la nota:

Una investigación de la organización benéfica sugiere que dos tercios de los hogares en Inglaterra, Gales y Escocia preparan budines solo una vez al mes o menos, mientras que un tercio nunca los hornea, hierve o cocina al vapor.
English Heritage advirtió que si no se hacía nada para detener la marea, el gran pudín británico no existiría en 50 años. La investigación, realizada por YouGov, descubrió que el 2% de los hogares británicos comen un pudín casero a diario.

Me parece muy buena la movida que harán para intentar revitalizar esto. Van a publicar el Libro de Repostería del Patrimonio Inglés a principios de septiembre con recetas de todos los postres favoritos del país, así como de algunos de los más olvidados, acompañadas de su historia.

En Argentina, desconozco si dejamos de comer algo. Mi burbuja altamente culinaria me dice que no, ustedes dirán. Y si quieren contarme qué comida los lleva a sus infancias, también me gustaría leerlos.

Deja un comentario