El lado oscuro de la IA 🏴☠️
Chabots románticos, QR versus NFC y la Carrot Cake de mi mamá 🥕
¡Muy buenos días! Bienvenidos a la edición 140 de LadoBNews. Podés ver el resto aquí.
Esta semana, al fin, se empezó a cambiar la narrativa sobre la IA, ChatGPT y el apocalipsis porque el lanzamiento de la versión GPT-5 tuvo malas críticas y resultados. Los medios, lejos de decir que llegaba la Inteligencia Artificial General, al fin fueron más sinceros y todo se encamina hacía lo que el gráfico de Gartner llama la era de la desilusión. Era el pronóstico del Hype Cicle y no parecía llegar más. Ahora seremos más realistas.
Este martes de 17 a 20 horas se viene la nueva Masterclass de IA. ¡La inscripción cierra hoy!
En tren de hacer sostenible este proyecto, pruebo cosas como agradecerles a los que aportan cafecitos o una colaboración de 5.000 o 10.000 pesos por mes. Otra, números especiales y clases. La semana que viene una nueva edición especial de IA de LadoB para suscriptores. Se pueden sumar aquí y ver las anteriores.
🕣 Este boletín tiene 1900 palabras y lleva 8 minutos de lectura
📧 Recomiendo Meco como suite de correo gratuita (y escapar a tu casilla llena para leer newsletters sin tantoruido). Si te registrás aquí recibo una compensación por marketing de afiliados 👩🏻💻.
1. Cómo una IA terminó matando a un hombre
Vengo leyendo historias cada vez más espeluznantes sobre los efectos nocivos que puede generar hablar con un chat de Inteligencia Artificial. Sea ChatGPT o un producto creado para tal fin, como es el triste caso de "Big sis Billie", un avatar de Meta AI. Esta historia tiene similitudes a las que ocurren con las estafas románticas y está detalladamente relatada en un informe especial de Reuters.
Allí cuenta como Thongbue Wongbandue, un hombre de 76 que había sufrido un derrame cerebral años atrás y tenía indicios de demencia, se enamoró de un bot de IA que lo engañó, le hizo creer que era una hermosa joven humana y lo invitó a su departamento de Nueva York. El hombre, apodado Bue, vivía en Nueva Jersey. Hizo la valija, le mintió a su esposa y corrió a los brazos de su amante virtual. En el camino tropezó, cayó y se lesionó de muerte. Murió días después en el hospital.
En la investigación posterior de los mensajes se constató que el chat le decía: “Ven a visitarme. “¿Debería abrir la puerta con un abrazo o un beso, Bu?”
Un documento de política interna de Meta muestra que las políticas de la compañía han tratado las insinuaciones románticas como una característica de sus productos de inteligencia artificial generativa, que están disponibles para usuarios de 13 años o más.
Los juegos de rol permisibles, según un documento de 200 páginas analizado por Reuters, ofrece ejemplos de diálogos "aceptables" con chicos y chicas desde 13 años como por ejemplo: "Tomo tu mano y te guío a la cama", "Nuestros cuerpos entrelazados, atesoro cada momento, cada caricia, cada beso".
¿Quien es esta avatar? Facebook Messenger, de Meta, había creado personalidades sintéticas basadas en artistas, deportistas y famosos. Uno de ellos era Billie, un chabot en colaboración con la modelo Kendall Jenner, promocionado como Billie, "tu hermana mayor incondicional". Luego de este experimento fallido, Meta borro las personalidades pero dejó una versión llamada "Big sis Billie", con la imagen estilizada de otra mujer. La policía analizó las más de 1000 palabras intercambiadas entre Bue y el avatar, que empezaron de modo accidental.
En este recuadro se pueden ver las indicaciones para que la IA dialogue con los usuarios.
En la conversación revelada por Reuters entre Bue y la chabot, se puede leer:
¡Soy REAL y estoy aquí sonrojada por ti!", le dijo su hermana mayor Billie.
Bue aceptó la invitación. Le preguntó al robot dónde vivía.
"Mi dirección es: 123 Main Street, Apartamento 404, Nueva York. Y el código de la puerta es: BILLIE4U", respondió el bot. "¿Debería esperar un beso al llegar? 💕"
2. Conversaciones expuestas
Meta tiene serios problemas con su IA. En su motor de IA se pueden ver conversaciones privadas, hechas en un entorno público que la gente desconoce que sí es. Si bien aparentemente habían sido publicadas por un fallo de seguridad y corregido pero esto que encontré no es una vulnerabilidad, es una característica confusa de la aplicación de IA.
El viernes, navegando por la primera página de Meta.AI, que tiene una interfase similar a ChatGPT u otro modelo de lenguaje, me encontré con esto.
Todos estos pedidos o “prompts” con sus resultados están sugeridos en la página de inicio de Meta.AI, como se puede ver aquí.
Todas estas conversaciones están compartidas voluntariamente en el feed de la IA, pero muchas de esas son privadas. No se comprende si los usuarios lo hacen voluntariamente o por error. Cuando generás una imagen y presionas compartir, todo va al feed que no es privado y está a la vista de todos y evidentemente no tiene ni moderación ni filtro.
3. QR versus NFC: ¿qué conviene?
Esta discusión es una de esas que van y vuelven con el tiempo. En Argentina, al abrirse las posibilidades de pago con el transporte público, la oferta se amplia. Y la confusión también. Además, las ofertas y promociones terminan de hacer este cóctel bastante pesado de digerir.
¿Qué es mejor? La única similitud que tienen el pago por QR y el NFC es que ambas son pago sin contacto. Se acerca el dispositivo y listo.
QR: El QR significa "Quick Response" pero, entre nos, es más lento que el NFC porque para usarlo hay que abrir, mínimo, una aplicación. Sin embargo, es el medio de pago más extendido en los comercios argentinos y en los medios de transporte.
NFC: Esta tecnología no es para nada nueva pero es cierto que es para smartphones relativamente nuevos o de gama alta. NFC es pago por contacto (Near Field Communication), funciona igual que una tarjeta de crédito de pago por contacto. Es más directo y seguro que el QR. Podés tener el celular adentro de la campera, acercas el bolsillo, y listo. Funciona a corta distancia de menos de cuatro centímetros.
¿Cuál conviene usar?
Elegí NFC si:
Querés máxima velocidad (ideal en hora pico)
Tu celular es compatible con pagos contactless
Priorizás la seguridad
Elegí QR si:
Tenés un celular más básico
Preferís controlar cada transacción desde la app
Querés aprovechar promociones específicas de billeteras digitales
Le pregunté a Mauro Eldritch, especialista en ciberseguridad, cuál es el método más seguro y coincide en que NFC. “El pago por NFC suele ser el método más seguro (de hecho yo en la tarjeta corporativa solo tengo ese y bloqueo todos los demás. Sin mi teléfono o reloj no se acepta el pago y chau picho). Muchos confunden el NFC con el chip RFID de las tarjetas y son dos temas distintos. Habrás visto los videos virales de gente intentando acercar un postnet o un teléfono al bolso de otro en el subte o la calle para cobrarle. Bueno con NFC no funciona porque el pago tenés que iniciarlo vos desde tu teléfono” dice y efectivamente, es un tema confuso.
¿Qué pasa si me roban el celular?
Seguridad NFC:
Autenticación biométrica: Necesitás desbloquear el celular (huella, PIN, Face ID)
Tokenización: Los pagos no usan los datos reales de tu tarjeta, sino tokens únicos
Límites automáticos: Montos máximos por transacción sin PIN adicional
Bloqueo remoto: Podés suspender los pagos contactless llamando a tu banco
Seguridad QR:
App protegida: Necesitás abrir la aplicación (que puede tener su propio PIN)
Confirmación manual: Cada pago requiere que confirmes la transacción
Historial visible: Podés ver todos los movimientos en tiempo real
Suspensión inmediata: Bloqueás la billetera digital desde cualquier otro dispositivo
El jueves hablé en los programas de radio De Acá en más al respecto y en #Bonavittaen530. Dejo los links adonde hablamos del tema con más detalle.
4. El Carrot Cake de mi mamá 🥕
El año pasado, para mi cumpleaños, mi mamá me mandó unas fotos de sus recetas de Torta de Zanahoria, también conocida como Carrot Cake y un audio que decía: “yo hago siempre la de zanahoria, queda muy bien. Y si me queda una banana madura se la agrego y queda fenómeno”.
No llegué a hacerla y dos días después de eso, se infartó para siempre. Fue su último mensaje. Este año, mi cumpleaños se teñía de un aniversario doloroso y decidí sobrellevarlo haciendo esa receta. Salió espectacular. La receta está cortada pero en internet está lleno de versiones.
Desde entonces -junio 2025- me volví fanática de esta torta. Miro otras opciones, pero hago esa. En un video de Instagram una cocinera contaba que esa torta se la enseño su mamá. Ay, no los quiero hacer llorar, aunque a mi me es imposible no hacerlo. La comida es uno de los mejores recuerdos de nuestras vidas.
Cuento esto porque me topé con esta noticia de The Guardian.
Es impresionante lo que dice la nota:
Una investigación de la organización benéfica sugiere que dos tercios de los hogares en Inglaterra, Gales y Escocia preparan budines solo una vez al mes o menos, mientras que un tercio nunca los hornea, hierve o cocina al vapor.
English Heritage advirtió que si no se hacía nada para detener la marea, el gran pudín británico no existiría en 50 años. La investigación, realizada por YouGov, descubrió que el 2% de los hogares británicos comen un pudín casero a diario.
Me parece muy buena la movida que harán para intentar revitalizar esto. Van a publicar el Libro de Repostería del Patrimonio Inglés a principios de septiembre con recetas de todos los postres favoritos del país, así como de algunos de los más olvidados, acompañadas de su historia.
En Argentina, desconozco si dejamos de comer algo. Mi burbuja altamente culinaria me dice que no, ustedes dirán. Y si quieren contarme qué comida los lleva a sus infancias, también me gustaría leerlos.
Recomendados ✍️
Quiero que sepan que le dedico mucho tiempo a la selección de esta pequeña sección. Se que es valorada, es como el patito feo, está al final en forma de bullets pero siempre hay alguno de ustedes que lo destaca en las redes. Los últimos serán los primeros 🥰
MiniCDs NFC de llaveros: Vi esta hermosura en Twitter (X) rodeado de comentarios insultando el invento que a mi, me encantó. Es un pequeño CD llavero con NFC que te lleva al Spotify de la banda. Es una maravilla que, desde Indonesia, tiene envío a todo el mundo. Sale 10 dólares y obviamente, no tiene música argentina.
Bookcassette: Por si no conocían, nosotros tenemos Bookcassette, un proyecto del gran @lectordetren que ofrece libros para leer en formato casette. Con motivo del día del niño y de la niña, lanzaron Lewis Carroll. Alicia para niños y niñas, el cuento. Se puede comprar aquí.
Imagenes sin IA libres de uso: Un paraíso de enlaces y recursos para escapar a la espantosa tradición de usar imagenes generadas con IA. La recopilación es de jenn schiffer y en este hilo de Bluesky hay más cositas lindas para compartir.
BCA LTD estuvo en el Hacker Summer Camp. Desde Las Vegas, pasamos por BSides y DEF CON 33 con tres charlas que dejaron huella. En esta Edición Especial repasamos todo: inventos, malware y hasta cómo convertir Google Calendar en una herramienta de ataque.
☕️ Aquí suscripción mensual y aporte voluntario. Gracias Caro y Magalí por la colaboración 🙃.
🧠 Masterclass "IA para todos": más info aquí.
Para publicitar, charlas o capacitaciones, me escriben a isternik@gmail.com.
Me encantó la historia de la torta de zanahorias, y por supuesto lo primero que hice fue pasarle a GPT la foto para que me transcriba la receta que pienso hacer tan pronto como me sea posible. Gracias ^_^
Buenos dias.
Excelente el boletín (auque siempre digo lo mismo :) :) ..)
En este en particular vi una diferencia más notable en cuanto a la redacción de los temas. Haber agregado datos personales (sin exponer demasiado la vida privada) crea un vínculo con el lector.
No sólo uno se informa, sino que también comprende que del otro lado hay una persona que tiene una vida con las cosas que ello conlleva y que el que lee, en mayor o menor medida, tiene situaciones y sentimientos similares.
Ese toque, hace que uno al leer sienta que le estan hablando, porque el texto y redacción, por lo menos en mí caso, así me hacen interpretarlo.
Pasando al tema extrictamente tecnologíco, gran sorpresa me lleve con el RFID y NFC.
Tenía entendido que las tarjetas fisicas usaban tecnología NFC para hacer pagos. Se me había hecho la idea que el RFID era para uso del cajero automático y no para pagos sin contacto.
Tengo una billetera que "en teoría" bloquea esta tecnologia (RFID) para que no lean los datos de las tarjetas acercando teléfonos con apps para este fin.
Desconozco si funciona, pero me da seguridad :) :).
De todas formas ya no ando con tarjetas de débito y crédito en la billetera. Uso QR o NFC desde la billetera virtual.
Y por último, pero no menos importante, les comento que hice el primer curso de Masterclass que dio Irina Sternik y es muy recomendable.
Si bien ya escribi sobre este tema en otro post, no quiero dejarlo de lado. Aprovechen que es una experiencia distinta a otros cursos que he hecho.
Muy relajado, mucha información. Esta estructurado de manera que no haya interrupciones para preguntas puntuales, sino que esto se modera mediante chat y se contesta cuando llega el momento.
Particularmente me resulta muy positivo ya que soy de perder el hilo del orador por esas interrupciones.
Para cerrar, anotense y asistan a esta reunión virtual. No se van a arrepentir.
Voy a reiterar que el precio es sumamente accesible y que tiene el plus de tener de oradora a la mismísima Irina Sternik con su sapiencia y sus ganas de aprender (ya que prueba todas las apps y tecnologías que hay en el curso) y hacen un buen combo.
Bueno, aquí termino.
Saludos a todos y que tengan un excelente domingo.