Deepfakes y conejos saltarines 🐇
Deepfakes, falsos conejos que saltan y legislación biométrica
¡Muy buenos días! ¡Los extrañé! Esto de desarrollar un vínculo afectivo con una comunidad es más sano que con una IA ♥️.
🧠 El sábado pasado di mi primera Masterclass de IA y fue un éxito. Eramos más de 40 personas, aprendí mucho y quedé entusiasmada para la próxima que será el martes 18 de agosto de 17 a 20 horas. Hay promos por esta semana y aún están todas las plazas vacantes. Los invito a ser parte aquí.
También estuve de visita en Blender y en el streaming Love hablando de IA.
Pero, entre nos, qué placer tener este lugar. Lo digo por ustedes y por mi. Estoy pensando más formas de agradecerlse suscribirse y apoyar el news y fomentar la comunidad con contenido extra y/o entrevistas exclusivas. ¿Qué les parece?
Tanta información -y desinformación- sobre IA nos genera una ansiedad innecesaria e incorrecta. Lo cuento en mis clases: no considero que nos vayamos a quedar sin trabajo ni que venga una IA a comernos vivos. Pero tenemos que entender qué vale la pena y qué no. Por eso, este newsletter, cursos “seguros” que no se guíen por el marketing y periodistas de confianza. Los leo :)
Basta de cháchara. Hoy vamos a ver:
Publicidades de salud falsas
Proyectos de ley para proteger nuestra identidad
Los conejos saltarines hechos con IA
Qué sabe Google de nosotros 👀
🕣 Este boletín tiene 1500 palabras y lleva 7 minutos de lectura
☕️ Si querés apoyar a LadoBNews a ser sustentable, podés susribirte aquí.
1. El doctor deepfake 👨⚕️
Me manda una amiga este video de una recomendación del doctor Daniel López Rosetti, claramente hecho con deepfake para mi ojo algo entrenado, para mucha otra gente y para otra, no.
Señales de truchada:
La página que la comparte, un usuario claramente hecho para estafar
El texto malísimo del copy, como se llama a la descripción
El texto que dice el deepfake
Los labios desincronizados
La voz robótica
No es nuevo el video pero sigue recirculando, ya Chequeado había dado cuenta de él en esta nota.
Sin embargo, cada vez más personas están siendo clonadas recomendando cosas. ¿Por qué caemos? A veces son peligrosas y perjudiciales para la salud, y otras, son solo basura de internet.
2. Dinamarca, con mi cara no.
Así como existen técnicas, mecanismos y herramientas para identificar qué es un deepfake, también existe la ingeniería inversa: cómo podemos copiar lo mejor posible los rasgos y gestos de una persona para clonarla y hacerle un buen deepfake. Esta técnica se llama video profiling y permite comprender cómo habla, se mueve y se expresa para buscar señales de confianza en cada persona. El perfilado de video también analiza el entorno, la ropa, el fondo y la iluminación de una persona hablando con el fin de crear una imitación creíble.
Un mes atrás, el gobierno de Dinamarca presentó un proyecto de ley liderado por el ministro de cultura Jakob Engel-Schmidt para combatir los deepfakes y proteger los derechos de autor sobre la identidad digital. Desde su presentación, el proyecto permanece en consulta pública y busca otorgar a los ciudadanos daneses derechos similares a los de autor sobre su propia imagen, voz y cuerpo. Es decir, que nuestros rasgos biométricos sean elementos en propiedad intelectual protegidos por ley.
La propuesta surge ante la creciente ola de videos falsos y su impacto en la reputación de las personas y la democracia. Esta ley convertiría a Dinamarca en el primer país europeo que reconoce la identidad personal como un bien protegido por derechos de autor frente a la IA, no solo como una cuestión de privacidad: “Los seres humanos pueden ser pasados por la fotocopiadora digital y ser utilizados indebidamente para todo tipo de propósitos y no estoy dispuesto a aceptarlo” dijo Engel-Schmidt en la presentación del proyecto y agregó: "Estamos enviando un mensaje inequívoco de que toda persona tiene derecho a su propio cuerpo, voz y facciones, lo que claramente la ley actual no protege frente a la IA generativa”.
📌 Más información aquí.
Por otro lado, en Estados Unidos, proponen iniciativas privadas como las de Metaphysic para que sea posible registrar versiones de uno mismo generadas por IA. Es una paradoja la propuesta pues se busca proteger el clon artificial bajo la DMCA pero no es posible proteger rostros reales.
3. Los falsos conejos saltarines de IA 🐰
Las cámaras de seguridad y los celulares nos fueron dando momentos memorables y de verdad. Pero lamentablemente, desde el canguro de asistencia intentando subir al avión, se nos quebró para siempre el sorprendernos por culpa de la IA. Igual lo amo. La ternura de los animales, que ya de por sí es asombrosa, pero ahora puede ser falsa.
Y esta semana el contenido viral más “creído” fue el de los conejos u osos saltando en una cama elástica".
El video, adonde aparecen 6 conejos y terminan 5, es claramente hecho con IA (por eso se fusionan) y es usado para bait, para que la gente comente si es IA o no o para que le gente diga “que tierno”.
Como estos, hay miles, en joda, espectaculares, realistas y todo un boom. Ahora, todo mi algoritmo está plagado de cámaras nocturnas que “pescan” animales de IA saltando en la cama elástica (salta-salta).
Este oso también se cae. ¿Cómo sabemos que es IA? La cama elástica se autorepara. ¿Pueden creer que salió en la tele como un viral real? (si).
Este de los conejos y osos es mi preferido. Los comentarios, ¡también! “Es real fue en el patio trasero de la casa de mi tía”.
Este de los miles de conejos espectacular.
La tendencia de los animales saltando comenzó antes de la IA generativa, en 2010, con videos reales que causan asombro justamente por ser situaciones de verdad.
En 2018, en Nueva Zelanda, se filmó a esta oveja saltando de verdad. Link.
En 2022, dos zorros también descubren lo divertido que es saltar allí. Link.
En 2022, también, un oso jugando -de verdad- en una cama elástica. Link. Más osos reales aquí.
Aquí le pedí a Veo3 que hiciera cuatro perros cocker saltando en una cama elástica. Y esta fue el resultado. Se ve VEO 3 abajo a la izquierda, pero es sumamente real.
4. Deepfake: en Google hablaban de vos
¿Qué sabe google de nosotros? La página TheySeeYourPhotos.com es un experimento creado por Ente, una startup liderada por el ex‑ingeniero de Google,Vishnu Mohandas. Si bien los resultados son bastante genéricos creo que su objetivo está cumplido. ¿Qué buscan? mostrar, de forma práctica y didáctica, cuánta información puede extraer la inteligencia artificial de Google a partir de una foto.
El funcionamiento es simple: subís tu foto, esta se envía al API de Google Vision y te devuelve el análisis detallado en base a lo que puede inferir y detallar según cada foto. Por ejemplo, objetos, emociones, modelo de reloj, hora del día, hasta inferencias sobre la clase social.
Su política de privacidad indica que este análisis es legal porque no se retiene la información ni las imagenes una vez procesadas. Lo que hace es enviarlas a Google a través de Cloudflare, recibir la descripción y luego descartarlas del servidor. De todos modos, siempre queda algo almacenado en la web. “Sin embargo, si terceros como Google, OpenStreetMap, Sentry o PostHog conservan datos, los usuarios pueden tener derechos sobre ellos según sus respectivas políticas de privacidad” dicen en su apartado de seguridad.
📌 Les propongo probarlo aquí por sus propios medios.
Recomendados ✍️
Streaming Oasis Submarinos: Hasta el 10 de agosto se podrá ver en vivo el fabuloso “streaming” o transmisión en vivo de la expedición del Schmidt Ocean junto con CONICET que, desde el 23 de julio, están realizando como parte de la expedición Oasis Submarinos del Cañón de Mar del Plata: Talud Continental IV. Un éxito sin igual.
Detectai.live: Es una de las tantas opciones para verificar si una imagen es real o no. En general, no es infalible o falla, pero es una nueva herramienta experimental que nos ayuda a chequear. Sobre todo si te creíste que los osos o los conejitos saltando en la cama elástica eran reales 🙃.
Qué peli se hizo en cada lugar del mundo. Este espectacular sitio se llama StoryTerra y nos presenta un mapa mundial lleno de data sobre películas de cada país. Solo tenemos que posicionar el mouse en el punto del mapa que querramos y allí accederemos a la propuesta fílmica de cada lugarcito del mundo. El sitio es nuevo,
Este newsletter es auspiciado por BCA LTD, flamantes sponsors de la Malware Village de DEF CON, la conferencia de hacking más importante del mundo con una charla sobre malware norcoreano 🇰🇵.
No solo auspician LadoBNews, sino que también lo harán con uno de los eventos de seguridad más grandes de la Argentina. Pueden actualizarse con sus filtraciones en su newsletter semanal MeFiltraron 🔐.
Que flash lo de see your photos! Si bien no le pegó a tanto, imagino que a partir de una foto es muy general y cuando unis toda la información se afina. Lo que más me sorprendió es ver los productos que sugiere vender. Muy bueno para saber cómo funciona el sistema.
Irina, hace poco leía respecto de lo que puedes llegar a sentir con una historia de ficción, y es que aunque sepas que es falso, si los sentimientos que te generan son verdaderos, pues eso... Que aunque sepas que sean cosas creadas con IA, igual los puedes amar.