Deepfakes en la escuela

El nuevo Worldcoin y por qué la UNQ cierra inscripciones a carreras informáticas

oct 20, 2024

Muy buenos días. En Argentina, es el día de la madre. Un saludo enorme a todas ellas y uno especial para la mía que ya no está 💜.

Se cumplieron 20 años de que Leo Messi ingresara al Barça, 20 años de leyenda y los medios españoles están de fiesta. No se pierdan el interactivo que hizo RTVE.

En la Ciudad de Buenos Aires, se avanzó con la adjudicación de la SUBE. Y MercadoPago resultó adjudicada por Emova, la empresa concesionaria del subte, para cobrar con código QR por el Gobierno de la ciudad de Buenos Aires. Pero para que esto sea posible, deberá compartir la documentación de acceso al sistema a todas las billeteras que quieran participar de él. Y todo esto generó molestia en sus competidores porque MercadoPago tendrá un doble rol: adquiriente y billetera. Esto puede generar un problema, como ya se vio en la Guerra de los bancos, de tiempo, forma y transparencia. El estándar que se usará es diferente al QR los comercios y no está regulado por el BCRA. Habrá que ver como sigue, por lo pronto, Emova ya comenzó la instalación de una primera tanda de 600 máquinas validadoras para que en diciembre haya al menos un molinete en el que se pueda pagar con tarjetas, celulares o QR, en paralelo a existentes.

Hoy iremos esos grandes temas de estos últimos días son problemas mundiales:

La Universidad Nacional de Quilmes anunció que no abrirá inscripciones en sus carreras informáticas para el 2025.
Worldcoin cambia de nombre y venderá escaneos por Rappi 👀
La venta de fotos generadas con IA a través de canales de Telegram o Discord

🕣 Este newsletter tiene 2400 palabras y lleva 12 minutos de lectura

1. La UNQ suspende la inscripción de nuevos/as estudiantes a las carreras informáticas

Esta semana la Universidad Nacional de Quilmes emitió un comunicado que, al menos a mi, me puso la piel de gallina. Y es que debido a la emergencia presupuestaria no inscribirá nuevos/as estudiantes a las carreras de Tecnicatura Universitaria en Programación Informática (TUPI) y Licenciatura en Informática (LI), hasta nuevo aviso.

Le pregunté a la dirección de la carrera más detalles sobre la situación. “Esas dos carreras son presenciales y tienen muy alta demanda. Para sumar estudiantes (nuevos ingresantes) se necesita inversión en infraestructura y hardware” informaron a este newsletter desde la casa de altos estudios. Es que las carreras relacionadas con la informática tuvieron un pico de inscriptos altísimo en los últimos años.

Este año, entre ambas carreras, suman 5505 estudiantes activos.
Solo durante el 2023 se inscribieron 1700 estudiantes nuevos a ambas.

Las carreras son relativamente nuevas y son una oportunidad para quienes quieren insertarse en una de las profesiones más demandadas de la actualidad.

La Tecnicatura en Programación Informática se creó en 2007 y en 2011 fue el turno de la Licenciatura en Sistemas.

Ambas propuestas académicas del área informática han tenido un crecimiento exponencial. En años previos, las exigencias planteadas por el desarrollo de estas carreras en progreso fueron atendidas con apoyo del Estado Nacional y con el compromiso de recursos propios. La situación presupuestaria que el actual gobierno plantea para el 2025 ve imposibilitada la inversión en tecnología indispensable para el dictado de clases a más estudiantes, como así también restringida la posibilidad de contratos o ampliaciones de la planta docente. Adicionalmente, el deterioro salarial que sufre la docencia universitaria hace cada vez más difícil sostener el plantel de profesores/as de estas especialidades.
En la medida de sus posibilidades, la UNQ seguirá ofreciendo, además, propuestas de formación profesional cortas vinculadas a oficios tecnológicos, en el marco de Quilmes TEC. La apertura de estos cursos será comunicada oportunamente por los canales institucionales.

Las otras carreras no tienen ninguna modificación. Este año la inversión nacional en educación cayó un 40% este año en comparación con 2023 y los salarios de los docentes sufrieron una pérdida de hasta el 60% del nivel adquisitivo.

2. Worldcoin ahora es World a secas: un pasaporte humano

En un evento celebrado en San Francisco, la empresa de Sam Altman anunció su cambio de nombre. Fue en el marco del lanzamiento de sus orbes de escaneo de próxima generación y fue a todo trapo.

Si creés que te hablo en otro idioma, quizás viste en las noticias -o en el news- esas esferas metálicas enormes que escaneaban los iris de los ojos de los chicos y chicas en diferentes puntos de las ciudades a cambio de criptomomenedas. Y esto generó diferentes problemas en todo el mundo: ¿qué es esta empresa que viene a capturar un rasgo biométrico de la gente a cambio de plata?

Una manera de verificar tu humanidad a través de tu autenticación con el iris, dicen. La aplicación, que ahora se llama World, ya tiene casi 7 millones de iris escaneados en 160 países. En Argentina, 2.262.283 de personas lo hicieron: ¡Una de cada tres! según informa esta nota de Clarin.

¿Cuánto sale tu iris? Cada token hoy vale 2,4 dólares pero es un valor variable. En Argentina, a cambio de el escaneo, cada persona se llegó a llevar 50 dólares a cambio. Se armó un mercado de “revendedores” de criptos de la empresa. Un mercado negro del escaneo de iris, como cuenta Lucía Cholakian Herrera en esta nota.

¿Cómo funciona? Los datos biométricos, que se utilizan para crear una cadena única de números que corresponde a una persona real, se borran y se guardan en los dispositivos de cada persona.

Al evento de presentación mundial viajaron varios colegas. Un hallazgo de Sebastián Davidosvksy fue cruzárselo y preguntarle cuándo viene a la argentina: “En el verano, en diciembre”, le confirmó Sam Altman, que además es el dueño de Open AI (Chat GPT).

Es tan interesante todo esto porque anunciaron, allí mismo, inversiones en la argentina. Igual lo sabíamos. En Mayo, el presidente de la Argentina Javier Milei, se reunió con ellos y anunciaron futuras inversiones.

Estos son los anuncios y varios nos interpelan:

Una alianza con Rappi para que lleven las orbes a tu casa y te escaneen el iris. El objetivo será trabajar de eso, comprar un orbe y escanear a tu comunidad, como explica Ricardo Sametband en esta nota.
La apertura de un local en el Abasto, Buenos Aires y otra en Mexico. Si esto les parece mucho sepan que hay hay 51 puntos de verificación a lo largo y ancho de Argentina pero van por más.
Se va a poder almacenar info de pasaportes y registro a partir de su infraestructura de blockchain de Ethereum. Argentina sería candidata a integrar esta plataforma y funcionaría con documentos que tengan chip NFC.
World ID se integrará con todas las aplicaciones de videollamadas para frenar las estafas virtuales por deepfake con una función llamada Deep Face.
La app se convertirá, también, en una billetera virtual y una plataforma de videojuegos

El orbe ya fue prohibido en Portugal y Kenia. Corea del Sur multó a la empresa y en India, Brasil y Francia suspendieron los escaneos. En España la suspendieron por violar las regulaciones de datos biométricos. En Alemania y Argentina se está investigando pero aún no hay novedades al respecto. En Malasia y Taiwan, en cambio, ya trabajan en la integración. En Estados Unidos, Tools of Humanity -el nombre de la empresa que nuclea a World) no podrá escanear ojos a cambio de monedas.

3. Venden fotos deepfake de adolescentes

El problema de las fotos retocadas con IA para “desnudar” digitalmente personas es mundial y se está volviendo inmanejable. En este newsletter pasado hablé del problemón.

Este año, Google recibió más 13.000 quejas de derechos de autor relacionadas con el contenido de los sitios web deepfake más populares. El 88 por ciento fueron sido eliminadas.

En Córdoba, un chico de 18 años vendía fotos en sitios porno con las caras y los nombres y apellidos de sus compañeras de la Escuela Superior de Comercio Manuel Belgrano (ESCMB). Se dieron cuenta porque recibían solicitudes de hombres de entre 40 y 50 años en sus redes sociales. Recibió una denuncia penal y se lo imputó por lesiones graves calificadas por violencia de género y está a la espera de juicio. En este caso, se le aplica la Ley 26.485 de Protección de la Violencia contra la Mujer que prevé este tipo de violencia digital, tanto por la publicación como por la difusión, sin consentimiento, de material digital real o editado, intimo o de desnudez.
En la localidad de San Martin, una situación similar se conoció esta semana. El caso aún está siendo investigado con la gravedad de que las fotos deepfake eran comercializadas en un grupo de Discord llamado “Colegialas” de 8.000 miembros, muchos de los cuales eran adultos que compraban esos paquetes de chicas menores de 18 años. También había un canal de Telegram y los compradores llegaban a pagar hasta 25.000 pesos por el paquete de fotos.

El supuesto responsable de crear estas fotos falsas con inteligencia artificial tiene 15 años y continúa yendo al Colegio Agustiniano. Convive en los pasillos con las 22 adolescentes afectadas, de entre 13 y 17 años y les hizo una contradenuncia a las seis que se animaron a denunciar. Reclama que le robaron el celular. Lo que se debate ahora es qué imputación aplicarle al denunciado porque las imágenes no son reales, porque no extorsionaba a las alumnas y porque se trata de un menor de edad.

En Misiones, una situación calcada ocurrió en Enero de 2024, con la diferencia que el canal de difusión no eran sitios porno ni Discord, sino grupos de WhatsApp.

La provincia de Misiones tiene un proyecto de capacitación para concientizar sobre este tipo de delitos. Se llama PROJECT IA y ya capacitaron a más de 400 chicos y chicas. Se trata de un taller presencial en el que enseñan, a través de juegos y actividades interactivas conceptos teóricos y aplicados sobre el uso seguro de Internet, la identidad digital, el ciberacoso, el bullying cibernético, el ciberstalking, deepfakes y la ética en el uso de IA.

Hablé con Federico Cristaldo, abogado e integrante de Project IA, sobre la situación particular de la provincia que tiene todo que ver sobre este tema: “Hay una realidad que también afectó muchísimo a nuestra provincia, lamentablemente atravesamos un proceso de Desafuero y posterior expulsión de la cámara de diputados provincial, de Germán Kiczka, del bloque Activar, sobre quien actualmente hay denuncias y una investigación en curso donde se le imputa de la tenencia y distribución de archivos MASI (Material de Abuso Sexual Infantil) es decir, un ex miembro de la cámara de diputados está siendo acusado de pedofilia. Hoy en día la provincia se encuentra realizando fuertes acciones para concientizar sobre el Grooming y el cuidado de la violencia sexual hacia los Niños, Niñas y Adolescentes”.

En cuanto a los proyectos de ley que todavía esperan tratamiento y sanción, está la “Ley Belén”, que incluye numerosas modificaciones al Código Penal, con la creación de seis nuevos delitos, entre ellos la obtención y difusión no consentida de material íntimo y/o de desnudez, los montajes digitales realizados con Inteligencia Artificial en imágenes y videos de pornografía (“porn deepfake”) y la extorsión con amenazas de publicación de imágenes intimas (“sextorsión”).

Según un informe de de Europol, la cantidad de imágenes sexuales de menores realizadas con IA creció un 360% pero los números crecen a pasos agigantados. Sin ir más lejos, buscando hoy por Telegram, encontré en 1 minuto este canal. Es terrible y hay peores.

Un picadito de cosas que me gustaron

Estuve en la presentación de las nuevas pantallas OLED de LG y presentaron una portátil y otra inalámbrica. Una locura.
Sebastián Davidovsky probó viajar en un auto autónomo en San Francisco y no se puede creer.
“La ciencia, la verdad y la educación son para todos, no sólo de unos pocos privilegiados”, Albert Enstein.

Este newsletter recomienda Meco, una aplicación para leer newsletters libre de distracciones, ideal para leer LadoBNews u otros boletines sin tanto ruido. Podés importar todos allí y su versión inicial es gratuita, sin letra chica. Con tu suscripción gratuita sumas ♥️

Discusión sobre este post

Por supuesto, sigue adelante.