¿Nos escuchan? ¿Nos espían?

Meta AI, celulares y la Unidad de Inteligencia Artificial del gobierno argentino

ago 04, 2024

Muy buenos días. ¿Estamos paranoicos o algo de razón tenemos? ¿Nos espían? ¿Nos escuchan? Pasamos desde tener la sensación de que el celular nos oye a leer un comunicado en el boletín oficial adonde se detalla cómo, en este caso el gobierno argentino, tendrá la potestad de analizar todos nuestros movimientos virtuales -y los otros también-.

Descartando la posibilidad de que esto ya podía ocurrir sin ninguna reglamentación que lo formalice, ahora sabemos que estaremos bajo el escrutinio de las fuerzas de seguridad.

Ayer cuando ya casi había terminado de escribir el news Jimena Barón escribió este tuit y el que lea el newsletter completo entenderá.

Gracias, querida Jimena por plantearlo. La respuesta a ella y a la mayoría de los que argumentan que el celular nos escucha o lee la mente tiene que ver con la ilusión de frecuencia: el fenómeno que hace que veas algo por todas partes después de haber hablado sobre ello. Es un atajo mental.

Si estás embarazada, vez embarazadas. Si querés un auto rojo, ves autos rojos.

Esto también tiene que ver con el sesgo de confirmación y es una trampa del cerebro para poder explicar un hecho selectivo.

Hoy hablaremos de esto pues hay muchas preguntas y algunas respuestas:

Denuncian en Argentina a Meta por el uso de los datos de META IA.
El sesgo de confirmación y la “certeza” de que los celulares nos escuchan
Qué es la Unidad de Inteligencia Artificial para prevenir delitos

🕣 Este boletín tiene 1800 palabras y lleva 9 minutos de lectura

1. Argentina denuncia a META por la privacidad

Argentina no tiene ninguna ley de inteligencia artificial pero sí tiene una Ley de Datos Personales 25.326 cuya actualización está en pausa desde hace tiempo. Esta semana, a raíz del lanzamiento en 22 países del asistente META AI que irrumpió sin consentimiento en nuestros WhatsApp y chats de Facebook e Instagram, los abogados Facundo Malaureille y Daniel Monastersky presentaron una denuncia ante la Agencia de Acceso a la Información Pública (AAIP). La razón: el uso de los datos personales en el entrenamiento de la inteligencia artificial. Algo que cubrí el domingo pasado aquí.

La presentación, según detalla el periodista Sebastián Davidovsky en esta nota de La Nación, está compuesta por 22 puntos y exige a Meta Argentina explicaciones sobre sus prácticas de recolección y uso de datos personales para entrenar a la IA. Lo interesante de la denuncia es que solicita información sobre la actualización de la política de privacidad de la plataforma y pide evidencia del consentimiento de los usuarios. Y esto no pasó. Y también, la respuesta a la famosa pregunta ¿cómo saco META IA de mi WhatsApp? Exigen explicaciones técnicas sobre los procesos de anonimización de datos y garantías de su irreversibilidad.

De ninguna la manera la denuncia es porque nos escuchan. Es por algo comprobable y es que no hay información ni herramientas para los usuarios argentinos con respecto a nuestros datos personales y es de vital importancia.

2. Sesgo de confirmación: ¿nos escuchan o me parece?

Esta semana estuve en el programa de Felicitas hablando de tecnología, IA y de todo un poco. Una muy linda charla que pueden ver aquí. También estuve en el programa de María O'Donnell hablando de Meta AI. En ambos casos, surgieron cuestionamientos sobre si Meta AI lee nuestros mensajes y, ya que estamos, si el celular nos escucha.

En las redes, luego, se repite la misma discusión: ¡obvio que nos escuchan! Comentaron: “vos pensás” (yo no pienso, informo en base a fuentes) y “te cuento una anécdota personal”, “a mi me pasó”, etc.

Es un tema complejo pero en primer lugar tiene que ver con el sesgo de confirmación: yo creo esto y lo puedo comprobar en base a mi experiencia personal. ¿Cuánta gente cree esto? Las encuestas sobre este tema muestran que un 43% de los usuarios de celulares lo creen.

Sin ir más lejos, acaba de salir una publicación de Nieman Lab que es más probable que creas en las noticias falsas compartidas por alguien que apenas conocés que por tu mejor amigo. Tiene que ver con la fuerza de los lazos débiles y con el sesgo de confirmación y el sesgo de observación selectivo, entre otros.

¿El teléfono nos escucha? Los expertos afirman que se trata de un mito urbano moderno. Más allá de que técnicamente sea posible, no es viable a gran escala.

Si hablamos en base a fuentes, hay mucha bibliografía sobre el tema y ninguna pudo comprobar esto.

Aquí un experimento de Nord VPM y la explicación

Aquí el experimento de la empresa de ciberseguridad Wandera

Lo que sí está comprobado es que existe la "publicidad conductual" y el marketing dirigido. Cada uno de nosotros tenemos un perfil sobre nuestra actividad en internet que es una mezcla de información que damos voluntariamente y que aporta nuestro celular cuando lo usamos.

Un estudio de la Fundación Panoptykon publicado por el Financial Times demuestra cómo Facebook utiliza algoritmos para ofrecer anuncios personalizados que pueden explotar las vulnerabilidades mentales de los usuarios.

Si es cierto que hubo casos de espionaje de audio, como el de Alexa años atrás. Que los celulares tienen la capacidad de escuchar. Y también, de conocer mucho de nosotros por nuestra actividad en línea, por nuestra geolocalización, por nuestras búsquedas en navegadores y por las cookies.

Los gobiernos, también tienen esa capacidad. Por eso son importantísimas las regulaciones y, por eso, en Europa acaban de acusar a META de violar las reglas al ofrecer a sus usuarios dos opciones: “Pago o consentimiento” para elegir si la empresa usa o no sus datos privados para mostrar anuncios personalizados en Facebook e Instagram.

Que nos escuchan, hasta que la justicia demuestre lo contrario, es un mito urbano.

3. La propuesta de la Unidad de Ciberpatrullaje del gobierno

Esta semana el gobierno argentino publicó, en el Boletín Oficial, el decreto 710/2024. Si lo leés, de no entender qué es lo que específicamente van a hacer, te pasa a dar un poco de miedo. La información es mucha por lo que intentaré ser lo más sintética posible. Se creará la Unidad de Inteligencia Artificial Aplicada a la Seguridad (UIAAS). El objetivo:

Patrullar redes sociales abiertas, aplicaciones, sitios web y la dark web para identificar delitos y a sus autores, o situaciones que sean de riesgo para la seguridad pública
Analizar actividades en redes sociales para detectar potenciales amenazas, identificar movimientos de grupos delictivos y prever disturbios

Como detalla Juan Brodersen en su newsletter, se ocupará de seguir de cerca “transacciones sospechosas”, usará “robots para inutilizar o detonar artefactos sospechosos”, trabajará con reconocimiento de imágenes, intentará identificar “malware y phishing”, procesará “grandes volúmenes de datos” y vigilará con drones “áreas extensas para proporcionar vigilancia”.

¿Y cómo hará todo esto? Con “Inteligencia Artificial”. Lo pongo entre comillas porque no sabemos cómo ni de qué manera.

El especialista en ciberseguridad Fernando Corvalán cuenta a este news que de esta unidad no se sabe nada. “Es más, en lo que dice la resolución, nada se hace con IA sino con otras herramientas (Estadísticas, deep learning, patrones, Big data) que se pueden complementar con IA pero no es necesario”. También indica que se apoyan en una resolución anterior para darle algo de marco, pero es abusiva en cuanto a derechos (privacidad, expresión, etc). Tampoco dicen donde y como van a guardar todo lo que recolecten en ese patrullaje, y quien va a acceder a eso, ya que un hackeo a ese repositorio tendría más impacto que el de RENAPER.

¿Es legal? ¿Es peligroso?

Según Rodrigo Iglesias, abogado especialista en derecho informático, esta resolución colisiona contra una ley nacional. Por un lado, patrullar las redes sociales, correos, aplicaciones, es decir, leer mensajes sin que medie una orden judicial o una ley que así lo permita (una resolución del Ministerio de Seguridad se encuentra por debajo de una ley) es peligroso. Lo mismo sucede con el análisis de las cámaras de seguridad en tiempo real, sistemas con sesgos y que incurren en la invasión de la privacidad de las personas.

“La interceptación de comunicaciones está tipificada en los distintos Códigos Procesales Penales y requiere de anuencia del sistema judicial” indica a LadoBNews Iglesias y dice que la resolución implementa “Inteligencia Artificial” y “no es menor que la ley Nacional de Inteligencia sea emanada desde el Congreso Nacional y por ello la inclusión de herramientas de Inteligencia sea llevada adelante por el Congreso, incluyendo a la Inteligencia Artificial, dado que al final del día no es más que una herramienta para efectivamente realizar tareas de Inteligencia”.

Agrega que la modificación mediante decreto de la AFI esta mal, debería pasar por el Congreso Nacional, que la Resolución del Ministerio de Seguridad aún no cuenta con la respectiva reglamentación y estos horrores legales dejan a lugar la inconstitucionalidad de la Resolución: “la finalidad de la Resolución se encuentra viciada de nulidad absoluta”. También es contraria a los artículos 18 (debido proceso) 19 (intimidad) 75 inciso 22 (pactos internacionales con jerarquía Constitucional. “De ello, el tratado Universal de Derechos Humanos, Tratado de Derechos Civiles y Políticos, son algunos de los motivos por los cuales Argentina tiene grandes posibilidades de ser sancionada porque la Resolución no cumple con los requisitos legales que amerita un tratamiento serio”.