META: El Robin Hood de la IA

Cómo usa los datos la IA y cómo se filtraron los datos de OCASA

jul 28, 2024

Muy buenos días. Facebook me muestra que es el cumpleaños de mi mamá, No llegué a tiempo a cambiar su cuenta a conmemorativa pero sí estoy escribiendo un especial para el news sobre legado digital, pero se torna un poco abrumador y triste.

Todo se trata de datos. Hoy nos podemos casi clonar para que una inteligencia artificial trabaje por nosotros. También es abrumador e iremos de a poco porque ¿podrán? No lo creo.

A los hechos en sí siempre se le suman teorías conspirativas así que se pone divertido separar la paja del trigo.

La inteligencia artificial de Meta ya está en nuestras manos, literal. No tenemos que instalar nada porque todos tenemos Whatsapp, o al menos 2.780 millones de usuarios en el mundo lo tienen. Lo abrimos, mínimo, 20 veces al día. Pues allí está el circulito azul, también integrado al cajón de búsqueda.

Instagram y Facebook Messenger también lo incorporaron. Así que le sumamos 1.200 millones de usuarios activos por mes y 1.000 millones de personas el mensajero de Facebook da un numerito considerable de masa que, sin consentirlo, se convirtió en usuaria de la IA.

Ah, muchas notas clickbait se titulan “Cómo desactivar la IA de META”. La respuesta: no se puede. ¡Cuánta maldad tienen los titulares de medios!

🕣 Este newsletter tiene 1900 palabras y lleva 9 minutos de lectura.

1. Mentime que me gusta

Meta AI alucina. Durante esta semana nos divertimos preguntando quienes éramos y quienes eran los demás. La “imaginación” que tiene no es tal sino es una muestra contundente de que las herramientas de inteligencia artificial generativas NO sirven para pedirle información. Ninguna.

Me manda un gran lector de este news, Fernando, esta respuesta.

En el caso de mi consulta, acertó la profesión pero se equivocó en absolutamente todo lo demás.

¿Qué pasa aquí? Pasa que, en mi caso y en el común de los mortales, al no haber una página de Wikipedia, rastrea información de la web como si estuviera drogada. Así funciona la recopilación de información e irá de mal en peor porque cuando no queden datos disponibles se alimentará de información sintética, llena de imperfecciones, sesgos y errores. ¿Y entonces? Veremos para qué si sirve esta herramienta, por suerte, sino no tendríamos nada que criticar…

2. Qué es Llama 3.1 y Meta IA

Por un lado, presentó Llama 3.1, que es su modelo de lenguaje grande (LLM). Es la IA de código abierto más grande del mundo. Esto significa que Mark Zuckerberg puso a disposición de quien lo quiera usar toda su investigación para impulsar aplicaciones de inteligencia artificial generativa.

¿Por qué fue tan generoso con el mundo desarrollador Mark Zuckerberg?

Por un lado, porque entre todos van a posicionar a estas herramientas como las más usadas y va a acelerar su desarrollo.
Por el otro, es una gran manera de competir con los sistemas cerrados, como los de Google y Open AI, que venden suscripciones para el uso de sus herramientas más eficaces. Meta no. Es “Gratis”. Pero sabemos que cuando algo es gratis el producto sos vos.

El modelo es enorme: tiene 405 mil millones de parámetros, más que GPT-4 Omni y Claude 3.5 Sonnet y Gemini, su competencia.

¿Qué puede salir mal? Que al ser un sistema abierto, podrá ser utilizado para fines buenos o malos. Supuestamente, esa fue la razón por la cuál OpenAI cerró sus sistemas por el riesgo potencial para la humanidad. Esto sería, además de cositas malas, el desarrollo de la tan temida Inteligencia Artificial General (AGI).

Los peligros podrían ser:

Que sea usada por rivales geopolíticos
Aprovechada por ciberdelincuentes y estafadores
Crear contenido de abuso sexual infantil

¿Cuál será el límite? En su muy buen newsletter Casey Newton lo explica las declaraciones del director de productos de Meta: “los próximos avances radicales en los LLM llegarán cuando puedan dominar tres habilidades: resolver problemas que requieren múltiples pasos; personalizarse para sus usuarios y desarrollar un sentido más completo de quiénes son sus usuarios y qué necesitan; y tomar medidas exitosas en su nombre en línea”.

Llegado ese límite, Meta puede apretar el botón del código propietario y sacarlo de línea para mitigar los impactos.

3. ¿Para qué sirve META AI?

Para interactuar con tu información: es decir, todo lo que le pongamos a ese chat va a ser alimento para su inteligencia artificial. Si estabamos trabajando un tema, y hemos hablado de eso con la IA, podemos repreguntarle cosas al respecto. Con el tiempo, puede ser un buen repositorio. Pero OJO, no hay que ponerle datos privados porque todo lo que hablemos en este chat podrá ser usado por la empresa.
También lo podemos invitar a los grupos invocándolo con @Meta AI y nos responderá la petición. Aunque lo llamemos, los mensajes seguirán siendo privados.
Traducir textos sin salir de WhatsApp, solo se los tenés que reenviar.
Generar imágenes a pedido, editarlas, retocarlas, todo escribiendo la indicación correcta.
Para imaginarnos a nosotros mismos en imagen. Pero aún no está disponible en Argentina o en Español.
Consultas de interés general: pero su respuesta puede fallar. Problemas matemáticos, listados de cosas, ayuda con redacción de textos, etc.

A la IA la encontramos en el WhatsApp (botón o cuadro de búsqueda), en los Chat de Instagram, en Facebook Messenger y en www.meta.ai.

No es multimodal, es decir, no recibe archivos, audios o imágenes ni responde en nada que no sea texto o imagen.

4. La Privacidad y el entrenamiento de META AI

Una de cal y una de arena. Por un lado, si bien usa todo lo que le decimos y nuestra forma de interactuar, “cuida” nuestra información. Dice su política de privacidad: “Empleamos diferentes técnicas para reducir la memorización, incluida la deduplicación y la reducción de épocas. Mediante técnicas manuales y asistidas por IA, rediseñamos el modelo para la memorización de información sobre personas privadas y tomamos medidas para mitigar esos riesgos”.

Ahora, todo lo que pongas en la IA será utilizado. Dicen las políticas de privacidad aquí.

Cuando se comparte información con la IA, la IA puede retener y usar esa información para brindar Resultados más personalizados. No compartas información que no deseas que la IA use y no divulgues identificadores de cuenta, contraseñas, información financiera y otros datos confidenciales.

Y también dice

Meta puede revisar tus interacciones con la IA, lo que incluye el contenido de tus conversaciones con la IA o los mensajes que le envías, y esta revisión puede ser automática o manual.

¿Los mensajes privados cifrados extremo a extremo también? No, eso no.

¿Todo lo que publico en mis redes sociales públicas es usado para entrenar sistemas de inteligencia artificial? Si.

Según donde te encuentres, tal vez tengas la opción de compartir imágenes con IA. Una vez compartidas, aceptas que Meta analizará dichas imágenes, incluidos los gestos faciales, con IA.

Esta es la información que recopilan del uso de las redes sociales de META.

Si querés chequear qué datos recopilan de vos y desactivar algunas opciones disponibles de hacerlo (no todas) el camino está aquí.

Plus: circuló en redes el postulado de que ahora WhatsApp silencia los insultos en los audios. Esto es más falso que dólar celeste, como decía Maradona.

En Twitter, la IA hace lo mismo pero, al menos, te da una opción para decir que no querés que entrene su sistema con tus conversaciones. Aquí la ruta para hacer click.

5. Hackeo y filtración de OCASA

Hablando de datos este finde trascendió -y acaban de confirmarlo desde BCA LTD a este newsletter- una filtración de la empresa de logística OCASA y la publicación de información crítica y sensible por parte de Akira Ransomware. Si bien desde OCASA niegan esto, ya habían tenido problemas en sus sistemas y hoy se conocieron los archivos filtrados:

Una carpeta ARCHIVOS CLIENTES con información de varios bancos, incluyendo Banco Ciudad, Banco del Chubut, Banco Formosa, Banco Macro y Banco Neuquén. Además, se filtraron datos de otros clientes importantes como DirecTV, División Life Sciences, Boldt, Grupo Modo, Gobierno de la Ciudad de Buenos Aires y MercadoLibre.
Se comprometieron datos financieros detallados, como “Balance 2023” y “expensas.xlsx” en la carpeta Administración, junto con auditorías y conciliaciones en “Auditoría 2023 - BDO”.
Se expusieron datos sobre operaciones de ingeniería y mantenimientos, como “gestion de reparaciones flota 2023.xlsx” en Ingeniería, y análisis de mercado en “Análisis Meli XD-v2.xlsx” en Planeamiento Comercial, entre otras.
De especial preocupación es la presencia de numerosos archivos con planillas que contienen claves en texto plano para diversas plataformas y servicios, incluyendo Telecom, MercadoLibre, Telefónica, HSBC, Prosegur, SAP, Salesforce, ARBA, Edenor, Nacion Servicios, y Telefónica México.

“Esta filtración no solo expone a OCASA a riesgos significativos de seguridad y privacidad, sino que también cuestiona la veracidad de sus declaraciones públicas y podría tener un impacto negativo en su reputación y operativa” indican desde BCA LTD.

Este boletín cuenta con el apoyo de BCA

El grupo de Ransomware Hunters International liberó el lote de datos del Gobierno de Santa Rosa, con información de las áreas de Auditoría, Informática, Desarrollo Social y código fuentes, binarios y claves de sistemas internos.
El grupo de Ransomware Akira publicó una parte de la información sustraída a OCASA, que incluye información de clientes corporativas, de distintas áreas operativas y hasta planillas con claves en texto plano.
En Uruguay, un ataque de ransomware paralizó a la Intendencia de Paysandú.

BCA es una empresa que provee servicios de inteligencia y monitoreo de amenazas, detección temprana de ransomware y filtraciones en Argentina y Uruguay. Más información en bca.ltd