Sociedad | INTROMISIÓN EN LA PRIVACIDAD

Hacete amigo de la IA

Tiempo de lectura: ...
Esteban Magnani

Meta incluyó compulsivamente en la aplicación de WhatsApp una nueva inteligencia artificial. En qué consiste el último negocio de Mark Zuckerberg con un público cautivo de 2.000 millones de personas.

Desbocado. «Movete rápido, rompé cosas» es el lema del CEO de Meta.

Foto: Getty Images

Hace unos días los usuarios de Whatsapp, cerca de unos dos mil millones de personas de todo el mundo, encontraron en sus celulares un servicio que nunca habían pedido: la IA de Meta. Representada por un circulito colorido y en permanente movimiento, la nueva utilidad apareció sin pedir permiso. Como suele ocurrir con estas novedades, millones de usuarios comenzaron a tantearla en busca de errores, inconsistencias o incorrecciones políticas en las que pudiera incurrir esta nueva IA. 

Algunos usuarios compartieron en las redes, por ejemplo, la particular concepción que tenía la IA sobre cómo se ve un argentino, un peruano o un chileno. Los primeros estaban marcados por clichés, lo cuál no resulta sorprendente porque la IA, en definitiva, trabaja sobre promedios de la información a la que accede. Si las imágenes etiquetadas como «argentinos» que usaron para entrenarla es de, por ejemplo, futbolistas jóvenes, hará una mezcla de eso para dar un resultado. Sin embargo, las IA siempre tienen espacio para imprevistos: los chilenos fueron imaginados insistentemente como simpáticos roedores en un bosque. Menos graciosa resultó la respuesta cuando le preguntaron qué pasa si se le dice «11» a un chileno: «Si le dices “11” a un chileno, probablemente te responderá … “de septiembre” (refiriéndose al golpe de Estado del 11 de septiembre de 1973). Esta fecha es un hito importante en la historia reciente de Chile, y muchos chilenos la recuerdan con nostalgia o tristeza». 

Más allá de las anécdotas que inundan las redes y los medios, la IA que impuso Meta a los usuarios parece fuertemente entrenada para no repetir los errores de sus competidores, como explicar la manera de fabricar bombas o terminar insultando a los usuarios.

¿Pero cómo se explica la nueva intromisión de Meta en nuestro celulares?

Sin permiso
Mark Zuckerberg, CEO de Meta, ya quedó claro, prefiere pedir perdón y no permiso. Por eso muchas veces empuja cambios tecnológicos arriesgados y, si salen mal, pide disculpas. No son excepciones sino parte de una metodología. En enero, por ejemplo, ofreció sus disculpas a los padres de una chica que se había autolesionado luego de sufrir intenso bullying a través de las redes sociales. También lo hizo luego de que los datos de Facebook fueron usados por Cambridge Analytica durante las elecciones estadounidenses de 2016. La lista podría seguir largamente.

Desde el punto de vista de Zuckerberg, no es tiempo para preguntarse si sumar compulsivamente una herramienta de IA en una app de mensajería no es una licencia excesiva. Es que la competencia por liderar la IA es feroz y los adversarios, nada menos que OpenAI, Alphabet, Microsoft, Twitter, etcétera, están dispuestos a todo para ganar. Desde que ChatGPT dejó boquiabierta a la sociedad hace un año y medio, las empresas usan todos sus recursos para liderar el área. Es por eso que el CEO de Meta ahora aprovechó Whatsapp como atajo hacia la victoria. 

Uno de las potencialidades de la IA es que remplace a los buscadores: en lugar de obtener un listado de links frente a una consulta, el usuario podría obtener solo una respuesta de la IA, algo que parece práctico, pero que daría aún más poder al algoritmo para dirigir usuarios en internet. De esa manera, por ejemplo, Zuckerberg lograría su objetivo de expandirse más allá de las redes sociales, algo que hasta ahora no logró concretar pese a los esfuerzos.

Entrenamiento
El modelo de IA de Meta es de código abierto, es decir que otros usuarios pueden probarlo y modificarlo para ver cómo responde. Ese rasgo permite a la empresa aprender de la experimentación de la comunidad y descubrir otros usos. Pero el código es solo un aspecto de la IA: los otros pasan por, sobre todo, contar con datos, energía y procesadores para entrenarlo, algo que Meta posee en cantidad. De hecho, la empresa no dio detalles sobre los datos con que entrenó su IA, probablemente para evitar el tipo de demandas que recibieron otros desarrolladores.

Con su decisión, la corporación de Zuckeberg dio un gigantesco empujón para que su IA sea usada y entrenada por los usuarios. Si el objetivo se cumple, la IA de Meta será un amigo más en Whatsapp al que consultar por un plan para el fin de semana o resolver ecuaciones de la escuela. Ni siquiera será necesario abrir otra aplicación. De esa manera Meta tendría un enorme poder para dirigir las respuestas en función de sus intereses: de la misma manera que Google da algunas sugerencias patrocinadas en su buscador, la IA podría brindar respuestas que beneficien a sus clientes. De esa manera el servicio generaría ingresos pese a ser «gratuito» y, de paso, aprendería en cada uso. 

Una gran pregunta es si la IA de Meta accederá a los mensajes que intercambiamos con amigos a través de la app. Por supuesto, en la empresa aseguran que eso es imposible aunque la experiencia indica que sus promesas pueden no cumplirse. Pero aún si logran resistir la tentación de meterse con los contenidos, los metadatos (la información de los mensajes vinculada a horarios, personas, geolocalización, etcétera) ya son una gran fuente de información y entrenamiento. De momento, tampoco se usan posteos de Instagram o Facebook, aunque es probable que lo hagan en el futuro próximo. Lo que sí será usado es lo que se comparte con la IA por lo que hay que ser cauteloso a la hora de brindar información personal. 

Por lo pronto, Meta no está pudiendo sumar la IA a los usuarios europeos debido a violaciones a la legislación de ese continente. Mientras tanto, en los otros países aún no aparece una opción de configuración para quitarlo de la aplicación.

Whatsapp le da a Meta una fuente de entrenamiento en tiempo real sobre los intereses de la población: por ejemplo, las preguntas que repentinamente se repiten en millones de celulares sobre un tema son un indicador del interés social. Esa información es útil para orientar mejor las respuestas. De hecho, Meta ya ha llegado a un acuerdo con Bing, el buscado de Microsoft, para asistirlo con resultados de búsquedas en tiempo real. Es algo similar a lo que intenta Elon Musk con Grok, una IA que se entrena con los mensaje que circulan por la red social X.

Otro recurso para ganar la carrera de la IA es que las respuestas sean lo más cálidas y concretas posibles, que la gente olvide que está hablando con una máquina. Para aprender a hacerlo necesita, justamente, ser un amigo más al que confiamos nuestras dudas. Por eso se puede elegir que la IA represente a famosos, desde Charlie D’Amelio o Paris Hilton a Snoop Dog para simular que se dialoga con ellos. De esa manera la sensación de hablar con un «conocido» facilitaría que el usuario confíe en la IA. Zuckerberg realizó una gigantesca ofensiva para superar a sus competidores. Fiel a su lema «Movete rápido, rompé cosas», no lo amedrenta la poca certeza que existe sobre los efectos sociales de la implementación masiva de la IA y su impacto ambiental.

Estás leyendo:

Sociedad INTROMISIÓN EN LA PRIVACIDAD

Hacete amigo de la IA

2 comentarios

Los comentarios están cerrados.