Millones de diálogos privados son registrados a diario por dispostivos como Alexa, de Amazon, o Siri, de Apple. Qué pasa cuando la promesa de ganar tiempo mediante la automatización de ciertas tareas se convierte en una amenaza a la privacidad.
12 de febrero de 2020
El hombre, de regreso del trabajo, aprovecha un semáforo para tomar su celular y pedirle que encienda la calefacción. Al llegar a su casa, le ordena que abra el portón del garaje. Luces, cafetera y música se activan con un puñado de oraciones breves y el recién llegado se sienta a la mesa con la computadora para responder un par de correos electrónicos atrasados.
Lo que era ciencia ficción hasta hace unos años es ya realidad en algunas familias privilegiadas, amantes de la tecnología, y también es el futuro que algunas corporaciones intentan vender a quienes aún no dieron el salto. La promesa, como siempre, es disponer de más tiempo para el ocio, algo que, la experiencia indica, se incumple invariablemente (ver recuadro).
A lo largo del siglo XX aumentó sin prisa y sin pausa la cantidad de dispositivos hogareños destinados a simplificar las tareas domésticas. Los asistentes virtuales como Alexa, de Amazon, Siri, de Apple, o Google Home prometen ahorrarnos hasta el esfuerzo de ir hasta un interruptor y encenderlo: todos los dispositivos domésticos, desde las luces hasta las persianas, pueden conectarse a ellos para ser manejados simplemente con un sistema de reconocimiento de voz. Si bien parece solo un paso más en la automatización de las tareas domésticas, hay algo cualitativamente distinto en estos sistemas «inteligentes»: las órdenes son procesadas por las empresas que se transforman en intermediarias en nuestra relación con las máquinas. De esta manera, lo que en otra época habrían sido pequeños diálogos familiares, consumos o deseos, ahora viajan por internet hasta los servidores de las empresas que los procesan, interpretan y transforman en acciones. De esta manera acumulan datos valiosos para alimentar una parte del modelo de negocios tecnológicos que comienzan a ser más y más visible.
Los sistemas de inteligencia artificial de reconocimiento de voz necesitan aprender y, al igual que los humanos, requieren muchos ejemplos para establecer correlaciones y poder interpretar un pedido. Los humanos aprendemos a interpretar una frase, sus palabras, entonación, contexto, gestos y silencios al interactuar con nuestras familias, amigos, compañeros y maestros. A los sistemas de inteligencia artificial no se les pueden enseñar todas las reglas simplemente porque no están claras: los intentos de transformar el lenguaje en algo puramente lógico y matematizable han fracasado. Por eso se les dan millones de ejemplos para que generen sus propios mecanismos y se los corrige cuando se equivocan. Cada vez que eso ocurre, los sistemas analizan el caso y recalibran los mecanismos en una mejora que no tiene final y que se repite millones de veces por día.
Los sistemas actuales ya resultan útiles, pero aún necesitan mejorar mucho para funcionar sin malentendidos. Por eso se requiere una tutoría constante que les indique errores, algo que se contradice con los argumentos de las grandes empresas que sostienen que las grabaciones recopiladas por los asistentes están seguras y son gestionadas por sistemas automáticos.
Sin embargo, hay frases que no se entienden y requieren asistencia humana. Si bien puede ser un porcentaje menor del total, su número es muy alto. Un informe de abril pasado de la agencia Bloomberg reveló que Amazon, por ejemplo, tiene miles de empleados directos o de empresas subcontratistas, en países como Rumania, Costa Rica o India, que escuchan conversaciones para mejorar los sistemas. Algunos de ellos contaron que en una jornada normal de nueve horas pueden desgrabar cerca de mil fragmentos de audio.
Supuestamente los dispositivos se activan solo cuando se los llama por su nombre y encienden una luz indicadora de que comienzan a grabar, por lo que el usuario estaría advertido. El problema es que para saber si los están llamando, estos asistentes necesitan escuchar todo el tiempo lo que ocurre a su alrededor. Esta tarea debería hacerse localmente y activar la transmisión de los audios a la nube donde es procesada. Por supuesto, el margen de error existe y, si bien puede ser porcentualmente bajo, significa que millones de conversaciones privadas que no estaban dirigidas a los asistentes son enviadas para procesar. Por eso algunos de los trabajadores escuchan cosas que no deberían, desde alguien cantando en la ducha hasta maltratos infantiles o detalles para acceder a una cuenta bancaria. Al menos dos empleados reconocieron a Bloomberg haber escuchado ataques sexuales o diálogos íntimos. En julio Google también reconoció la necesidad de usar humanos para interpretar las grabaciones, aunque insistió en todas las medidas de seguridad para impedir que se reconozca a la persona que los hace.
En 2018 un ciudadano alemán pidió a Amazon que le enviaran toda la información que la corporación tenía sobre él. Para su sorpresa, pese a que no contaba con un asistente Alexa, le enviaron 1.700 fragmentos de audio: por error le habían enviado los de otra persona. Una revista alemana utilizó esos fragmentos para identificarla y preguntarle qué pensaba de la situación.
Miedos y secretos
Los asistentes virtuales, más allá de las potenciales violaciones a la privacidad y la seguridad que implican, aun si todo funcionara bien, implican un cambio de paradigma. Los datos sobre nuestros deseos, miedos, acciones cotidianas, secretos o gustos permiten mejorar la eficiencia de las publicidades, incentivar viajes o promocionar un candidato político. La actividad online que se acumula cada vez que navegamos resulta muy útil, pero los diálogos privados permiten acceder a otro nivel de información que da más herramientas para construir perfiles individuales. Para darse una idea del valor de estos datos, cabe recordar que Facebook pagó 19.000 millones de dólares por WhatsApp (una aplicación que no da ganancias en sí) y así acceder a las conversaciones privadas de millones de personas.
El futuro, nos dicen, es imparable. En 2019 Amazon, la empresa líder en el segmento de los asistentes virtuales, llevaba vendidos más de 100 millones de dispositivos. Es cada vez más la gente dispuesta a subirse al tren del futuro que prometen las corporaciones, aunque muchas veces este atropelle a su paso concepciones sobre la privacidad o la intimidad de los hogares.
