18 de junio de 2024

Esteban Magnani

El presidente presentó la idea de implementar un «sistema de IA para hacer la reforma del Estado». La propuesta genera más dudas que certezas.

«En la empresa Google tienen un sistema armado para hacer la reforma del Estado con inteligencia artificial. ¿Sabe dónde la aplicaron muy exitosamente? En El Salvador», explicó el presidente Javier Milei en una entrevista radial apenas regresó de su gira por los Estados Unidos. La falta de certezas de la declaración generó dudas sobre la veracidad, posibilidades de concreción y potencial de semejante proyecto.

En primer lugar, está la referencia a un «módulo de IA» para hacer una reforma del Estado. El caso de éxito centroamericano que cita el presidente en la entrevista no tiene correlato en notas periodísticas del mundo, mucho menos, en papers que expliquen sus características, implementación e impacto. No resulta extraño que no haya nada tan «exitoso» como lo que sugiere el presidente ya que la IA es una tecnología en desarrollo y la posibilidad de que exista una dedicada «a la reforma del Estado» es casi inexistente. Por otro lado, sería extraño darle un rol importante en la planificación de algo tan sensible y con impacto en millones de personas.

Por ejemplo, en el sitio específico del Gobierno de Estados Unidos para el uso de IA destacan repetidamente la necesidad de un uso «responsable» de la misma, una tecnología que no ha sido testada lo suficiente como para considerarla confiable. Una cosa es que ChatGPT cometa un error en un examen de un estudiante secundario y otra muy distinta que planifique un nuevo sistema de distribución de medicamentos a nivel nacional.

Si bien hay evidencias de un gran potencial en la IA, la falta de certezas es grande. Incluso, como explican revistas especializadas, se ha montado una burbuja sobre los excesos de un marketing que da como un hecho su poder y confiabilidad. De esa manera se aprovecha el entusiasmo general para que cualquier startup que use la sigla IA venda acciones a los incautos. Este tipo de burbujas tecnológicas ya se produjo con las criptomonedas, los NFT, el Metaverso, etcétera, que aprovechan la publicidad grandilocuente sobre tecnologías no testeadas para seducir inversores desprevenidos.

De hecho, Nayib Bukele, ahora reelecto presidente de El Salvador, promovió en 2021 el uso de Bitcoin en ese país y hasta la creación de la Bitcoin City, donde no se pagarían impuestos. A mediados de 2022, la criptomoneda perdió más de la mitad de su valor arrastrado por una crisis general en el sector y la ciudad nunca pasó de ser un proyecto. Apoyar la vida de una nación sobre una moneda tan volátil parece una medida tremendamente arriesgada, comparable a la de tomar decisiones sobre el Estado basadas en una IA que no está claro cuál es ni cómo fue testeada.
Pese a todo, Bukele hizo una apuesta similar a la IA para implementarla en áreas sumamente sensibles como salud, educación o transporte, aunque tampoco queda claro su alcance. Para el caso de educación se mencionó, en realidad, el uso de Google Classroom, una plataforma difícilmente catalogable como IA. El Salvador también aprobó un régimen de exenciones impositivas por 15 años para las empresas que desarrollen esa tecnología en ese país. En estos días Google abrió su primera oficina allí.

Cybersyn
El antecedente más antiguo de ubicar la tecnología digital en el corazón de la gestión estatal, paradójicamente, proviene del Gobierno de Salvador Allende. Poco antes de que se produjera el golpe de 1973 se desarrolló el proyecto Cybersyn al que ahora algunos llaman la «internet socialista». La idea era generar un espacio que centralizara las estadísticas provenientes de todo el país en tiempo real referidas a la producción, la distribución, la población y todo lo que fuera cuantificable para tomar decisiones coordinadas. El proyecto cibernético estuvo adelantado a su época ya que no existían los mecanismos de recolección de datos ni procesamiento necesarios.

Cybersyn mantenía el control central en funcionarios del Estado con la clara conciencia de que no hay decisiones neutrales. La idea generalmente aceptada sobre la IA es que, como se trata de una máquina, no se «equivoca» (pese a las múltiples evidencias de que no piensa y no tiene criterio). Pero las IA carecen de conciencia: son entrenadas con datos que pueden ser sesgados y procesarlos de una manera equivocada para llegar a conclusiones de cualquier tipo. Además, por definición, en cuestiones sociales, económicas y políticas no existe «una» respuesta correcta a menos que se reduzca el éxito a una sola variable como el «déficit cero» y el resto se ajuste para ese único fin. Alcanza con un pequeño retoque en alguna instrucción para que el resultado varíe, por eso las decisiones humanas siguen estando allí, aunque se oculten bajo una fina capa de matemática.

Otra cuestión no menor es la entrega de datos sensibles sobre la economía nacional y sus ciudadanos a una empresa privada. La colaboración de las grandes empresas tecnológicas estadounidenses con los servicios de inteligencia de ese país no es una sospecha sino una certeza demostrada por Edward Snowden hace más de diez años. Dejar en manos de una corporación la administración de áreas sensibles limitará la viabilidad de cualquier proyecto soberano a futuro.

A esto hay que sumarle el enorme daño ambiental que produce esta tecnología por su uso desmedido de energía y del agua necesaria para mantener fríos a los servidores. En Uruguay, por ejemplo, existen serias dudas de que se termine instalando un data center por el impacto ambiental que generaría.

Por si fuera poco, el presidente extiende su fe ciega en los paquetes cerrados de tecnología también para la educación, algo que los especialistas llevan años cuestionando.

Tirarse al charco
La poca claridad sobre qué tipo de IA se utilizaría, para qué, con qué datos se entrenó, enmarcada en la incertidumbre general sobre cuál es el potencial real de esta tecnología en desarrollo, sobre la que actúa una fuerte especulación financiera, sumado al impacto ambiental y en la seguridad, no parece invitar a acompañar el entusiasmo presidencial.

De hecho, como Milei mismo aseguró, otros países aún están midiendo la profundidad de la pileta antes de tirarse de cabeza: «Tenemos –dijo– a Estados Unidos, que tiene una actitud muy temerosa al respecto y, por lo tanto, está transitando en una zona gris, no beneficiosa para este tipo de empresas; está el caso de Europa, que está híper regulado y, por lo tanto, es muy difícil para estas empresas poder desarrollarse, y está el caso de China, que siempre es un elemento de mucha incertidumbre qué es lo que está de fondo». El presidente parece considerar que la audacia es siempre una virtud y habla del tema como quien se acomoda para dar el salto desde un trampolín bien alto sin mirar qué hay abajo.

Compartir