Un Futuro tan Anunciado

La Tercera, que un robot debe proteger su propia existencia sin infringir las dos primeras.

Cortito y al pie, diríamos en un exceso de simplificación. Con tres principios básicos Asimov define la relación entre el robot y el humano, basada en la protección de este último.

En su “Trilogía de la Fundación” sostenida en tres obras -Fundación, Fundación e Imperio y Segunda Fundación- las leyes fundamentales intentan contener lo que se asume inevitable: la destrucción de la Humanidad.

Un día dejé de leer ciencia ficción cuando me di cuenta de que aquello que describían era el futuro. Como la quema de libros de Bradbury. O los animales de Orwell, imitados por los sujetos que, agotados y agobiados por la injusticia, deciden hacerse del poder. El hueso al aire de Clarke que se transforma en un satélite espacial (¿un dron? ¿un misil?).

A principios de septiembre de este año se iniciaron las alertas, como sismógrafos sincronizados. Primero fue un empleado de una de las grandes compañías de IA, que se hartó en el comedor de susurrar a los oídos ajenos poniendo la manito adelante, como hacen los jugadores de fútbol de la Selección, y dio el portazo, para no ser cómplice de un genocidio planetario. Le siguieron otros. Y luego ellos, si, los dueños de la IA. “Sí, obvio”, dijeron: hay un 10% de probabilidades de que en un futuro no muy lejano la IA nos manduque. ¡Chan! El índice de costo de la construcción está altísimo como para construir un bunker.

Quienes trabajamos en tecnología, las alarmas suenan hace rato. La IA programa (Programación o código asistido por IA, VibeCoding ), la IA prueba (AI Testing, Autonomous Testing) y la IA opera de forma autónoma (Agentic AI). Y ello afecta no sólo la contratación del personal que hacía estas tareas. Pensemos en las expectativas de quienes están “eligiendo su futuro”, como decíamos antes, de optar por la universidad o un trabajo en tecnología. Cómo motivar cursar una carrera de grado si no se incluyen las metodologías y herramientas para tener cierta certeza de poder insertarse profesionalmente en ese futuro incierto, la angustia que genera la incertidumbre de ser absolutamente prescindible. Cómo conseguir esos trabajos iniciales, que aún mal pagos, permitían ir ganando idoneidad y experiencia. “Eso ya lo hago con IA”, es la frase que se viene escuchando hace rato.

Así estamos. Tenemos dos alternativas: terapia de grupo para compadecernos y odiar hasta a la air fryer o enfrentar la situación. Seamos realistas: no seremos Ayra Stark matando al Rey de La Noche. Pero veamos si podemos reducir o minimizar el riesgo, limitando el impacto.

Cuando se hace gestión del riesgo se analizan cuatro componentes: amenaza, vulnerabilidad, probabilidad e impacto. En la situación planteada, la amenaza es que la IA se vuelva incontrolable. Y según los dichos de esta gente, si bien la probabilidad de que ocurra es baja, el impacto sería altísimo: una consecuencia podría ser el exterminio de la Humanidad.

Nos falta profundizar sobre el cuarto elemento del riesgo: las vulnerabilidades o debilidades que habilitarían la ocurrencia de esa amenaza. Cuando se detectan, se trabaja sobre la creación de controles efectivos para minimizar la posibilidad de la ocurrencia de la amenaza, bajando su impacto. Pero para esto es preciso ser realista: admitir las debilidades no es fácil, y tampoco es fácil definir e implementar controles efectivos.

Me animo a exponer algunos. Seguramente el lector tendrá mucho más que aportar. Pero hagamos un ensayo.

Empecemos por la falta de concientización acerca de qué hace la IA y cómo lo hace. Cuando programa, por ejemplo ¿cumple funcionalmente con lo especificado? ¿no hay sesgo en su decisión? ¿no expone datos personales, sensibles o estratégicos? Cuando opera ¿cómo reacciona a los cambios que inevitablemente surgen en una organización? ¿entiende que un determinado evento aislado es un incidente?

El control de calidad es fundamental.  Por lo tanto, hay que aprender a establecer técnicas que sean efectivos en el ámbito del uso de herramientas de IA.

¿Qué hacemos con la angustia ante la incertidumbre de la inserción (y reinserción) en el mundo laboral? Se podría profundizar acerca de la falta de políticas públicas que analicen el mercado del trabajo y la identificación de nuevos perfiles en el ámbito de la IA, y que profesionales de la educación creen y propongan cursos, talleres o carreras cortas que permitan construir una esperanza con vistas a un futuro.

Pero vayamos más allá, como el tema lo exige: andamos flojitos en ética, el establecer una defendida por la Humanidad.  Si, ya sé, no tengo que tomar cerveza cuando escribo. Es una actitud inocente, por no decir algo muy vulgar, pero altamente representativa, pensar en las grandes potencias acordando límites. Ellos son los directores de orquesta. Pero… si los músicos se ponen de acuerdo, los instrumentos pueden olvidarse de la melodía.

Dejamos que la IA “piense” por nosotros: que nos organice el día, que nos diga qué cocinar con una cebolla, un zapallo y un salamín, que nos elija la ropa, que se empiece a apropiar de las decisiones, aún de las cotidianas. Cuando los adultos naturalizamos preguntarle a la IA, como a la madre o el tío que lo sabía todo en nuestra infancia, la nueva generación imita. Y va perdiendo la posibilidad de resolver, de crear, de actuar y equivocarse. De crecer. De pensar.

Hace ocho décadas, en el siglo pasado, Asimov fue el brujo, el adivino, el futurólogo que proclamó en ese mundo de fantasía, los tres elementos que tienen la clave para minimizar el riesgo.

Lo viejo funciona, Juan.


(*) Lia Molinari es Docente, investigadora y extensionista de la UNLP; Dra. en Ciencias de la Administración; Master en Redes, Diplomada en IA y consultora en Ciberseguridad, además de miembro honorario del CPCIBA