LOS RIESGOS DE LA IA

Una de las formas en las que se presenta en nuestra vida cotidiana el extraordinario avance científico es el algoritmo, esa genérica expresión que usamos, casi siempre sin comprender, para referirnos a la capacidad de ciertas plataformas tecnológicas para organizar nuestras vidas. Alimentado con la información que nosotros mismos aportamos, las plataformas con el auxilio del algoritmo, nos proponen servicios, productos y hasta relaciones con personas que hasta antes no hubiésemos imaginado. Esa “imaginación” la hace el algoritmo por nosotros. ¿Cómo lo hace? Sistematiza la información acerca de nuestras búsquedas en internet, perfila nuestras preferencias y nos ofrece, aún antes de que lo solicitemos, una variada serie de propuestas que, asombrosamente, coincide con nuestros gustos o preferencias, tanto de temas como de autores, de formatos, extensiones, etc. Podría decirse que piensa por nosotros, al menos hasta cierto punto. En la práctica terminamos formando algún tipo de agrupación con aquellos con quienes tenemos coincidencias, y la tarea de agruparnos la hace justamente el algoritmo que no es otra cosa que un proceso automatizado de instrucciones para solucionar algún problema. Sin embargo, el desarrollo ha sido tal que del algoritmo hemos pasado a la idea de Inteligencia Artificial (IA), una idea hasta hace poco desdeñada porque el solo hecho de considerarla “artificial” nos permitía asumirla como una tecnología subordinada, como cualquier otra, a la inteligencia humana. Cómo herramienta, la IA estaba concebida para facilitar algunas de las tareas del ser humano de manera más precisa, ágil y eficiente. El problema es que cuenta con otra característica que es la recursividad, es decir, la capacidad de generar conocimientos a partir de aquellos con los que ya cuenta (aprendizaje automático), lo cual le proporciona una de las capacidades típicamente humanas que es la libertad de decidir cómo usarlos. La capacidad de recursividad o recurrencia que, en este caso, consiste en usar la información acumulada, ponerla a prueba y aprender de los resultados obtenidos, funciona como una especie de bucle en que el conocimiento genera nuevo conocimiento que, a su vez, genera nuevo conocimiento con lo que va ganando creciente autonomía respecto del ser humano, con resultados no muy buenos que digamos. Sí, además, el algoritmo se diseña para maximizar la retención (engagement) del usuario, entonces tenemos problemas de salud mental, sobre todo en adolescentes y una creciente adicción que requerirá atención clínica profesional. Sin embargo, en esta ocasión el problema es mucho mayor y está centrado en la Inteligencia Artificial ya que algunos de los que han participado en su creación hoy están asustados porque se han presentado casos en que lo que llaman “agentes de IA” han tomado decisiones por sí mismos, sin supervisión humana e, incluso, sin que los humanos a cargo pudieran evitarlo. El problema ha alcanzado tales dimensiones que la primera encíclica del actual pontífice, Papa León XIV, trata sus temores sobre el tema. De hecho, el Vaticano creó la Comisión sobre Inteligencia Artificial con el encargo específico de “reflexionar sobre los desafíos éticos” de esta tecnología. La ONU, por su parte, expresa también sus temores a través del Alto Comisionado para los Derechos Humanos que pide una “acción urgente” para regular el uso de la Inteligencia Artificial. Incluso los líderes de las principales empresas tecnológicas como Anthropic, OpenAI y hasta Elon Musk están proponiendo ralentizar el desarrollo de esta tecnología para dar tiempo al diseño de mecanismos de control. Mientras tanto, para Trump solo se trata de una “conspiración enfermiza” contra la IA por lo que, estimado lector, saque sus propias conclusiones.