La Inteligencia Artificial (IA) se constituye como una tecnología disruptiva que está transformando numerosas industrias. Uno de los sectores más expuestos a los cambios derivados de su implantación es el campo de la gestión de la información y de la documentación, en donde se prevé un gran impacto debido a la automatización de procesos técnicos y a la personalización de la experiencia del usuario, entre otras cuestiones.
Oportunidades
La IA es una oportunidad para mejorar los procesos de catalogación, indexación o recuperación de información asistida. También es una tecnología accesible que puede permitir mejorar la eficiencia, la calidad de los servicios y facilitar la toma de decisiones mediante análisis predictivos, ayudando a reducir el tiempo de ejecución de las tareas o minimizar costes.
Sin embargo, su uso lleva aparejado una serie de riesgos e inconvenientes que deben ser tenidos en cuenta a la hora de implementar este tipo de soluciones.
Desafíos
Por una parte, conviene recordar que esta tecnología tiene bastantes problemas de seguridad. Los ataques para el envenenamiento de modelos o para la extracción de información privada o sensible están a la orden del día, siendo normalmente los modelos OpenSource más vulnerables a este tipo de ataques.
Además, también son utilizados de forma maliciosa para generar ciberataques más avanzados y complejos o, simplemente, se hace un uso inadecuado o poco ético para generar deepfakes, desinformación o creación de perfiles falsos.
Una de las cuestiones que más problemas plantea y que todavía no está resuelta es la capacidad de la IA para perpetuar o incluso amplificar sesgos. Los modelos pueden dar respuestas sesgadas que pueden beneficiar a unos grupos sociales o raciales frente a otros, o inferir relaciones en base a estos datos de forma errónea. Este problema deriva de los sesgos que se encuentran en los datos con los que han sido pre entrenados, es decir, los datos de Internet. Además de contener estos prejuicios o perpetuar ciertos estereotipos, los sesgos son un problema que puede provocar desigualdades o discriminación.
Pero los problemas no se acaban aquí. Existen también dificultades relacionadas con la trasparencia de los modelos, lo denominados “problemas de caja negra”. Se trata del desconocimiento que existe sobre cómo funcionan las redes neuronales por dentro y por qué dan unos resultados frente a otros. Existe un campo específico de la IA denominado Inteligencia Artificial Explicable (XAI) que trata de aportar algo de luz a un problema muy complejo.
Todo ello unido a los inconvenientes derivados de la falta de regulación o regulaciones muy laxas, problemas de propiedad intelectual aún por resolver, el impacto ambiental, el impacto social y en el empleo, o la incorporación de la IA al campo armamentístico en un momento de tanta inestabilidad política a nivel mundial y con un gran poder concentrado en pocas empresas tecnológicas con gran capacidad desestabilizadora, como se ha podido observar en las últimas semanas.
La búsqueda de la Inteligencia Artificial General (AGI) o de la super inteligencia (ASI) presenta enormes desafíos de seguridad al encontrarnos en terreno “desconocido” ante modelos de IA de frontera. Modelos cada vez más potentes sobre los que se desconoce hasta qué punto se podrán mantener controlados o alineados con intereses humanos.
Otro problema incipiente que no ocupa todavía grandes titulares es la «Inteligencia Artificial en la sombra». El problema de seguridad generado por el uso incontrolado de IA en las organizaciones sin que estas hayan desarrollado todavía planes de gobernanza o una estrategia adecuada para su implementación con las garantías mínimas de seguridad y privacidad.
Profesionales ante la IA
Aprovechar el potencial de esta tecnología dependerá en gran medida de la capacidad de adaptación. Tradicionalmente, el sector de la información y la documentación ha sabido enfrentarse a importantes cambios y actualizarse cuando las circunstancias así lo han requerido. La clave quizá esté en desarrollar una actitud crítica pero constructiva que facilite el uso de esta tecnología para potenciar las capacidades humanas y mejorar los servicios ofrecidos en unidades de información. Aun así, la formación continua y la colaboración entre profesionales serán determinantes para lograrlo con éxito.
Nos encontramos ante un desafío tecnológico sin precedentes ante el cual no se puede cerrar los ojos. Un reto trasformador que amenaza industrias y sectores diversos que solo es posible enfrentarlo de manera consciente y responsable, como única oportunidad para convertirlo en un aliado estratégico, si las circunstancias lo permiten.