Desafíos de la inteligencia artificial para los bibliotecarios

 

Gunter, Darrell  «AI challenges for librarians | Research Information». RI: Research Information Accedido 21 de marzo de 2024. https://www.researchinformation.info/analysis-opinion/ai-challenges-librarians. La IA no comenzó con el chat GPT. La inteligencia artificial (IA), es la inteligencia demostrada por las máquinas, en contraposición a la inteligencia natural mostrada por los humanos y otros animales. En la informática, la investigación en IA se define como el estudio de "agentes inteligentes": cualquier dispositivo que perciba su entorno y tome acciones que maximicen su probabilidad de lograr con éxito sus objetivos. El término inteligencia artificial fue acuñado por primera vez por John McCarthy en 1956, pero el viaje para entender si las máquinas pueden pensar sinceramente comenzó antes de eso. En la obra seminal de Vannevar Bush, "Como Podemos Pensar", propuso un sistema que amplifica el conocimiento y la comprensión de las personas. Bush expresó su preocupación por la dirección de los esfuerzos científicos hacia la destrucción en lugar de la comprensión y explica un deseo por una especie de máquina de memoria colectiva con su concepto del memex que haría que el conocimiento fuera más accesible, creyendo que ayudaría a resolver estos problemas. A través de esta máquina, Bush esperaba transformar una explosión de información en una explosión de conocimiento. Cinco años más tarde, Alan Turing escribió un artículo sobre la noción de que las máquinas pudieran simular seres humanos y la capacidad de hacer cosas inteligentes como jugar al ajedrez. Los bibliotecarios, al igual que muchos profesionales en diversos campos, enfrentan tanto oportunidades como desafíos con la integración de servicios de inteligencia artificial en su trabajo. Aquí están algunos de los problemas clave que los bibliotecarios pueden enfrentar con los servicios de inteligencia artificial, particularmente en lo que respecta a la ética y la precisión: Sesgo algorítmico: Los sistemas de inteligencia artificial pueden heredar sesgos presentes en los datos utilizados para entrenarlos. Los bibliotecarios pueden necesitar ser cautelosos acerca de los sesgos potenciales en los conjuntos de datos que alimentan las herramientas de inteligencia artificial, especialmente en lo que respecta a la recuperación de información. Si los datos de entrenamiento contienen sesgos, el sistema de inteligencia artificial puede perpetuar y amplificar esos sesgos, lo que lleva a resultados de búsqueda sesgados. Preocupaciones sobre la privacidad: Las herramientas de inteligencia artificial a menudo dependen de grandes cantidades de datos para mejorar su rendimiento. Los bibliotecarios deben considerar las implicaciones de privacidad de recopilar y utilizar datos de los usuarios para mejorar los servicios de inteligencia artificial. Asegurar el cumplimiento de las regulaciones de privacidad y proteger los datos de los usuarios contra el mal uso es crucial. Uso ético de la inteligencia artificial: Los bibliotecarios son responsables de garantizar que los servicios de inteligencia artificial se implementen éticamente y estén alineados con los estándares profesionales y éticos. Precisión y confiabilidad: Los bibliotecarios necesitan evaluar la precisión y confiabilidad de la información generada por inteligencia artificial. Educación del usuario: Los bibliotecarios pueden enfrentar el desafío de educar a los usuarios sobre las limitaciones y capacidades de los servicios de inteligencia artificial. Entendimiento limitado de la inteligencia artificial: Algunos bibliotecarios pueden tener un entendimiento limitado de las tecnologías de inteligencia artificial, lo que puede suponer un desafío para integrar efectivamente estas herramientas en los servicios de biblioteca. Asignación de recursos: Implementar y mantener servicios de inteligencia artificial puede requerir recursos adicionales, incluyendo inversiones financieras, programas de capacitación y apoyo continuo. Brecha digital: El uso de servicios de inteligencia artificial en bibliotecas puede exacerbar las brechas digitales existentes si ciertos grupos de usuarios carecen de acceso a la tecnología o tienen habilidades limitadas de alfabetización digital. Los bibliotecarios deben ser conscientes de la inclusividad y trabajar hacia proporcionar un acceso equitativo a los servicios mejorados por la inteligencia artificial. Representación en los datos de entrenamiento: Si los datos de entrenamiento utilizados para desarrollar servicios de inteligencia artificial carecen de diversidad, puede resultar en algoritmos sesgados. Los bibliotecarios deben abogar por conjuntos de datos diversos y representativos para mitigar el riesgo de perpetuar sesgos raciales en los sistemas de inteligencia artificial. Equidad y justicia: Los bibliotecarios deben asegurar que los servicios de inteligencia artificial estén diseñados e implementados con equidad y justicia en mente. Transparencia: Los bibliotecarios deben abogar por la transparencia en los algoritmos de inteligencia artificial y los procesos de toma de decisiones. Comprender cómo funcionan los sistemas de inteligencia artificial es crucial para identificar y abordar posibles sesgos, incluidos los relacionados con la raza. Compromiso comunitario: Los bibliotecarios pueden involucrarse con sus comunidades para comprender sus perspectivas y preocupaciones relacionadas con la inteligencia artificial y el sesgo racial. Educación y conciencia: Los bibliotecarios desempeñan un papel en educar tanto al personal como a los usuarios sobre los posibles sesgos en los sistemas de inteligencia artificial y cómo pueden afectar a diferentes grupos raciales y étnicos. Monitoreo y evaluación continuos: Los bibliotecarios deben monitorear y evaluar continuamente el rendimiento de los servicios de inteligencia artificial para identificar y abordar cualquier problema emergente relacionado con el sesgo racial. Como pueden ver, el tema de la IA es enorme y requerirá un esfuerzo conjunto de nuestra comunidad para asegurar que estamos haciendo todo lo posible para combatir a los actores malintencionados y los malos algoritmos. Los bibliotecarios son el único grupo de personas que están en la primera línea todos los días ayudando a estudiantes, profesores, administradores, investigadores, ciudadanos, etc., con sus diversas necesidades de información. Estos serían algunos pasos a seguir: Conciencia: Ser muy intencional en aprender más sobre la IA en cuanto a sesgo y ética. Educación: Brindar educación y capacitación a sus constituyentes. Participación: Fomentar que su institución participe en la comunidad de IA para tener un diálogo muy activo sobre sesgo y ética. Acción: Ser proactivo para abordar los problemas conocidos de sesgo y ética en la IA. Una vez que se hayan resuelto estos problemas, es importante comunicar los resultados positivos a la comunidad. Esto demostrará a la comunidad técnica de IA que la comunidad global está observando y tomará medidas para corregir los algoritmos que no son productivos. Si tomamos estas acciones, haremos de nuestro mundo un lugar mejor.