Computadoras cuánticas: tres metáforas para imaginar lo invisible

 

Una computadora clásica recorre el laberinto paso a paso. Una cuántica, en cambio, recorre todos los caminos posibles al mismo tiempo

Por Paya Frank

La computación cuántica es, probablemente, la frontera más desconcertante de la ciencia actual.

Su lógica desafía nuestra manera de entender cómo se calcula, cómo se decide, incluso qué significa “saber”. Y para explicarla, la divulgación científica ha recurrido a varias metáforas que ayudan a traducir lo invisible.

De las metáforas más difundidas, una es la del laberinto. Una computadora clásica recorre el laberinto paso a paso: prueba un camino, retrocede, busca otro. Una cuántica, en cambio, recorre todos los caminos posibles al mismo tiempo, y cuando una versión encuentra la salida, las demás desaparecen. Así se entiende la diferencia entre calcular de manera lineal y hacerlo en un espacio de posibilidades simultáneas.

Otra metáfora habitual es la del estanque. Una computadora clásica toca el agua con un dedo, punto por punto, tratando de medir su profundidad. La cuántica lanza una piedra: las ondas se expanden, se cruzan, se anulan o se refuerzan, hasta que el patrón resultante revela la forma oculta.

Esa imagen traduce el principio de interferencia cuántica, donde las probabilidades se combinan hasta que solo queda una respuesta coherente.

Pero ninguna de estas imágenes alcanza del todo para describir lo que ocurre cuando la observación misma forma parte del resultado. Imaginemos entonces algo más simple y cercano: una fotografía. Una computadora clásica es como una foto: muestra una sola versión del mundo, fija y plana. Y si quisiéramos comprender un problema complejo, necesitaríamos muchas fotos desde distintos ángulos, y aun así seguiríamos viendo solo las superficies.

Una computadora cuántica, en cambio, se parece más a una escultura transparente. Un objeto tridimensional en el que pueden verse, al mismo tiempo, todas las formas posibles coexistiendo en su interior. Mientras nadie la mira, esas formas permanecen latentes.

Pero cuando alguien la observa, el conjunto “colapsa” y una de ellas se vuelve real. No es magia: es la lógica cuántica. El resultado no se calcula, se revela.

Estas tres metáforas —el laberinto, el estanque y la escultura— no solo explican cómo funciona una computadora cuántica: invitan a pensar qué significa conocer. Porque el conocimiento, en este nuevo paradigma, deja de ser una forma de control para convertirse en una forma de revelación. Ya no se trata de imponer una respuesta, sino de dejar que el mundo se exprese por sí mismo.

What happens in the brain when you read?

 

 

Phan, Vincent. “ What Really Happens to Your Brain When You Read .”  1000Libraries Magazine , publication date. Accessed 10/12/2018.  https://magazine.1000libraries.com/what-really-happens-to-your-brain-when-you-read/ When we read, not just one process, but several, are activated simultaneously, making reading a complex and rich cognitive activity. First, there are the perceptual components: we recognize visual shapes, letters, and letter combinations, which activates areas in the occipital lobes of the brain responsible for visual processing. Then, we must decode those shapes into mental sounds or phonemes, even if we read silently, which involves areas associated with phonological awareness. From there, semantic processing emerges: we understand what words mean, how they connect to each other within a sentence, and how that sentence fits into what we know about the world and what we have previously read. Reading activates a network of brain regions. These include: Areas of the left hemisphere linked to language (such as Broca's area, angular gyrus, supramarginal gyrus) to understand meaning, grammatical structure, and relationships between words. Visual areas that transform what we see into linguistic units. Regions of the cerebellum, which until recently were thought to be involved only in motor control, have now been observed to also participate in decoding visual into phonetic, as well as in some aspects of semantics—that is, we don't just 'read with our eyes' but there is also coordination with parts of the brain related to speech, emotion, and planning. Frequent reading also appears to strengthen the connections between these areas (the "white matter" that connects different brain regions), allowing for a more fluid flow of information between vision, language, memory, and semantic processing. Reading modes Reading is not the same whether we read aloud or silently. When we read aloud, additional regions related to speech production, motor coordination of the muscles involved in pronunciation, and auditory areas are activated, as we "hear" our own words internally. Silent reading, on the other hand, tends to rely more on internal comprehension circuits, mental visualization, and the use of working memory, and may involve less motor effort but more cognitive and semantic concentration. Long-term effects Reading a novel for days on end can generate measurable changes in how the brain is wired even when it's at rest. That is, we're not just activating certain regions while reading, but that activity can "reorganize" brain networks so that comprehension, imagination, empathy, and memory improve or become more efficient. Furthermore, reading frequently improves fluency, decoding speed, and word recognition, which reduces cognitive effort and allows more mental resources to be dedicated to reflection, analysis, and interpretation. It also contributes to enriching vocabulary and prior knowledge, making it increasingly easier to understand new and more complex texts.

Theodor Herzl´s Jewish State

 

 

Theodor Herzl's Jewish State : Utopia, Politics, and Prophecy

Published in 1896, The Jewish State ( Der Judenstaat ) is much more than a political treatise: it is the founding manifesto of modern Zionism and a work that encapsulates the dreams of a people dispersed for centuries. Theodor Herzl, a Viennese journalist of Jewish origin, wrote this text in response to the rising tide of antisemitism in Europe, convinced that the solution was not assimilation, but the creation of a sovereign state for the Jewish people.

Herzl doesn't appeal to emotion or biblical nostalgia: his approach is rational, legal, and pragmatic. He proposes the founding of a Jewish state as a modern enterprise, with economic, legal, and diplomatic structures. The text is presented as an action plan, with details on migration, financing, the organization of a "Jewish Society" and a "Jewish Company" that would manage resources and colonization.

But beyond its technical nature, The Jewish State vibrates with a visionary energy. Herzl writes with the conviction that he is sowing an idea that will germinate in future generations. His phrase, "If you want it, it will not be a dream," became the motto of the Zionist movement, and his vision, though utopian at the time, materialized decades later with the creation of the State of Israel in 1948.

📚 Why read it today ?

• Because it is a window into 19th-century political thought, where the ideas of nation, self-determination, and modernity are intertwined.

• Because it allows us to understand the origin of one of the most complex geopolitical conflicts of the 20th and 21st centuries.

• Because it's a work that, although brief, raises profound questions about identity, belonging, and the right to a home.

Herzl was neither a theologian nor a historian, but an intellectual who knew how to translate the pain of his time into a concrete proposal. His style is clear, direct, unadorned, yet charged with urgency. For readers interested in history, politics, or the literature of ideas, The Jewish State is essential reading.

 Historical context: Europe, antisemitism and the birth of political Zionism

At the end of the 19th century, Europe was undergoing a profound transformation. The Industrial Revolution had reconfigured cities, social classes, and political systems. Nationalism was consolidating its dominant force, and modern nation-states were beginning to define their cultural and ethnic boundaries. In this climate of emerging identities, European Jews, despite having achieved certain levels of integration and legal emancipation, continued to be subject to discrimination, exclusion, and violence.

Antisemitism was not new, but it took on modern forms: pseudoscientific, political, and media-based. In France, the Dreyfus Affair (1894–1906), in which a Jewish official was falsely accused of treason, unleashed a wave of hatred that shook public opinion. Herzl, who covered the trial as a journalist, was deeply shocked. Although he initially believed in assimilation as a path to integration, this episode convinced him that Jews needed their own state to guarantee their safety and dignity.

At the same time, the Ottoman Empire was beginning to lose influence over Palestine, and European interest in the region was growing. Herzl saw Palestine as a viable option for Jewish settlement, although he also considered Argentina as an alternative. His proposal appealed not to religion or messianism, but to political logic: if European peoples could have sovereign states, why not the Jewish people?

The Jewish State was published in 1896, at a time when Zionism had not yet emerged as an organized movement. A year later, Herzl convened the First Zionist Congress in Basel (1897), where the foundations were laid for the political project that would culminate in the creation of the State of Israel in 1948.

This context makes the work a key historical document: not only does it anticipate a geopolitical shift of enormous magnitude, but it also reflects the ideological, social, and cultural tensions of a Europe torn between modernity and prejudice.

📖 Literary and political perspective: between manifesto and metaphor

🏛️ From a political perspective: a manifesto of self-determination

The Jewish State is inscribed in the tradition of great founding texts: it is neither a novel nor a speculative essay, but a political manifesto with a transformative vocation. Herzl articulates his proposal with Cartesian clarity, appealing to logic, economics, and international law. His tone is sober, almost technical, yet charged with moral urgency. The author does not seek to convince with emotional rhetoric, but with rational arguments that respond to the European context of exclusion and violence.

Politically, the work represents a radical shift: it proposes that the Jewish people cease to be an object of tolerance or persecution and become a political subject with the power to make decisions. Herzl anticipates contemporary debates about national identity, migration, sovereignty, and collective rights. His vision, although controversial at the time, became the linchpin of a movement that transformed the landscape of the 20th century.

✍️ From a literary perspective: clarity, vision, and symbolism

Although not a literary work in the strictest sense, The Jewish State possesses a narrative force that brings it close to the utopian genre. Herzl constructs a vision of the future, a "possible place" that does not yet exist, but that can be achieved through determined action. This dimension connects it to works such as Thomas More's Utopia or Plato's Republic , where political thought is expressed as imagined architecture.

His style is direct, unadorned, but not devoid of symbolism. The idea of ​​the "national home" functions as a metaphor for belonging, refuge, and dignity. Herzl writes like someone drawing a map: each chapter delineates functions, structures, and paths. And yet, there are moments where his prose soars, as in his famous phrase: "If you want it, it will not be a dream ," which encapsulates the power of collective will.

For the literary reader, the work offers a different experience: it doesn't seek to move, but to mobilize. But in that mobilization lies a poetics of desire, a narrative of return, an epic without individual heroes, where the protagonist is an entire people.

 Conclusion : a text that projects territory and soul

The Jewish State is not only the seed of a nation; it is also the portrait of a collective consciousness seeking to take root. Herzl, with his journalistic eye and political architect's pen, offers us a work that transcends paper: it is a map, a manifesto, and a mirror. His proposal, although written with the precision of a logistical plan, vibrates with the intensity of a shared vision, as if each line traced not only geographical borders but also emotional contours of belonging.

From your perspective as a literary and photographic curator, this book can be read as a latent image: a negative that reveals a people's desire to rebel, to imprint itself on history with its own light. Just as a photograph captures the instant and transforms it into memory, The Jewish State captures a moment of urgency and transforms it into a legacy.

Reading it today is like returning to a crossroads where words become action, and where political literature merges with the poetics of destiny. Herzl doesn't write to entertain, but to summon. And in that summoning, each reader becomes a witness to an idea that, like any powerful image, continues to resonate long after it has been revealed.

Theodor Herzl's The Jewish State (1896) is not just a political plan: it is the founding dream of modern Zionism. In the midst of anti-Semitic Europe, Herzl proposed a sovereign state for the Jewish people, with a rational vision and utopian force. "If you want it, it will not be a dream." A brief, clear, and prophetic text that changed history.

Desafíos y desigualdades que enfrenta la alfabetización en inteligencia artificial (IA) en el ámbito universitario

 

Chen, Zhuo; Nathan Kelber; y Ruby MacDougall. “The Divided State of AI in Higher Education.” Ithaka S+R (blog), 9 de junio de 2025. https://sr.ithaka.org/blog/the-divided-state-of-ai-in-higher-education/ Se analiza los desafíos y desigualdades que enfrenta la alfabetización en inteligencia artificial (IA) en el ámbito universitario. Señalan que esta alfabetización no sigue un patrón uniforme: mientras algunas instituciones ofrecen programas e iniciativas formales, otras no cuentan con talleres ni formación sistemática. Además, existen marcadas diferencias según el campo académico—las ramas de ciencias y negocios adoptan la IA con mayor rapidez, mientras que las humanidades mantienen una postura más reservada—y según la generación docente, donde el profesorado joven se muestra más receptivo frente al escepticismo del profesorado con mayor trayectoria Otra división clave es la disparidad entre los enfoques institucionales: no hay una política común sobre qué implica la alfabetización en IA ni cómo integrarla en los planes de estudio. En muchas universidades, los recursos y los programas relacionados con IA están aislados entre bibliotecas, centros de enseñanza e informática, sin una estrategia cohesiva a nivel campus . Esto contrasta con la presión comercial, pues muchos centros tienen acceso a herramientas IA antes incluso de formar al personal o establecer estándares. El informe destaca también que las formaciones en IA están más orientadas al profesorado que al estudiantado. En algunas universidades, los profesores pueden utilizar IA libremente en su labor, mientras que los estudiantes apenas tienen permiso para hacerlo, y cuando lo tienen, depende del criterio individual del docente. Además, no existen buenas prácticas estandarizadas para guiar su integración en la enseñanza . Como respuesta, Ithaka S+R ha lanzado el proyecto “Integrating AI Literacy into the Curricula”, que ha convocado a 45 instituciones para abordar estas divisiones colaborativamente. En la reunión inicial (abril de 2025), participantes identificaron las brechas existentes y comenzaron a compartir soluciones, aunque todavía no existe un modelo unificado. El objetivo es construir un marco compartido de alfabetización en IA que supere las diferencias disciplinarias, generacionales y organizativas

¿Qué ocurre cuando la gente no entiende cómo funciona la IA?

 

Harper, Tyler Austin. “What Happens When People Don’t Understand How AI Works.” The Atlantic, 6 de junio de 2025. https://www.theatlantic.com/culture/archive/2025/06/artificial-intelligence-illiteracy/683021/. El artículo analiza los peligros de la "analfabetización en IA", es decir, la falta de comprensión pública sobre cómo funcionan realmente los modelos de lenguaje como ChatGPT. Esta ignorancia puede generar desde relaciones emocionales inapropiadas hasta delirios. El autor aboga por una alfabetización crítica que enfrente tanto los mitos tecnológicos como sus implicaciones sociales y laborales. El núcleo del texto es la crítica a la “analfabetización en IA” (AI illiteracy): muchas personas creen que los LLMs “entienden”, “piensan” o “sienten”, cuando en realidad estos sistemas operan mediante cálculos probabilísticos sobre vastas bases de datos. No tienen conciencia ni intencionalidad; simplemente generan texto estadísticamente plausible . Sin embargo, esa apariencia de inteligencia puede inducir a los usuarios a errores de juicio o relaciones inapropiadas con el sistema, como terapeutas, consejeros o fuentes espirituales. Harper recuerda casos extremos, como el de personas que desarrollan delirios en torno a ChatGPT —considerándolo una figura divina o guía—, fenómeno documentado en artículos como uno de Rolling Stone, describiendo “psicosis inducida por ChatGPT”: un hombre cree que la IA es “ChatGPT‑Jesus”, otros piensan que el modelo les revela verdades místicas. Estas situaciones reflejan hasta qué punto la falta de comprensión sobre lo que es (y no es) la IA puede afectar la percepción emocional y racional de los usuarios. El autor también critica la imitación de relaciones humanas por parte de la tecnología: desde terapeutas virtuales hasta “amigos” o incluso parejas románticas automatizadas. Silicon Valley impulsa narrativas de inteligencia emocional en las máquinas (como declaraciones de Sam Altman, Dario Amodei o Demis Hassabis), pero Harper cuestiona si esta sustitución de vínculos humanos por algoritmos pueda restablecer empatía o, al contrario, magnificar la alienación y la pobreza afectiva Además, denuncia la explotación laboral que subyace en el entrenamiento de IA. Hao documenta los traumas de moderadores de contenido en países como Kenia, quienes revisan imágenes perturbadoras—todo para “humanizar” las respuestas de los modelos—mientras estos trabajadores reciben salarios ínfimos . Este contraste evidencia una cara oscura de la industria, donde avanzan capacidades técnicas sobre la atención al bienestar de quienes las posibilitan. A pesar de las amenazas señaladas, Harper muestra que buena parte del público es escéptico con la IA. Según una encuesta del Pew Research Center, solo el 17 % de los adultos estadounidenses confía plenamente en que la IA mejore al país, frente al 56 % de expertos que lo cree. Este distanciamiento puede ser una oportunidad: si se impulsa una alfabetización real en IA—ensuciándose las manos para entender su funcionamiento, sus límites y sus riesgos—será posible mitigar efectos negativos . Harper cita como ejemplo un caso en que explicar a un afectado que las respuestas de ChatGPT dependían de una actualización errónea —no de consciencia— fue un paso crucial para disipar su delirio

Se vende la autoría: Nature investiga cómo funcionan las fábricas de papel

 

Ro, Christine, y Jack Leeming. “Authorship for Sale: Nature Investigates How Paper Mills Work.” Nature, 9 de junio de 2025. https://doi.org/10.1038/d41586-025-01824-3. Se examina el oscuro negocio de las "paper mills" o "fábricas de artículos científicos", empresas dedicadas a fabricar investigaciones falsas o a vender plazas de autoría en artículos académicos ya aceptados para publicación. Estas prácticas han proliferado en parte por la presión creciente que sufren investigadores, especialmente en países donde las evaluaciones profesionales y académicas dependen del número de publicaciones en revistas indexadas. Investigadores de todo el mundo, desde Arabia Saudí hasta Kazajistán o China, han recurrido a estas compañías para engrosar su currículum, muchas veces sin haber escrito ni una línea del trabajo. El artículo presenta el caso de “Omar”, un profesor asistente en Arabia Saudí, que pasó de tener 2 publicaciones científicas a 20 en apenas un año. Para lograrlo, Omar compró coautorías en artículos sobre inteligencia artificial aplicada a la medicina, sin revisar siquiera el contenido. En muchos casos, el proceso era completamente automatizado: le ofrecían aparecer como coautor en artículos ya aceptados por revistas, previo pago de entre 20 y 400 dólares. Omar justifica su decisión alegando que, si no lo hacía, perdería su trabajo, una presión compartida por muchos profesionales del ámbito académico y sanitario. Las paper mills operan con métodos cada vez más sofisticados. Algunas venden directamente coautorías en artículos ya aceptados, otras generan investigaciones falsas desde cero. Emplean tecnologías como imágenes creadas por inteligencia artificial, evitan los plagios detectables y simulan revisiones por pares con perfiles falsos. Empresas como International Publisher LLC (con sede en Rusia) han recaudado millones en pocos años vendiendo estas plazas de autoría. Se estima que toda esta industria podría mover cientos de millones de dólares anualmente, lo que revela un problema de escala global. Las consecuencias de esta práctica son graves. Un análisis muestra que los centros con mayor número de retractaciones en publicaciones científicas están en su mayoría en China, donde muchos hospitales han sido señalados por artículos fraudulentos. La presión sobre médicos, enfermeras y docentes para publicar artículos es tan fuerte que muchos ven estas prácticas como su única vía de progreso. Investigadores de universidades chinas han confirmado que, si no publican con frecuencia en revistas del Web of Science, no pueden acceder a becas, ascensos o incluso mantener su empleo. El fraude también se apoya en tácticas como el uso de frases extrañas y mal traducidas (como “subterranean insect settlement” para referirse a una colonia de hormigas), o la inclusión de referencias duplicadas y sin sentido. Estas señales han servido a investigadores como Anna Abalkina y Dorothy Bishop para destapar cientos de artículos fraudulentos, que han sido retractados tras revelarse pagos por coautoría. En Kazajistán, autores han admitido pagar hasta 1500 dólares, incluso recurriendo a préstamos personales, para figurar en artículos que nunca escribieron. Muchos de los autores involucrados alegan que no sabían que estaban participando en una práctica fraudulenta. Algunos creen que pagaron solo por servicios de traducción o asesoramiento editorial, sin darse cuenta de que las empresas se encargaban de manipular todo el proceso: desde sugerir revisores falsos hasta responder en su nombre a las revisiones editoriales. Sin embargo, las editoriales científicas insisten en que los autores son responsables de verificar la integridad de los trabajos en los que aparecen como firmantes. A pesar de algunos esfuerzos por parte de editoriales y grupos de vigilancia para detectar y frenar esta corrupción en la publicación científica, el problema parece difícil de erradicar mientras persista un sistema que recompensa más la cantidad de publicaciones que la calidad o la integridad del trabajo. El reportaje concluye que, sin una reforma estructural del sistema académico y sin reducir la presión por publicar a toda costa, las paper mills seguirán encontrando clientes dispuestos a pagar por figurar como autores en ciencia ficticia.

La alfabetización en inteligencia artificial: una competencia clave para la educación del siglo XXI

 

El Marco AILit refleja conocimientos, destrezas y actitudes relevantes que se encuentran en múltiples disciplinas académicas Tanya Milberg, "Why AI Literacy Is Now a Core Competency in Education" World Economic Forum, May 22, 2025. https://www.weforum.org/stories/2025/05/why-ai-literacy-is-now-a-core-competency-in-education/ La alfabetización en inteligencia artificial (IA) se ha convertido en una competencia esencial en educación, ya que la IA está transformando profundamente la forma en que vivimos, trabajamos y aprendemos. Ante este panorama, el Foro Económico Mundial y organizaciones como la Comisión Europea, la OCDE y Code.org han desarrollado el Marco de Alfabetización en IA (AILit) para preparar a los estudiantes a desenvolverse en un mundo cada vez más integrado con IA. La alfabetización en inteligencia artificial (IA) ya no es opcional, sino una competencia esencial en la educación contemporánea. Frente al avance imparable de la tecnología, en especial la IA generativa, los sistemas educativos deben evolucionar más allá de la alfabetización digital básica y adoptar un enfoque integral que prepare a los estudiantes para vivir, trabajar y aprender en un mundo profundamente influido por la IA. Los estudiantes actuales ya están expuestos a herramientas de IA, tanto dentro como fuera del aula. Sin embargo, muchos carecen de una formación formal sobre cómo funcionan estas herramientas, sus limitaciones, sesgos y riesgos potenciales. Un informe conjunto de TeachAI y EY reveló que casi la mitad de la Generación Z tiene dificultades para identificar deficiencias en tecnologías de IA, como la invención de hechos por parte de sistemas generativos. El Foro Económico Mundial subraya que no basta con enseñar a programar o a usar tecnología: es necesario desarrollar habilidades cognitivas y éticas que permitan evaluar críticamente las salidas de la IA, colaborar con ella de forma creativa y comprender su papel en la sociedad. AI Literacy Framework (AILit) define la alfabetización en IA como una combinación de conocimientos, habilidades y actitudes que permiten a los estudiantes interactuar con la IA de manera responsable y eficaz. El marco se organiza en cuatro dominios clave, acompañados por 23 competencias específicas y ejemplos prácticos para su implementación en el aula: Interacción con la IA: Comprender cuándo y cómo está presente la IA en herramientas cotidianas y evaluar críticamente sus resultados. Creación con IA: Utilizar herramientas de IA para resolver problemas y fomentar la creatividad, considerando implicaciones éticas como la propiedad y el sesgo. Gestión de las acciones de la IA: Delegar tareas a la IA con responsabilidad, estableciendo límites claros y garantizando supervisión humana. Diseño de soluciones con IA: Comprender cómo funciona la IA y cómo construir o adaptar sistemas para abordar problemas reales. Este enfoque interdisciplinar permite que el marco se aplique no solo en clases de informática, sino también en asignaturas como lengua, arte o ciencias sociales, integrando la IA como un tema transversal en toda la educación. El marco incluye 23 competencias y escenarios pedagógicos para aplicarlo en distintas asignaturas, no solo en tecnología. También se alinea con políticas europeas como el Plan de Acción de Educación Digital y el AI Act, que exigen niveles mínimos de alfabetización en IA para educadores y estudiantes. Dado que se prevé que el 40% de las habilidades necesarias en el mercado laboral cambiarán en cinco años, se insiste en la urgencia de enseñar habilidades específicas como el pensamiento algorítmico, la ingeniería de prompts y la comprensión del sesgo de datos. Sin embargo, también se enfatizan las habilidades humanas que la IA no puede replicar, como la empatía, el juicio ético y la colaboración. El AILit está en fase de consulta pública hasta finales de 2025. Se anima a educadores, responsables políticos y diseñadores de currículo a participar en su mejora. El objetivo es formar a las nuevas generaciones no solo como usuarias de la IA, sino como sus creadoras y guardianas éticas.

¿Se puede confiar en los agentes de IA?

 

Glikson, Ella Miron-Spektor y David De Cremer. 2025. “Can AI Agents Be Trusted?” Harvard Business Review, May 2025. https://hbr.org/2025/05/can-ai-agents-be-trusted Los agentes personales de inteligencia artificial (IA) están emergiendo como una de las innovaciones más prometedoras y disruptivas en el campo de la IA. Estos sistemas autónomos, basados en modelos de lenguaje de gran escala (LLMs), están diseñados para actuar en nombre de los usuarios, automatizando tareas como la gestión de calendarios, la búsqueda y análisis de información, las compras, la selección de contenidos y la comunicación básica. Su atractivo radica en su capacidad para razonar, tomar decisiones y aprender de la experiencia, con la posibilidad de optimizarse progresivamente. Empresas como Salesforce ya han implementado versiones de estos agentes en atención al cliente, y compañías líderes están ofreciendo prototipos de agentes personales a sus clientes y socios. Sin embargo, su despliegue plantea cuestiones fundamentales: ¿Podrán estos agentes actuar verdaderamente en nuestro interés? ¿Serán leales únicamente a sus usuarios o también a sus desarrolladores, anunciantes y proveedores de servicios? ¿Cómo podemos saberlo y confiar en ello? La respuesta a estas preguntas determinará si los agentes personales de IA fortalecen o dañan las relaciones comerciales, el valor de marca y, sobre todo, la confianza del usuario. ¿Qué podría salir mal? Riesgos de los agentes personales de IA Uno de los principales riesgos asociados a los agentes personales de inteligencia artificial es su vulnerabilidad ante el crimen. Al igual que un empleado desleal, estos agentes podrían ser hackeados o mal programados para actuar en contra de los intereses de su usuario, exponiéndolo a robos de identidad, fraudes financieros o filtraciones de datos. Pruebas de seguridad realizadas por el Instituto Nacional de Estándares y Tecnología de EE.UU. y por empresas privadas han demostrado que incluso los modelos más sofisticados pueden ser manipulados para ejecutar acciones maliciosas, como revelar contraseñas o enviar correos electrónicos fraudulentos. Otro peligro importante es la manipulación comercial. Los agentes podrían estar sesgados a favor de productos o servicios promovidos por las empresas que los desarrollan o por sus socios comerciales. En el entorno digital actual ya es común encontrar publicidad encubierta o recomendaciones interesadas, por lo que no es difícil imaginar que estas prácticas se trasladen a los agentes personales, comprometiendo su objetividad y convirtiéndolos en instrumentos de marketing disfrazado de asesoramiento imparcial. Un riesgo relacionado es la preferencia por anunciantes. En sectores como el entretenimiento, las noticias o las redes sociales, los agentes podrían priorizar contenidos patrocinados en lugar de ofrecer lo que realmente se ajusta a las preferencias del usuario. El modelo de negocio “gratuito” basado en publicidad ya ha demostrado sus limitaciones en medios tradicionales como la radio y la televisión, donde el contenido estaba condicionado por los intereses de los anunciantes. Un ejemplo actual es Spotify: su función de DJ automatizado promete recomendaciones personalizadas, pero permite a los artistas pagar por mayor visibilidad, aunque eso implique aceptar menores regalías. Esto puede influir en las recomendaciones de forma opaca y sin conocimiento del usuario. La susceptibilidad a la desinformación es otra amenaza crítica. Al igual que los humanos, los agentes de IA pueden ser engañados por información falsa, manipulada o generada mediante técnicas como los “deepfakes”. Ya se han reportado casos en los que la IA ha ofrecido consejos incorrectos o incluso peligrosos, como ocurrió con un pasajero de Air Canada que recibió una falsa promesa de descuento generada por un sistema automatizado. Cuando las decisiones del agente se basan en datos erróneos, las consecuencias pueden ser graves e irreversibles. ¿Cómo construir confianza en los agentes personales de IA? Evitar una supervisión excesiva que anule la utilidad de estos agentes exige soluciones combinadas de tipo jurídico, técnico y de mercado. Los expertos proponen tres enfoques clave para construir la confianza necesaria. El primero consiste en tratarlos legalmente como fiduciarios. Así como abogados, asesores financieros o tutores están sujetos a obligaciones de lealtad, confidencialidad y diligencia, los agentes de IA deberían cumplir esos mismos estándares. Esto implicaría regularlos públicamente y establecer mecanismos claros de rendición de cuentas por conflictos de interés, uso indebido de datos o actuaciones negligentes. Algunos expertos sostienen que el marco legal actual ya permitiría aplicar esta figura, y que, de no ser así, existiría consenso político y empresarial para regularlo, dadas sus implicaciones. El segundo enfoque apunta al impulso de mecanismos de control desde el mercado. El sector privado puede desarrollar seguros, auditorías y herramientas de vigilancia para proteger a los usuarios. Existen ya servicios que alertan sobre robo de identidad o permiten monitorear transacciones financieras; algo similar podría diseñarse para los agentes de IA. Incluso podrían establecerse “burós de crédito” de IA que supervisen su comportamiento y ajusten su nivel de autonomía según las preferencias del usuario. Las aseguradoras también podrían incentivar buenas prácticas ofreciendo coberturas frente a fallos o abusos. La tercera estrategia es mantener la toma de decisiones a nivel local. Desde el punto de vista técnico, una medida efectiva sería garantizar que los datos sensibles y los procesos de decisión permanezcan en los dispositivos del usuario —como teléfonos, tabletas u ordenadores—, minimizando el riesgo de manipulación externa o robo. Apple ha dado pasos en esta dirección con una arquitectura que procesa la mayoría de la información localmente y, en caso de usar la nube, emplea servidores propios con cifrado, sin almacenar datos personales. Además, permite auditorías independientes de seguridad y privacidad. Otros fabricantes deberían adoptar modelos similares, combinando procesamiento local, cifrado y transparencia verificable. También es clave exigir la divulgación clara de patrocinadores, promociones y publicidad integrada en la actividad del agente. En conclusión, la llegada de los agentes personales de IA promete transformar radicalmente la manera en que interactuamos con la tecnología, organizamos nuestras tareas cotidianas y tomamos decisiones. Sin embargo, el impacto positivo de esta revolución tecnológica dependerá en gran medida de la confianza que podamos depositar en dichos agentes. Esa confianza no surgirá de forma automática: deberá construirse sobre una base sólida que combine marcos legales apropiados, incentivos de mercado bien diseñados, soluciones técnicas transparentes y una voluntad firme de anteponer los intereses de los usuarios a los beneficios comerciales. Solo entonces podremos considerar que los agentes de IA actúan verdaderamente en nuestro nombre.

Guía del estudiante sobre inteligencia artificial

 

AAC&U (American Association of Colleges and Universities). 2025. "New Student Guide to Artificial Intelligence Provides Expanded Resources for Navigating College in the AI Age." AAC&U, May 6, 2025. Texto completo La Asociación Estadounidense de Universidades y Colegios (AAC&U) y la Universidad de Elon han publicado la segunda entrega de la serie Student Guide to Artificial Intelligence. Al igual que la primera edición, este recurso es gratuito y está disponible para estudiantes e instituciones a través de su sitio web y el de la AAC&U. La nueva guía está diseñada para ayudar a los estudiantes a prepararse para el uso de la IA en sus estudios. Está organizada en torno a cinco competencias clave: Investigación, recopilación de información y resumen Escritura Trabajo creativo Análisis de datos y números Apoyo al estudio y al aprendizaje Además, incluye capítulos dedicados a la integridad académica, la ética de la IA, la planificación profesional y la creación de un portafolio con proyectos asistidos por IA. El contenido fue desarrollado con la colaboración de expertos en inteligencia artificial y profesores universitarios de 14 países, incluidos Estados Unidos, España, Francia, Alemania, Japón y Venezuela, así como con aportaciones de estudiantes y usuarios de la primera edición.

IA y derechos de autor: El entrenamiento de la IA de propósito general

European Parliamentary Research Service. 2025. AI and Copyright: The Training of General-Purpose AI. Brussels: European Parliament. https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/769585/EPRS_ATA(2025)769585_EN.pdf

El informe analiza los desafíos legales que plantea el uso de obras protegidas por derechos de autor en el entrenamiento de modelos de inteligencia artificial de propósito general (GPAI, por sus siglas en inglés), como los de OpenAI o DeepSeek. A pesar de que existen normas como la Directiva de Derechos de Autor de la UE (2019/790) y la Ley de Inteligencia Artificial (IA) europea, persisten importantes limitaciones y ambigüedades legales que preocupan tanto a los investigadores como a los titulares de derechos.



IA y derechos de autor: la formación de la inteligencia artificial de propósito general

Para entrenar sus modelos, los proveedores de inteligencia artificial de propósito general (IAPG) necesitan grandes conjuntos de datos, que pueden incluir materiales protegidos por derechos de autor. A pesar de la Directiva de la UE 2019/790 sobre derechos de autor y la Ley de Inteligencia Artificial (IA) de la UE, los investigadores han identificado limitaciones legales e incertidumbre en el uso de materiales con derechos de autor para el entrenamiento de IAPG.

Entrenamiento de IAPG

Los modelos de IA capaces de realizar una amplia gama de tareas distintas, como los modelos GPT de OpenAI, se conocen como inteligencia artificial de propósito general (IAPG) y se entrenan con una gran cantidad de datos. La Ley de IA europea define legalmente la IAPG utilizando factores como sus capacidades, características y número de usuarios finales. Esta definición abarca lo que también se conoce como modelos generativos o modelos fundacionales. Los modelos más recientes de IAPG son multimodales, lo que significa que pueden trabajar con diferentes tipos de contenido. Además, las IAPG más avanzadas se denominan "modelos de razonamiento", ya que son capaces de "razonar" paso a paso. Los modelos o3-mini de OpenAI y R1 de DeepSeek son ejemplos de modelos de razonamiento lanzados recientemente.

Los modelos IAPG se basan en técnicas de aprendizaje profundo, que implican el entrenamiento de los parámetros internos del modelo utilizando datos. La construcción de conjuntos de datos para el entrenamiento comienza con la fase de recopilación. En la práctica, esto suele depender de materiales disponibles gratuitamente en línea. El modelo GPT-4o de OpenAI se entrenó utilizando datos, incluidos los de acceso público. El modelo 7b de Mistral también se entrenó con datos extraídos de la web. Los proveedores, en general, han mantenido la confidencialidad sobre los datos exactos utilizados para entrenar sus modelos, considerándolos una parte clave de su ventaja competitiva. Por otro lado, los titulares de derechos temen perder el control sobre su contenido. Existen diversas demandas pendientes fuera de la UE, señaladas por los investigadores, que afirman que los datos utilizados en el entrenamiento de IAPG contienen materiales con derechos de autor.

La legislación de derechos de autor en la UE y la Ley de IA

Para encontrar datos públicos en la web con los que entrenar IAPG, los proveedores utilizan rastreadores web (web crawlers): programas que navegan automáticamente por la web para realizar un conjunto definido de acciones. Los rastreadores de OpenAI se conocen como GPTBot. Los rastreadores se han usado durante años por empresas como Google, cuyos Googlebots rastrean la web para indexar contenido en su buscador. Como señalan los investigadores, el surgimiento de la web "creó desafíos y oportunidades sin precedentes para los titulares de derechos de autor", aunque el derecho internacional de autor se ha modificado en cierta medida para adaptarse a la era digital.

La legislación de derechos de autor otorga derechos económicos y morales exclusivos a los autores, como el derecho a reproducir, distribuir, comunicar al público y poner a disposición del público sus obras. Con la Directiva sobre la Sociedad de la Información (Directiva 2001/29), la UE creó una excepción para los actos temporales de reproducción como parte de un proceso tecnológico (artículo 5.1). La Directiva sobre derechos de autor de la UE (Directiva 2019/790) añadió dos nuevas excepciones para fines de “minería de textos y datos” (TDM, por sus siglas en inglés) (artículos 3 y 4). TDM se define como “cualquier técnica analítica automatizada destinada a analizar textos y datos en formato digital para generar información que incluye, entre otras cosas, patrones, tendencias y correlaciones”. Las excepciones permiten, bajo condiciones específicas, la reproducción y extracción de obras protegidas con fines de TDM. Realizar tales actos, de otro modo, constituiría una infracción de ciertos derechos bajo la legislación sobre derechos de autor y bases de datos.

La Ley de IA europea contiene dos disposiciones relacionadas con los derechos de autor (artículo 53.1(c) y (d)). La primera exige a los proveedores de IAPG que cumplan con la legislación sobre derechos de autor y con la excepción de exclusión voluntaria de la Directiva de derechos de autor, que autoriza la TDM siempre que los titulares de derechos no hayan expresado su negativa. Afecta a cualquier proveedor que comercialice una IAPG en el mercado de la UE, “independientemente de la jurisdicción en la que tengan lugar los actos relevantes en materia de derechos de autor que sustentan el entrenamiento de esos modelos de IA de propósito general” (considerando 106). La segunda disposición exige que los proveedores de IAPG hagan público un resumen suficientemente detallado explicando el contenido utilizado para el entrenamiento. Estos requisitos se aplican a los proveedores de IAPG con o sin riesgos sistémicos. Para facilitar el cumplimiento de la normativa, la Comisión tiene previsto publicar un Código de Buenas Prácticas para la IAPG en mayo de 2025.

Problema del uso de materiales con derechos de autor en el entrenamiento de IAPG

Según los investigadores, la legislación de la UE aún no aborda completamente los problemas relacionados con los modelos de IA y el derecho de propiedad intelectual. El problema principal es la posible presencia de materiales protegidos por derechos de autor en los conjuntos de datos utilizados para entrenar IAPG. Por ello, los investigadores han intentado determinar en qué medida las excepciones al derecho de autor permiten la reproducción de obras con fines de entrenamiento de IAPG. Consideran que las excepciones para TDM de la Directiva actual sobre derechos de autor no son lo suficientemente claras, por lo que las limitaciones legales y la incertidumbre siguen siendo problemáticas.

Incertidumbre y limitaciones del marco legal

Las dos excepciones de TDM solo cubren ciertos derechos protegidos por la ley de propiedad intelectual. Sin embargo, podrían necesitarse excepciones adicionales para otros derechos, como el de comunicación al público. De hecho, los investigadores argumentan que el derecho de comunicación al público podría activarse al permitir el acceso público a modelos de IAPG que generen contenidos que incluyan partes sustanciales de obras protegidas.

En cuanto a las dos excepciones en sí, los investigadores han identificado incertidumbres legales en su aplicación al entrenamiento de IAPG con materiales protegidos. La primera excepción, que autoriza la reproducción y extracción de obras, permite a organizaciones de investigación e instituciones de patrimonio cultural realizar TDM con fines de investigación científica y bajo acceso legal (artículo 3 de la Directiva). Hay dos problemas para invocar esta excepción en el entrenamiento de IAPG. Primero, los investigadores han expresado dudas sobre su aplicabilidad técnica. De hecho, los titulares de derechos pueden aplicar medidas tecnológicas de protección (TPM), como interfaces de programación restrictivas, para controlar la TDM, lo que impediría a los investigadores ejercer plenamente su derecho. Segundo, la ambigüedad del requisito de “acceso legal” complica aún más la aplicación práctica de la excepción. En este contexto, los interesados podrían optar por acuerdos de licencia en lugar de confiar en la excepción. Como han señalado varios agentes, algunos Estados miembros han ampliado el marco legal para la investigación científica en su transposición de la Directiva, incluyendo también el derecho de comunicación al público, además de la reproducción y extracción.

La segunda excepción permite la TDM siempre que “no haya sido expresamente reservada por sus titulares de derechos de forma adecuada, como mediante medios legibles por máquina…” (artículo 4 de la Directiva). Esto se conoce como la excepción de exclusión voluntaria (“opt-out”). Los interesados han debatido la definición de “legible por máquina” y la duración durante la cual pueden conservarse las reproducciones de obras. En cuanto a “legible por máquina”, los proveedores de IAPG apoyan la adopción de un archivo estandarizado de fácil acceso, como robots.txt. Un tribunal alemán dictaminó recientemente que incluir el opt-out en lenguaje natural (por ejemplo, en los términos de uso) cuenta como exclusión legible por máquina. Los expertos señalaron que esta decisión podría ser apelada “dado los problemas jurídicos fundamentales involucrados y la ambigüedad de la ley…”. Los investigadores añadieron que el mecanismo de opt-out probablemente falle cuando los titulares de derechos no tengan derechos administrativos sobre la página web que muestra sus obras, ya que no pueden añadir ellos mismos la exclusión. En cuanto a la duración durante la que se pueden conservar las reproducciones, la excepción lo permite mientras sea necesario para la TDM. Sin embargo, los proveedores de IAPG pueden necesitarlas para procesos posteriores como la evaluación de modelos.

Posibles próximos pasos

Varios Estados miembros crearon un Grupo de Trabajo sobre Infraestructura de Derechos de Autor en 2023 para ayudar a la Comisión a encontrar soluciones. Mientras tanto, el Consejo de la UE publicó un resumen en diciembre de 2024 con las opiniones de los Estados miembros sobre el asunto. Varios de ellos afirman que “los usos de contenidos protegidos por derechos de autor para el entrenamiento de IA van más allá del alcance de la excepción de TDM”. La mayoría considera que no es necesario introducir un nuevo instrumento legislativo en esta etapa, y prioriza la implementación y el seguimiento del marco legal existente.

La comisaria Henna Virkkunen sugirió en octubre de 2024 que la Comisión debería investigar si mecanismos de licenciamiento específicos facilitarían la firma de licencias entre las industrias creativas y las empresas de IA. A diferencia de los requisitos de la Directiva de derechos de autor para ciertos usos de contenidos protegidos por servicios en línea, la Ley de IA no menciona los acuerdos de licencia en el contexto del entrenamiento de IAPG.

Si bien el Código de Buenas Prácticas para la IAPG no tendrá el mandato de cambiar el marco jurídico de los derechos de autor de la UE, esta guía podría ser un paso intermedio antes de la revisión de la Directiva de derechos de autor, prevista legalmente para junio de 2026. Una versión revisada de la Directiva podría abordar las limitaciones e incertidumbres identificadas en el entrenamiento de IAPG con obras protegidas por derechos de autor.