Publicado en The Quad. University of Alberta
https://www.ualberta.ca/en/the-quad/2026/08/the-algorithm-of-consent.html
El algoritmo del consentimiento
Integrar la inteligencia artificial y la publicación en acceso abierto sobre la base de los principios de soberanía de los datos indígenas.
6 de agosto de 2026 | Donna McKinnon
La serie AI with Purpose (IA con propósito) muestra cómo el profesorado y el personal utilizan la inteligencia artificial de manera reflexiva para mejorar el aprendizaje de los estudiantes, aumentar la eficiencia y servir de ejemplo de un uso críticamente informado, al tiempo que se clarifican los valores de la universidad, se fomenta la alfabetización en IA y se fortalece el liderazgo de la Universidad de Alberta en este ámbito en rápida evolución.
Mientras las instituciones de educación superior —incluida la Universidad de Alberta— se apresuran a integrar la inteligencia artificial en el ámbito de la investigación, está surgiendo un debate crucial en la intersección entre la innovación tecnológica y la autodeterminación de los pueblos indígenas. La soberanía de los datos indígenas —el derecho de los pueblos indígenas a gobernar la recopilación, la propiedad y la utilización de los datos que afectan a sus comunidades y territorios— constituye un marco esencial para garantizar que el desarrollo y el uso de la IA no reproduzcan patrones coloniales de extracción.
En un entorno universitario cada vez más orientado hacia la publicación en acceso abierto, esto implica ir más allá de la simple privacidad de los datos y avanzar hacia una gobernanza activa, garantizando que los conocimientos y los datos indígenas no puedan utilizarse sin el consentimiento explícito de los pueblos indígenas, señala el Dr. Chris Andersen, vicerrector y decano del College of Social Sciences and Humanities (CSSH).
«El problema de utilizar un modelo de datos abiertos es que, cuando se democratiza el conocimiento, puede parecer algo beneficioso para todos, pero desde una perspectiva indígena puede no serlo», afirma. «Históricamente, esto perjudicó activamente a las comunidades indígenas porque la gente utilizaba esos datos para elaborar todo tipo de relatos centrados en nuestras supuestas deficiencias, ya que la única información que recopilaban era sobre aquellas cosas que consideraban que estaban mal en nosotros».
El crecimiento exponencial del acceso abierto (OA) —que elimina los muros de pago y las barreras a la publicación— está estrechamente relacionado con la rápida evolución de la IA, que utiliza enormes cantidades de datos extraídos de internet para su entrenamiento y desarrollo. Cuando las herramientas de IA absorben estos datos, incorporan indiscriminadamente relatos indígenas, grabaciones de lenguas, conocimientos sagrados e información cultural y biográfica. Esto genera tensiones en torno a la cuestión de si «libre para leer» implica automáticamente «libre para entrenar». Se trata de una cuestión compleja y, en el contexto de la producción académica indígena, tiene consecuencias de enorme importancia.
Shape: A Strategic Plan of Impact destaca un modelo de Universidad Única (One University), mientras que Braiding Past, Present and Future: the Indigenous Strategic Plan sitúa en el centro la autodeterminación, las relaciones y la rendición de cuentas. La integración ética de la IA debe considerar cómo incorporar los derechos, la gobernanza y la responsabilidad de los pueblos indígenas.
Aunque la IA plantea desafíos específicos en el contexto de la soberanía de los datos indígenas, su presencia no modifica los principios fundamentales de propiedad y gobernanza, explica Andersen. Más bien, la IA es simplemente una nueva herramienta que debe respetar estos límites ya establecidos, guiándose por un marco que equilibre dos principios esenciales: los datos para la gobernanza (garantizar datos de calidad) y la gobernanza de los datos (mantener el control sobre cómo se producen y preservan esos datos).
Dado que los modelos de IA se basan en conjuntos de datos sesgados que entrañan riesgos de uso cultural indebido y de reproducción de estereotipos, son indispensables salvaguardias sólidas, entre ellas revisiones del consentimiento dirigidas por pueblos indígenas, pruebas para detectar sesgos, límites al uso secundario de los datos y mecanismos claros de rendición de cuentas.
Enmarcar el acceso abierto desde una perspectiva indígena«Existe una tensión entre conceptos como los datos abiertos y la ciencia abierta y la forma en que se recopilan los datos en las comunidades indígenas», señala el Dr. Matthew Wildcat, profesor asociado de la Faculty of Native Studies. Wildcat dirige el Relational Governance Project, un proyecto sobre un concepto de política indígena que estudia cómo las Primeras Naciones participan en la cogobernanza de las organizaciones encargadas de prestar servicios.
El camino a seguir debe incluir un compromiso con los principios de las Primeras Naciones de propiedad, control, acceso y posesión (OCAP), así como con los principios de beneficio colectivo, autoridad para controlar, responsabilidad y ética (CARE), explica Matthew. Mientras que los principios OCAP de Canadá otorgan a las Primeras Naciones pleno control sobre la gestión de sus datos, los principios CARE, de alcance mundial, los complementan al centrarse en los derechos humanos y el bienestar de las personas implicadas. Juntos protegen los datos indígenas frente a la explotación bajo el principio rector: «Nada sobre nosotros sin nosotros».
«En un contexto histórico marcado por la eliminación de la jurisdicción indígena y por prácticas de investigación extractivas, es importante hacer hincapié en el control», afirma Matthew.
La Dra. Kisha Supernant, primera decana asociada de Participación Indígena del CSSH desde el 1 de julio de 2026, directora del Institute of Prairie and Indigenous Archaeology (IPIA) y profesora del Departamento de Antropología, conoce esta realidad de primera mano. Su trabajo de apoyo a las Naciones Indígenas en la localización de posibles tumbas sin identificar —una investigación realizada para y con las comunidades indígenas, en lugar de sobre ellas— ha puesto de manifiesto con especial urgencia la necesidad de la soberanía de los datos y de las formas indígenas de conocimiento, situándolas en el centro de las prácticas arqueológicas.
«La investigación que involucra a los pueblos indígenas exige que reconsideremos cómo se recopilan, almacenan y analizan los datos en todas las etapas del proceso de investigación», explica. «Estas conversaciones deberían comenzar desde el inicio mismo de un proyecto, incluidas las posibilidades y los desafíos que supone trabajar dentro de instituciones coloniales».
«En arqueología existen obstáculos jurídicos y regulatorios para respetar la soberanía de los datos y aplicar los principios OCAP», añade Kisha, señalando que en el IPIA han elaborado modelos de acuerdos que garantizan la soberanía de las comunidades sobre todos los datos, tanto a corto como a largo plazo. «También podemos actuar como custodios de los datos si la comunidad no dispone de infraestructura para almacenarlos de forma segura, pero la comunidad conserva siempre la soberanía sobre ellos».
Incorporar la soberanía de los datos indígenasPara abordar la persistente brecha en materia de datos, que a menudo sitúa a las comunidades indígenas en una posición de desventaja, es fundamental desarrollar capacidades dentro de estas comunidades. Chris considera que la Universidad de Alberta debe invertir en alianzas a largo plazo mediante funciones relacionadas con los datos dirigidas por las propias comunidades, capacitación y directrices de financiación que respeten los principios OCAP y CARE.
«No puede ser simplemente un “todo vale”», afirma. «El objetivo debería ser fortalecer la capacidad de los pueblos indígenas para gestionar y utilizar nuestros propios datos de acuerdo con nuestras propias prioridades».
Explica que debe normalizarse la colaboración indígena desde la fase conceptual de la investigación, incorporándola como una práctica obligatoria. Esto podría incluir la reevaluación de los indicadores institucionales para determinar cómo demuestran los investigadores la construcción de relaciones y la existencia de presupuestos compartidos antes de obtener las aprobaciones éticas y la financiación, así como la manera en que este trabajo se tiene en cuenta para la obtención de puestos permanentes y los ascensos académicos.
«Desde una perspectiva de cogobernanza, para que esto funcione debería considerarse una parte habitual de cualquier investigación realizada en colaboración con las comunidades o de cualquier tipo de investigación que utilice datos indígenas».
Andersen considera que el papel de los altos responsables administrativos, incluido el suyo propio, ofrece una oportunidad para incorporar estos principios a las prácticas cotidianas, tanto en el contexto de la IA como fuera de él.
«Es realmente importante mantener conversaciones —incluso conversaciones incómodas— de una manera que no destruya las relaciones», afirma. «En la era de la Reconciliación, quiero que todos terminemos comprendiendo qué significa realmente asumir una responsabilidad pública. Es una estrella polar hacia la que podemos avanzar».
……………………………………………………
Anchoring AI integration and open access publishing in the principles of Indigenous data sovereignty.
August 06, 2026 By Donna McKinnon
The AI with Purpose series showcases how faculty and staff are thoughtfully using AI to enhance student learning, improve efficiencies and model critically informed use — while clarifying the university’s values, building AI literacy and strengthening U of A leadership in this rapidly evolving space.
As post-secondary institutions — including the University of Alberta — race to integrate artificial intelligence into the research landscape, a critical conversation is unfolding at the intersection of technological innovation and Indigenous self-determination. Indigenous data sovereignty — the right of Indigenous peoples to govern the collection, ownership and application of data that impacts their communities and lands — stands as an essential framework for ensuring that AI development and use do not replicate colonial patterns of extraction.
In a university setting increasingly focused on open access publishing, this means moving beyond simple data privacy to active governance, ensuring that Indigenous knowledge and data cannot be used without explicit Indigenous consent, says Dr. Chris Andersen, vice-provost and dean, College of Social Sciences and Humanities (CSSH).
“The problem with using an open data model is that when you democratize knowledge, it may seem like it's great for everyone, but from an Indigenous perspective, it may not be,” he says. “Historically, it actively harmed Indigenous communities because people used it to tell all these deficit-based stories, since all they ever collected information on were the things they thought were wrong with us.”
The exponential growth of open access (OA) — which removes paywalls and barriers to publishing — is fundamentally intertwined with the rapid evolution of AI, which uses massive amounts of data scraped from the internet for training and development. When AI tools vacuum up this data, they indiscriminately absorb Indigenous stories, language recordings, sacred knowledge and cultural and biographical information. This creates friction over whether "free to read" automatically implies "free to train." It is a complex question, and in the context of Indigenous scholarship, it is profoundly consequential.
Shape: A Strategic Plan of Impact emphasizes a One University model and Braiding Past, Present and Future: the Indigenous Strategic Plan centres self-determination, relationships and accountability. The ethical integration of AI needs to consider how to include Indigenous rights, governance and responsibility.
While AI presents distinct challenges in the context of Indigenous data sovereignty, its presence does not alter the fundamental principles of ownership and governance, he explains. Rather, AI simply acts as a new tool that must respect these established boundaries, guided by a framework that balances two essential principles: data for governance (securing good data) and the governance of data (maintaining control over how data is produced and preserved).
Because AI models rely on biased datasets that risk cultural misuse and stereotyping, robust safeguards are essential, including Indigenous-led consent reviews, bias testing, limits on secondary use and clear accountability.
Framing open access through an Indigenous lens“There is tension between concepts like open data and open science and how data is collected in Indigenous communities,” says Dr. Matthew Wildcat, an associate professor in the Faculty of Native Studies. He leads the Relational Governance Project, an Indigenous policy concept that explores the practice of how First Nations co-govern service delivery organizations.
The path forward must include engagement with the First Nations principles of ownership, control, access and possession (OCAP) and collective benefit, authority to control, responsibility and ethics (CARE), Matthew says. While Canada's OCAP principles grant First Nations total control over how their data is managed, the global CARE principles complement this by focusing on the human rights and well-being of the people involved. Together, they protect Indigenous data from exploitation under the guiding motto: "Nothing about us, without us."
“Within a history of having Indigenous jurisdiction erased and extractive research, an emphasis on control is important,” says Matthew.
Dr. Kisha Supernant, the inaugural CSSH associate dean-Indigenous Engagement as of July 1, 2026, director of the Institute of Prairie and Indigenous Archaeology (IPIA) and a professor in the Department of Anthropology, sees this firsthand. Her work supporting Indigenous Nations in locating potential unmarked graves — research that is for and with, rather than on Indigenous communities — has brought the need for data sovereignty and Indigenous ways of knowing into urgent focus, placing it at the centre of archaeological practices.
“Indigenous-engaged research requires that we rethink how data is collected, stored and analyzed across all stages of the research process,” she explains. “These conversations should begin at the inception of a project, including the possibilities and challenges of working within colonial institutions.”
“In archaeology, there are legal and regulatory barriers to upholding data sovereignty and following OCAP principles,” adds Kisha, noting that at the IPIA, they have developed agreement templates that guarantee community sovereignty over all short- and long-term data. “We can also act as data stewards if the community does not have existing infrastructure to store the data securely, but the community always retains sovereignty.”
Embedding Indigenous data sovereigntyTo address the persistent data divide that often leaves Indigenous communities at a disadvantage, building capacity within these communities is crucial. Chris thinks the U of A must invest in long-term partnerships through community-led data roles, training and funding guidelines that respect OCAP and CARE.
“It can’t just be a "free-for-all,” he says. “The goal should be to strengthen the ability for Indigenous peoples to manage and use our own data for our own priorities.”
Indigenous collaboration at the conceptual phase of research, embedding it as a mandatory practice, must be normalized, he explains. This could include re-evaluating institutional metrics to assess how researchers demonstrate relationship-building and shared budgets before securing ethics approvals and funding, as well as how this work counts toward tenure and promotion.
“From a co-governance perspective, in order for this to work, it should be seen as a default part of doing community-engaged research, or any kind of research that makes use of Indigenous data.”
He views the role of senior administrative leaders, including his own, as an opportunity to ground these principles into everyday practices, whether in the context of AI or not.
“It’s really important to have conversations — even uncomfortable conversations — in ways that don't ruin relationships,” he says. “In the era of Reconciliation, I want us all to walk away with what a sense of public responsibility actually looks like. It’s a North Star we can move toward.”
No hay comentarios:
Publicar un comentario