Hablamos de innovación, automatización y eficiencia, pero rara vez cuestionamos qué hay detrás de los modelos que estamos integrando en decisiones cada vez más complejas. Pocos están hablando de lo realmente importante: la calidad de la información con la que se construye y los principios éticos que la sostienen.

La conversación sobre Inteligencia Artificial (“IA”) no es nueva. Desde hace tiempo —mucho antes de que se volviera tendencia en todos los espacios— hace poco más de un año, en mi primer artículo de este gran foro, comente sobre los riesgos asociados a su desarrollo, particularmente en temas como sesgos de género, calidad de datos y responsabilidad en su implementación. Sin embargo, hoy que la IA ocupa un lugar central en la agenda pública y empresarial, el enfoque parece haberse desplazado.

La IA no es solo una herramienta tecnológica; es el resultado de múltiples procesos que permiten a las máquinas interpretar y generar información. Desde técnicas de Natural Language Processing (NLP) que les permiten entender lenguaje humano, hasta mecanismos como la tokenización, que fragmentan el texto que le damos para hacerlo procesable, los modelos actuales operan a partir de representaciones cada vez más complejas del lenguaje y del comportamiento humano.

Estas representaciones se construyen mediante estructuras matemáticas —como los vectores— que traducen palabras, números, patrones y decisiones en datos comparables. Modelos como Word2Vec o BERT han permitido avanzar en este entendimiento al capturar no solo el significado de las palabras, sino también su contexto. Sin embargo, esta sofisticación técnica no elimina un problema de fondo: la calidad y el origen de la información siguen siendo determinantes.

Cuando los datos son incompletos, sesgados o poco representativos, los resultados también lo serán.

La adopción acelerada de soluciones basadas en IA debe acompañarse de una comprensión clara de sus alcances y límites, así como de esquemas de gobernanza, supervisión y responsabilidad que permitan aprovechar su potencial de forma ética y segura. 

Y ahí es donde la conversación deja de ser técnica para volverse estructural.

Entender cómo funcionan estas representaciones —particularmente los vectores, que traducen comportamientos y características humanas en estructuras matemáticas comparables— no es un ejercicio técnico, es una necesidad. Porque detrás de cada modelo que clasifica, predice o recomienda, hay decisiones que impactan directamente a las personas. Y cuando esas decisiones se basan en datos incompletos o sesgados, el resultado no es solo impreciso: puede ser injusto. La diferencia es que ahora esa injusticia se ejecuta a escala, con una apariencia de objetividad difícil de cuestionar.

Porque no se trata sólo de sí un modelo funciona, sino de si sus resultados son justos, explicables y sostenibles desde una perspectiva “ética” o regulatoria.

La ausencia de principios claros en el desarrollo y uso de la IA no es un problema abstracto: es un riesgo real. Riesgo reputacional, riesgo legal y, sobre todo, riesgo de tomar decisiones que perpetúan desigualdades bajo una apariencia de objetividad tecnológica.

Diversas autoras han abordado estos retos desde distintas perspectivas, contribuyendo a una comprensión más profunda de las implicaciones de la IA. Fei-Fei Li, a quien ya hacía referencia en discusiones previas sobre sesgos en IA, ha sido una de las principales impulsoras del enfoque de esta tecnología centrada en el ser humano, destacando la importancia de integrar principios éticos desde el diseño mismo de los sistemas.

Por su parte, Cathy O'Neil ha evidenciado cómo los modelos matemáticos —muchos de ellos basados en representaciones como vectores que permiten clasificar y predecir comportamientos— pueden amplificar desigualdades cuando se construyen sobre datos históricos sesgados, generando impactos reales en ámbitos como el acceso al crédito, el empleo o la educación.

En una línea complementaria, Shoshana Zuboff ha advertido sobre los riesgos asociados al uso masivo de datos en la economía digital, particularmente en lo que respecta a la construcción de perfiles de comportamiento y la pérdida progresiva de privacidad. Su análisis permite entender que, detrás de cada modelo de IA, no solo hay decisiones técnicas, sino también estructuras económicas y de poder que determinan cómo se recolecta, utiliza y monetiza la información.

En conjunto, estas perspectivas reflejan que la conversación sobre IA no puede limitarse a su capacidad técnica o a su potencial innovador. Por el contrario, exige un análisis integral que incorpore consideraciones éticas, sociales y regulatorias, especialmente en un contexto donde los datos —y las representaciones que derivan de ellos— se han convertido en la base de decisiones que impactan directamente en las personas.

En un entorno donde todos hablamos de IA, la verdadera diferencia no estará en quién la usa, sino en quién entiende sus implicaciones.

*El contenido de este artículo es publicado bajo la responsabilidad de su autora y no necesariamente refleja la posición de Abogadas MX.