La inteligencia artificial (IA) dejó de ser una promesa del futuro para convertirse en parte de nuestra vida cotidiana. Hoy interviene en procesos de selección, en sistemas financieros, en la atención al cliente y hasta en decisiones estratégicas dentro de las empresas.
Sin embargo, su avance vertiginoso plantea una pregunta que no podemos ignorar: ¿cómo aseguramos de que la IA se utilice de manera ética, responsable y conforme al Derecho?
En un contexto cada vez más tecnológico, el desafío no es solo cumplir con la ley, sino gobernar la innovación con principios humanos.
1. Entre la eficiencia y la ética
La IA promete eficiencia, precisión y reducción de costos. Pero también puede reproducir sesgos, vulnerar la privacidad y generar decisiones difíciles de explicar o de cuestionar.
Cuando una empresa adopta algoritmos para evaluar desempeño, otorgar créditos o seleccionar personal, no basta con pensar en su funcionalidad. Es necesario considerar también la equidad, la transparencia y la trazabilidad de las decisiones que toma esa tecnología.
Los sesgos algorítmicos: una discriminación invisible
Los algoritmos aprenden a partir de los datos que reciben. Si esos datos reflejan desigualdades históricas o prejuicios —por ejemplo, menos mujeres contratadas en ciertos sectores o menor acceso al crédito en determinadas zonas—, la IA puede terminar repitiendo y amplificando esas desigualdades.
Algunos ejemplos lo muestran con claridad:
Sistemas de reclutamiento que penalizaron currículums femeninos porque fueron entrenados con bases de datos dominadas por hombres. Un ejemplo emblemático fue el de Amazon.com, que tuvo que cancelar una herramienta de selección basada en IA tras comprobar que “castigaba” las candidaturas de mujeres para puestos técnicos.
De manera similar, un estudio de la University of Washington reveló que ciertos modelos de IA utilizados para ordenar currículums favorecían nombres asociados a hombres blancos en un 85 % de los casos, frente a los típicamente femeninos.
Modelos de scoring crediticio que asociaron determinados barrios o códigos postales con mayor riesgo, excluyendo a comunidades enteras del acceso al crédito y reproduciendo desigualdades históricas en el sistema financiero. Un estudio de la Lehigh University analizó modelos de inteligencia artificial aplicados al otorgamiento de hipotecas y reveló que los solicitantes afroamericanos y latinos enfrentaban mayores probabilidades de ser rechazados o recibir condiciones menos favorables, incluso cuando su perfil financiero era equivalente al de otros grupos.
Programas de reconocimiento facial con mayores márgenes de error en rostros femeninos o afrodescendientes. Una investigación del MIT Media Lab demostró que tres de los principales sistemas comerciales de análisis facial presentaban sesgos de género y color de piel, con un desempeño notablemente inferior en mujeres y personas de color.
Una IA sin supervisión puede vulnerar el principio de igualdad
Estos casos evidencian que la IA puede no ser neutral, hereda los sesgos de la sociedad que la entrena. Por eso, toda empresa que quiera actuar responsablemente debería implementar medidas preventivas como auditorías algorítmicas, evaluaciones de impacto en derechos humanos, políticas internas de IA explicable y capacitación interdisciplinaria en ética digital.
Una IA sin supervisión puede vulnerar el principio de igualdad reconocido en las constituciones nacionales y en tratados internacionales. En cambio, una IA ética bien diseñada puede convertirse en una herramienta de inclusión y transparencia.
2. Hacia una regulación responsable
El modelo europeo: un marco pionero
La Unión Europea se ha posicionado como referente mundial en materia de regulación de la IA con la aprobación del AI Act, el primer marco jurídico integral sobre esta tecnología.
Esta ley, vigente desde agosto de 2024, clasifica los sistemas de IA en cuatro niveles de riesgo — inaceptable, alto, limitado o mínimo — y establece obligaciones proporcionales para cada categoría. Entre los requisitos más relevantes se encuentran la transparencia de los algoritmos (i), la trazabilidad de los datos (ii), la supervisión humana efectiva (iii) y el respeto a los derechos fundamentales (iv).
El AI Act se aplicará de forma gradual hasta 2026 y contempla sanciones que pueden alcanzar el 7 % de la facturación global de una empresa.
Su objetivo es claro: proteger los derechos sin frenar la innovación.
Este reglamento forma parte de un ecosistema legal más amplio que consolida la gobernanza digital europea. Junto con el Reglamento General de Protección de Datos (RGPD) — que reconoce el derecho a no ser objeto de decisiones basadas únicamente en procesos automatizados —, el Data Act sobre el uso responsable de datos, la Directiva NIS2 en materia de ciberseguridad y la nueva Directiva de Responsabilidad por Productos (2024/2853), Europa busca construir un modelo de confianza digital que combine innovación con responsabilidad.
América Latina: avances hacia un marco propio
Aunque la región todavía no cuenta con una regulación unificada, América Latina avanza hacia modelos inspirados en el enfoque europeo, con especial atención a los derechos humanos y la sostenibilidad.
- Brasil sancionó en 2024 el Marco Legal de la Inteligencia Artificial, que promueve el uso responsable de la tecnología y reconoce el derecho de las personas a solicitar la revisión humana de decisiones automatizadas, en línea con su Ley General de Protección de Datos (LGPD).
- Chile cuenta con una Política Nacional de Inteligencia Artificial y discute un proyecto de ley que introduce principios de control humano, transparencia y rendición de cuentas.
- Argentina, Colombia y Uruguay trabajan en estrategias nacionales que incorporan la ética digital, la protección de datos y la inclusión tecnológica como pilares del desarrollo sostenible.
El reto regional está en pasar del discurso a la implementación, construyendo mecanismos reales de auditoría, supervisión y cumplimiento.
3. El rol del abogado en la gobernanza tecnológica
En este escenario, el abogado corporativo asume un papel cada vez más estratégico.
Ya no se trata solo de interpretar normas, sino de anticipar riesgos éticos y legales en cada etapa del desarrollo o implementación de la IA.
Entre sus principales tareas se puede mencionar:
- Diseñar políticas internas de uso responsable de IA, que incluyan criterios de transparencia, explicabilidad y control humano.
- Evaluar los riesgos legales, reputacionales y sociales antes de introducir sistemas automatizados.
- Redactar contratos que incorporen cláusulas de ciberseguridad, confidencialidad y protección de datos.
- Alinear la estrategia de innovación con los compromisos ESG y la reputación corporativa de la empresa.
La gobernanza de la IA no es solamente un asunto técnico, es también una cuestión jurídica y humana. Implica proteger los derechos fundamentales, garantizar la igualdad de trato y reforzar la integridad empresarial en la era digital.
4. La IA en la agenda ESG
El vínculo entre la inteligencia artificial y los criterios ESG es cada vez más evidente:
- E (ambiental): La IA permite optimizar recursos, medir huellas de carbono y diseñar estrategias ambientales basadas en datos.
- S (social): Impulsa la inclusión digital, pero también exige medidas activas contra los sesgos y la discriminación algorítmica.
- G (gobernanza): Impulsa la transparencia, la ética y la rendición de cuentas en la toma de decisiones automatizadas.
Una IA sin principios éticos puede generar daños sociales y reputacionales difíciles de revertir. Pero una IA bien regulada y gobernada con responsabilidad puede ser un aliado clave para la evolución contínua, sostenibilidad y la confianza corporativa.
La tecnología no es neutral: refleja los valores, las decisiones y las prioridades de quienes la crean y la utilizan. Por eso, el verdadero desafío del abogado no es solo entender la ley, sino anticipar las implicancias éticas, sociales y ambientales de la innovación.
El futuro de la inteligencia artificial será tanto más confiable cuanto más éticos sean quienes la desarrollan y más adaptable sea el derecho para acompañar esa evolución.
Ruth Schneiderman
Abogada en Altra Legal
