Los valores ocultos de la inteligencia artificial
Durante mucho tiempo, la conversación sobre inteligencia artificial se concentró en su capacidad: cuánto sabe, qué tan rápido responde o qué tareas puede automatizar. Sin embargo, un reciente análisis de The Economist plantea una pregunta mucho más profunda: ¿qué valores contienen los modelos de IA que están comenzando a influir en nuestras decisiones, empresas e instituciones? El semanario sostiene que los principales modelos exhiben orientaciones valóricas significativamente distintas a las de la mayoría de las personas, tendiendo a ser más seculares y más liberales en materias sociales, salvo en el caso de los sistemas desarrollados en China, que reflejan prioridades diferentes – propias de su cultura y de su sistema político.
Este hallazgo debería encender una alerta, especialmente en América Latina. Porque la cuestión central ya no es si la IA piensa como los humanos, sino qué humanos la están moldeando y desde qué concepción del bien común.
Durante años se instaló la idea de que la tecnología era neutral. Hoy sabemos que eso nunca fue completamente cierto. Toda tecnología incorpora decisiones humanas: qué optimizar, qué riesgos tolerar, qué información priorizar y qué conductas incentivar. La inteligencia artificial lleva ese fenómeno a una escala inédita, porque no sólo ejecuta instrucciones; también actúa como intermediaria entre las personas y el conocimiento.
El problema no es que los modelos tengan valores. Eso es inevitable. El problema surge cuando esos valores se presentan como si fueran neutrales, universales o científicamente demostrados. Una IA entrenada principalmente con contenidos producidos en determinados contextos culturales tenderá a reflejar esas preferencias. Y una sociedad democrática no puede delegar silenciosamente sus debates éticos en algoritmos diseñados a miles de kilómetros de distancia.
Para el mundo empresarial, la discusión es particularmente relevante. Las compañías están incorporando IA en procesos de selección, atención de clientes, evaluación de desempeño y toma de decisiones estratégicas. Si los sistemas contienen sesgos valóricos no examinados, el riesgo no es solamente reputacional. También puede afectar la confianza de trabajadores, consumidores e inversionistas. El entrenamiento de los modelos de IA en las empresas debe considerar qué valores quiere mostrar a su entorno. No debiera ser difícil: múltiples empresas de todo el mundo los tienen literalmente “escritos sobre la pared” de sus sedes centrales.
No se trata por lo tanto de exigir una imposible “IA sin valores”. Más bien, debemos avanzar hacia una IA transparente respecto de los valores que incorpora, plural en sus referencias culturales y sometida al escrutinio democrático. La diversidad no debe limitarse a los datos; también debe alcanzar a las visiones de mundo que participan en su diseño.
Chile tiene una oportunidad en esta discusión. En lugar de importar pasivamente tecnologías y marcos regulatorios, podemos contribuir a una conversación que reconozca la importancia de la dignidad humana, la libertad, la responsabilidad individual y el respeto por la diversidad de convicciones presentes en una sociedad abierta.
Al final, la pregunta más importante de la revolución de la inteligencia artificial no es tecnológica. Es profundamente humana. No se trata sólo de qué tan inteligentes serán las máquinas, sino de qué tipo de sociedad queremos construir con ellas. Y esa es una decisión que no corresponde a Silicon Valley, a Pekín ni a ningún laboratorio. Nos corresponde a nosotros.
Alfredo Barriga Cifuentes
Profesor UDP
Autor de “Presente Acelerado: la Sociedad de la Inteligencia Artificial y el urgente rediseño de lo humano”, publicado en Amazon.com
