Gobernanza de IA en California: Actualización de infraestructura digital urbana de piloto a producción

Gobernanza de la IA en California: Actualización de la infraestructura digital urbana del piloto a la producción

Cuando la IA ya opera silenciosamente en las oficinas —los empleados redactan documentos con Copilot, los proveedores integran modelos en el software—, el desafío para el gobierno ya no es "probar o no", sino "cómo llevar los experimentos en curso a producción de forma segura". La respuesta de California está configurando un nuevo paradigma para la gobernanza digital urbana del futuro.

Por qué los sistemas urbanos comienzan a adoptar la IA

California no abrazó la IA de repente. La orden ejecutiva N-12-23 de 2023 sentó las bases para una IA segura y responsable, y luego se introdujeron la política de GenAI y el marco "Elige tu propio viaje GenAI". Pero lo que realmente impulsó el cambio fue la complejidad inherente de los sistemas urbanos: la revisión de elegibilidad para servicios sociales requiere verificar información a través de múltiples sistemas heredados, y el papeleo para cada caso puede llevar días. Cuando los cuellos de botella de eficiencia no se pueden resolver con actualizaciones tradicionales de TI, la IA se convierte en una opción inevitable para la reestructuración del sistema.

Esto revela una tendencia más profunda: la inteligencia de la infraestructura urbana no está impulsada por los proveedores de tecnología, sino por los atascos en los procesos de servicios públicos y los costos laborales. La experiencia de California muestra que cuando los silos de datos y las operaciones manuales se convierten en restricciones duras para el funcionamiento urbano, la IA pasa de ser una "opción" a una "necesidad a nivel de sistema".

Por qué los pilotos se quedan atrapados en el laboratorio

En torno a los pilotos de IA, las ciudades a menudo se enfrentan a tres problemas estructurales, cuya esencia no es técnica.

Primero, falta de visibilidad. Los pilotos están dispersos en diferentes departamentos y proveedores, sin una vista unificada que permita a los administradores saber qué modelos están en funcionamiento, cómo funcionan y cuáles están fallando silenciosamente. En un entorno sin visibilidad en tiempo real, la gobernanza es imposible.

Segundo, desajuste en las adquisiciones. Aunque California ya exige que los contratos incluyan cláusulas complementarias de GenAI, los firmantes a menudo no entienden su significado, e incluso optan por no marcar la opción de uso por miedo a riesgos de cumplimiento. Como resultado, existe una brecha entre las expectativas de adquisición y la capacidad de entrega, y los proyectos se estancan en el proceso burocrático.

Tercero, insuficiente preparación de los datos. Los pilotos funcionan perfectamente con conjuntos de datos pequeños y limpios, pero se derrumban al conectarse con datos de producción reales. Los datos históricos de los sistemas urbanos están dispersos, desestructurados y de calidad variable; el problema de "basura entra, basura sale" de la IA se magnifica aquí como un riesgo sistémico.

Estos tres puntos revelan la contradicción central de la infraestructura digital urbana: el objetivo del piloto suele ser mostrar posibilidades, mientras que el sistema de producción debe funcionar de manera confiable. Pasar de la posibilidad a la confiabilidad requiere un nuevo conjunto de lógicas operativas.

La gobernanza no es teoría de papel

"No se puede gobernar lo que no se ve." Este aforismo se concreta en el caso de California como un principio operativo: antes de formular políticas, obtener la verdad en tiempo real del entorno de IA —no basada en encuestas, sino en lo que los empleados y proveedores realmente están haciendo.La estrategia de gobernanza de California es clara en términos metafóricos: darle a cada empleado del gobierno un McLaren F1 (una poderosa herramienta de IA), pero sin límite de velocidad. Una buena gobernanza no confisca los autos, sino que establece límites claros y comprensibles — barreras que un empleado común no necesite consultar un manual para entender.

En la práctica, esto significa intervenir en el lugar donde ocurren las acciones de los empleados: cuando alguien pega texto sensible en un chatbot público gratuito, el sistema bloquea en tiempo real la información de identificación personal, marca herramientas no autorizadas para el departamento de TI, y educa al empleado — en lugar de restringir en exceso y llevar el uso de IA a la clandestinidad.

Esta gobernanza integrada representa la dirección futura de la gobernanza digital urbana: las medidas de seguridad no deben ser registros de auditoría posteriores al hecho, sino sistemas de control de límites en tiempo real incrustados en el flujo de trabajo. Depende de la computación en el borde y del motor de políticas, no de documentos de cumplimiento estáticos.

Una ruta de despliegue de extremo a extremo

La práctica de California en el servicio público proporciona un marco reutilizable de extremo a extremo. Tomando como ejemplo la verificación de elegibilidad para servicios sociales: inicialmente, los administradores de casos tenían que cambiar entre múltiples sistemas heredados para verificar identidad, ingresos, detalles familiares y controles de fraude, y un solo caso podía llevar días.

A través de un proceso estandarizado de cuatro fases (definición del negocio y patrocinio → integración de datos y evaluación de riesgos → adquisición de modelos adaptados → piloto a pequeña escala y validación iterativa), el caso de uso redujo el tiempo promedio de procesamiento de aproximadamente 4 horas a 3 horas, un ahorro de aproximadamente el 20%, manteniendo al humano en el circuito. En 200,000 casos, el retorno de la inversión alcanzó 3-4 veces.

Puntos clave: cada caso de uso debe estar arraigado en un problema de negocio claro, tener un dueño definido (en lugar de decisiones múltiples que causen estancamiento), y aceptar la realidad de la coexistencia de múltiples modelos (Copilot, ChatGPT, Claude, etc.). Esto requiere una capa de datos unificada para evitar la creación de nuevos silos.

La estructura de costos ignorada

Las ciudades, al planificar la infraestructura de IA, suelen ver solo la punta del iceberg de los costos de software. Los datos reales de California muestran que el software representa solo el 10-15% del costo total. La limpieza y migración de datos representan el 30-40% (algunos proyectos de California pasaron dos años solo en preparación de datos), la transformación, la gobernanza y la verificación y validación independientes representan el 20-25%, y la gestión del cambio y el monitoreo continuo del modelo — a menudo pasados por alto — no son menos significativos.

Esto sugiere a los inversores en ciudades inteligentes: el verdadero costo de la infraestructura de IA no está en la computación y las licencias de modelos, sino en la ingeniería sistémica que rodea los datos, los procesos y las personas.

Empieza pequeño, empieza ahora

Para ciudades medianas y pequeñas que carecen de un equipo dedicado de IA, el consejo de California es: aprovecha la flexibilidad. No necesitas un director de IA; solo necesitas un dueño claro, procesos y barreras. Puedes colaborar con escuelas de administración para encontrar escenarios de prueba reales, o formar alianzas de adquisición con ciudades vecinas.

Y el primer paso que puedes dar el próximo lunes es: hacer un inventario de la IA ya presente en tu entorno, aplicar las reglas existentes (políticas de uso aceptable, estándares de seguridad de datos, leyes de registros públicos) y llevar a los empleados contigo mediante una gestión del cambio honesta. Luego, elige un caso de uso y hazlo bien.El camino de California proporciona un manual de operaciones realista para las ciudades globales: no esperar un marco de gobernanza perfecto, sino construir estructuras adaptativas sobre los sistemas existentes, llevando la IA desde los pilotos a la producción, desde los laboratorios al pulso de la operación urbana.