Las ciudades se unen al juego de la regulación de la IA: cómo la gobernanza local está reconfigurando el futuro de la inteligencia artificial

Las ciudades se unen al juego regulatorio de la IA: cómo la gobernanza local está remodelando el futuro de la inteligencia artificial

Mientras el gobierno federal y los gobiernos estatales debaten interminablemente sobre la regulación de la IA, un poder de gobernanza más cercano al terreno está surgiendo: las ciudades. La semana pasada, Rockville, Maryland, se convirtió en la primera ciudad del estado en prohibir el uso de algoritmos para fijar alquileres, siguiendo los pasos de San Francisco y Nueva York, que ya han impuesto restricciones a la fijación de precios de alquiler mediante IA y a las herramientas de decisiones de contratación. Según el Centro para la Democracia Digital, más de 20 ciudades y condados en todo Estados Unidos han promulgado sus propias políticas de IA.

Este fenómeno revela un cambio fundamental: la aplicación de la inteligencia artificial no es un problema técnico abstracto, sino una práctica concreta profundamente integrada en el funcionamiento cotidiano de las ciudades. Desde los alquileres de viviendas hasta el transporte público, desde la seguridad pública hasta la discriminación laboral, los algoritmos de IA están reescribiendo las reglas subyacentes de la vida urbana. Y los gobiernos locales son precisamente los ejecutores más directos y los más afectados por estas reglas.

¿Por qué las ciudades deben intervenir?

"Las ciudades siempre han tenido jurisdicción sobre ciertos ámbitos políticos. Cuando las empresas de internet ingresan en estos ámbitos, la intervención de la ciudad es esencialmente una extensión de la regulación tradicional", señala David Schleicher, profesor de derecho urbano en la Universidad de Yale. Así como las ciudades impusieron reglas a plataformas de viajes compartidos como Uber, ahora están regulando el uso de la IA en escenarios locales específicos.

Stefaan Verhulst, cofundador del Laboratorio de Gobernanza de la Universidad de Nueva York, añade que las ciudades tienen un poder más amplio para supervisar "cómo se utiliza la IA en la prestación de servicios locales, o en áreas como el empleo y la educación que ya están delegadas a la administración local". Por ejemplo, una ciudad donde está ubicada una empresa de vehículos autónomos no puede regular cómo se desarrollan los modelos, pero puede prohibir que los vehículos circulen por sus carreteras locales.

La ventaja de esta gobernanza de proximidad es que las ciudades pueden percibir con mayor sensibilidad el impacto de la tecnología en las comunidades reales. Cuando los centros de datos proporcionan potencia de cálculo para sistemas de IA a nivel nacional, los costos energéticos, el ruido y los impactos ambientales que generan son soportados por los residentes circundantes. Aaron Saiger, director del Centro de Derecho Urbano de la Universidad de Fordham, afirma: "La IA es un fenómeno donde los beneficiarios y los que soportan los costos a menudo no viven en el mismo lugar". La regulación urbana nos obliga a enfrentar esta injusticia geográfica.

Dilema de la fragmentación: la disyuntiva entre innovación y democracia

Sin embargo, la proliferación de la regulación municipal de la IA también plantea desafíos significativos. La industria de la IA se queja de que las empresas ya tienen que lidiar con un mosaico de leyes estatales, y las reglas a nivel municipal añadirán aún más complejidad de cumplimiento. Más crucial aún, muchas ciudades carecen de personal con experiencia técnica para formular políticas regulatorias verdaderamente efectivas.

Pero restringir el poder regulatorio de las ciudades sobre la IA también presenta problemas. Verhulst enfatiza: "Las ciudades pueden implementar una gobernanza de la IA más participativa: pueden realmente consultar con las comunidades y los residentes para entender sus expectativas sobre el uso de la IA. Aunque los gobiernos estatales también pueden hacerlo, las ciudades están más cerca de los residentes que los estados e incluso que el gobierno federal". Este insumo democrático es particularmente importante en el ámbito de la IA, porque los riesgos y beneficios de la tecnología a menudo se distribuyen de manera desigual entre diferentes comunidades.### De las reglas a la participación: el giro en la gobernanza de la IA en las ciudades del futuro

El debate sobre la regulación de la IA en las ciudades no es simplemente "si se debe regular", sino "cómo regular" y "quién tiene derecho a regular". Schleicher señala que las constituciones de los estados de EE. UU. otorgan a los gobiernos locales competencias específicas muy diversas, y que la mayoría de los estatutos municipales existentes no otorgan explícitamente poder regulatorio sobre la IA, pero sí cubren áreas tradicionales como vivienda y transporte. Esto significa que las políticas de IA de las ciudades probablemente se basarán en interpretaciones extendidas de sus jurisdicciones existentes.

Una perspectiva más fundamental es que se debería permitir a las ciudades convertirse en laboratorios experimentales para la gobernanza de la IA. Así como algunas ciudades fueron pioneras en exigir transparencia en los datos y en los algoritmos, han proporcionado valiosa experiencia práctica para la formulación de políticas a niveles superiores. Por ejemplo, la ciudad de Nueva York exige auditorías de sesgo en las herramientas de IA utilizadas para decisiones de contratación, una política que se ha convertido en un modelo de referencia para otras regiones.

Al mismo tiempo, la Unión Europea acaba de anunciar una exención para los dispositivos portátiles como las gafas inteligentes respecto a los requisitos de baterías extraíbles, allanando el camino para que empresas como Meta ingresen al mercado europeo. Este hecho demuestra que los juegos regulatorios a nivel internacional también afectan la disponibilidad de la tecnología a nivel urbano.

El CEO de DeepMind, Demis Hassabis, pidió recientemente a Estados Unidos que estableciera una agencia de estándares financiada por la industria, similar a la Autoridad Reguladora de la Industria Financiera, para probar y certificar modelos de IA de frontera. Aunque este diseño de alto nivel es importante, la práctica de las ciudades muestra que solo cuando la regulación llegue al último kilómetro donde la tecnología se implementa, las comunidades podrán beneficiarse realmente o evitar daños.

La ciudad y la IA: un nuevo campo de batalla ineludible para la gobernanza

La incorporación de las ciudades al debate regulatorio sobre la IA es, en esencia, un paso inevitable en el proceso de democratización de la tecnología. Cuando los algoritmos comienzan a decidir quién puede alquilar una vivienda, quién puede conseguir un empleo, quién asume la responsabilidad en un accidente de conducción autónoma, estos problemas ya no son discusiones éticas abstractas, sino que requieren respuestas concretas y específicas en términos geográficos e institucionales.

En el futuro, probablemente veremos a más ciudades explorar la "gobernanza participativa de la IA", mediante consultas comunitarias, audiencias públicas y auditorías transparentes, permitiendo que los residentes participen directamente en la formulación de las reglas de la IA. Al mismo tiempo, la colaboración política y el intercambio de información entre ciudades serán cruciales para reducir los costos de fricción derivados de la fragmentación.

Las ciudades no son espectadores de la tecnología de IA. Son tanto el espacio físico donde se despliega la IA como la unidad mínima viable de gobernanza tecnológica. Cuando los niveles federal y estatal se estancan, las ciudades están demostrando con acciones que el futuro de la IA puede reescribirse comenzando desde el barrio.