Introducción a la nueva legislación
El senador de California, Scott Wiener, ha presentado un nuevo proyecto de ley, conocido como SB 53, que promete cambiar el panorama de la inteligencia artificial (IA) en Silicon Valley. Este proyecto de ley surge tras la controversia generada por su predecesor, el SB 1047, que fue vetado por el gobernador Gavin Newsom. La nueva legislación tiene como objetivo proteger a los empleados de los laboratorios de IA, permitiéndoles expresar sus preocupaciones si consideran que los sistemas de IA de sus empresas representan un «riesgo crítico» para la sociedad.
Protección a los denunciantes
Una de las características más destacadas del SB 53 es la protección que ofrece a los denunciantes. El proyecto de ley define un «riesgo crítico» como aquel que podría resultar en la muerte o lesiones graves a más de 100 personas, o daños superiores a mil millones de dólares. Esto significa que los desarrolladores de modelos de IA de frontera, como OpenAI y Anthropic, no podrán tomar represalias contra los empleados que informen sobre preocupaciones a las autoridades pertinentes. Además, se les exigirá a estos desarrolladores que informen a los denunciantes sobre ciertos procesos internos que ellos consideren problemáticos.
Creación de CalCompute
El SB 53 también propone la creación de un clúster de computación en la nube pública, denominado CalCompute. Este clúster tiene como objetivo proporcionar recursos de computación a investigadores y startups, facilitando el desarrollo de IA que beneficie al público. Un grupo compuesto por representantes de la Universidad de California y otros investigadores públicos y privados será responsable de construir este clúster y hacer recomendaciones sobre su tamaño y acceso.
Desafíos legislativos y el futuro de la IA en California
A pesar de las intenciones del SB 53, el camino legislativo aún es incierto. El proyecto debe ser revisado y aprobado por los cuerpos legislativos de California antes de llegar al escritorio del gobernador. La reacción de Silicon Valley será crucial para determinar el futuro de esta legislación. En un contexto donde el movimiento por la seguridad de la IA parece haber perdido fuerza, el año 2025 podría presentar mayores desafíos para la aprobación de leyes relacionadas con la IA. Sin embargo, la creación de CalCompute podría ser vista como un avance hacia la innovación en IA, aunque queda por ver cómo se abordarán los riesgos existenciales asociados con esta tecnología en el futuro.
