El proyecto de ley de IA de California protegería más que solo a los humanos

FHay pocos lugares en el mundo que se beneficiarían más de la floreciente industria de la IA de California. Y pocos lugares corren el riesgo de perder más si la confianza del público en la industria se hace añicos de repente.

En mayo, el Senado de California aprobó Aprobar El proyecto de ley del Senado 1047, parte de la legislación de seguridad de la IA, fue aprobado por 32 votos a 1 y ayuda a garantizar el desarrollo seguro de sistemas de IA a gran escala a través de estándares de seguridad claros, predecibles y de sentido común. Facturar ahora decidido Está previsto que el proyecto de ley se vote en la Legislatura estatal esta semana y, si el gobernador Gavin Newsom lo promulga, representaría un paso importante para proteger a los ciudadanos de California y a la emergente industria de inteligencia artificial del estado del uso nocivo.

El lunes por la noche, Elon Musk sorprendió a muchos al anunciar su apoyo al proyecto de ley en un tweet. Publicado en X«Esta es una decisión difícil y molestará a algunas personas, pero después de considerar todo, creo que California probablemente debería aprobar el Proyecto de Ley 1047 sobre seguridad de la IA», escribió. «Durante más de 20 años, he sido un defensor de la regulación de la IA, del mismo modo que regulamos cualquier producto/tecnología que represente un riesgo potencial para el público».

La publicación llegó días después de que hablé con Musk sobre el Proyecto de Ley del Senado 1047. A diferencia de otros líderes corporativos que a menudo dudan y consultan a sus equipos de relaciones públicas y abogados antes de tomar una posición sobre la legislación de seguridad, Musk era diferente. Después de que le expliqué la importancia del proyecto de ley, solicitó que se revisara su texto para garantizar su integridad y la ausencia de posibilidades de abuso. Al día siguiente salió a apoyarlo. Este rápido proceso de toma de decisiones es un testimonio de la larga defensa de Musk de una regulación responsable de la inteligencia artificial.

El invierno pasado, el senador Scott Wiener, creador del proyecto de ley, se acercó al Fondo de Acción del Centro para la Seguridad de la Inteligencia Artificial (CAIS) en busca de sugerencias técnicas y copatrocinio. Como fundador de CAIS, mi compromiso con las tecnologías transformadoras que impactan la seguridad pública es la piedra angular de nuestra misión. Para sostener la innovación, debemos anticiparnos a los peligros potenciales, porque más vale prevenir que curar. Reconociendo la naturaleza innovadora del Proyecto de Ley Senatorial 1047, estuvimos felices de poder ayudar y hemos defendido su adopción desde entonces.

Leer más: EXCLUSIVA: Un proyecto de ley de California propone regular la inteligencia artificial a nivel estatal

La medida, dirigida a los modelos de IA más avanzados, requerirá que las grandes empresas prueben los riesgos, implementen salvaguardas, garanticen capacidades de cierre, protejan a los denunciantes y gestionen los riesgos. Estas medidas tienen como objetivo prevenir ataques cibernéticos a infraestructuras críticas, bioingeniería de virus u otras actividades maliciosas que podrían causar una destrucción generalizada y víctimas masivas.

antrópico Recientemente fue advertido Los riesgos de la inteligencia artificial podrían hacerse evidentes en «sólo uno o tres años», lo que contradice a los críticos que descartan las preocupaciones sobre la seguridad como mera fantasía. Por supuesto, si estos riesgos son realmente imaginarios, los desarrolladores no deberían temer la responsabilidad. Además, los desarrolladores se han comprometido a abordar estas cuestiones, en consonancia con la reciente orden ejecutiva del presidente Joe Biden, que fue reafirmada en la Cumbre de IA de Seúl de 2024.

La aplicación de la ley es simple por diseño, lo que permite al Fiscal General de California actuar sólo en casos extremos. No existen requisitos de licencia para nuevos modelos y no castiga los errores honestos ni criminaliza el código abierto (la práctica de hacer que el código fuente del software esté disponible gratuitamente). No está formulado por grandes empresas tecnológicas ni por aquellas centradas en escenarios de futuro lejano. El proyecto de ley tiene como objetivo evitar que los laboratorios de vanguardia descuiden las precauciones y salvaguardias críticas en su prisa por lanzar los modelos más eficientes.

Como la mayoría de los investigadores de seguridad de la IA, me impulsa en gran medida la creencia en su enorme potencial para beneficiar a la sociedad y una profunda preocupación por preservar ese potencial. Como California es líder mundial en IA, esta preocupación compartida es la razón por la que los políticos estatales y los investigadores de seguridad de la IA están tan entusiasmados con el Proyecto de Ley del Senado 1047, ya que la historia nos dice que un desastre importante, como el desastre nuclear en Three Mile Island el 28 de marzo/marzo 1979, puede hacer retroceder décadas a una industria naciente.

Las agencias reguladoras respondieron a la fusión nuclear parcial reformando las normas y protocolos de seguridad nuclear. Estos cambios han aumentado los costos operativos y han complicado la operación de las plantas nucleares, ya que los operadores han invertido en nuevos sistemas de seguridad y han cumplido con una supervisión estricta. Los desafíos regulatorios hicieron que la energía nuclear fuera menos atractiva, deteniendo su expansión durante los siguientes 30 años.

El desastre de Three Mile Island ha aumentado la dependencia del carbón, el petróleo y el gas natural. A menudo se dice que ésta fue una gran oportunidad perdida para avanzar hacia una infraestructura energética global más sostenible y eficiente. Si bien sigue siendo incierto si unas regulaciones más estrictas podrían haber prevenido un accidente, está claro que un solo evento podría impactar profundamente la percepción pública, sofocando el potencial a largo plazo de toda una industria.

Algunas personas ven con sospecha cualquier acción gubernamental sobre la industria, considerándola inherentemente perjudicial para los negocios, la innovación y la ventaja competitiva de un estado o país. La historia de Three Mile Island demuestra que esta perspectiva es miope, ya que las medidas para reducir las posibilidades de desastres suelen ser de interés a largo plazo para las industrias emergentes. Tampoco es la única advertencia para la industria de la IA.

Cuando aparecieron por primera vez las plataformas de redes sociales, fueron recibidas con gran entusiasmo y optimismo. En 2010, el Pew Research Center realizó una encuesta sobre el impacto de las plataformas de redes sociales en los consumidores. reconocimiento Un estudio estadounidense reciente encontró que el 67% de los adultos estadounidenses que usaban las redes sociales creían que tenían un impacto mayoritariamente positivo. El futurista Brian Solis expresó este espíritu cuando declaró: “Las redes sociales son la nueva forma de comunicar, la nueva forma de construir relaciones, la nueva forma de construir negocios y la nueva forma de construir un mundo mejor”.

Tenía tres cuartas partes de razón.

Debido a las preocupaciones sobre las violaciones de la privacidad, la desinformación y los impactos en la salud mental, la percepción pública de las redes sociales ha cambiado, con 64% de los estadounidenses Verlo negativamente es común. Escándalos como el de Cambridge Analytica han erosionado la confianza, mientras que las noticias falsas y el contenido polarizador han puesto de relieve el papel de las redes sociales en la división social. el estudia Un estudio mostró que el 70% de los jóvenes han estado expuestos al ciberacoso y el 91% de los jóvenes entre 16 y 24 años informaron que las redes sociales son perjudiciales para su salud mental. Un número cada vez mayor de usuarios y formuladores de políticas en todo el mundo exigen regulaciones más estrictas y una mayor responsabilidad por parte de las empresas de redes sociales.

Esto no sucede porque las empresas de redes sociales sean excepcionalmente malvadas. Al igual que otras industrias emergentes, los primeros días fueron como el «Salvaje Oeste», cuando las empresas se apresuraron a dominar un mercado próspero y la regulación gubernamental estaba ausente. adictocontenido a menudo dañino yo florecíAhora todos estamos pagando el precio. Incluidas las empresas, cada vez más desconfiadas de los consumidores y en el punto de mira de reguladores, legisladores y tribunales.

El optimismo que rodea a las redes sociales no estaba fuera de lugar. La tecnología ha podido romper barreras geográficas, fomentar un sentido de comunidad global, democratizar la información y facilitar movimientos sociales positivos. Como dice el autor Eric Qualman advirtió«No tenemos otra opción cuando se trata de usar las redes sociales, la pregunta es qué tan bien lo hacemos».

Desperdiciar el enorme potencial de las redes sociales y la energía nuclear es trágico, pero eso no es nada comparado con desperdiciar el potencial de la inteligencia artificial. Una legislación inteligente como el Proyecto de Ley 1047 es la mejor herramienta que tenemos para evitar esto y al mismo tiempo proteger la innovación y la competencia.

La historia de la regulación tecnológica destaca nuestra capacidad de previsión y adaptación. Cuando los ferrocarriles transformaron el transporte en el siglo XIX, los gobiernos estandarizaron vías, señales y protocolos de seguridad. La llegada de la electricidad también condujo al establecimiento de reglas y normas que previenen incendios y electrocuciones. La revolución automovilística también requirió leyes de tránsito y medidas de seguridad como cinturones de seguridad y bolsas de aire. En la aviación, agencias como la Administración Federal de Aviación han establecido estrictos estándares de seguridad, haciendo de la aviación la forma de transporte más segura.

La historia sólo puede ofrecernos lecciones. Pero depende de nosotros decidir si debemos prestar atención a estas lecciones o no.