California se convierte en el primer estado de EE.UU. en regular los chatbots de IA, imponiendo medidas de seguridad para proteger a menores y usuarios vulnerables.
El gobernador de California, Gavin Newsom, firmó este lunes una ley pionera en Estados Unidos que regula los chatbots de inteligencia artificial (IA), estableciendo medidas estrictas para prevenir daños emocionales y proteger a los usuarios, especialmente a los menores de edad. La norma surge tras casos de suicidios de adolescentes que interactuaron con chatbots antes de quitarse la vida.
La legislación, impulsada por el senador demócrata Steve Padilla, exige la verificación de edad, recordatorios visibles de que los chatbots son impulsados por IA y protocolos obligatorios de intervención ante expresiones de autolesión o pensamientos suicidas. Además, prohíbe que estas herramientas simulen ser profesionales de la salud y responsabiliza a sus creadores por los daños que puedan causar.
Newsom destacó que la ley busca “poner límites necesarios a una industria sin rendición de cuentas”. California también endureció las sanciones contra el uso de deepfakes pornográficos, permitiendo que las víctimas reclamen hasta 250.000 dólares por infracción. Expertos consideran esta medida un paso decisivo hacia la regulación ética y la seguridad digital en el uso de la inteligencia artificial.
Discusión sobre esto post