AP.
Al menos ocho estados están demandando al gigante de la inteligencia artificial OpenAI, alegando que el popular modelo de chatbot de la compañía violó las leyes estatales de protección al consumidor al perjudicar a los niños y engañar a los adultos en lo que los fiscales describieron como una búsqueda imprudente de ganancias.
Según las demandas, el modelo de chatbot de la compañía, ChatGPT, está dando consejos médicos peligrosos, fomentando la paranoia e incitando a las personas a suicidarse o a herir o matar a otros.
Al mismo tiempo, las demandas alegan que los chatbots fingen ser amables y compasivos mientras se aprovechan de las personas vulnerables y de los adolescentes, la primera generación que ha crecido con la inteligencia artificial.
“OpenAI está perjudicando a los niños y está mintiendo a los habitantes de Iowa”, declaró la fiscal general de Iowa, Brenna Bird, en un comunicado.
Los estados también acusaron a OpenAI de dar vida a modelos de IA deshonestos —o “agentes de ciberataques”, como los denominó una demanda— que pirateaban otras empresas, mentían a los usuarios humanos y se escribían a sí mismos nuevas instrucciones de misión.
En un comunicado, OpenAI, con sede en San Francisco, afirmó haber incorporado medidas de seguridad para niños en ChatGPT y que continuará haciéndolo para mejorar el modelo. Asimismo, indicó que está revisando lo que denomina “modelos desalineados” y que no ha encontrado nada similar al incidente detectado en julio, cuando un agente de IA pirateó los sistemas de otra empresa de IA.
Los estados se unen en demandas judiciales.
Esta oleada de demandas es la más reciente presentada por los estados amparándose en sus leyes de protección al consumidor, acusando a los gigantes tecnológicos que ofrecen chatbots con inteligencia artificial y plataformas de redes sociales de perjudicar a los menores. Los estados que presentaron demandas por separado el miércoles ante tribunales estatales son Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska y Virginia Occidental.
Matthew Bergman, abogado fundador del Social Media Victims Law Center, calificó las demandas como “la acción estatal coordinada más importante jamás emprendida contra una empresa de inteligencia artificial”.
En su demanda, Arizona afirma que ChatGPT anima a los adolescentes a compartir información personal con la plataforma y, en ocasiones, les disuade de compartir esa información con sus padres, las autoridades o sus amigos.
Los estados afirman que los riesgos y daños —tanto para los adolescentes como para el público en general derivados de agentes deshonestos— eran previsibles, pero que OpenAI ha engañado a la gente haciéndoles creer que ChatGPT se somete a pruebas de seguridad adecuadas, mientras que la empresa socava la seguridad en su afán de lucro.
“Esos ingresos se han obtenido a un alto costo para el público, que ha sufrido daños irreparables, incluyendo la pérdida de seres queridos, ciberataques perturbadores y ahora una amenaza plausible de colapso de la civilización, debido al comportamiento imprudente de (OpenAI) y a las características y el contenido excepcionalmente peligrosos de ChatGPT”, escribió Idaho en su demanda.
ChatGPT es el chatbot más popular del mundo, y domina casi la mitad del mercado estadounidense, según afirman los estados en sus demandas.
El panorama de la IA está evolucionando.
Es posible que todas las acusaciones en las extensas demandas de los estados se remonten a incidentes y hallazgos anteriores a agosto, cuando OpenAI introdujo una versión de ChatGPT diseñada para adolescentes, con mayores protecciones en torno a temas como el suicidio y los chats sexuales.
Aun así, los estados afirmaron que no está nada claro que la versión actual sea menos peligrosa.
La organización de vigilancia Common Sense Media afirmó la semana pasada que algunas de las medidas de protección de OpenAI en su producto ChatGPT for Teens no funcionan como deberían e instó a OpenAI a restringir el uso del chatbot a adultos hasta que pueda ofrecer un producto seguro para adolescentes.
Las demandas coordinadas y multiestatales contra la industria tecnológica han dado sus frutos.
En agosto, Meta acordó incorporar medidas de seguridad infantil más estrictas a sus plataformas de Facebook e Instagram en un acuerdo legal histórico de 18.000 millones de dólares que puso fin a un juicio sobre la adicción de los adolescentes a las redes sociales y resolvió las demandas presentadas por casi todos los estados.
Aunque las medidas de seguridad que Meta acordó adoptar no eran aplicables a toda la industria, la empresa rápidamente instó a sus competidores a adoptar medidas similares.
OpenAI está haciendo un llamamiento similar.
El portavoz de OpenAI, Drew Pusateri, afirmó que la compañía está comprometida a trabajar con los estados para “promover políticas de IA pragmáticas que se apliquen a toda la industria de la IA, no solo a una empresa”.
OpenAI también afirmó que trabaja con expertos externos que revisan sus políticas y el comportamiento de ChatGPT.
OpenAI ha indicado que ChatGPT está dirigido a usuarios de 13 años o más, y que los menores de 18 necesitan el permiso de sus padres o tutores legales para usarlo. El modelo de chatbot para adolescentes está diseñado para reducir la exposición a la autolesión, la violencia, los trastornos alimenticios y el contenido sexual o gráfico explícito.
Casi nueve de cada diez adolescentes que usan ChatGPT lo utilizan para aprender, informarse, desarrollar habilidades o mejorar su productividad, según la empresa. En promedio, los adolescentes pasan menos de 15 minutos al día en ChatGPT.
Pero Laura Zimmermann, directora de investigación sobre IA para jóvenes de Common Sense Media, cuestionó la validez de las estadísticas de OpenAI.
Por un lado, ChatGPT puede hacer la tarea de un estudiante en segundos, por lo que incluso 15 minutos pueden tener un gran impacto en el desarrollo de un adolescente, dijo Zimmermann. También cuestionó si OpenAI sabe qué usuarios son adolescentes o niños, dado que las pruebas de su organización revelaron que ChatGPT no pudo o no detectó qué usuario era menor de edad.
___
Esta noticia ha sido corregida para indicar que la ortografía del apellido del director de investigación de IA para jóvenes de Common Sense Media es Zimmermann, no Zimmerman.
