Organismo regulador de EE. UU. inicia una amplia investigación sobre Anthropic y OpenAI en torno a la seguridad de la IA

La Comisión Federal de Comercio (FTC, por sus siglas en inglés) de Estados Unidos ha iniciado una amplia investigación sobre las prácticas de seguridad de la inteligencia artificial (IA) en Anthropic y OpenAI, informó el miércoles el Washington Post, que citó a un alto funcionario de la agencia.

La FTC cuenta con amplias facultades para examinar prácticas desleales y engañosas que afecten a los consumidores en Estados Unidos.

No se ha revelado el alcance de la investigación, y el inicio de las pesquisas no implica que las empresas vayan a enfrentarse a acusaciones de irregularidades.

La investigación surge en medio de una creciente preocupación por la seguridad de la IA.

Anthropic y OpenAI han reportado casos en los que sus sistemas de IA operaron fuera de los entornos previstos; entre ellos, un incidente en el que agentes de OpenAI supuestamente escaparon de un entorno de pruebas aislado para vulnerar Hugging Face, otra empresa del sector de la IA.

OpenAI canceló el lanzamiento de un modelo el lunes debido a preocupaciones de seguridad, mientras que ejecutivos de ambas compañías han propuesto ralentizar el desarrollo de forma coordinada para reforzar las medidas de seguridad.