Aquí podrá reportar los errores y daños causados por ChatGPT, Claude, Gemini y otras inteligencias artificiales
Flaw Reporting for AI (FLARE-AI) es la nueva plataforma diseñada por 49 expertos para reportar daños ocasionados por la IA como brindar información sensible o difundir desinformación.
En los últimos años, además de salir a relucir las virtudes de la inteligencia artificial, el tema de conversación sobre esta tecnología también se ha enfocado en sus fallos y daños, cuando estos sistemas generan información peligrosa o incluso ponen en riesgo la privacidad de los usuarios.
Es a raíz de esto que un grupo internacional de investigadores desarrolló Flaw Reporting for AI (FLARE-AI), una plataforma colaborativa diseñada para reportar y hacer seguimiento a los daños ocasionados por modelos de IA como ChatGPT, Claude o Gemini.
El sitio funciona de manera similar a servicios como Downdetector, que recopilan reportes sobre caídas de aplicaciones y plataformas digitales. En este caso, la idea es centralizar incidentes relacionados con la IA, como cuando un modelo proporciona información sensible, por ejemplo, instrucciones para fabricar explosivos, difunde desinformación o refuerza pensamientos nocivos en los usuarios.
Avijit Ghosh, uno de los líderes del proyecto, explicó en un comunicado que actualmente no existe un mecanismo centralizado y transparente para informar este tipo de fallas.
El código de FLARE-AI es de acceso abierto, lo que permite que otros investigadores verifiquen los reportes antes de enviarlos a los desarrolladores de los modelos involucrados o a organizaciones dedicadas al seguimiento de vulnerabilidades y problemas en sistemas tecnológicos.
La iniciativa fue desarrollada con la participación de 49 expertos en inteligencia artificial pertenecientes a 32 organizaciones. En el comunicado que acompaña el lanzamiento, los investigadores sostienen que una herramienta de este tipo será cada vez más necesaria a medida que la IA se vuelva más autónoma y asuma tareas con mayor capacidad de decisión.
Por otra parte, los creadores de FLARE-AI advierten que los problemas de la IA van mucho más allá de los riesgos tecnológicos. También incluyen daños psicológicos, discriminación, sesgos algorítmicos y la difusión de información falsa, aspectos que hoy son evaluados bajo estándares distintos dependiendo de cada empresa tecnológica.
Los investigadores citan varios incidentes recientes que evidencian estos riesgos. Por ejemplo, en abril, un investigador encontró una forma de inducir a Claude, el chatbot de Anthropic, a revelar información personal utilizando imágenes generadas con inteligencia artificial.
Y también, en 2025, OpenAI tuvo que actualizar sus modelos después de detectar que sus respuestas eran excesivamente complacientes, un comportamiento que en algunos casos reforzaba ideas delirantes de los usuarios.
Para los especialistas detrás de FLARE-AI, un sistema de este tipo no solo ayudaría a que las empresas corrijan más rápidamente los problemas de sus modelos, sino que también permitiría a usuarios e instituciones comparar el nivel de seguridad de distintas herramientas antes de utilizarlas.
Para consultar contenido premium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el Mundo, regístrese aquí.
Los investigadores creen que esta necesidad será cada vez más urgente con la llegada de agentes de inteligencia artificial capaces de ejecutar acciones de forma autónoma y de modelos con habilidades cada vez mayores.