IBM extiende el uso de agentes de IA con el primer software que unifica los equipos de seguridad y gobernanza de la IA y así ofrecer una visión unificada del perfil de riesgo de las organizaciones.
Estas nuevas capacidades integran watsonx.governance y Guardium AI Security para ayudar a los clientes a mantener sus sistemas de IA, incluidos los agentes.
IBM watsonx.governance es la herramienta integral de gobernanza de IA de IBM, y Guardium AI Security es la herramienta de la compañía para proteger los modelos, datos y uso de IA.
“Los agentes de IA están llamados a revolucionar la productividad empresarial, pero sus beneficios también pueden plantear un desafío”, afirma Ritika Gunnar, General Manager, Data and AI de IBM.
Y añade que, “cuando estos sistemas autónomos no se gobiernan o aseguran adecuadamente, pueden acarrear riesgos importantes”.
Índice de temas
Un software para agentes de IA
IBM afirma estar mejorando la integración de IBM Guardium AI Security y watsonx.governance, proporcionando a las empresas la primera solución unificada para gestionar los riesgos de seguridad y gobierno asociados a los casos de uso de IA.
La integración respalda los procesos de los usuarios para validar estándares de cumplimiento frente a 12 marcos diferentes, incluida la ley de IA de la UE y la ISO 42001.
IBM afirma estar proporcionando a las empresas la primera solución unificada para gestionar los riesgos de seguridad y gobierno asociados a los casos de uso de IA
IBM también introduce nuevas capacidades en Guardium AI Security gracias a una colaboración con AllTrue.ai, incluida la capacidad de detectar nuevos casos de uso de IA en entornos de nube, repositorios de código y sistemas integrados.
Las actualizaciones recientes de IBM Guardium AI Security también incluyen la automatización de red teaming, que ayuda a las empresas a detectar y corregir vulnerabilidades y errores de configuración en distintos casos de uso de IA.
Estas funcionalidades ya están disponibles en IBM Guardium AI Security, y su integración con watsonx.governance se llevará a cabo a lo largo de este año.
“El futuro de la IA depende de lo bien que la aseguremos hoy. Incorporar la seguridad desde el principio es fundamental para proteger los datos, cumplir con las obligaciones normativas y consolidar una confianza a largo plazo”, ha afirmado Suja Viswesan, Vice President, Security and Runtime Products de IBM.
Jennifer Glenn, Research Director de IDC Security and Trust Group, aclara que “unificar la gobernanza de IA con la seguridad de IA proporciona a las organizaciones el contexto necesario para identificar y priorizar riesgos”.
Gobernanza de la evaluación y ciclo de vida de la IA agéntica
IBM watsonx.governance ahora puede supervisar y gestionar agentes de IA a lo largo de todo su ciclo de vida, desde el desarrollo hasta el despliegue.
Se pueden integrar nodos de evaluación directamente en los agentes, lo que permite a los usuarios supervisar cuidadosamente métricas y ayudar así a identificar la raíz de un rendimiento deficiente.
Funciones de cumplimiento normativo
IBM watsonx.governance Compliance Accelerators ofrece una selección de regulaciones, normas y marcos preconfigurados de todo el mundo.
El contenido cubre normativas clave como el la Ley de IA de la UE, la SR 11-7 de la Reserva Federal de EEUU y la Ley Local 144 de la ciudad de Nueva York, junto con normas globales como ISO/IEC 42001 y marcos como el NIST AI RMF.
IBM considera que las nuevas capacidades e integraciones que se presentan ofrecen a las empresas el gobierno y la seguridad integrales que necesitan para prosperar en la era de la IA agéntica.
