entrevistas

Dynatrace aplica observabilidad de IA para grandes modelos lingüísticos e IA Generativa



Dirección copiada

Hablamos con Alois Reitbauer, Chief Technology Strategist, Head of Open Source, Lead at Dynatrace Research, sobre las novedades de la compañía presentadas en su evento mundial en Las Vegas

Publicado el 7 feb 2024



Dynatrace
Alois Reitbauer, Chief Technology Strategist at Dynatrace.

Dynatrace es una compañía especializada en observabilidad de software que también abarca ámbitos como la seguridad y la experiencia de usuario. La última semana de enero ha celebrado su evento mundial, Dynatrace Perform Conference 2024, en Las Vegas, donde han presentado sus novedades relacionadas con la observabilidad de la IA. Alois Reitbauer, Chief Technology Strategist, Head of Open Source, Lead at Dynatrace Research, profundiza en las nuevas soluciones.

La observabilidad de los datos siempre ha sido el pilar fundamental de la estrategia de Dynatrace.

La transformación digital está impulsada por datos. Las empresas se rigen por datos, la automatización se rige por datos, el análisis de éstos es fundamental. Por eso, los datos que recopilan las organizaciones para su análisis deben tener una calidad óptima. Las fuentes de datos, tanto internas como externas, tienen que funcionar a la perfección, porque de ello depende el negocio.

En este sentido, la observabilidad de los datos juega un papel muy importante, así como el los pipelines de datos abiertos y poder estandarizar los datos de distintas fuentes en un único formato válido. En todas estas acciones ayuda Dynatrace a sus clientes. Además, ahora estamos aplicando esta observabilidad a la inteligencia artificial (IA).

¿Cómo está trabajando Dynatrace en torno a la IA?

Ahora está de moda hablar de inteligencia artificial, en Dynatrace llevamos aplicando la IA desde hace una década, cuando aún no era ‘cool’ hacerlo, y seguiremos implementándola aunque se pase la moda. No obstante, según Gartner, en 2028, la adopción de la IA alcanzará más del 50% de los recursos de TI en la nube dedicados a cargas de trabajo de IA, frente a menos del 10% alcanzados en 2023. Este crecimiento refleja el creciente interés de las organizaciones por la IA Generativa.

En Dynatrace hemos dado una vuelta de tuerca, y nuestro enfoque respecto a esta tecnología es lo que llamamos ‘hipermodal”, en el que combinamos diferentes tipos de IA: la IA causal, la predictiva y la basada en hechos, junto con nuevas capacidades de IA Generativa.

En Dynatrace llevamos aplicando la IA desde hace una década, cuando aún no era ‘cool’ hacerlo, y seguiremos implementándola aunque se pase la moda

La denominada IA causal se utiliza para ofrecer respuestas basadas en datos, deterministas y precisos, así como para la automatización inteligente basada en el análisis de grandes cantidades de datos de observabilidad, seguridad y negocio, conservando al mismo tiempo un contexto que refleja la fuente y origen de los datos. La IA predictiva ayuda con la previsión y el pronóstico de ciertas acciones al recomendar acciones futuras basadas en datos ya existentes que incluyen ventas, tendencias de experiencia de usuario, estacionalidad, estado de las aplicaciones cloud, etc. Por último, la IA Generativa se utilizará como herramienta de creación, generando recomendaciones de cómo resolver tareas específicas en el contexto y entorno previamente creado.

Esta combinación de distintos tipos de IA ayuda a aumentar la productividad de las empresas impactando directamente en métricas como el tiempo de respuesta y la tasa de conversión.

Dynatrace ha creado una plataforma atractiva para la ingesta, análisis y extracción de valor de los datos, potenciada por un motor de automatización.

¿Cuáles son las principales novedades que han anunciado en el Dynatrace Perform Conference 2024?

En el evento de Las Vegas, desde Dynatrace hemos anunciado la ampliación de nuestra plataforma de análisis y automatización para proporcionar observabilidad y seguridad holísticas para grandes modelos de lenguaje (LLM) y aplicaciones impulsadas por IA Generativa.

Dynatrace AI Observability es una solución integral. Cubre el stack de IA de extremo a extremo, incluida la infraestructura, como las GPU Nvidia, los modelos fundacionales, como GPT4, las cachés semánticas y las bases de datos vectoriales, como Weaviate, y los marcos de orquestación, como LangChain. También es compatible con las principales plataformas de creación, formación y entrega de modelos de IA, como Microsoft Azure OpenAI Service, Amazon SageMaker y Google AI Platform.

Dynatrace AI Observability aprovecha la tecnología IA Davis de la plataforma y otras tecnologías básicas para ofrecer una visión precisa y completa de las aplicaciones impulsadas por IA, así como para cumplir las normativas de privacidad y seguridad al rastrear con precisión los orígenes de los resultados creados por sus aplicaciones. Además, ayuda a las compañías a prever y controlar los costes supervisando su consumo de tokens, que son las unidades básicas que utilizan los modelos de IA Generativa para procesar las consultas.

La adopción de la IA será más lenta en 2024. Aún estamos lejos de la ‘comoditización’

Las organizaciones no pueden permitirse ignorar el potencial de la IA Generativa. Sin embargo, necesitan una observabilidad completa impulsada por IA para ayudar a que sus inversiones en IA Generativa tengan éxito y evitar el riesgo de comportamientos impredecibles, ‘alucinaciones’ de la IA y malas experiencias de usuario.

¿Cómo ves la adopción de la IA por parte de las empresas?

Las empresas ahora están en proceso de experimentación, realizando las primeras implementaciones en plena curva de aprendizaje. Ahora todo lo relacionado con la IA, sobre todo la Generativa, parece magia, pero ajustar esta tecnología a una funcionalidad de negocio, que nos permita extraer valor de forma continuada, es complicado y, sobre todo, costoso.

El desarrollo y simple funcionamiento de una infraestructura de IA ya es caro de por sí, encima escalarlo precisa de una capacidad en la nube que los proveedores cloud no pueden proporcionar.

Para que implementar esta tecnología sea rentable hay que diseñar minuciosamente los procesos y calcular bien los recursos, y en este camino están ahora las empresas. Por eso, la adopción de la IA será más lenta en 2024. Aún estamos lejos de la ‘comoditización’.

Artículos relacionados

Artículo 1 de 4