Microsoft entrega más herramientas para crear aplicaciones de IA generativa

Microsoft amplía su colección de herramientas para desarrolladores en Azure AI Studio, que ahondan en la capacidad de crear aplicaciones de inteligencia artificial (IA) generativa.

Entre estas herramientas se encuentra Prompt Shields, que ayuda a detectar en tiempo real entradas que son sospechosas y bloquearlas para que no alcancen el modelo base. Y, así, evitar ataques de inyección de prompts, tanto directos como indirectos.

Otra novedad es Groundedness detection. En su caso contribuye a la identificación de alucinaciones basadas en texto. Es capaz de detectar material que no está fundamentado con el objetivo de mejorar los resultados de los modelos de lenguaje de gran tamaño (LLM).

Microsoft pondrá a disposición de los desarrolladores plantillas de mensajes de sistema de seguridad en los playgrounds Azure AI Studio y Azure OpenAI Service. Lo hará de forma predeterminada para reducir el contenido dañino y los usos indebidos.

También relacionado con la seguridad, anuncia evaluaciones automatizadas para métricas de riesgo que miden la susceptibilidad de las aplicaciones frente a tentativas de jailbreak. Microsoft busca combatir el contenido violento, relacionado con autolesiones, que incite al odio, sexual o injusto.

Además, introduce la monitorización de riesgos y seguridad en Azure OpenAI Service. Permitirá visualizar volumen, gravedad y categoría de las entradas de usuario y las salidas del modelo bloqueadas por filtros. Asimismo, incluirá informes para identificar abusos.

Redacción Silicon

La redacción de Silicon está compuesta por profesionales del periodismo 2.0

Recent Posts

Silicon Pulse: Titulares de la semana #19

Bienvenido a un nuevo episodio del podcast semanal Silicon Pulse, un espacio en el que…

8 horas ago

Equinix busca aliados para su iniciativa Heat Export, que aprovecha el calor residual de los centros de datos

Organismos públicos y proveedores de infraestructura energética pueden unirse a este programa que ya opera…

16 horas ago

VTEX CONNECT reúne en Barcelona a los líderes del comercio digital

La primera edición de VTEX CONNECT EUROPA ofreció más de 10 horas de contenido a…

17 horas ago

La familia de smartphones HONOR 200 pone el énfasis en la fotografía de retrato

Por primera vez una versión Pro de estos productos de HONOR estará disponible en el…

18 horas ago

Google Cloud ofrecerá servicios de Oracle Cloud Infrastructure

Cross-Cloud Interconnect de Google Cloud estará disponible inicialmente en once regiones, incluyendo España central (Madrid).

18 horas ago

Broadcom eleva su previsión de ingresos anuales

Durante 2024, la firma de semiconductores espera acumular un total de 51.000 millones de dólares.

19 horas ago