Vectra AI permite supervisar quién usa ChatGPT en la empresa

El furor por la inteligencia artificial y las posibilidades que ofrecen los modelos de lenguaje de gran tamaño se ha intensificado durante los últimos meses, especialmente con el lanzamiento de la herramienta de ChatGPT de OpenAI que permite conseguir respuestas rápidas haciendo preguntas a través de un navegador web.

Pero su uso conlleva desafíos. “Cualquier dato enviado a ChatGPT es almacenado por OpenAI con fines de calidad y seguimiento, la fuente de cualquier respuesta es desconocida y la respuesta puede ser completamente inventada”, señalan desde Vectra AI, que añade que “OpenAI no puede controlar realmente qué datos se envían a ChatGPT, por lo que acaban almacenando mucha información que realmente no quieren”.

A esto hay que añadir otros problemas. Por un lado, la generación de respuestas sin atribuir fuentes, lo que conlleva el uso de material sin el permiso de su autor. Por otro lado, las posibles “alucinaciones” o “mentiras” asociadas a una tecnología que no es transparente con su proceso.

Para ayudar a las empresas a supervisar quién utiliza ChatGPT, Vectra AI permite monitorizar su uso de forma nativa con Vectra NDR y la ayuda de sensores que trabajan con el tráfico que entra y sale de la red y también dentro de la propia red. Su análisis ofrece información sobre el cumplimiento, algo incluido en el Panel de Control de Uso de ChatGPT.

Este panel aprovecha tecnología de atribución de ID de host para el seguimiento de los usuarios y muestra la frecuencia con la que un dispositivo accede a la herramienta de inteligencia artificial.

“Este panel, que está disponible de forma gratuita para todos los clientes de la plataforma Vectra, mostrará los hosts en su entorno que están interactuando activamente con OpenAI”, explica Eutimio Fernández, Country Manager de Vectra AI para la península ibérica, “mediante el seguimiento de las solicitudes DNS a los servidores OpenAI realizadas por cualquier host”.

“Esto permitirá a los responsables de cumplimiento ver rápidamente no sólo una lista de personas que tienen cuentas con OpenAI o que han registrado un interés, sino supervisar activamente quién está utilizando exactamente un sistema y cuánto lo están utilizando”, apunta.