Vectra ayuda a las empresas a comprobar si sus empleados usan ChatGPT

ChatGPT facilita a cualquiera hacer preguntas a través de un navegador web, y obtener respuestas rápidas. Esto es estupendo para el usuario medio, pero para cualquier empresa, esta facilidad de uso esconde algunos riesgos: Cualquier dato enviado a ChatGPT es almacenado por OpenAI con fines de calidad y seguimiento, la fuente de cualquier respuesta es desconocida y la respuesta puede ser completamente inventada.

OpenAI no puede controlar realmente qué datos se envían a ChatGPT, por lo que acaban almacenando mucha información que realmente no desean. Por ejemplo, recientemente se descubrió que empleados de Samsung habían utilizado ChatGPT para depurar software propietario y resumir actas de reuniones.

El segundo problema es que ChatGPT contesta a las preguntas sin atribuir fuentes a sus respuestas. ChatGPT hará declaraciones basadas en sus hallazgos y, lamentablemente, uno lo tiene que tomar tal como es.

Sin embargo, la mayor desventaja de ChatGPT es que estos LLM (modelos de lenguaje de gran tamaño) pueden tener ‘alucinaciones’, que es la jerga del sector para ‘decir mentiras descaradas’.

Dado que ChatGPT no tiene transparencia sobre cómo llega a las respuestas, los usuarios deben ser capaces de analizar críticamente las respuestas para decidir si son ciertas, ya que ChatGPT y los otros LLM de su tipo, siempre responderán con absoluta confianza.

Las organizaciones están reaccionando a estos hechos con políticas que prohíben el uso de OpenAI sin aprobación, pero es difícil hacer un seguimiento del cumplimiento de esta política, ya que el tráfico funciona a través de un navegador cifrado sin necesidad de ningún software.

Un control instantáneo

Afortunadamente, Vectra AI, empresa especializada en detección y respuesta frente a amenazas en la nube híbrida basadas en IA de Seguridad, es capaz de ver esta actividad en su red, utilizando sus sensores de red de detección existentes. Vectra NDR cuenta con sensores cuidadosamente colocados que supervisan el tráfico que entra y sale de la red, pero también dentro de la propia red.

Esta profundidad de análisis impulsa su marco de detección basado en IA y también permite obtener información sobre el cumplimiento, que se incluye en su Panel de Control de Uso de ChatGPT.

“Este panel, que está disponible de forma gratuita para todos los clientes de la plataforma Vectra, mostrará los hosts en su entorno que están interactuando activamente con OpenAI – mediante el seguimiento de las solicitudes DNS a los servidores OpenAI realizadas por cualquier host”, explica en un comunicado de prensa Eutimio Fernández, Country Manager para la Península Ibérica de Vectra AI.

“Esto permitirá a los responsables de cumplimiento ver rápidamente no sólo una lista de personas que tienen cuentas con OpenAI o que han registrado un interés, sino supervisar activamente quién está utilizando exactamente un sistema, y cuánto lo están utilizando”, añade.

Incluso cuando las direcciones IP de las máquinas cambian, o un portátil se une a una nueva red, Vectra realizará un seguimiento de la misma máquina, de modo que el panel muestra exactamente la frecuencia con la que un dispositivo accede a ChatGPT. Esto también le permite cambiar rápidamente para ver quién cree Vectra que es el propietario probable de un host.

Utilizando este panel, no sólo verá qué hosts están utilizando ChatGPT, sino que también sabrá con quién ponerse en contacto al respecto, y dispondrá de esta información en cuestión de minutos, no en horas.