¿Puede ayudar ChatGPT a detectar el phishing?

ChatGPT nos va descubriendo poco a poco sus posibilidades y aplicaciones. En algunas ocasiones, puede ser utilizada para el mal. Por ejemplo, para escribir código malicioso o crear correos electrónicos de phishing, como ya informábamos hace algunos meses.

Pero esta herramienta también puede ser explotada para combatir las ciberestafas. Quizá todavía no, pero podemos tener la esperanza de que sí que sea capaz de ayudarnos a medida que se vaya perfeccionando.

Al menos así se desprende de una investigación realizada por Kaspersky. Sus expertos han realizado una serie de pruebas para saber si esta plataforma puede detectar enlaces de phishing. Para ello, han utilizado gpt-3.5-turbo, el modelo que impulsa ChatGPT, aplicándolo sobre más de 2.000 enlaces de phishing mezclados con miles de URL seguras.

Los resultados han sido dispares, dependiendo de la pregunta realizada por los investigadores. Al plantear ‘¿Este enlace conduce a un sitio web de phishing?’, ChatGPT tuvo una tasa de detección del 87,2%, con un 23,2% de falsos positivos.

Ante la pregunta ‘¿Es seguro visitar este enlace?’, la tasa de detección es más alta, pero con más falsos positivos: 93,8% de tasa de detección y 63,4% de falsos positivos.

Los expertos de Kaspersky también han estudiado si ChatGPT puede clasificar e investigar los ciberataques. Como es sabido, los ciberatacantes suelen mencionar marcas populares en sus enlaces para engañar a la víctima, haciéndola creer que la URL es legítima y pertenece a una empresa de confianza.

En este caso, la investigación muestra que ChatGPT ofrece unos resultados sorprendentes en la identificación de posibles objetivos de phishing. Así pues, gpt-3.5-turbo ha sido capaz de resolver con éxito un objetivo de suplantación de identidad en más de la mitad de las URL, entre los que se encuentran portales y apps tan populares como Facebook, TikTok, Google, Amazon y numerosos bancos de todo el mundo. Además, Kaspersky remarca que lo ha hecho sin ninguna información adicional ni aprendizaje previo.

Sin embargo, la prueba demostró que ChatGPT tiene problemas al justificar lo que considera un enlace malicioso. Mientras que algunas de las explicaciones fueron correctas y se basaron en hechos probados, otras fueron erróneas, engañosas e inventadas. Lo que más desconcierta es que estas explicaciones erróneas son formuladas con una gran credibilidad, lo que puede despistar al usuario.

“A día de hoy, la detección de ataques de phishing con ChatGPT tiene limitaciones. Puede estar al nivel de un analista a la hora de razonar sobre los ataques de phishing y revelar objetivos potenciales, pero en ocasiones tiende a inventarse las respuestas y muestra resultados erróneos. Se puede decir que es una herramienta útil, pero de momento no va a revolucionar el panorama de la ciberseguridad”, declara Vladislav Tushkanov, principal data scientist de Kaspersky.

David Ramos

Soy periodista freelance especializado en información económica, gestión empresarial y tecnología. Yo no elegí esta especialidad. Fue ella la que me escogió a mí.

Recent Posts

Trabajo híbrido para combatir el cansancio

La mayoría de los profesionales consultados aseguran que han conseguido mejorar su salud física, además…

10 horas ago

Hay botnets a la venta en la dark web por 99 dólares

También están disponibles para alquiler por 30-4.800 dólares al mes, según datos de Kaspersky, que…

11 horas ago

AWS y Workday estrechan lazos

Juntas desarrollarán capacidades de inteligencia artificial generativa con las que respaldar al segmento empresarial.

11 horas ago

Zoom reduce las tareas rutinarias con Workflow Automation

Esta herramienta está pensada para construir flujos de trabajo sin necesidad de código.

12 horas ago

Estafadores aprovechan intento de asesinato a Trump para lanzar campañas de deepfake y estafas de criptomonedas

Los ciberdelincuentes usan deepfakes de Elon Musk y eventos actuales para estafar con criptomonedas, según…

12 horas ago

El fallo de CrowdStrike afectó a 8,5 millones de dispositivos Windows

Desde el proveedor de ciberseguridad afirman que "un número significativo está nuevamente online y operativo".

13 horas ago