SlashNext ha publicado un informe de investigación que detalla un módulo único basado en ChatGPT que fue creado por ciberdelincuentes con la intención expresa de explotar la IA generativa con fines nefastos.

El equipo de SlashNext se asoció con Daniel Kelley, un pirata informático de sombrero negro reformado que está investigando las últimas amenazas y tácticas utilizadas por los ciberdelincuentes. Navegando a través de los foros de delitos cibernéticos, Kelley y SlashNext descubrieron hilos de discusión donde estaban los malos:

• compartir libremente consejos sobre cómo aprovechar ChatGPT para refinar los correos electrónicos que se pueden usar en ataques de phishing o BEC;
• promover «jailbreaks» para interfaces como ChatGPT, refiriéndose a indicaciones y entradas especializadas diseñadas para manipular interfaces como ChatGPT en la salida que podría conducir a la divulgación de información confidencial, la producción de contenido inapropiado o la ejecución de código malicioso;
• Promocione un módulo similar a ChatGPT personalizado, presentado como una alternativa blackhat a ChatGPT pero sin fronteras ni limitaciones éticas.

Los hallazgos de esta investigación tienen amplias implicaciones para la comunidad de seguridad en la comprensión de cómo los malos actores no solo manipulan las plataformas de IA como ChatGPT con fines maliciosos, sino que también crean plataformas completamente nuevas basadas en la misma tecnología diseñada específicamente para cumplir sus órdenes.

Regístrese para recibir el boletín gratuito insideBIGDATA.

Únase a nosotros en Twitter: https://twitter.com/InsideBigData1

Únase a nosotros en LinkedIn: https://www.linkedin.com/company/insidebigdata/

Únase a nosotros en Facebook: https://www.facebook.com/insideBIGDATANOW