FraudGPT, el clon malvado de ChatGPT que es utilizado por cibercriminales en la Deep Web
La inteligencia artificial generativa puede usarse para generar estafas sofisticadas
De hecho, el primer chatbot es considerado por algunos como “el gemelo maligno de ChatGPT”, y este no es gratuito y ninguna de sus funciones lo son. Tiene dos tipos de planes, uno mensual por 100 dólares y otro, privado que cuesta 500 dólares.
Un cambio de paradigma
:quality(85)/cloudfront-us-east-1.images.arcpublishing.com/infobae/YWIWHTWVONCAVL34BS26QSIEX4.jpg 420w)
La aparición de estas herramientas supone un cambio significativo en la cibercriminalidad, evidenciado que su uso está resultando cada vez más perfeccionado y segmentado. Mientras expertos advierten sobre el potencial desarrollo de malware más sofisticado gracias a la ayuda de la IA generativa.
Para los expertos, este tipo de herramientas delictivas pueden suponer un serio problema de cara al futuro porque con su ayuda los delincuentes con apenas conocimientos técnicos, pueden preparar campañas maliciosas de todo tipo con una probabilidad de éxito considerable.
Nuevas modalidades de delincuencia
:quality(85)/cloudfront-us-east-1.images.arcpublishing.com/infobae/TMG37YE2YFAGZEAWNHQ5NT6QRY.jpg 420w)
La empresa de seguridad cibernética Proofpoint ha identificado un incremento en el uso de inteligencia artificial para la ejecución de estafas avanzadas, como la conocida “pig butchering” o “carnicería de cerdos”, donde los estafadores engordan la confianza de sus víctimas antes de despojarlas de sus activos.
Esta técnica ha evolucionado y ahora también se vale de deepfakes, videos y audios manipulados, que afectan principalmente a funcionarios gubernamentales, empresarios y celebridades, especialmente aquellas relacionadas al ámbito de las inversiones en criptomonedas.
Los investigadores han observado como los atacantes de TA499, un grupo delictivo cibernético, recurren a videollamadas falsificadas mediante IA para suplantar a políticos y otras figuras públicas.
La imitación de estos individuos busca extraer información confidencial o comprometedora de las víctimas, con el fin de ridiculizarlas posteriormente mediante la publicación en redes sociales.
De los deepfakes a la creación de armas
:quality(85)/cloudfront-us-east-1.images.arcpublishing.com/infobae/CJBQ757MQZE4LDNXGYX5KOY26A.jpg 420w)
Además de las implicaciones en ciberseguridad, el abuso de la inteligencia artificial en la creación de contenido engañoso y material sensible, como la pornografía no consentida, preocupa a expertos en derecho y ética digital.
Estas técnicas de IA también han sido desplegadas para fines de manipulación política y social, como la creación de imágenes falsas de inmigrantes para influir en la opinión pública y en los resultados electorales.
Asimismo, se ha identificado el riesgo de que la IA ayude a crear armas bioquímicas y se infiltre en software de infraestructuras críticas, problemáticas.
Mientras, que las regulaciones existentes no logran abarcar efectivamente el espectro de amenazas que surgen con la inteligencia artificial generativa
Las recomendaciones
:quality(85)/cloudfront-us-east-1.images.arcpublishing.com/infobae/P3DYLYIGXJHUJNGYX6YYNIV644.jpg 420w)
La educación y concienciación de los usuarios se mencionan como elementos clave para prevenir los riesgos de estas herramientas maliciosas, aunque también se reconocen necesarias las medidas regulatorias y soluciones tecnológicas.
En respuesta a los peligros emergentes, se sugiere la formación de equipos independientes para probar herramientas de este tipo contra abusos de IA y la posible prohibición de ciertos modelos de código abierto.
Sin embargo, el reto para prevenir los daños causados por FraudGPT y herramientas similares reside en encontrar un equilibrio entre los objetivos éticos de la inteligencia artificial y la implementación práctica de medidas de seguridad y regulación.
