Investigadores logran engañar a modelos de IA para generar instrucciones ilegales y filtrar credenciales

Un grupo de investigadores presentó una nueva técnica capaz de manipular modelos avanzados de inteligencia artificial para que generen instrucciones sobre la síntesis de cocaína y filtren archivos confidenciales. El estudio sostiene que el problema no radica únicamente en los prompts maliciosos, sino en una debilidad estructural de cómo los modelos distinguen entre instrucciones confiables y contenido externo.