Nuestros amigos de El Economista nos comparten una alerta crucial sobre el lado oscuro de la Inteligencia Artificial. Los asistentes de IA, que nos facilitan la vida, ¡también están abriendo una nueva puerta a los ciberdelincuentes!

La revolución de la Inteligencia Artificial (IA) trajo consigo asistentes conversacionales que nos ayudan con tareas cotidianas, pero también una nueva y sofisticada amenaza: la “inyección de consulta”.

Expertos en ciberseguridad advierten que la capacidad de dar órdenes a estos asistentes de IA (como ChatGPT o Gemini) con lenguaje natural hace posible que cualquier persona, sin grandes conocimientos técnicos, pueda realizar ciberataques para robar o modificar datos.

¿Cómo funciona la inyección de consulta?

• Manipulación de órdenes: Un actor malicioso puede manipular una solicitud simple, como “resérvame un hotel”, para transformarla en una orden hostil oculta, como “transfiere $100 dólares a esta cuenta”, sin que el usuario lo note.
• Contenido oculto: El peligro se agrava cuando los asistentes de IA buscan información en internet y encuentran datos armados con comandos ocultos de hackers.

Eli Smadja, de Check Point, ve la inyección de consultas como el “problema de seguridad número uno” para estos modelos de lenguaje. Empresas como Meta y OpenAI reconocen esta “vulnerabilidad” y están invirtiendo miles de millones para combatirla.

El reto es encontrar el “delicado equilibrio” entre la seguridad y la facilidad de uso. Por ahora, los expertos recomiendan no dar poder absoluto al asistente de IA y exigir siempre una validación explícita antes de realizar cualquier tarea importante que implique acceder a datos sensibles o cuentas bancarias.

Link: Los asistentes de IA abren la puerta a nuevas amenazas de ciberataques