El mundo de la ciberseguridad se ha visto sacudido una vez más por el descubrimiento de un innovador método de ataque llamado BioShocking. Esta técnica se dirige específicamente a la inteligencia artificial (IA) para extraer datos cruciales de los usuarios, como contraseñas e información de credenciales de cuentas, mediante una manipulación de comandos aparentemente inofensiva.
Según un informe de la empresa de ciberseguridad LayerX, este ataque utiliza un método conocido como inyección indirecta de instrucciones (indirect prompt injection). Los atacantes insertan instrucciones maliciosas en contenido que parece normal, lo que luego activa a la IA para realizar acciones fuera del control y de los procedimientos de seguridad estándar.
La técnica BioShocking funciona de una manera única: atrapa a la IA en una simulación de juego o en un escenario de acertijos. En esta simulación, se obliga a la IA a aceptar información errónea como una verdad absoluta. Una vez que se ha logrado subvertir la lógica del sistema, la IA ejecuta comandos de seguimiento, incluido el acceso al repositorio de datos privados del usuario.
Los resultados de las pruebas muestran que varias plataformas de IA populares, como ChatGPT, Claude, Comet y Perplexity, son vulnerables a esta manipulación. En las simulaciones realizadas, los sistemas de IA no detectaron la solicitud ilegal y, por el contrario, otorgaron acceso a los atacantes para descargar datos sensibles del repositorio de GitHub de la víctima.
Estos hallazgos sirven como un severo recordatorio para los desarrolladores de tecnología y los usuarios sobre la importancia de fortalecer los sistemas de defensa de la IA contra los ataques basados en la manipulación lógica. Hasta la fecha, se están buscando medidas de mitigación más estrictas para cerrar las brechas de seguridad que potencialmente podrían abusar de la sofisticación de estos agentes de IA.
