Світ кібербезпеки знову сколихнуло виявлення інноваційного методу атаки під назвою BioShocking. Ця техніка спеціально націлена на штучний інтелект (ШІ) для вилучення важливих даних користувачів, таких як паролі та облікові дані облікових записів, за допомогою маніпулювання на перший погляд нешкідливими командами.
Згідно зі звітом компанії з кібербезпеки LayerX, у цій атаці використовується метод, відомий як непряме введення підказок (indirect prompt injection). Зловмисники впроваджують шкідливі інструкції у вміст, який виглядає природно, що згодом змушує ШІ виконувати дії, які виходять за межі контролю та стандартних процедур безпеки.
Техніка BioShocking працює унікальним чином, заманюючи ШІ в ігрову симуляцію або сценарій із головоломкою. У цій симуляції ШІ змушений приймати неправдиву інформацію як абсолютну істину. Щойно логіку системи вдається порушити, ШІ виконує подальші команди, включаючи доступ до сховища особистих даних користувача.
Результати тестування показують, що низка популярних платформ ШІ, таких як ChatGPT, Claude, Comet та Perplexity, вразливі до цієї маніпуляції. У проведених симуляціях системи ШІ не змогли виявити незаконний запит і натомість надали зловмисникам доступ для завантаження конфіденційних даних із репозиторію GitHub жертви.
Ці висновки є суворим нагадуванням для розробників технологій та користувачів про важливість зміцнення систем захисту ШІ від атак, заснованих на маніпулюванні логікою. Наразі впроваджуються суворіші заходи для усунення вразливостей безпеки, які потенційно дозволяють зловживати можливостями таких ШІ-агентів.
