Розвиток технологій штучного інтелекту (ШІ) наразі створює нові етичні та безпекові виклики, які викликають серйозне занепокоєння. Одним із найтривожніших явищ є поширення порнографічного контенту на основі deepfake, коли обличчя людини без її згоди незаконно використовують та цифрово монтують у порнографічні матеріали.

Управління кіберполіції регіональної поліції Центральної Яви щойно перевело розслідування аналогічної справи на стадію досудового слідства. Зловмисникам, чия провина в маніпулюванні та поширенні такого контенту буде доведена, загрожує максимальне покарання у вигляді 12 років позбавлення волі. Цей випадок є серйозним сигналом тривоги, який свідчить про те, що наш цифровий простір стає все більш вразливим до експлуатації особистих даних, що може зруйнувати репутацію та психічне здоров'я жертв.

Основна проблема, що виникає, полягає в дисбалансі між стрімким розвитком технологічних інновацій та готовністю правового регулювання. Чинний Закон про порнографію та Закон про електронну інформацію та транзакції (UU ITE) вважаються такими, що ще не здатні повною мірою протидіяти складності маніпуляцій із використанням ШІ, які стають дедалі досконалішими та доступнішими для громадськості. Як наслідок, правоохоронним органам часто доводиться докладати надзвичайних зусиль, щоб притягнути до відповідальності зловмисників, які користуються цими технологічними лазівками.

Наслідки цього злочину не обмежуються правовою сферою, а залишають глибокі психологічні травми та соціальне тавро для жертв. Суспільство має усвідомити, що сучасні технології здатні створювати надзвичайно переконливі візуальні маніпуляції, тому підвищення цифрової грамотності є критично важливим для запобігання поширенню шкідливої дезінформації.

Очікується, що уряд негайно зміцнить нормативно-правову базу захисту, щоб не відставати від технологічного прогресу. Наявність більш адаптивних правил є вкрай необхідною для того, щоб закон залишався надійним захистом людської гідності в умовах нестримної цифровізації, гарантуючи, що технологічний прогрес приноситиме користь без порушення конфіденційності особи.