Ничему не верьте. Американские ученые обошли главную защиту цифровых файлов
9 октября, 21:01 Поделиться:
Эра искусственного интеллекта несет множество опасностей (Фото:pexels)
С помощью нехитрых графических методов, группа исследователей сумела удалить цифровой водяной знак, которым обозначают созданные искусственным интеллектом файлы.
Недавнее исследование, опубликованное на сервере препринтов arXiv, подчеркивает угрозу цифровой дезинформации, даже с применением водяных знаков на контенте, созданном искусственным интеллектом (ИИ). Ученые из Университета Мэриленда провели тесты, которые показали возможность обхода защитных водяных знаков, что поднимает вопросы о надежности этой технологии.
«На данный момент у нас нет надежных водяных знаков,» — сказал профессор Сохейл Фейзи, один из авторов исследования. Он добавил, что их команда смогла успешно «сломать» все существующие водяные знаки.
Читайте также:
Началось. Искусственный интеллект создал копию Тома Хэнкса для рекламы стоматологии — разрешения у актера никто не спрашивал
Использование ИИ может представлять серьезные угрозы, такие как дезинформация, мошенничество и даже проблемы национальной безопасности. Для борьбы с этими угрозами крупнейшие цифровые медиа-компании, такие как OpenAI, Alphabet, Amazon и DeepMind, разрабатывают инструменты для идентификации контента, созданного ИИ.
В исследовании был использован процесс диффузионной очистки, который позволяет удалять водяной знак изображения так, чтобы он стал незаметным для алгоритмов обнаружения. Это создает искаженный водяной знак, который легко обходит детекторы. Другие части изображения остаются почти неизменными.
Исследователи также показали, что злоумышленники, имеющие доступ к алгоритмам нанесения водяных знаков, могут создавать фальшивые фотографии с маркировкой, которая обманывает детекторы, заставляя их думать, что фотография подлинная.
Хотя этот вопрос вызывает обеспокоенность, Фейзи выразил оптимизм относительно разработки надежных водяных знаков. Вполне возможно, что в будущем будут разработаны более надежные способы борьбы с цифровой дезинформацией.