Текстовые водяные знаки

Метод водяных знаков для текста, сгенерированного искусственным интеллектом

Текстовые водяные знаки — это метод встраивания скрытой информации в текстовый контент для проверки его подлинности, происхождения или права собственности. ^[1] С появлением генеративных систем ИИ , использующих большие языковые модели (LLM), значительное внимание было уделено созданию водяных знаков для текста, сгенерированного ИИ . ^[2] Потенциальные приложения включают обнаружение фейковых новостей и академического мошенничества , а также исключение материалов, сгенерированных ИИ, из данных обучения LLM . ^[3] В LLM основное внимание уделяется лингвистическим подходам, которые включают выбор слов для формирования шаблонов в тексте, которые впоследствии могут быть идентифицированы. ^[1] Результаты первого зарегистрированного крупномасштабного публичного развертывания, испытания с использованием чат-бота Gemini от Google , появились в октябре 2024 года: пользователи в 20 миллионах ответов обнаружили, что текст с водяными знаками и без них имеет одинаковое качество. ^[3] Исследования в области текстовых водяных знаков начались в 1997 году. ^[1]

Смотрите также

Цифровые водяные знаки

Ссылки

^ abc Камаруддин, Нурул Шамими; Камсин, Амиррудин; Пор, Лип Йи; Рахман, Хамидур (2018). «Обзор водяных знаков в тексте: теория, методы и приложения». IEEE Access . 6 : 8011– 8028. Bibcode : 2018IEEEA...6.8011K. doi : 10.1109/ACCESS.2018.2796585 . ISSN 2169-3536.
^ Лю, Айвэй; Пан, Лейи; Лу, Ицзянь; Ли, Цзинцзин; Ху, Сюмин; Чжан, Си; Вэнь, Лицзе; Король, Ирвин; Сюн, Хуэй; Ю, Филип (3 сентября 2024 г.). «Обзор текстовых водяных знаков в эпоху больших языковых моделей». Обзоры вычислительной техники ACM . 57 (2): 1–36 . arXiv : 2312.07913 . дои : 10.1145/3691626. ISSN 0360-0300.
^ ab Gibney, Elizabeth (23 октября 2024 г.). «Google представляет невидимый „водяной знак“ для текста, сгенерированного ИИ». Nature . 634 (8036): 1027– 1028. Bibcode :2024Natur.634.1027G. doi :10.1038/d41586-024-03462-7. PMID 39443774 . Получено 26 октября 2024 г. .

[:0-1] Камаруддин, Нурул Шамими; Камсин, Амиррудин; Пор, Лип Йи; Рахман, Хамидур (2018). «Обзор водяных знаков в тексте: теория, методы и приложения». IEEE Access . 6 : 8011– 8028. Bibcode : 2018IEEEA...6.8011K. doi : 10.1109/ACCESS.2018.2796585 . ISSN 2169-3536.

[2] Лю, Айвэй; Пан, Лейи; Лу, Ицзянь; Ли, Цзинцзин; Ху, Сюмин; Чжан, Си; Вэнь, Лицзе; Король, Ирвин; Сюн, Хуэй; Ю, Филип (3 сентября 2024 г.). «Обзор текстовых водяных знаков в эпоху больших языковых моделей». Обзоры вычислительной техники ACM . 57 (2): 1–36 . arXiv : 2312.07913 . дои : 10.1145/3691626. ISSN 0360-0300.

[:1-3] Gibney, Elizabeth (23 октября 2024 г.). «Google представляет невидимый „водяной знак“ для текста, сгенерированного ИИ». Nature . 634 (8036): 1027– 1028. Bibcode :2024Natur.634.1027G. doi :10.1038/d41586-024-03462-7. PMID 39443774 . Получено 26 октября 2024 г. .