Антропик ввёл систему маркировки текста.
https://www.anthropic.com/news/claude-text-watermark
Особо не вчитывался, но как понял, работает это так. Антропик использует первую часть сгенеренного текста как некий инициализатор ГПСЧ. Дальше для слов с количеством условных «синонимов» больше или равно 2, антропик использует не наиболее вероятный синоним, а синоним из списка возможных в зависимости от детерминированного ГПСЧ. При этом статистики каждого синонима сохраняются. Т.е. грубо говоря, если в какой-то части текста наиболее вероятно слово «яблоко», а не «фрукт», то и в помеченном (достаточно длинном) тексте «яблоко» тоже будет встречаться чаще всего.
Таким образом, если текст большой и не переделывался автором, антропик может вычислить, что определенная последовательность с какой-то долей вероятности сгенерена Антропиком.
Все старые модели, которые доступны для пользователей онлайн, тоже введут эту систему маркировки из-за требований Евросоюза по использованию ИИ систем.
А теперь самое интересное. Антропик решает, какие слова являются «синонимами» для каких. И параметры ГПСЧ, на сколько я понял, никак не разглашаются.
Т.о., создаётся гигантский потенциал для коррупции и уничтожения оппозиции. Типа, ЕС делает запрос в Антропик «а вот диссер этого чела - творение Антропика?» А Антропик такой: «с вероятностью 95% - да». И всё, карьера политика поломана навсегда, а может и жизнь в целом.
Как думаете, я алармист или на нас таки надвигается большой ИИ-концлагерь?
