LINUX.ORG.RU
ФорумTalks

Фашизация ИИ'шных корп?

 ,


0

2

Антропик ввёл систему маркировки текста.

https://www.anthropic.com/news/claude-text-watermark

Особо не вчитывался, но как понял, работает это так. Антропик использует первую часть сгенеренного текста как некий инициализатор ГПСЧ. Дальше для слов с количеством условных «синонимов» больше или равно 2, антропик использует не наиболее вероятный синоним, а синоним из списка возможных в зависимости от детерминированного ГПСЧ. При этом статистики каждого синонима сохраняются. Т.е. грубо говоря, если в какой-то части текста наиболее вероятно слово «яблоко», а не «фрукт», то и в помеченном (достаточно длинном) тексте «яблоко» тоже будет встречаться чаще всего.

Таким образом, если текст большой и не переделывался автором, антропик может вычислить, что определенная последовательность с какой-то долей вероятности сгенерена Антропиком.

Все старые модели, которые доступны для пользователей онлайн, тоже введут эту систему маркировки из-за требований Евросоюза по использованию ИИ систем.

А теперь самое интересное. Антропик решает, какие слова являются «синонимами» для каких. И параметры ГПСЧ, на сколько я понял, никак не разглашаются.

Т.о., создаётся гигантский потенциал для коррупции и уничтожения оппозиции. Типа, ЕС делает запрос в Антропик «а вот диссер этого чела - творение Антропика?» А Антропик такой: «с вероятностью 95% - да». И всё, карьера политика поломана навсегда, а может и жизнь в целом.

Как думаете, я алармист или на нас таки надвигается большой ИИ-концлагерь?

★★★★★

Последнее исправление: seiken (всего исправлений: 1)

Проснулся. Эта хрень задолго до ИИ была. Не работала в принципе почти никак, зато сильно портила жизнь всем подряд. Вот говорит оно тебе, что твой текст на 90% уже кем то использовался в той или иной мере. Иди и переписывай. Ага. Вот только любой текст уже использовался и чем дальше, тем больше.

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

Однако же, до сих пор плагиаризм является критерием честности в получении той или иной степени. Т.е. это не то, на что все закрывают глаза.

seiken ★★★★★
() автор топика

Для исходного кода это как минимум означает, что комменты все, где возможен естественный язык, надо сразу вырезать к чертовой матери и писать свои.

seiken ★★★★★
() автор топика
Ответ на: комментарий от seiken

Это только начало. Собрано очень небольшое количество текстов на самом деле. Дальше будет хуже. Ты не сможешь написать ничего, что уже не было бы написано.

LightDiver ★★★★★
()
Ответ на: комментарий от firkax

Ты устарел. Можно просто скормить ИИШке и это будет абсолютно новый инновационный код.

Для верности можно даже язык сменить.

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

Х.з. это была книжечка карманного формата, про то, как ИИ-шные технократы захватили власть в США. Эх, чувствую, сейчас прийдут «лесники» и прикроют оффтоп.

seiken ★★★★★
() автор топика
Ответ на: комментарий от firkax

Да это просто финиш полный. Я сам иногда в своём коде по 3 раза за написание меняю идентификаторы с менее «понятных» на более «понятные». А если там какой-то псевдошум добавлен, который мне «понравится»…

seiken ★★★★★
() автор топика

Все старые модели, которые доступны для пользователей онлайн, тоже введут эту систему маркировки из-за требований Евросоюза по использованию ИИ систем.

Что с китайскими моделями?

Что с оффлайн-моделями?

praseodim ★★★★★
()
Последнее исправление: praseodim (всего исправлений: 1)

Давно хотел сказать, что я хитро пишу код особым способом, который я вам не раскрою, но ЛОР написал я. В одиночку. Так что резко скиньтесь на пиво, а то засужу и удолю.

thesis ★★★★★
()
Ответ на: комментарий от praseodim

Ну пока новость, как я понял, про вступивший в силу закон о ИИ в ЕС. Соответственно, если китайские онлайн-модели не добавят аналогичную неотключаемую фичу watermarking, то их будут банить что ли, вобщем, они вне закона на территории ЕС окажутся.

Соотв. оффлайн-модели никого не трогают.

seiken ★★★★★
() автор топика
Последнее исправление: seiken (всего исправлений: 1)
Ответ на: комментарий от seiken

Слушай, а что если тот мусор, что тоннами ИИШки вставляют в код, раздумая функции в 10-40 раз - не мусор, а способ пометить код?

LightDiver ★★★★★
()
Ответ на: комментарий от seiken

вообще, про оффлайн я не знаю, надо изучать. Просто чисто логически, если это какие-то опенсорс модели оффлайновые, то там этот механизм можно было бы просто отрубить и всё. Т.е. закон даже в теории (при условии прозрачности и мира розовых пони, чего, естественно, не будет), сможет работать только если именно «хозяин» неизменённой модели вкрячит туда один ему известный детерминизм.

seiken ★★★★★
() автор топика
Ответ на: комментарий от seiken

С другой стороны, это как раз звоночки к тому, чтобы последовать примеру дяди Стёпы, и разориться на железо и толстый инет канал.

seiken ★★★★★
() автор топика
Ответ на: комментарий от seiken

Это если ты лицо ответственное и тебе за это что то грозит финансово. Иначе, можешь последовать моему примеру и ложить большой и толстый на все попытки присвоения прав на алгоритмы.

LightDiver ★★★★★
()
Последнее исправление: LightDiver (всего исправлений: 1)
Ответ на: комментарий от LightDiver

ну, я, например, плачу за кредиты Антропик Консоль (хватило ума не оформлять месячную подписку). И тулзу, которую таки запилил с Антропиком - ну там несколько сот строк кода, до 1000 вроде. И я там не видел мусора. Другое дело, что именования переменных, функций - да не реально человеку там какой-то паттерн увидеть.

А с другой стороны, мне не нужна ИИ-замкнутость, т.е. мне не нужны никакие рандомы в менах, потому что мне нужен читабельный человеком код.

seiken ★★★★★
() автор топика

а тут кто-то ещё жалуется на фз-ии, praseodim, когда вот можно обойти право, свободно и демократически... используя простой Советский...

etwrq ★★★★★
()

Типа, ЕС делает запрос в Антропик «а вот диссер этого чела - творение Антропика?» А Антропик такой: «с вероятностью 95% - да».

Образованию придётся принять тот факт, что дисеры, бисеры, курсовые, рефераты и прочая макулатура будут писаться ВСЕМИ только с помощью ИИ.

mamina_radost
()
Ответ на: комментарий от etwrq

EU Act - это бюрократический маразм на сотни страниц разных условий и положений. Что хуже они уже стали наезжать на сайты с весами моделей, например, на huggingface https://www.lawxyai.com/news/hugging-face-faces-eu-enforcement-under-ai-act-dsa - дескать, ко-ко-ко, там выложены модели, которые ко-ко-ко, могут нарушить запреты на всякое разное.

praseodim ★★★★★
()

Сначала вы недовольны, что теперь непонятно где слоп, а где человек писал.

Теперь вы недовольны, что слоп будет маркироваться, чтобы каждый мог проверить.

Что вы таки хотите?

MoldAndLimeHoney ★★★
()
Ответ на: комментарий от etwrq

Могут конечно, и что? Член есть, значит надо судить за изнасилование?

praseodim ★★★★★
()

А как оно теперь будет сочинять стихи?

На английском, понятно, какие стихи, а на русском, извините, есть такое понятие.

Nxx ★★★★★
()

если в какой-то части текста наиболее вероятно слово «яблоко», а не «фрукт», то и в помеченном (достаточно длинном) тексте «яблоко» тоже будет встречаться чаще всего.

В России такого точно не будет, наш ИИ теперь будет соответствовать традиционным ценностям.

Wapieth ★★
()
Ответ на: комментарий от etwrq

Если почитать статью, то там названа суть претензий - ИИ модели способные к генерации неправильных с точки зрения законодателей порнокартинок.

Опять всё начинается с защиты несовершеннолетних, теперь сгенерированных.

KivApple ★★★★★
()
Последнее исправление: KivApple (всего исправлений: 1)
Ответ на: комментарий от LightDiver

Ты устарел. Можно просто скормить ИИШке и это будет абсолютно новый инновационный код.

Помеченный, что код не твой а антропика, ага

James_Holden ★★★★★
()
Ответ на: комментарий от KivApple

В этих случаях я как раз не против. Ну будет публика знать, что осёл сношает кого-то сзади по мнению ИИ, а не по-настоящему. Ну и что? Это как раз ок.

seiken ★★★★★
() автор топика
Ответ на: комментарий от seiken

Х.з. это была книжечка карманного формата, про то, как ИИ-шные технократы захватили власть в США.

Прикинь, это они оплатили книжку, «меценаты и филантропы» проговариваются по Фрейду. Автор думает, страшилку пишет, а ему методичку оплачивают ;)

slackwarrior ★★★★★
()
Ответ на: комментарий от seiken

К Hugging Face, по данным статьи, претензия не к отсутствию маркировки, а к наличию там OpenSource моделей способных сгенерировать того самого осла, маркированного или нет. Ведь виртуальный осёл мог не давать согласия на половой акт и вообще быть несовершеннолетним.

KivApple ★★★★★
()
Последнее исправление: KivApple (всего исправлений: 2)

Фашизация ИИ'шных корп?

А ты цидульку Карпа не читал что ль?

slackwarrior ★★★★★
()
Ответ на: комментарий от MoldAndLimeHoney

Сначала вы недовольны, что теперь непонятно где слоп, а где человек писал.

Теперь вы недовольны, что слоп будет маркироваться, чтобы каждый мог проверить.

Что вы таки хотите?

Он хочет первородство сохранить, хотя уже продал за иишенку.

slackwarrior ★★★★★
()
Ответ на: комментарий от seiken

то там этот механизм можно было бы просто отрубить и всё

Да-да, а потом к тебе приезжают, проводят обыск, обнаруживают нарушение закона и сажают. У тебя какая-то странная логика «да вот, я ж их запреты обойду, а проверять соблюдение они не осмелятся». Нет, такие законы нужны как раз для того, чтобы проверять было можно. И способы проверок тебе совершенно не понравятся.

firkax ★★★★★
()
Ответ на: комментарий от praseodim

Правильно наезжают, закрывать надо этот рассадник бредогенераторов.

firkax ★★★★★
()
Ответ на: комментарий от firkax

Ну вроде как в законе всё же про провайдеров сервисов, то есть простой юзер гоняющий модельку локально ещё не совершает нарушение.

KivApple ★★★★★
()
Ответ на: комментарий от firkax

Кстати, в Германии постепенно стирается четкое разделение полиция-разведка. Но это уже полный оффтоп.

seiken ★★★★★
() автор топика
Ответ на: комментарий от seiken

Кстати, в Германии постепенно стирается четкое разделение полиция-разведка. Но это уже полный оффтоп.

Так ничо, это ж с самого начала тред твоего ниггадования, что весь банкет не для твоего удовольствия.

slackwarrior ★★★★★
()
Ответ на: комментарий от KivApple

Пока что не совершает. Сначала надо с крупными разобраться и зарегулировать, а потом можно уже вводить закон о полном запрете на эксплуатацию и хранение немаркирующих инструментов. Ну может быть оставят технические исключения для узкого круга лиц, получивших лицензию на разработку этих штук, но к ним другие, персональные, проверки будут назначены.

firkax ★★★★★
()
Ответ на: комментарий от firkax

Пока что не совершает. Сначала надо с крупными разобраться и зарегулировать, а потом можно уже вводить закон о полном запрете на эксплуатацию и хранение немаркирующих инструментов.

А погромы на Горбушке будут?

slackwarrior ★★★★★
()
Ответ на: комментарий от slackwarrior

Я всего лишь жалкий червь. Сухо - пользу, влажно - лежу. Знаю только, что коллега один уже юзает корпоративный аккаунт копилота. Т.е. его, код скорее, всего ИИ’шный.

seiken ★★★★★
() автор топика
Ответ на: комментарий от MoldAndLimeHoney

чтобы каждый мог проверить

Дык не «каждый», а «…антропик может вычислить, что определенная последовательность с какой-то долей вероятности сгенерена Антропиком».

Вася дает тебе визатор, сделанный Васей же. Лампочка на визаторе загорается красным, если он считает, что направлен на васино имущество. Вери гуд бизнес, по-моему.

thesis ★★★★★
()
Ответ на: комментарий от thesis

Во всяком случае, я так понял, что в данном случае работает подход security by obscurity. Т.е., если бы можно было эту статистику рассчитать из начальных данных без участия Антропика, то этот наведённый псевдо-шум можно было бы элементарно изменить, прицельно.

seiken ★★★★★
() автор топика
Ответ на: комментарий от seiken

Вообще, это должно противоречить каким-то национальным законам. Не может так быть, чтобы в суде такое доказательство проканало «эксперты Антропика, непонятно как, присвоили вероятность этой случайной величине».

seiken ★★★★★
() автор топика
Ответ на: комментарий от seiken

Я всего лишь жалкий червь. Сухо - пользу, влажно - лежу.

Тебе нечего терять кроме Марковских цепей.

slackwarrior ★★★★★
()
Ответ на: комментарий от seiken

надо сразу вырезать к чертовой матери и писать свои.

Можно, а зачем? Тебя кто-то палкой бьет за использование антропика? Ну так не используй

cobold ★★★★★
()
Вы не можете добавлять комментарии в эту тему: только для зарегистрированных, score>=50.