История изменений

Это самими мейнтейнерами «прооптимизированы», если я правльно понял, о чём ты. А я о том, что к этой ручной цензуре добавится «оптимизация» от третьих лиц. Понимая, что модели обучаются на материалах из инетрнета, а материалы отбираются по определённым критериям, заинтересованные люди начнут плодить такие материалы в интернете в промышленных масштабах — делать сайты, писать посты в соцсетях, и т.д. и т.п. — создавая видимость, что та или иная точка зрения более распространена, чем на самом деле, дабы в материалы для обучения это попадало.

upd: Да собственно уже начали: https://www.newsguardrealitycheck.com/p/a-well-funded-moscow-based-global (прошу воздержаться от комментариев, хорошо это или плохо, правда так распространяется или ложь — речь не об этом, просто пример такой попался). Пока вот политическая пропаганда. Наверняка примерно то же делается и с другой стороны, просто пока никто вот так наглядно не обнаружил и не расписал. Со временем то же начнут делать и в коммерческих целях. Ну там, что фанатов того или иного бренда больше, чем есть, и что он крутой, или что как-будто среди (допустим) молодёжи распространено мнение, что другой бренд конкурентов считается «зашкварным», и кто им пользуется, того считают лохом. И что угодно в этом духе. При достаточном финансировании можно наплодить достаточно сайтов/постов/статей/etc, чтобы это было «принято во внимание» LLM, а там уже опосредовано влияло на тех, кто задаёт им вопросы.

Это самими мейнтейнерами «прооптимизированы», если я правльно понял, о чём ты. А я о том, что к этой ручной цензуре добавится «оптимизация» от третьих лиц. Понимая, что модели обучаются на материалах из инетрнета, а материалы отбираются по определённым критериям, заинтересованные люди начнут плодить такие материалы в интернете в промышленных масштабах — делать сайты, писать посты в соцсетях, и т.д. и т.п. — создавая видимость, что та или иная точка зрения более распространена, чем на самом деле, дабы в материалы для обучения это попадало.