GNOME.org вводит официальный запрет на публикацию расширений с кодом, сгенерированным искусственным интеллектом

Всё тестами не выловишь, даже если они там есть. Формально оно может даже работать и автоматическую валидацию проходить, ИИ-шка же постаралась подогнать. Потом, только, то утечки вылазят, то весь лог ошибками загажен, то shell фризит (js оно такое, да).

Вот допустим у них сейчас скорость ревью 10 штук в день. Ну так и поставить всех желающих в очередь.

Оно и так в некой очереди, ты публикуешь или обновляешь, ну и оно висит до тех пор пока до него доберутся. Может через 5 минут, может через 5 дней. Расширения часто обновляются, это тоже надо проверять.

Те кому надо быстро смогут сами распространять или свой репозиторий замутят.

Ты в любом случае репу хранишь где-то и указываешь ссылку, кто хочет может с гита просто в каталог склонировать и всё, это пожалуйста. Тут именно суть в том что, вот я кнопку нажму и мне скачается проверенное, а уж как там это технически организовано, в целом по барабану, хоть по тегу с гита и коммититу, хоть по архиву состав которого проверен.

Ну и многие расширения опакечиваются, в полноценные например deb пакеты, хочешь ставь через свой ПМ, и тут опять же, у тебя пакет готовый который (тут уже не факт) что майнтейнер проверил.

Просто представь какой ОР на весь двор будет стоять если например в даштудок окажется execute(удалить хомяк) или типа того, вот в этом вся суть, чтобы этого не было. Как минимум, это не всё конечно. А уж техническая реализация, ну, какая есть.

На каком ЯП вы с ИИ его написали? И какие ЯП для этого дела вообще поддерживаются?

Жаваскрипт, только он поддерживается. Если хочешь делать что-то такое, юзай не чатик, а cli агента, который будет редактировать файлик на месте и вносить туда изменения, например codex, gemini cli, claude code, и т.д. Он сразу идеально не напишет, то с таймзоной будут проблемы, то еще что-то, нужно будет вносить изменения, да и cli агент может запустить какую-то тулзу для проверки синтаксиса или достать ошибку из логов. Бери топовые модели, это прям сильно повышает шанс успеха) Ну и нужно делать резервные копии, через гит или ручками.

Остается только понять, а на кой разрабы гнома ревьюят ВСЕ расширения?

Вот лучше бы ИИ прикрутили делать предварительное ревью, чтобы лысая обезьяна только посмотрела собраные пруфы, что расширение шлак или зловред, ну а если пруфов нет, то уже полноценное ревью.

Ну если у тебя получилось заставить ИИ сгенерировать качественный код, то его возможно и примут (просто не говори, что он сгенерирован ИИ, а их вопросы тоже отвечать можно с помощью ИИ, не будут же они созвон в зуме с вебкой устраивать для каждой публикации, но опять же если ты сможешь заставить ИИ сгенерировать качественные ответы).

Но ИИ часто генерирует достаточно специфическую фигню, которая либо вообще не работает, либо на ладан дышит и перестанет работать при любой правке. Такие расширения и будут отклонять.

Считай, что запретили говнокод выше какого-то уровня говнистости.

Если человек в состоянии проверить код после нейросети, то он в состоянии его и причесать так, чтобы никто не догадался, что он сгенерированный. А если человек не проверяет (потому что не хочет или не может) код после ИИ, то такому расширению лучше не выходить за пределы компьютера «разработчика».

Потому что если расширения не ревьюить, то нашлют всяких плагинов показа прогноза погоды, которые в фоне выгружают все найденные на машине криптокошельки на сервер автора расширения, а потом запускают майнер.

Сообственно, можно это наблюдать в NPM, PIP и прочих Crates.io, где иногда находят всякую гадость. Потому что там поток пакетов превышает возможности ревью на добровольных началах.

А у Gnome из-за меньшего потока расширений есть роскошь их ревьюить.

опа, гнум больше не кал?

https://youtu.be/IIAdHEwiAy8?si=dGq5DEH8HN0ip5TF

Решил посмотреть вообще - а что это такое, гномьи расширения. И вот:

1. ИИ в поиске пишет: «Количество расширений GNOME Shell огромно и постоянно растет, насчитывая тысячи доступных дополнений на официальном сайте extensions.gnome.org.» То есть воспринимается утверждение прям реально, что тысячи их, расширений.

2. На сайте extensions.gnome.org :

• чертовски минималистичная пагинация на 264 страницы, на каждой из которых по 10 расширений, с так себе сортировкой и минимумом информации в строках представления - очень неудобно;
• количества скачиваний в представлении расширений нет, но если потыкать сортировку, то можно отметить, что на 210 странице, примерно там, где расширение «Непальский календарь», скачиваний около тысячи, а на странице 199, там, где расширение «Hotel manager» скачиваний 1324, то есть, как по мне, полезных расширений явно менее двух тысяч;
• более того, есть ведь расширения, у которых скачиваний побольше, но они имеют даты последних выпусков примерно в 2020-2023 годах, либо версию оболочки 3.18, это, как я понимаю, старая же оболочка или что?
• есть чертовски важные расширения типа: «Eye» (An eye points the cursor) в примечаниях к которому написано: "There is more advanced «fork» of such plugin: «Eye and Mouse Extended».

3. И так далее, в том же духе каких-то надуманных проблем западно-берлинской молодежи типа расширения 13-летней давности на 93 странице:

Window Slide In by Meng Zhuo | 10524 загрузки
THIS EXTENSION IS NO LONGER SUPPORTED OR UPDATED

Из этого могу сделать такие выводы:

1. Гномьим расширителям расширений нужно, конечно же, делать на своих сайтах более информативные представления данных с удобной пагинацией.

2. Этим же самым расширителям следует, пожалуй, навести порядок в своем детище, вычистить окаменелое дерьмо. А если они мне ничем в этой просьбе не обязаны, то нечего себя так пафосно вести со всякими официальными запретами на ИИ и не нужно поучительным тоном писать нечто подобное:

К сожалению, для предотвращения спама, мы требуем от вас войти в GNOME Shell Extensions, чтобы оставить комментарий или сообщить об ошибке. Вы ведь понимаете необходимость этого, не так ли?

Нужно быть скромнее, когда не умеешь удобно организовывать информацию на своем сайте. Впрочем, это уже мои придирки.

3. Себе поставил в ежедневник, что нужно не забыть срочно передать Большому оксфордскому словарю, что словосочетание «тысячи расширений», применительно к контексту гномьих расширений (если считать полезные и работающие), означает «меньше двух тысяч». Ну или хотя бы - не более трех тысяч, уж точно.

4. Гномовцам, конечно же, в такую пору, остается одно святое дело - накладывать ограничения на ИИ, а, по сути, на г-код и на спам этим г-кодом. Что ж - тоже достойная работа, решаемая, как по мне, ясным представлением данных да модерацией дурачков и дурочек. То есть тем, что должно было быть уже как сто лет в обед.

5. Как говаривал классик - нет порядка в голове, нет его и в сортире.

хоть какой-нить более менее средненькой сложности код написанный ИИ

Какой еще средней сложности, это же расширения для гном, у них сложность на уровне обычного bash скрипта. Поэтому в итоге они херней занимаются, они лучше бы не запрещали, а поменьше апи ломали, и сделали бы нормальную систему поиска и определения насколько можно доверять расширению, например как это в мозиле сделано.

Если при помощи LLM удастся решать задачи создания программных комплексов на круг, вместе с поддержкой, быстрее, чем с живыми людьми, то можно не сомневаться, массовый софт будет писаться, в основном, LLMами.

Я ещё раз повторюсь, что вообще не LLM-ы сделали «революцию», и не в 2022 она началась. Она началась в середине нулевых и называется «мы перестали создавать новый софт и просто переупаковываем старый в новые обёртки». Со временем это становилось хуже. Просто посмотри на те же питоньи стэки для ML — полтора гигабайта пакетов нужно поставить, чтобы озвучить текст робовойсом. Сколько значимых новых движков для игр с 2010 было создано? Поправьте меня, но по-моему примерно ноль. Есть некоторые модификации и обновления существующих, но 90% игры по прежнему лепится на UE или Unity, ну закрытые Frostbite/Rage/Anvil для продолжения линеек очередных каловдутий.

Например, я недавно хотел заюзать какую-нибудь self-hosted приложуху для комментов в бложике, и с ужасом обнаружил, что многие проекты по теме организовывают БД в стиле «да кто эти коменты вообще читает?»:
https://bykozy.me/blog/state-of-decay-in-self-hosted-commenting/
Разрабам вообще похеру, как эти комменты хранятся — они оптимизируют Readme.md под ключевые слова и применение в духе «установил и удалил». Особенно у китайцев ИИ-генерированных приложух на Go масштаба 10-20 тыс строк на гитхабе устрашающе много стало в последнее время — качество у 95% из них на дне. Если раньше хотя бы можно было отличить заброшенную софтину, то теперь «заброшки» выглядят как продукт многолетней разработки и имеют тысячи звёзд на гитхабе.

Скатывание индустрии было кратковременно замаскировано короновирусным бумом, потому сразу в 2022 возник такой резкий контраст.

Например, я недавно хотел заюзать какую-нибудь self-hosted приложуху для комментов в бложике, и с ужасом обнаружил, что многие проекты по теме организовывают БД в стиле «да кто эти коменты вообще читает?»:

Ну ты сам виноват, ещё бы для отображения гиперссылок приложение начал искать.

Зачем награфоманил целую статью про обзор всякого мусора - тоже непонятно. Лишь увеличил количество этого самого мусора в инете.

Так какая разница в этом случае чего ревьюить просто говнокод или бям-говнокод? Пишешь - там говнокод, иди переделывай, и всё.

Так в официальном каталоге ревьюить. Если кому долго ждать ревью то пусть свои каталоги придумывают.

Зачем награфоманил целую статью про обзор всякого мусора - тоже непонятно. Лишь увеличил количество этого самого мусора в инете.

Я извиняюсь, но технического обзора «этого самого мусора» в интернетах почти нет. А у мусора тысячи звёзд на гитхабах.

Ну ты сам виноват, ещё бы для отображения гиперссылок приложение начал искать.

Self-hosted комменты ­это довольно популярная шняга, и там довольно много мороки с интеграциями, ну то есть всякие там SSO, нотификации — это всё желательно иметь из коробки рабочее, чтобы как nginx — поставил пакет и он работает.

Или ты мне хошь рассказать, что self-hosted каменты не нужны? Гостевые книги раньше были весьма распространены, сейчас они просто вытеснены соцсетками. Собственно, я сам обсуждение на реддит вынес (правда, всем пофиг, на самом деле).

ИИ может и отправить, если будет команда или посчитает нужным. Авторизация это уже другой вопрос, но выпонить условный git push может запросто.

Может и может. Но пока речь не об этом.

Или ты мне хошь рассказать, что self-hosted каменты не нужны

Нет. И не понимаю почему эта дискуссия вообще возникла. Ну представь вот на ЛОРе вдруг заявят что комменты это какое-то отдельное от остального сайта приложение? Ну бред же. Комменты это часть движка, все другие схемы их работы это какая-то чушь и сложно среди неё ожидать чего-то вменяемого.

Если код написать хорошо, или потом вычистить его от ИИзмов, то никто не догадается, что это был ИИ.

чем плох код от ИИ , главное что бы работал

чем плох код от ИИ , главное что бы работал

Вот этим и плох. В остальном мне тоже всё равно.

Ну, я уж заметил, что отклонение откровенно фигового и нерабочего кода в гноме раньше не было. А что модеры раньше вообще делали, если фиговый и нерабочий код запретили пропускать только сейчас?

А смысл массово слать им полурабочие расширения?

Чтобы их менеджеры циферку количества расширений увеличиливали.

Вот скажите мне, что за ересь я сейчас прочитал? Если там что то выдуманное, этот код просто не будет работать - что принимать?

На Opennet приводят пример избыточного кода, генерируемого AI, который усложняет рецензирования:

destroy() {
    try {
        if (typeof super.destroy === 'function') {
            super.destroy();
        }
    } catch (e) {
        console.warn(`${e.message}`);
    }
}

На деле данный код можно свести к:

destroy() {
    super.destroy();
}

Лишнее доказательство того, что гном пишут разумные люди? %)

Так с помощью ИИ можно создать болванку. Определить самому абстракции, и кусочек за кусочком с ним на пару писать код.

«Каша из топора»…?

Какой еще средней сложности, это же расширения для гном, у них сложность на уровне обычного bash скрипта.

Я тебя удивлю, но сложность кода не определяется понятиями «обычный баш-скрипт», ибо и на обычном баш-скрипте можно решить достаточно сложную абстрактную проблему или проблему из реального мира, а ИИ на этом этапе посыпется: сделает либо максимально неэффективно и убого, либо вообще нафантазирует себе ТЗ и реальность сам…

Сложность кода определяется задачей, которую ты решаешь, а не языком (или синтаксисом)…

Модераторы будут отклонять заявки, содержащие большие объемы ненужного кода, непоследовательный стиль написания, использование вымышленных API, комментарии, служащие подсказками для LLM (больших языковых моделей), или иные признаки автоматической генерации.

Я правильно понимаю, что пошла волна не просто «херак-херак-и-в-продакшн», а вообще бездумного «сделай-мне-приложение-и-в-продакшн»? То есть речь не про использование ИИ для генерации каких-то кусочков кода, обдуманных и понятных, а вообще полноценное генерирование типа законченного приложения?

Ну штош, тогда добро, давно пора это мракобесие прекращать.

Правда, некоторые гомосапиенсы тоже могут писать код, удовлетворяющий 3 из 4 названным критериев.

Думаю, что написанные гомосапиенсами крикорукими код всё-таки отличается от нагенеренного.

А смысл массово слать им полурабочие расширения? Для резюме? Для KPI? Кто-то хочет закопать в них что-то вредоносное?

Сейчас из каждого уюга орут, что даже тупая макака может написать приложение, просто описав его для ИИ. И макаки ведутся…

А вдруг сетке при обучении попался код криворуких гомосапиенсов?

Вполне. Только ИМХО всё равно нагенеренное можно отличить. Там как минимум есть прикол, что часто ИИ идёт путём нагромождения лишнего, но делает это аккуратно, а криворук просто пишет дичь, не соблюдая форматирование кода.

Да.

Сложность кода определяется задачей, которую ты решаешь, а не языком (или синтаксисом)…

Обычные баш скрипты это не про язык или синтаксис, а про то как обычно это применяется. Почти всегда это тривиальные простые короткие задачи с которыми ИИ вполне справляется. У расширений практически тоже самое, есть конечно всякие комбайны, но даже они в основном, это просто коллекции каких-то простых настроек.

Ну он обернул в проверки, разве это не лучше? Я не про проверку на функцию, хотя бывает нужно и это, я встречался. Или такая проверка никогда не нужна?

Я иногда скармливаю им свои функции, методы просто для таких вот добавление разных крайних случаев. Нереально спасает от различных ошибок даже без тестирования.

Ну в общем-то идея здравая, но как они будут проверять?

ничего не понял. сам пользуюсь ии для генерации кода потому как сам пока напишешь код куча времени уходит а ии его быстрее генерирует. конечно после проверки на ошибки. тут в чем проблема? в том что на ошибки ен проверяют те кто генерирует? ну так пускай банят тех кто с ошибками заливает код раз руки кривые.

Я так понял - их завалили тупо нерабочим кодом. Генерировать код рабочий и не очень сейчас могут столько народу, что никаких проверяющих не хватит.

Думается мне, это просто вайбкодеры, которые сами себк пытаются доказать, что ИИ умеет кодить

Мне кажется, читать это надо так: расширения, код и документацию которых никто не читал, публиковать не будем.

Луддитами им надолго оставаться не получится.

Похоже на какую-то аи пасту, но отвечу, сайт был сделан лет 10 назад и не менялся, сейчас все ставят расширения из самого гнома через менеджер.

Есть разница между полностью сгенерированнм кодом и кодом который помогала генерить нейронка. Нейронки, например, часто используют магические числа и если их не просить явно отрефакторить код, будут копировать одни и те же куски логики кодом, а не делать отдельные функции для переиспользования. Им то пофиг, они в процессе чтения всего контекста заменят, а человеку обычно внимания не хватит без ошибок вспомнить и поправить все места.

Еще есть видная невооруженным глазом разница между кодом от бесплатной модели и каким-нибудь GPT-5.2

Необдуманное размахивание терминологией, не украшает юриста :)

Тут просто плохой фактчекинг и нежелание ходить по ссылкам. Судя по тому, что я посмотрел таки в источнике, никто ИИ-код не запрещал, ограничения касаются «плохого кода, сгенерированного ИИ». :)

Завтра тебе договоры начнут присылать вместо 2 страниц, 20 сгенерированные, а потом 200 страниц, на оказание услуги замены цепи на велосипеде, ты точно также взвоешь и начнёшь кричать «Вы чё там сдурели? Я не буду документы в таком виде принимать»

Ну или возьму другой ИИ и заставлю его этот мусор проверять и давать аргументированный отказ. Энтропия растет. :)

Если код написать хорошо, или потом вычистить его от ИИзмов, то никто не догадается, что это был ИИ.

Я ровно про это же. Но заголовок кликбейтный, а я не пошел по ссылкам. В реальности никто ничего не запрещал, насколько я понял, если не считать плохого кода от ИИ. Хороший код от ИИ - можно. :)

Ну или возьму другой ИИ и заставлю его этот мусор проверять и давать аргументированный отказ. Энтропия растет. :)

А в ответ тоже сгенерированная и обоснованная претензия на незаконный отказ в обслуживании и так по кругу, пока количество информации записанной на носителях и выраженной в их килограммах не достигнет такого объёма что сингулирует в точку, хехе.

Так придём к ситуации что человек будет не в состоянии даже ознакомится с объёмом информации для принятия осмысленного решения, по вопросу изложенному там, вплоть до невозможности вынести судейского решения в разумный срок. Это вынудит законодателей жёстко решить искусственно созданную проблему, тем же самым методом что и в гномиках.

Любят же некоторые за гранью здравого смысла действовать, зато по закону. Как яркой пример, филибастеры :) Шлангование короче

Это я всё к тому что, любая полезная штука, ещё и одновременно всегда вредная. Если путь от пункта А в пункт Б лежит через пляж, на котором черепашки яйцы откладывают, лучше там по краю пройтись по старинке и пешком, а не на автомобиле, какой бы он крутой не был и полезный, технологичный.

Ладно, я уже полез не туда. Ой ну ты понял короче.

Значит следующий прорыв после аккумуляторов ждем в хранении (бессмысленной) информации

Так придём к ситуации что человек будет не в состоянии даже ознакомится с объёмом информации для принятия осмысленного решения…

Так давно уже… Да и Пелевин, как всегда, об этом уже написал. :)

Ой ну ты понял короче.

Я понял, конечно. Но такой способ оценки работы ИИ, как использование другого ИИ уже используется и даже в моей не самой инновационной конторе планируется к внедрению на третьем этапе. Сейчас пока идет второй, точнее согласование его начала.

Так давно уже…

:(

его начала

Кибарги, ани запаланяют эту панету.

Кибарги, ани запаланяют эту панету.

В моем понимании, мы в развилке, и куда придем непонятно.

Я вижу коллег (не юристов), которые тупо кидают задание в ИИ и получив ответ просто его пересылают.

Я редко использую ИИ, пока своего ЕИ хватает, но если использую, то стараюсь максимально четко дать ТЗ, потом много раз уточняю, и в итоге компилирую полученные сведения от ИИ в итоговый результат. Ибо меня не устраивает то, что он выдает. Так же можно и с кодом. Мне простые скрипты пишет ИИ. Но не с первой попытки. Но пишет. Я от него добиваюсь чего хочу.

Если все будут использовать ИИ для упрощения процедур, не теряя контроль за процессом в целом, то кибарги ничего не смогут, мы в домике. :)