LINUX.ORG.RU

GLM 5.3 превращает исправления в уязвимости

 , ,


0

4

Исследователи некоммерческой исследовательской организации Epoch AI сконструировали среду, в которой GLM 5.3 давали информацию о конкретной версии браузера и доступ к публичным изменениям кода, появившимся после её выхода. Модель автономно выявляла исправления безопасности, отбирала уязвимости, строила многоступенчатые эксплойтные цепи и обходила слои защиты, включая «песочницу», чтобы прочитать произвольный локальный файл при простом посещении веб-страницы.

Атака сработала на всех шести выпусках Firefox между 17 сентября и 26 октября 2026 года. Модели понадобилось от 12 до 48 часов на разработку, причём в каждом случае она заново переоткрывала и эксплуатировала не публиковавшуюся ранее уязвимость, позволявшую выйти за пределы изолированного процесса рендеринга.

Эта брешь уже закрыта в Firefox 159.0 от 27 октября после уведомления команды Mozilla.

На Chrome аналогичную атаку воспроизвести не удалось, несмотря на затраты порядка $100 000, что, однако, не гарантирует защищённость — более совершенные модели могут справиться и с ним. Epoch AI предупреждает, что проблема «разницы версий патчей» универсальна: как только исправление становится видимым в публичных репозиториях или бета-сборках, злоумышленники могут обратить его в работающий эксплойт ещё до того, как обновление дойдёт до конечных пользователей.

Ситуация усугубляется тем, что открытые веса позволяют снимать любые предохранители и запускать модель без ограничений. Исследование демонстрирует, что продвинутые кибервозможности больше не являются монополией закрытых лабораторий и призывает разработчиков ПО сокращать окно между публикацией патча и его доставкой, а также избегать одновременного закрытия нескольких уязвимостей, которые можно сцепить в одну цепь.

>>> Подробности (Компьютерра)

>>> Подробности

★

Проверено: hobbit ()
Последнее исправление: CrX (всего исправлений: 7)

исправления в уязвимости

может, в атаки или эксплоиты?

новость со ссылкой на vk.ru

дожили

mittorn ★★★★★
()

А, ну да, надо наложить санкции на открытые веса и оставить только антропик с опенаи - они то такого не допустят!

stave ★★★★★
()

Атака сработала на всех шести выпусках Firefox между 17 сентября и 26 октября 2026 года.

Прям страшно пользоваться ESR-версиями…

Saakx ★
()

Ситуация усугубляется тем, что открытые веса позволяют снимать любые предохранители и запускать модель без ограничений.

дайте угадаю, поэтому ради безопасности надо срочно запретить и забанить все нейронки с открытыми весами))

Lrrr ★★★★★
()

Ужс-то какой. :⁠-⁠D

sparkie ★★★★★
()

Вообще у меня много положительного опыта использования GLM для поиска уязвимостей в своем коде. В отличие от Claude и Codex, которые прерывают процесс поиска и исправления из-за внутренних запретов.

maxcom ★★★★★
()

Ситуация усугубляется тем, что открытые веса позволяют снимать любые предохранители и запускать модель без ограничений.

Джей – Молчаливому Бобу: Это наверняка можно использовать для порно!

hobbit ★★★★★
()
Ответ на: комментарий от hobbit

Это наверняка можно использовать для порно!

Нельзя, GLM не умеет картинки генерировать.

maxcom ★★★★★
()
Последнее исправление: maxcom (всего исправлений: 1)

Без ентих ваших эйайев гораздо луче жилось. Ни про каких таких уезвимостев никто слухом не слыхивал. А нынче ух, развелось, как тараканов.

yvv1 ★★
()
Ответ на: комментарий от Lrrr

скорее не выкладывать готовые патчи в открытый доступ пока их не добавили куда надо

stuzer ★
() автор топика
Ответ на: комментарий от yvv1

кто-то находил дыру и юзал ее годами потихоньку)

stuzer ★
() автор топика
Ответ на: комментарий от stuzer

Я и так уже загуглил. Дело в том, что новости писать надо так, что бы читающему не пришлось бы этого делать.

drfaust ★★★★★
()
Ответ на: комментарий от frost_ii

Как подключиться к Интернату???

  1. Прежде всего убедитесь что у вас подключён кабель Ethernet
  2. Затем […]
  3. …
Set440 ★★★
()

превращает исправления в уязвимости

Напряжённый у ребят выдался денёк: сначала они переизобрели git revert, а потом изнасиловали лоровца.

buddhist ★★★★★
()

А я всегда говорил, что уязвимости в коде являются не случайностями, а результатом целенаправленной деятельности. Поэтому, поток входящих уязвимостей с обновлениями не должен иссякнуть никогда. По сути дела теперь мы имеем экспериментальное доказательство этого.

den73 ★★★★★
()
Ответ на: комментарий от den73

А, нет, не дочитал новость до конца. Нет экспериментального подтверждения. Ну тогда это тема для будущего эксперимента, если у кого-то есть лишние 100 тыс долларов.

den73 ★★★★★
()
Ответ на: комментарий от stuzer

китайская дешевая модель

Я бы GLM в дешевые не записывал.

maxcom ★★★★★
()
Ответ на: комментарий от Lrrr

Вот тут пожалеешь, что нельзя одновременно поставить «улыбающееся лицо» и «лицо, кричащее от страха».

hobbit ★★★★★
()
Ответ на: комментарий от mittorn

новость со ссылкой на vk.ru

дожили

То ли ещё будет ой-ой-ой. (c) РКН

dimgel ★★★★★
()
Ответ на: комментарий от hobbit

Ну, после недавних заяв Альтмана, лично я ставить смайл поостерёгся бы. :)

dimgel ★★★★★
()

Кажется дальше просто тупо не получится игрться в латание решета. Придётся таки придумать как создать софт без уязвимостей и процессоры без дырок. Ну или отказаться от обработки сколько нибудь важной информации информационными системам.

Хотя есть третий вариант - тратить по тераваттчасу энергии чтобы супернейронки искали все очевидные для них уязвимости на каждую библиотеку размером в 100кб. Каждую неделю естественно. А в перспективе ежедневно.

kirill_rrr ★★★★★
()
Последнее исправление: kirill_rrr (всего исправлений: 3)
Ответ на: комментарий от hobbit

Похоже что нейронки уже того самое некоторых во все дыры.

kirill_rrr ★★★★★
()
Последнее исправление: kirill_rrr (всего исправлений: 1)
Для того чтобы оставить комментарий войдите или зарегистрируйтесь.