LINUX.ORG.RU
ФорумTalks

ИИ это новое кибер-оружие?

 


0

3

Если кто не в курсе, небезызвестная компания Anthropic, разработала новую модель Mythos. Эта модель особенно хороша в поиске уязвимостей. Некоторые из недавних найденных уязвимостей - её рук дело. При этом доступ к этому мифусу всем подряд не дают. Только у некоторых американских компаний есть такой доступ.

Собственно уже очевидно, что монопольный доступ к такому инструменту это стратегическое преимущество. Можно искать и эксплуатировать уязвимости у противника, а также искать и исправлять уязвимости у себя.

Думаю, осталось недолго ждать и государственного регулирования. Примеры мы видели совсем недавно - когда Америка запрещала экспорт хороших криптографических алгоритмов. Запрет особо ни к чему не привёл, но скорей просто потому, что это было практически невозможно. С другой стороны большие ИИ модели занимают многие гигабайты, тщательно охраняются, доступ к их весам у единиц. Поэтому тут запрет обойти будет куда сложней.

С другой стороны есть эмпирическое наблюдение, что модели с бесплатными весами отстают от лучших моделей на полгода-год. Поэтому совсем без ИИ мы, конечно, точно не останемся. Но всё же год в нынешнее время это срок немалый.

★★★★★
Ответ на: комментарий от Lordwind

Даже два ляма дают. Не просто за дыры, а за набор эксплоитов, позволяющих выполнять удалённую атаку на телефон. Т.е. это очень серьёзные уязвимости должны быть. Из разряда - пришёл IP-пакет на интерфейс, словил вирус. А если это ещё и в режиме lock down, то там выплаты вроде как больше 5 миллионов могут быть.

Но и за менее серьёзные уязвимости тоже хорошо платят.

Это, кстати, одна из причин, по которой я считаю айфон в локдаун режиме самым защищённым устройством в мире из доступных обычным пользователям. Лоровцы, конечно, клоунов ставят, но реальность такая - безопасность Эппл гарантирует подобными выплатами.

vbr ★★★★★
() автор топика
Ответ на: комментарий от vbr

Эппл

выплатами

А ты смешной. После репорта об уязвимости они тебя будут игнорить, а потом выпустят обновление и [может быть] ответят, что ничего ты не нашел. Кулхацкиры давно об этом знают и не шлют в «Эппл» ничего.

ant1
()
Ответ на: комментарий от vbr

Эппл гарантирует подобными выплатами

Я как раз про такие. Но лям давали на чорном рынке. Потом в ябл набрали таких макак, что дыры попёрли и ценник до полу-ляма опустился. А вот ябл уже не раз кидал на бабки.

Lordwind ★★★★★
()
Ответ на: комментарий от vbr

Хз. Сорцов то нет. Ну ок, есть xnu. Вот тот же антропик может скормить своим агентам сорцы линукса и наковырять там чего-то

cobold ★★★★★
()

можно еще делать так: есть у меня знакомывй инженер-технолог который в восторге от этих ии, я у него спрашиваю - зачем тебе это, он отвечает - помогает в работе, например ему понадобилось миллиметры ртутного столба в бары перевести, раньше он для этого использовал шпаргалку и посчитать приходилось в мозгу, а теперь достаточно просто спросить у ии - сколько бар в стольки миллиметрах и тут же получаешь ответ, так вот можно давать ложные ответы - представляете что инженерит такой инженер?

amd_amd ★★★★★
()

Ну т.е. Венс договорился с банкирами и айтишными гигантами?

seiken ★★★★★
()
Ответ на: комментарий от amd_amd

Это не инженер-технолог. Он бы не стал такого говорить или ты его неправильно понял. У ИИ можно получить скрипт перевода быстрый или можно глянуть результат, если ИИ в песочнице выполняет код.

LightDiver ★★★★★
()
Ответ на: комментарий от cobold

Неоднократно слышал, что ИИ чертовски хорош в реверс-инжиниринге и прекрасно умеет пользоваться гидрой и подобными инструментами. Поэтому сорсы может штука и хорошая, но не критичная.

vbr ★★★★★
() автор топика
Ответ на: комментарий от amd_amd

достаточно просто спросить у ии - сколько бар в стольки миллиметрах и тут же получаешь ответ

Может я зря дую на воду, но я хорошо помню, как совсем недавно ИИ очень лажал в расчётах и легко мог допускать существенные ошибки, перемножая числа «в уме». Сейчас вроде он для таких действий какой-то внутренний калькулятор использует, но всё равно я на 100% не уверен, что он в конкретном ответе его действительно решит использовать, а не подсчитает в уме. Поэтому вот конкретно для таких вопросов я бы ИИ использовать не стал. Лучше по старинке, на обычном калькуляторе.

vbr ★★★★★
() автор топика
Ответ на: комментарий от LightDiver

Это не инженер-технолог

в трудовой так написано - причем первой категории

У ИИ можно получить скрипт

да он просто словами спрашивает - сколько бар в 3568 миллиметрах ртутного столба, машина тут же дает ответ и он его сразу в чертеж записывает, а потом этот чертеж попадает рабочим и те не думая по нему изделие делают.

amd_amd ★★★★★
()
Последнее исправление: amd_amd (всего исправлений: 1)
Ответ на: комментарий от amd_amd

Я сам работал инженером-технологом два года - это еще ничего не значит. Причем начинал вообще с нуля, не зная полность ничего.

Тут надо разлиать работу по специальности и системное полноценное образование.

Если он работает с ИИ последнее время и очень недолго - можно слегка понять, еще разберется. А если бы он работал долго, знал бы их сильные и слабые стороны.

LightDiver ★★★★★
()
Ответ на: комментарий от LightDiver

знал бы их сильные и слабые стороны

да он уже разбирается в сортах говна этом вопросе, говорит чат-гпт лажа, а вот китайский депсек это вещь.

amd_amd ★★★★★
()
Ответ на: комментарий от amd_amd

в трудовой так написано

Есть список стандартных специальностей, где нет бэков, фронтов и тестеров и для ПФР умные работодатели записывают именно их (чтоб есичо тебе стаж не скрутили когда-нибудь), а не то что человек умеет или чем занимается. У меня например на первой работе джуном-тестировщиком записано в трудовой «инженер-программист».

Lordwind ★★★★★
()

Эта модель особенно хороша в поиске уязвимостей.

Любая модель может что-нибуь найти ежели дать ей достаточно много времени, например,
«Нейросеть Claude взломала защиту macOS всего за пять дней» © (4pda.to).

quickquest ★★★★★
()
Ответ на: комментарий от amd_amd

Ну, он частично прав. Я тоже сравнивал - чатгпт странный и много херни гонит. Но дипсик не сильно лучше. Видимо смотря для чего.

LightDiver ★★★★★
()

Тут только надо отметить, что для поиска дыр в большом количестве софта достаточно и более простых моделей. Тот же Opus, который доступен всем желающим за $$$, тоже много чего нашел.

maxcom ★★★★★
()
Ответ на: комментарий от vbr

Сейчас вроде он для таких действий какой-то внутренний калькулятор использует

python или bash, вот его калькулятор

goingUp ★★★★★
()
Ответ на: комментарий от vbr

Неоднократно слышал, что ИИ чертовски хорош в реверс-инжиниринге и прекрасно умеет пользоваться гидрой и подобными инструментами. Поэтому сорсы может штука и хорошая, но не критичная.

Все ведь помнят несуществующие инструкции и функции когда ИИ не знает что сказать.. и даже когда «знает»? Все ведь, да?

ant1
()

не только кибер, но и маркетингвое и вцелом экономическое
ИИ это «Звезда Смерти», уничтожитель цивилизаций и планет

Bad_ptr ★★★★★
()
Ответ на: комментарий от goingUp

https://www.securitylab.ru/news/572598.php

Стенберг рассказал, что Anthropic обещала ему доступ к Mythos через программу Project Glasswing. Напрямую поработать с моделью разработчик не смог: код curl проверил другой человек с доступом к системе, а Стенберг получил уже готовый отчёт.
Mythos просканировала свежую версию репозитория curl и выдала пять пунктов, которые назвала подтверждёнными уязвимостями. После нескольких часов проверки команда безопасности curl оставила в списке только одну настоящую проблему. Три пункта оказались ложными срабатываниями, ещё один сочли обычной ошибкой, а не угрозой безопасности.
Единственная подтверждённая уязвимость получит низкий уровень опасности и отдельный CVE. Публикацию планируют синхронизировать с релизом curl 8.21.0 в конце июня. Стенберг отметил, что дефект не выглядит серьёзным и не должен вызвать тревогу.

Bad_ptr ★★★★★
()
Ответ на: комментарий от goingUp

Видел вот такое https://www.reddit.com/r/ClaudeAI/comments/1t83k85/not_a_good_day_for_team_claude_mythos_is_just/ неплохо бы фактчекнуть, хотя бы реально ли в последний месяц в Лисе куча секурити фиксов. Потому что это может легко быть и лживый пиар.

Там в комментариях здравая мысль, что это первый раз когда ИИ выдали безлимит и пустили искать баги в гигантской кодовой базе. Так что возможно это дело не в Mythos как таковой.

maxcom ★★★★★
()
Ответ на: комментарий от maxcom

Я пробовал давать ИИ (не Mythos конечно) искать баги в проекте, получалось плохо, он выдает кучу всякой фигни, фильтровать это все муторно. Но вот если дать ему конкретный баг, как он проявляется, то он может найти его в коде и починить. Если там реально 500 дыр нашли, или пусть даже багов, то у меня скептицизм, что обычная модель такое сделала.

goingUp ★★★★★
()
Ответ на: комментарий от goingUp

Я пробовал давать ИИ (не Mythos конечно) искать баги в проекте, получалось плохо, он выдает кучу всякой фигни, фильтровать это все муторно.

В этом процессе для успеха надо по максимуму исключить участие человека. Чтобы ИИ сам как-то проверял баги и исключал всякую фигню, а на выходе давал только достаточно достоверные результаты. Ну и еще на вход выдать описание, что считать проблемой, а что нет.

maxcom ★★★★★
()
Ответ на: комментарий от maxcom

Да, прикольно, там еще субагенты используются. Скиллы сильная тема, если знаешь хорошие скиллы, а не слепо юзать все подряд)

goingUp ★★★★★
()
Ответ на: комментарий от amd_amd

DeepSeek херня. С ней красиво за жизнь поговорить (если не касаешься больных для китая тем)

но в программировании она не разбирается

Вот пример:

https://static.lovesan.me/public/rwlock_with_race_condition.lisp

Здесь, и Codex/GPT-5.5 и Gemini 3.1 Pro - нашли у меня критическую ошибку, race condition, нарушение инвариантов лока.

Я годами не видел. Да и вообще, много ли людей найдет? Ну так, на секундочку.

lovesan ★★☆
()
Ответ на: комментарий от ant1

Я не знаю как для Apple, но я находил достаточно серьезную уязвимость связанную с IPFS и подписками в компании не бедной, но не такой крупной, волшебным образом после моего репорта, через 2 недели все пофиксили, на тикет же hackerone никто не ответил даже отпиской, в дискорде же ссылкой на hackerone говорили, что посмотрим, и потом никаких обновлений, хоть и напоминал о себе несколько раз. В итоге сложилось впечатление, что все эти истории как кто-то нашел уязвимости и поднял на этом много денег немного заказными. Можно потратить на это много времени и нерв, но ничего не заработать.

anonymous_sama ★★★★★
()
Последнее исправление: anonymous_sama (всего исправлений: 1)

Да, ИИ - новое кибероружие. Но у людей оружием становится всё. Например паровые машины, позволяющие делать больше пушек или танков. И даже зерно и газ и нефть, если ограничивать их поставки куда-то и заставлять врага голодать. Даже хлеб оружие, потому что им кормят армию.

tcpfinhello
()
Ответ на: комментарий от lovesan

DeepSeek херня.

Не очень согласен, все мои задачи уровня «а объясни почему» оно решает. Я бы сейчас ни одну из топовых нейроночек хернёй не назвал, сравнивая со своими умственными способностями, которые по человеческим меркам тоже не совсем хрень, учитывая что я когда-то успешно собесы в яндекс проходил) Не показатель конечно, ну ладно. А дипсик в сравнении с Gemini например вчера выдал совершенно противоположное мнение про одной устройство на вопрос в духе «стоит ли покупать в 2026 году на авито за 3000 рублей». Гугл одобрил, расписал почему это хорошо и это СИЛЬНО СОВПАЛО с внутренними ощущениями и пониманием рынка, а дипсик сказал что это кал и лучше подкопить и взять поновее. И тот и тот какбэ прав оказался, но по факту гугловое мнение оказалось более человечно-адекватным что-ли, от устройства я в итоге получил что хотел прямо даже лучше чем надо, а платить в 2 раза больше за сильно улучшенную стабилизацию картинки было не интересно, а дипсик заставлял это делать)

tcpfinhello
()
Ответ на: комментарий от amd_amd

Это конечно криндж, кукодж и поридж. Это можно и просто у гугла в поиске спросить или калькулятор поюзать. Я вот использую нейроночки исключительно как объяснялку того, что я сам не понимаю. Например «расскажи пожалуйста в технических нюансах как устроено хранение данных на диске в PostgreSQL и чем это отличается от Cassandra» и оно что-то раписывает, а я уже дальше углубляюсь в тему. Нейроночки выдают отличные рефераты, так сказать, по любому вопросу, которые потом очень удобно доисследовать. Как где-то было сказано: кто много знает, тот с нейроночками будет знать ещё больше, а кто мало знает, тот ещё отупеет. Усилитель градиента, епте!

tcpfinhello
()
Ответ на: комментарий от tcpfinhello

гугловое мнение оказалось более человечно-адекватным что-ли

Просто оно с твоими хотелками лучше совпало, вот и всё. Объективно оптимального выбора здесь нет.

Возможно, это потому, что гугл больше о тебе знает? %)

Nervous ★★★★★
()
Ответ на: комментарий от Nervous

Просто оно с твоими хотелками лучше совпало, вот и всё. Объективно оптимального выбора здесь нет.

Не, оно объективно прямо чотче оказалось. Я спрашивал (не точная цитата) «есть ли смысл в 2026 брать за 3000 руб камеру xiaomi yi 4K учитывая качество её картинки и возможности сьёмки как видосов, так и фоток». Гугл сказал да, сделка выгодная, в камере сенсор достаточно неплохой даже по современным меркам, минус только ну стаба оптического нет, но за эти деньги огонь.

Дипсик как-то сильно загрустил и сказал что нет, это помойка ссаная для бомжей, лучше накопить на gopro hero 5-6 и там будет всё более пацанско!

При этом моё собственное гугление и просмотр демо-видосов на ютубе показало, что

  • yi 4K чотке и детализованнее на видосах и фотках - сенсор Sony IMX377
  • gopro hero 5 мыльнее на видосах - сенсор Sony IMX377 (тот же похоже, но инфа не точная)
  • gopro hero 5 слегка лучше стабилизирует и пишет звук

Короче начинается шило на мыло за деньги в 2 раза больше объективно. Сенсоры одинаковые, в gopro 5 больше процессинга и шумодава. Гугл как-то адекватнее выдал, более экономически обоснованнее. Ну нет смысла увеличивать бюджет прямо в 2 раза ради проигрыша в картинке и выигрыша в звуке.

tcpfinhello
()
Последнее исправление: tcpfinhello (всего исправлений: 1)

Да, ИИ это новое кибероружие. А РКН тренируется на кошках на Дурове ему противостоять. Вымысел или правда?



Гуглил по ЛОРу, похоже многие не в курсе книги «Технологическая республика» Алекса Карпа, генерального директора компании Palantir Technologies.

ИИ в книге — это сингулярность, за которой начинается новая эра власти. Карп называет ее «вдохновляющим Манхэттенским проектом XXI века». Суть — в полном технологическом доминировании США в грядущих цифровых войнах.

Речь не о GPT, а о brain-scale models — моделях масштаба мозга с триллионами параметров. И они появятся не когда-нибудь, а в ближайшие 5 лет.

Поэтому технологическая элита больше не может прятаться за удобным UX. Потому что ИИ — это не чат-бот. ИИ — это оружие. Военное.

И цивилизационная развилка: либо контроль, либо хаос. Либо Америка соберется в национальную цифровую конструкцию — либо проиграет свою главную битву еще до ее начала.

krasnh ★★★★★
()
Последнее исправление: krasnh (всего исправлений: 1)
Ответ на: комментарий от lovesan

Да и вообще, много ли людей найдет? Ну так, на секундочку.

Нет, конечно. Для этого надо как минимум знать лисп и ориентироваться в нём. Но это не заслуга указанных штук, а недостаток кода. На Си искать проще.

firkax ★★★★★
()
Ответ на: комментарий от krasnh

То есть ты хочешь сказать что враги готовят какое-то супер оружие и надо успеть ликвидировать под корень их электронно-вычислительную индустрию до того, как они это сделают?

firkax ★★★★★
()

НЕТ

ибо ничто не ново под лунной

qulinxao3 ★☆
()
Ответ на: комментарий от vbr

ии это в первую очередь марковский продолжатель

как следствие если выборка вменяемая то и ии реплики адекватны - а ежель выборка из идиократии то и ии будет глюцинировать талантливо пока не рухнет

qulinxao3 ★☆
()

ИИ это

И? Они там в антропике своем нанюхались правых портянок из палантира, а в палантире все малахольные. Грибные толчки, судя по названию. Все эти петрушки под RANDом ходят и помнят чья рука у йих в жеппах. Невидимая рука Адама Смита, конешшшно.

новое кибер-оружие?

Бери выше, «атомное». Именно поэтому Куртка Хуанга задымилась, и назвала их норкоманами.

slackwarrior ★★★★★
()
Последнее исправление: slackwarrior (всего исправлений: 2)
Ответ на: комментарий от firkax

успеть ликвидировать

Несколько наивно так рассуждать. Ничто не помешало изобретению и распространению -> пороха -> огнестрельного оружия -> пулеметов -> танков -> ядерного оружия… -> стены дронов. Все это меняло подходы к военным действиям, тактики и стратегии сражений.


В спину дышит новый технологический уклад, когда Искусственный Интеллект равноценно заменит возможности ядерного сдерживания, по словам Алекса Карпа (чья контора, кстати, с лета 2022 присутствует в «соседней стране» своими технологиями). И этот прогресс не остановить. И как всегда, в чем-то Человечество будет в плюсе, в чем-то в минусе.

krasnh ★★★★★
()
Последнее исправление: krasnh (всего исправлений: 1)
Ответ на: комментарий от krasnh

В спину дышит новый технологический уклад, когда Искусственный Интеллект равноценно заменит возможности ядерного сдерживания, по словам Алекса Карпа

Во, а вот и цитата из грибного эльфа. Оно хотя бы про ударно-волновой излучатель слышало? Или «поражающие факторы ядерного взрыва»? ЭМИ там, например, после которого его ИИшенка становится грудой «пробитых пн-переходов»?

slackwarrior ★★★★★
()
Ответ на: комментарий от firkax

Ты и на Си не найдешь, и на Java, я бы на твоем месте про лисп бы даже не заикался.

Если не хватает мозгов на лисп - на такое точно не хватит

lovesan ★★☆
()
Ответ на: комментарий от lovesan

На Си, разумеется, найду, если буду проверять код. На хорошее знание джавы не претендую, а лисп вообще не пробовал изучать.

firkax ★★★★★
()
Ответ на: комментарий от firkax

Потому что для «газообразного-ионизированного» надо «прямое попадание»(ТМ) плюс-минус километр ))) Квадрат расстояния и т.д. Под это дело в центре Ланданска целая бизнес-модель для надувания ценика элитной недвиги, мол в случае чаво «моментально в море!», а для поломки цифрового оптимизма силиконовых ястребов — достаточно токов Фуко во всех проводниках в ЦОДе и окрестностях и пробоя п-н-переходов. Сразу. Всех.

slackwarrior ★★★★★
()
Ответ на: комментарий от amd_amd

например ему понадобилось миллиметры ртутного столба в бары перевести

Но ведь есть же Qalculate (qalc в консоли).

> 320 Torr to Bar
  320 × torr ≈ 0.4266315789 bar
> 200 mmHg to bar
  200 × mmHg ≈ 0.2666447368 bar
Xenius ★★★★★
()
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)