LINUX.ORG.RU
ФорумTalks

ИИ это новое кибер-оружие?

 


0

3

Если кто не в курсе, небезызвестная компания Anthropic, разработала новую модель Mythos. Эта модель особенно хороша в поиске уязвимостей. Некоторые из недавних найденных уязвимостей - её рук дело. При этом доступ к этому мифусу всем подряд не дают. Только у некоторых американских компаний есть такой доступ.

Собственно уже очевидно, что монопольный доступ к такому инструменту это стратегическое преимущество. Можно искать и эксплуатировать уязвимости у противника, а также искать и исправлять уязвимости у себя.

Думаю, осталось недолго ждать и государственного регулирования. Примеры мы видели совсем недавно - когда Америка запрещала экспорт хороших криптографических алгоритмов. Запрет особо ни к чему не привёл, но скорей просто потому, что это было практически невозможно. С другой стороны большие ИИ модели занимают многие гигабайты, тщательно охраняются, доступ к их весам у единиц. Поэтому тут запрет обойти будет куда сложней.

С другой стороны есть эмпирическое наблюдение, что модели с бесплатными весами отстают от лучших моделей на полгода-год. Поэтому совсем без ИИ мы, конечно, точно не останемся. Но всё же год в нынешнее время это срок немалый.

★★★★★
Ответ на: комментарий от lovesan

DeepSeek херня. С ней красиво за жизнь поговорить (если не касаешься больных для китая тем)
но в программировании она не разбирается

Это неправда
Недавно мне нужно было поправить одну гуйню, написанную на плюсах
Я когда полез в код, обнаружил, что там винегрет из плюсов + TCL
C tcl-ом я ранее вообще никогда дел не имел
Так вот дипсик за полчаса нагенерил несколько килобайт смешанного кода, который закрыл проблему
Там нужно было добавить всякие кнопочки и самое главное прикрутить обработчики событий на определенные телодвижения
Меня это шокировало, насколько быстро он управился

Но наивно требовать от бесплатного инструмента чего-то большего
Например у вас есть какой-то алгоритм, который нужно реализовать в код
Если алгоритм конкретно расписать, то дипсик моментально находит решение, причем на любом языке программирования
Но он не умеет сам придумывать алгоритмы
Если перед ним поставить какую-то проблему и попросить самому придумать алгоритм по решению этой проблемы, то он его придумает только в том случае, если он уже есть в его запасниках, которые берутся сами знаете откуда

kto_tama ★★★★★
()

ИИ это новое кибер-оружие?

Однозначно, с учётом того, что Штаты уже сегодня настаивают на том, чтобы управлять этим вашим ИИ единолично.

sparkie ★★★★★
()

Это и сразу было понятно, что весь этот ИИ движ сделает разрыв между странами ещё больше — сильные (США, Китай) станут сильнее, а слабые останутся где были, так как эти технологии не осилят.

urxvt ★★★★★
()
Ответ на: комментарий от vbr

Сейчас вроде он для таких действий какой-то внутренний калькулятор использует, но всё равно я на 100% не уверен, что он в конкретном ответе его действительно решит использовать, а не подсчитает в уме.

Давеча тут пытались шутки ради заставить БЯМ посчитать последовательность Фибоначчи. Она пропустила первые 5 элементов и ошиблась в 4 из выданных.

Тут действительно надо просить скрипты писать, а не спрашивать их. БЯМы просто не заточены на расчёты и не могут нормально считать.

skiminok1986 ★★★★★
()
Ответ на: комментарий от amd_amd

в трудовой так написано - причем первой категории

— Папа, а почему эта башня называется шуховская?
— Потому что её спроектировал инженер Шухов.
— Инженер как наша мама?
— Нет. Наша мама главный инженер.

skiminok1986 ★★★★★
()
Ответ на: комментарий от Rastafarra

где взял? там еще прикольные есть?

Где-то на Reddit наткнулся, не помню уже где.

maxcom ★★★★★
()

ИИ это просто оружие, при том по силе и влиянию не меньше водородной бомбы. Его можно в боевых роботов ставить, кибершпионаж и командование на поле боя им же заменять.

peregrine ★★★★★
()
Ответ на: комментарий от vbr

Безопасность от кого? Уверен, что определённая последовательность пакетов, фиг найдёшь какая, подготовленная заранее в недрах АНБ даст рут доступ на айфон.

peregrine ★★★★★
()
Ответ на: комментарий от krasnh

Несколько наивно так рассуждать. Ничто не помешало изобретению и распространению -> пороха -> огнестрельного оружия -> пулеметов -> танков -> ядерного оружия… -> стены дронов. Все это меняло подходы к военным действиям, тактики и стратегии сражений.

Вот только технологическая сложность повышается. Порох и примитивное огнестрельное оружие могли делать почти в любой стране. Пулеметы и танки уже требовали развитой промышленности и инженерных кадров, ядерное оружие могут потянуть совсем немного стран, да и то их жестко гнобят за попытки это сделать. Последней стране, которой это де-факто позволили была КНДР. Дроны с ИИ могут делать только США и Китай. Китай более заметен, но технически видимо уступает США. Все остальные - только то, что купят у этих двух стран целиком или по отдельности. Механическую начинку могут большее количество стран делать, хотя даже она непростая и не всем доступная, а вот чипы и собственно ИИ на них - это уже не «импортозаместишь» и из говна и палок не сляпаешь. Максимум что могут - использовать чипы общего назначения чужого производства.

praseodim ★★★★★
()
Последнее исправление: praseodim (всего исправлений: 1)
Ответ на: комментарий от praseodim

Дроны с ИИ могут делать только США и Китай.

Там должна быть обязательно прописана и Россия. Потому что, никто в здравом уме и твердой памяти не захочет отставать в подобных технологиях, это смерти подобно.

Как наши выходят из положения отсутствия нужных чипов, хз, но как-то выходят. Эта гонка, почище ядерной гонки, отстающих быть не должно. И все это понимают. Имхо.

krasnh ★★★★★
()
Последнее исправление: krasnh (всего исправлений: 1)
Ответ на: комментарий от krasnh

Там должна быть обязательно прописана и Россия. Потому что, никто в здравом уме и твердой памяти не захочет отставать в подобных технологиях, это смерти подобно.

На практике предлагаемым законопроектом Замечания промышленников к регулированию ИИ который еще и ужесточается в редакциях, показывают, что в России более озабочены не отставанием, а тем как бы не дай Бог население обидные фейковые ролики не понаделало или еще какой экстремизЬм или что-то недозволенное не сочинило с помощью ИИ.

Как наши выходят из положения отсутствия нужных чипов, хз, но как-то выходят.

Выходят поставками из Китая и еще некоторыми левыми путями. Пыжатся догнать то, что надо было еще хотя бы в нулевых догонять, но слабовато. На отечественные литографы выделена сумма всего в 8-10 раз большая, чем на блокирование квн в интернете.

praseodim ★★★★★
()

Ну это о чем я говорил.

Я говорил что проприетарка безопаснее, потому что поиск там уязвимостей происходит эмпирическим путем тыка в неизвестность.

Адепты опенсорса мне парировали что опенсорс круче, потому что «тысячи глаз» могут находить и фиксить в нем уязвимости.

Нучо, посоны, как там безопасность тысячи глаз? Как только появился адекватный инструментарий, оказалось что ваши «тысячи глаз» тысячи часов смотрели и проморгали.

windows10 ★★★★★
()
Ответ на: комментарий от windows10

скорее «отец родного а оказался...»

т.е. большего опенсорца буквально ныряй если говночист - и фирмы как разумные агенты были(и есть) заинтересованны плохо понятном коде если он открыт ибо это делает ценнее услуги по поддержанию(сопровождению)

публичить сырцы это лучше чем нет - но оказалось не понацея как евангелировали

qulinxao3 ★☆
()
Ответ на: комментарий от praseodim

судя по Манну «источники социальной власти» - современная гражданка это буквально следствие индустриализации военки с конца 18 века с сопутсвуюми «демократизациями» военнизированных государств Европы - постоянное налогообложение до массового призыва было очень мизерным (если вообще)

qulinxao3 ★☆
()
Ответ на: комментарий от praseodim

нет.

даже для пороха ( да чётам даже для выплавки железа али бронзы) - нужны «стабильные» общества - из известной истории(и преистории которой тыщь так 70 лет скажем) это буквально последние несколько тыщь лет

ибо знания быстро теряются по простой причине что «чистое хищничество» буквально выгодней в короткую.

так и с ии основное внедрение пойдёт через «бедных» но организованных

qulinxao3 ★☆
()
Ответ на: комментарий от windows10

потому что «тысячи глаз»

Совершенно очевидно, что это не работает.

ivama
()
Ответ на: комментарий от amd_amd

… машина тут же дает ответ и он его сразу в чертеж записывает…

Технолог записывает в чертёж? Вы конструктора с технологом часом не перепутали?

Mischutka ★★★★★
()
Ответ на: комментарий от Mischutka

в чертёж

ну или в спецификацию - на знаю как это у них правильно называется

конструктора с технологом часом не перепутали

нет такое не перепутаешь - конструктор придумал изделие, а технолог придумал как это изделие сделать и если такой технолог неправильно посчитает рабочее давление в системе - система может этого давления не выдержать.

amd_amd ★★★★★
()
Ответ на: комментарий от amd_amd

ну или в спецификацию

Спецификация тоже относится к конструкторской документации.

… конструктор придумал изделие, а технолог придумал как это изделие сделать и если такой технолог неправильно посчитает рабочее давление в системе…

Рабочее давление в системе указывается в КД и задаёт его конструктор, может в чертеже было указано давление в миллиметрах ртутного столба, а манометр на установке, на котором испытывается изделие, измеряет его в барах, вот для удобства испытателей технолог и перевёл давление из одних единиц измерения в другие?

Mischutka ★★★★★
()
Ответ на: комментарий от Mischutka

и задаёт его конструктор

ну так он его в миллиметрах ртутного столба задал, а технолог неправильтно в бары перевел - в итоге вместо манометра на 100 бар был установлен на 10… и что с ним произошло? хорошо если это манометр, а если бочка с хлором, аммиаком и так далее.

amd_amd ★★★★★
()
Последнее исправление: amd_amd (всего исправлений: 2)
Ответ на: комментарий от amd_amd

Вы что несёте? В установку для испытаний давлением устанавливается манометр согласно КД на данную установку.

Если технолог перевёл неверно, то испытатель просто на данной испытательной установке, в которое установлено изделие, задаст это неверное давление.

Mischutka ★★★★★
()
Ответ на: комментарий от Mischutka

задаст это неверное давление

трубы лопнут, давление посчитали не правильно и они не выдержали так как расчет оказался ошибочным, правильный ответ 100 бар, а ии сказал 10 - ну и трубы взяли под это давление.

amd_amd ★★★★★
()
Последнее исправление: amd_amd (всего исправлений: 1)
Ответ на: комментарий от Mischutka

такое ощущение что ты дегенерат и не понимаешь - чем выше давление тем толще должны быть стенки у труб, но ии дал не верный ответ и трубы не выдержали так как были неправильно подобраны - в соответствии с неправильным ответом ии.

amd_amd ★★★★★
()
Ответ на: комментарий от amd_amd

«Недегенерат», если в изделии присутствуют трубы, то их подбирает и заносит в КД конструктор, исходя из собственных расчётов, а не расчётов технолога; собирают изделие по КД, соответственно трубы установят те, которые заложил в КД конструктор.

В случае с технологом возможен лишь вариант, что он, неправильно пересчитал давление и это неверно пересчитанное давление подали на испытательной установке (и то, если на данной установке можно подать такое давление). Но к подбору труб это не имеет никакого отношения.

Mischutka ★★★★★
()
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)