LINUX.ORG.RU

Считаете ли вы разумным пускать ИИ агента к себе на компьютер?

 , ,


0

2

Проблема: ИИ агент имеет доступ к файлам, может читать-писать их и даже выполнять команды. И по большему счету, никто не может на 100% предсказать что он сделает. На мой взгляд – это безумие какое-то ставить такое себе на основной комп, это как отдать рутовый ssh от своего компа какой-то конторе и сказать – пишите за меня код, вот вам деньги.

Однако, у меня сложилось впечатление что всем как бы норм, даже здесь, не говоря о «домохозяйках». Или все кто пользуются, пользуются в строго контролируемой песочнице?

Перемещено hobbit из development

★★★★★
Ответ на: комментарий от goingUp

Сейчас невозможно ими не пользоваться. Можно конечно ходить пешком, но на машине побыстрее будет. Рынок таков, что большинству в коммерческой разработке просто нужен мидл + ии агент и среднее качество устраивает, а вот разработка ручками переходит в разряд что-то элитарное и дорогое. Через два года думаю снова сеньоры понадобятся чтобы разгрести эти дерьмо криво-нагенерированное, которое стало разваливаться. Плюс опять же джунов и новичков просто не пустят в такой рынок и проще пойти курьерами за те же и даже возможно большие деньги, поэтому людей кто понимает код будет становиться все меньше. Время когда брали людей, чтобы были ушло. Ну и экономика во всем мире по швам трещит.

Тут к слову разговаривал с человеком, говорит что за два года роботы доставщики Яндекса в регионах курьеров не заменят (как я думал), нужно почти 5 лет, ибо наши люди пока не готовы. Но в 4-5 крупных городах думаю через года 2 уже 80-90% заменят.

anonymous_sama ★★★★★
()
Последнее исправление: anonymous_sama (всего исправлений: 1)
Ответ на: комментарий от anonymous_sama

Сейчас невозможно ими не пользоваться.

Но если судить по треду, многие не знают, что агенты имеют настраиваемые подтверждения и песочницу, которая не дает писать файлы за пределами проекта.

Через два года думаю снова сеньоры понадобятся чтобы разгрести эти дерьмо криво-нагенерированное, которое стало разваливаться.

Я не против такого развития событий, и даже за, но есть опасения, что за два года могут появится модели, способные и сами все это переписать в нормальный код.

goingUp ★★★★★
()
Последнее исправление: goingUp (всего исправлений: 1)
Ответ на: комментарий от goingUp

Да, там зависит от того насколько этот код в продакшен уйдет и сколько юзеров будет. Если там будут юзеры и оно будет разваливаться, то наймут как миленькие, а если оно так и будет mvp каким-нибудь, то вообще даже переписывать скорее всего никто не будет. Но уже есть всякие desloppify которые относительно неплохо справляются если уже и так хорошее покрытие тестами, и не вайбкодер писал все с тасками с голосовых сообщений изначально.

anonymous_sama ★★★★★
()
Последнее исправление: anonymous_sama (всего исправлений: 2)
Ответ на: комментарий от X512

Я как-то забыл WHERE дописать в DELETE FROM в запаре и снёс таблицу клиентов на боевой базе. Потом с жопой в мыле и в холодном поту восстановил из бэкапа за 10 минут так, что никто не заметил, но седых волос получил не мало. Вот пример как может человек накосячить и никакой ИИ не нужен.

Loki13 ★★★★★
()
Ответ на: комментарий от James_Holden

Точнее, в анальный зонд конечно встроят, но зачем иметь анальный зонд?

Так без него у тебя будет отрицательный соц. рейтинг и тебя в «приличное» общество пускать перестанут.

Loki13 ★★★★★
()
Последнее исправление: Loki13 (всего исправлений: 1)
Ответ на: комментарий от Rastafarra

это точно форум про разработку…?

Русская информация об ОС Линукс :)

это единственный нормальный способ работы с ИИ и оркестрации.

Дискуссионно

не очень понятно чем тебе не мил openCode, например, если хочется открытости.

sshd тоже открытый – это же не означает что я согласен кому-то доступ к моей машине давать

напиши себе сам.

ну так уже, тред создан чтоб с людьми обсудить, ты, видишь, не против, а кто-то, категорически против – летс дискасс

из приличного ТЗ страниц на 20, с юзерсторями и брендбуком получается проект строк тыщщ на 50 через 10 часом, с тестами, регрессом и всеми делами

А ты прям в состоянии за 10 часов проревьювить 50 тыщ строк?

это прям магия какая-то

Это сложно отрицать, отсюда и повод для разговора

pihter ★★★★★
() автор топика
Ответ на: комментарий от mky

Единого маргинального сообщества, пропитанного идеалами опенсорс, давно нет

Это – да, но мы все тут, считаешь у нас больше различий, чем общего?

для большинства линукс — это бесплатная винда

Пфф, для большинства линукс – это маргинальщина с консолью, что-то вроде ДОСа. Но то большинство. А большинство здесь?

Лично мне никогда не нравилась мысль, что кто-то кроме меня будет прибирать мои вещи, не важно, домработница разложит коробочки с радиодетальками, или жена, или ИИ файлы приберёт.

звуки одобрения

pihter ★★★★★
() автор топика
Ответ на: комментарий от thesis

В принципе, это буквально то, чем занимается абсолютно любой работодатель. Он дает свой комп случайному дураку с улицы и говорит: пиши код, вот тебе деньги. Короче, не вижу проблемы.

очень здоровая мысль, но есть нюансы, как говориться

pihter ★★★★★
() автор топика
Ответ на: комментарий от Lrrr

Дотком хлопнулся инвесторы ойай

Ожнак инфраструктура для следующей итерации оказать бесплатно.

qulinxao3 ★☆
()
Ответ на: комментарий от James_Holden

Допустим, но какое это все отношение имеет к теме «пускать агентов на свой комп»?

опосредованное, но имеет, я бы признал :)

pihter ★★★★★
() автор топика
Ответ на: комментарий от KivApple

Claude Code требует подтверждать команды, запускающие произвольные скрипты или обращающиеся к файлам вне каталога проекта. Codex по умолчанию выполняет команды в песочнице.

Сомнительно, но окэй…

Файлы проекта у нормальных людей в git, так что даже если агент сделает rm -rf src, это не будет фатально.

это само-собой

Касательно же prompt injection это больше проблема для всяких OpenClaw одновременно читающих входящие емейлы от кого попало и имеющих доступ на исполнение команд вне песочницы

Можешь подробнее, если не сложно?

pihter ★★★★★
() автор топика
Ответ на: комментарий от her_s_gory

А потом надо исправить маленькую ошибошку, и ты получаешь совсем другой продукт. Причём замечаешь это не сразу. Тесты, которые ничего не проверяют - зелёные. Регресы прошли. А то, что одна кнопочка немного вылетает из дизайна - так мелочи-же - кому это интересно?

справедливости ради – это все под твоим контролем, и, если ты приложишь достаточно терпения, ты каждую строчку волен осознать

pihter ★★★★★
() автор топика
Ответ на: комментарий от goingUp

Claude Code требует подтверждать команды

Ого, в ИИ треде появился человек, который им пользовался! Лор уже не торт!

Я агентом не пользовался и спросил мнения форумчан, мне рассказали, включая тебя, – торт

pihter ★★★★★
() автор топика
Ответ на: комментарий от vtVitus

Это не я так говорю. Это современного пользователя приучили, что устройство (смарт, комп) не его :-))

Да никто и не парится в этих категориях. Сложон их судить: я бы тоже не парился, не тусуйся я тут с вами всю взрослую жись :)

В том же новом фф какой-то ИИ уже встроен и в чём отличие?

Сложно спорить, действительно любая программа, код которой ты лично не отревьювил и не собрал лично отревьювенным компилатором, де-факто может делать что хочет. Но разница в ожиданиях что ли: если firefox поймают на том что он мои проекты читает и команды выполняет.. ну, будут вопросы – мы с вами не оценим, а ИИ-агент, как бы для того и нужен: вот, пожалуйста, пои проекты – скачай их к себе и тд

pihter ★★★★★
() автор топика
Ответ на: комментарий от anonymous_sama

Сейчас невозможно ими не пользоваться. Можно конечно ходить пешком, но на машине побыстрее будет. Рынок таков, что большинству в коммерческой разработке просто нужен мидл + ии агент и среднее качество устраивает, а вот разработка ручками переходит в разряд что-то элитарное и дорогое. Через два года думаю снова сеньоры понадобятся чтобы разгрести эти дерьмо криво-нагенерированное, которое стало разваливаться. Плюс опять же джунов и новичков просто не пустят в такой рынок и проще пойти курьерами за те же и даже возможно большие деньги, поэтому людей кто понимает код будет становиться все меньше. Время когда брали людей, чтобы были ушло. Ну и экономика во всем мире по швам трещит.

Спасибо за мнение, очень тогочегаяждалтельно :)

pihter ★★★★★
() автор топика
Ответ на: комментарий от Loki13

Я как-то забыл WHERE дописать в DELETE FROM в запаре и снёс таблицу клиентов на боевой базе. Потом с жопой в мыле и в холодном поту восстановил из бэкапа за 10 минут так, что никто не заметил, но седых волос получил не мало. Вот пример как может человек накосячить и никакой ИИ не нужен.

У всех у нас есть такая история :)

pihter ★★★★★
() автор топика

Как показала практика, говнокодить и бездумно удалять файлы я могу и без помощников. Поэтому нинужно.

apt_install_lrzsz ★★★★
()
Ответ на: комментарий от pihter

Пфф, для большинства линукс – это маргинальщина с консолью,

Я про большинство пользователей линукс, они ни про RMS, ни про открытый исходный код, могут быть не в курсе. Скачали, установили, браузер запустился — у них всё ОК.

с консолью, что-то вроде ДОСа.

Есть видео где случайным прохожим задают простые вопросы, у них 3*3*3 — это примерно 21, а Хиросима и Нагасаки — это японские артисты. По таким ответам можно предположить, что большинство населения земли вобще не в курсе, что существуют операционные системы, для них «ДОС», «консоль» — абсолютно незнакомые слова. Какая там защита личных данных :)

mky ★★★★★
()
Ответ на: комментарий от pihter

Но разница в ожиданиях что ли

Это просто маркетинг. Это как крыса и голубь - и то и то помойное животное и разница только в полёте, но маркетинг разный. ИИ агент просто новое и не привычное, вот и вызывает настороженность, а так … Chrome Safe Browsing - жуть, сколько процентов это отключает? Ничтожная - все привыкли, и тут привыкнут :-).

Главное не терять бдительность и не давать такое ставить детям, родителям и т.п. :-))) в общем, не быть как все.

vtVitus ★★★★★
()
Последнее исправление: vtVitus (всего исправлений: 1)
Ответ на: комментарий от PcheloBiaka

Столько буков писать каждый раз, руки сточатся. Надо делать это хотябы стильно.

написать гигантский промпт

mamina_radost
()

Пользуюсь, но с мануальным аппрувом каждой последующей команды. Так есть время вовремя дать ему по яйцам.

Но завидую слабоумию тех, кто, отвернувшись на спинку кресла, спокойно отправляется в пучину хаоса и галлюцинаций.

anonymous
()
Ответ на: комментарий от mky

По таким ответам можно предположить, что большинство населения земли вобще не в курсе, что существуют операционные системы

Да так и есть

pihter ★★★★★
() автор топика

всё очень просто: попробуй нанять человека и объяснить ему, что ты хочешь, чтобы он сделал. Потрать много лет на это, страдай от мыслей, что это ты не можешь объяснить.

Потом включи робота и удивись тому, что он в целом делает то, что ты просишь и довольно быстро.

Да, косячит, но меньше, чем обычный человек, которого ты наймешь и в десятки раз дешевле.

max_lapshin ★★★★★
()

Запускаю только на VPS-ке и только без каких-либо критичных данных, о потере или утечке которых я мог бы сильно переживать.

Minoru ★★★
()
Ответ на: комментарий от pihter

А ты прям в состоянии за 10 часов проревьювить 50 тыщ строк?

а зачем?

метрики можно сделать другие: время отклика, потребление ресурсов, следование брендбуку и внутренним порядкам.

давно ли ты байткод ревьювил? или доверился умному компилятору?

тебе же пофиг например на преобразование TS –> JS –> babel –> js ))

Rastafarra ★★★★
()
Ответ на: комментарий от thesis

работодатель покупает работнику отдельную железяку, а не дает ему свой личный ноутбук.

поднимай виртуалку скриптом, если ссышь )

Rastafarra ★★★★
()
Ответ на: комментарий от thesis

Работодатель за код, написанный случайным дураком с улицы на отданном ему компьютере, (потенцыально) получит немного более другие деньги. А что полечите Вы, отдаваясь ИИ-агенту?

KOHb-TPOJIJIbJIEP ★★
()
Ответ на: комментарий от KOHb-TPOJIJIbJIEP

(потенцыально) получит немного более другие деньги

«И вот теперь смотри, сынок: гипотетически у нас три миллиона долларов, а реально - …» (с)

При этом случайному дураку надо дать денег обязательно, независимо от результата и значительно больше, чем электрическому.

thesis ★★★★★
()

Я сначала пользовался в песочнице. Потом поставил себе на хост. Но теперь подумал и решил, что пока пускай сидит в песочнице. В целом я ему доверяю и не думаю, что это приведёт к чему-то плохому. Но всё же считаю правильным считать ИИ отдельным членом команды, со своим компьютером и со своими доступами. Я же не даю свой компьютер своим коллегам, даже если и доверяю им.

Но всё же, за время использования ИИ, ни разу он не сделал чего-то, что вызвало бы мой дискомфорт. Правда я ему не доверяю полный автопилот, всегда ставлю задачи из разряда «поменяй в такой-то строчке имя на такое-то», в общем занимаюсь микроменеджментом.

vbr ★★★★★
()
Последнее исправление: vbr (всего исправлений: 2)
Ответ на: комментарий от KOHb-TPOJIJIbJIEP

Что-что, вон люди получают какой-то код, который как-то собирается и работает, прямо как после биологического дурака, только дешевле.

thesis ★★★★★
()

Тут недавно случай был:

В феврале-марте 2026 года произошел резонансный инцидент, связанный с ИИ-агентом OpenClaw, который удалил данные, включая почтовый ящик, у руководителя по ИИ-безопасности компании Meta* (Саммер Юэ). 

Я пока на столько доступ давать не хочу, да и реального применения пока не вижу. НО я даю доступ к своему серверу включая root, ИИ агент собирает Ansible Playbooks, я их ревьювлю и получается, что за выходные можно сделать то же самое, на что раньше недели уходили.

А ну и надо было подключить старую железку к компу, дал root для claude чтобы он сам все настройки сделал, опять же обьем перелопаченной инфы и экспериментов, который занимает обычно дни был сделан за 10 минут

AntonyRF ★★★★
()

По настоятельному совету работодателя я начал пользоваться Сlaude Сode. Видимо от этого уже никуда не деться. По сравнению с некоторыми коллегами очень осторожно и аккуратно. До безумия некоторых мне еще далеко.

По поводу скорости - пока делаю примерно столько же, только меньше устаю.

Использую Claude Code, но недавно потихоньку смотрю еще в сторону OpenCode, если Anthropic будут гайки закручивать c ограничением доступа из России. OpenCode в принципе вариант рабочий.

qaqa ★★
()
Последнее исправление: qaqa (всего исправлений: 1)

Ты понимаешь что у тебя на телефоне творится, отдавая все данные и полномочия вендору и гуглу? А там куда более приличная информация, и банки и переписка с любовницами и все запросы и данные.

One ★★★★★
()
Ответ на: комментарий от Rastafarra

а зачем?

метрики можно сделать другие

Ты прям эталонный производитель мусорного софта. Неудивительно что тебе понравились бредогенераторы, ведь они занимаются тем же самым но быстрее.

firkax ★★★★★
()

А мне потом легче будет от его «Извините, что-то пошло не так, я реально сожалею» ?

Sylvia ★★★★★
()
Ответ на: комментарий от jura12

на PHP (QWEN) код набрасывает настолько «прилично», что некоторые даже пытаются потом проспамиться, чтобы другие этот код скачивали и пользовались.

Sylvia ★★★★★
()
  • Markdown
Пустая строка (два раза Enter) начинает новый абзац. Знак '>' в начале абзаца выделяет абзац курсивом цитирования.
Внимание: прочитайте описание разметки Markdown.
Используйте Ctrl-Enter для размещения комментария