LINUX.ORG.RU
ФорумTalks

Есть ли смысл натаскивать ИИ на маны?

 ,


1

1

Под словом «маны» подразумеваются технические руководства, хоть man, хоть MSDN, хоть хауту, хоть даже файлы справки из гнома, но только именно технические именно руководства. Имеется ли там достаточно информации для обучения ИИ (для человека - имеется)? Не будет ли такой ИИ посылать в маны или в платную поддержку? КМК, это будет просто люкс, если вместо мана будет вылезать готовый ответ.

★★

КМК, это будет просто люкс, если вместо мана будет вылезать готовый ответ.

Не будет, маны это не гайды

Kolins ★★★★
()
Ответ на: комментарий от Irma

Контекста не хватит.
Вот например man dd (утилитой которой все привыкли работать с дисковыми устройствами на низком уровне), что у нее в начале:

dd - convert and copy a file

Kolins ★★★★
()

Мне кажется что маны это слишком мало для обучающего материала. А вот правильных ответов техподдержки, которая ориентируется на маны может быть намного больше, что и можно использовать в кчестве обучающего материала.

vbcnthfkmnth123 ★★★★★
()
Ответ на: комментарий от vbcnthfkmnth123

Человеки за счет манов как-то обучаются. Если, допустим, дать ИИ виртуалку с убунтой для экспериментов, он научится?

Irma ★★
() автор топика

Не взлетит. У стохастических попугаев, которых мир называет «ИИ», всё не то чтобы хорошо с multi-hop reasoning.

А поскольку маны — это просто перечень сухих фактов без контекста, оно попросту не сможет сделать из них те же выводы, которые делает мясной мешок. Гопота вывозит тупо за счёт того, что ей скормили весь StackOverflow (где все выводы уже сделаны компетентными отвечающими для овощебазы в лице основной массы посетителей).

intelfx ★★★★★
()
Последнее исправление: intelfx (всего исправлений: 2)
Ответ на: комментарий от the_real_kinik

Этот лайтнинг как-то сильно смахивает на локальный гугл, а с некоторых точек зрения даже на простой греп.

Irma ★★
() автор топика
Ответ на: комментарий от Irma

Люди это не ИИ.

дать ИИ виртуалку с убунтой для экспериментов, он научится?

Найс шутка. Если говорить коротко, то нет. ИИ конкретно здесь просто генерирует текст на основе обучающего материала, он не умеет думать. Он не умеет делать выводы и так далее. Если чего-то не было в исходном тексте, то он не сможет это сгенерировать.

vbcnthfkmnth123 ★★★★★
()
Последнее исправление: vbcnthfkmnth123 (всего исправлений: 2)
Ответ на: комментарий от Irma

Ну, по сути это оно и есть. Моделька шарится по базе с документами за пользователя, который пишет запрос в произвольной форме. Профит только в этом.

the_real_kinik ★★
()

если вместо мана будет вылезать готовый ответ

Он будет «юридически ничтожен», ибо ман – документ, а ответ ИИ – «филькина грамота».

quickquest ★★★★★
()
Ответ на: комментарий от intelfx

поскольку маны — это просто перечень сухих фактов без контекста, оно попросту не сможет сделать из них те же выводы, которые делает мясной мешок

Так и мясной мешок не может делать выводы из «сухих фактов» без контекста.

Bad_ptr ★★★★★
()
Ответ на: комментарий от Bad_ptr

Мясной мешок обладает обширным фоновым контекстом и умеет в multi-hop reasoning (ну, ладно, некоторые умеют).

intelfx ★★★★★
()
Последнее исправление: intelfx (всего исправлений: 1)
Ответ на: комментарий от nebularia

Он много лишнего хапнул, поэтому часто выдает нерабочие решения.

Irma ★★
() автор топика
Ответ на: комментарий от intelfx

У стохастических попугаев, которых мир называет «ИИ», всё не то чтобы хорошо с multi-hop reasoning.

Но там же написано что все хорошо, а чтобы стало еще лучше, надо эту возможность изучать и допиливать.

Xintrea ★★★★★
()

Ахтунх!!!!!111
Манэ апаснасте! =)

sparkie ★★★★
()
Ответ на: комментарий от intelfx

Не взлетит.

По-моему, тот случай, когда проверять надо, если вопрос всерьез задан конечно. Ну и смотря какой результат получить хочется. Если чтобы было как ChatGPT, но по манам, то такого не выйдет, если что-то вроде умного поисковика по манам, то просто попробовать надо.

praseodim ★★★★★
()
Ответ на: комментарий от nebularia

ChatGPT обучен не только на этих материалах и это может быть даже недостатком, если нужна работа только с манами.

praseodim ★★★★★
()
Ответ на: комментарий от praseodim

Добавить ему advanced bash scripting тогда и по регуляркам что-нибудь.

Irma ★★
() автор топика

КМК, это будет просто люкс, если вместо мана будет вылезать готовый ответ.

Так я в основном GPT так и использую - чтобы не копаться в мануалах.

seiken ★★★★★
()

Языковые модели хороши для нечеткого поиска, когда не знаешь где искать, так что в целом стоит. Но это годится для того чтобы быстро найти какой ман надо курить.

Для готовых решений - LLM в это не умеет, копировать какие-нибудь команды для баша из выхлопа нейронки - вообще хороший рецепт забить нулями себе диск или ещё что-то испортить.

Gary ★★★★★
()

С учетом перманентных галлюцинаций оно в принципе не способно выдать информацию, которая будет безопасна или надежна. При генерации кода оно придумывает несуществующие функции, при выдаче мана будет выдавать несуществующие свойства типа «эта функция потокобезопасна»

PPP328 ★★★★★
()
Ответ на: комментарий от Irma

И в идеальном случае, с соблюдением 100%й точности вы получите самый простой самый тупой

grep -r "термин" .
PPP328 ★★★★★
()
Ответ на: комментарий от Gary

Для готовых решений - LLM в это не умеет, копировать какие-нибудь команды для баша из выхлопа нейронки - вообще хороший рецепт забить нулями себе диск или ещё что-то испортить.

Конечно, применять эти выводы ГПТ надо со включенным мозгом. Ну а для простых команд, когда например надо просто регулярочку в sed подсунуть - там риски минимальные.

seiken ★★★★★
()

ИИ станет придумывать manы к несуществующим утилитам и\или выдуманные ключи к существующим, вместе с их описанием. Оно точно надо?

Jameson ★★★★★
()
Ответ на: комментарий от PPP328

С учетом перманентных галлюцинаций оно в принципе не способно выдать информацию, которая будет безопасна или надежна

Отлично, будет сказки на ночь читать. По мотивам man bash.

Nervous ★★★★★
()
Ответ на: комментарий от seiken

Конечно, применять эти выводы ГПТ надо со включенным мозгом.

Ну то есть для новичка эти ответы вредны, а опытный и так знает и умеет мгновенно найти нужный ключ в выхлопе man.

Не нужно короч.

PPP328 ★★★★★
()
Ответ на: комментарий от Jameson

Есть ли смысл натаскивать ИИ на маны? (комментарий)

Если чего-то не было в исходном тексте, то он не сможет это сгенерировать.

Так не сможет или станет придумывать? Выдумки можно тупо отсеивать путем обращения к каталогу с руководствами.

Irma ★★
() автор топика

Уже такое есть, в openai api есть assistants, куда можно загрузить разные документы, которыми GPT будет пользоваться во время чата. Не знаю правда насколько хорошо оно работает, не пробовал.

goingUp ★★★★★
()
Ответ на: комментарий от Irma

Если и дать маны и убунту, он с помощью дд диск нулям перепишет

no-dashi-v2 ★★
()
Ответ на: комментарий от PPP328

В том-то и дело, что не мгновенно. Во-первых, каждый ман написан на естественном языке, и могут использоваться синонимы, т.е. просто поиск не подходит. Во-вторых, сам ман может быть гигантский (типа man bash).

seiken ★★★★★
()
Ответ на: комментарий от Jameson

Оно точно надо?

Вижу элементы разочарования я, модным раскрученным продуктом, ) Форумы ака «поиск помощи» vs ChatGPT (комментарий):

Лично я уже во всю использую. Причём это так удобно что я даже подписку купил. По сути это магия…

krasnh ★★★★
()

Это самое вредное что можно сделать. Текущий ИИ по своей природе пересказывает со всеми вытекающими последствиями (фантазирует/недоговаривает), а маны это про подробную и точную документацию, перефразирование которой вредно.

peregrine ★★★★★
()
Ответ на: комментарий от slowpony

Почему? Что плохого в ответах «забанься, дебил», «не нужно» и «на винфак»?

Написал нейронке «Как установить Кали?», а она сразу даёт ответ по делу — «Кали не нужна» или «Забанься, дебил» и не надо идти на ЛОР, где кожаные мешки скажут тоже самое.

Werenter ★★★
()
Ответ на: комментарий от Irma

Оба. ИИ не может сказать что он чего-то не знает, потому что он устроен как генератор текста. То есть когда ты спросишь у него то чего нет в материале для обучения, то он начинает генерировать собственно.

vbcnthfkmnth123 ★★★★★
()
Ответ на: комментарий от krasnh

Да, так и есть, наигрался и остыл. Специализированного развития в инструмент, направленный в мои задачи, за который мне захотелось бы заплатить я так и не увидел.

Это IMHO, возможно в других областях по другому, возможно копирайтеры уже вовсю используют например...

Jameson ★★★★★
()
Ответ на: комментарий от seiken

Тут профитнее будет не от генеративной нейронки, а от word2vec и поиска по синонимам плясать, чтоб оно не фантазировало. Хотя оригинальный word2vec придётся немного иначе учить, чтоб у него больший контент захватывался.

peregrine ★★★★★
()

ИИ это подражатель.
он может высказываться на любую тему, если эта тема каким-то боком присутствовала в обучающей выборке.
для человека несведущего ответ ИИ может быть неотличим от содержательного ответа специалиста.

фишка в том, что любая справочная информация должна «быть, а не казаться» содержательной, а с этим (пока?) у ИИ плохо.

olelookoe ★★★
()
Ответ на: комментарий от olelookoe

Нет, не ИИ подражатель. А GAN это подражатель, как и всё что использует его идеи в плане обучения без учителя, современные чатботы либо являются разновидностью GAN, либо его потомком, переняв от него многие идеи. У нас не только GAN есть на фундаментальном уровне, просто его последователи хорошо себя показали т.к. учатся без учителя и хорошо подражают, создавая тем самым вау эффект.

peregrine ★★★★★
()
Ответ на: комментарий от peregrine

И это не помогает ему занять нишу гугла.

Я не понимаю, как майкрософт мог просрать такой момент. Казалось бы, вот звездный час получить какое-то преимущество, и есть хорошая идея, но вот так безобразно ее реализовать. Когда я в последний раз смотрел ИИ поиск бинга, он не умел шарится по тексту найденых страниц, только по заголовках и meta description. Тем временем какой-то ноунейм phind.com и другие загружали и тексты страниц, жалко что phind сейчас платный.

goingUp ★★★★★
()
Последнее исправление: goingUp (всего исправлений: 1)
Ответ на: комментарий от goingUp

жалко что phind сейчас платный

Пользуюсь им уже давно, все еще бесплатный. Регистрацию стал требовать (google/github), это да, но не более.

krasnh ★★★★
()
Ответ на: комментарий от krasnh

Там же GPT-4 платно, а бесплатна только их собственная LLM в лайт версии

goingUp ★★★★★
()
Ответ на: комментарий от goingUp

Пока что гугл ищет лучше. Хотя фантазии у него тоже проскакивать начали (вероятно из-за того что сайты стали делать на основе говноии контента). Раньше точнее искал.

peregrine ★★★★★
()
Последнее исправление: peregrine (всего исправлений: 2)
Ответ на: комментарий от peregrine

Пока что гугл ищет лучше.

Нельзя вот просто взять и искать лучше гугла. Можно было бы хуже, но хотя б с фичей, но вот фича полностью бесполезна)

goingUp ★★★★★
()
Последнее исправление: goingUp (всего исправлений: 1)
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)