Каким вы видите будущее нейросетей?

Потому что души нет, а головной мозг вообще не машина Тьюринга.

Нормисы научатся отличать llm и диффузоры от настоящего ai, когда последний вообще-то начнут серьёзно пилить; а первый внезапно закатится в ниши, где будет тихо и мирно применяться (по крайней мере до внедрения ai).

Нейронки хороши в порождении безответственной болтовни, похожей на осмысленную речь, но ей, однако, не являющейся. Надеюсь, это подтолкнёт людей к мысли о бессмысленности этого занятия. Но это не точно.

Подавляющая часть деятельности людей это безответственная болтовня.

С развитием чат-гопоты умение выдавать связный текст похожий на человеческую речь должно девальвироваться примерно как эрудиция после развития интернетов. По крайней мере я на такой исход очень надеюсь.

Зависит от того через сколько времени смотреть. В очень далёком будущем видится война одного скайнета с другим конкурирующим за ресурсы на мёртвой планете скайнетом.

Нет, они уже в каждом унитазе и дальше будет хуже.

Это не более чем истерическая реакция. В перспективе приведёт к тому, что ИИ станет сильным не в Европе а где-то в другом месте на глобусе с печальными для Европы последствиями.

Насчет связного текста. Для меня вообще удивительно как нейронки освоили русский язык. В их предложениях обычно все правильно согласовано. Рода, числа. Флексия в русском языке не составила сложности. Интересно на чем это основано. Он реально думает над согласованием или просто лепит по статистике наиболее частый вариант?

Создавать новые решения самостоятельно ИИ не (пока) не способен

Способен. У него сейчас другие 2 связанные друг с другом проблемы - беда с памятью и проблема того что он не обучается постоянно, а фиксирован.

Глагол «думать» тут в принципе не применим. В этом и находится кардинальное и неодолимое отличие интеллекта от нейронок. Тут разница как между фотографией и рисунком. Фотоаппарат очень точно воспроизводит, гораздо лучше художника, но он в принципе не рисует, не творит.

лепит по статистике наиболее частый вариант

Очевидно так. И такое ощущение его на википедии тренировали, тот же убогий наукоподобный стиль.

Настоящий ИИ возможен только в «настоящем теле»

С чего вдруг?

Способен.

«Доказывать это утверждение я, конечно, не буду» (с)

Фотоаппарат очень точно воспроизводит, гораздо лучше художника, но он в принципе не рисует, не творит.

да вообще все хуже. Они оба рисуют. Только когда рисует художник, он рисует, например, человека. Он знает, что у людей обычно пять пальцев, что эти пальцы имеют некую механику, что они не гнутся в произвольных местах и так далее. Далее, художник не просто рисует какие-то пальцы, он рисует пальцы шахтера, моряка или балерины, это будет палец с обкусаным грязным ногтем или с отполированным накрашенным ногтем и так далее. Нейросеть тоже рисует, но она не человека с пальцами рисует, не моряка, а набор пикселов которые статистически более вероятно идут один после другого по запросу «уставший моряк с трубкой на крыльце кабака». И насрать ему на пальцы.

Я просто периодически думаю над неким языковым модулем. Как бы научить машину строить фразы. И прихожу к выводу, что с синтетическими языками все очень сложно. Синтетический – от слова синтез, т. е. понятия конструируются на лету. Есть некая основа – корень и к ней, в зависимости от нужного времени, рода, числа добавляются разные сущности.

Гораздо легче взять аналитический язык, где слова-понятия жестко закреплены и не меняются.

Или почти не меняются. Тут еще эволюция языков, вероятно синтетические языки постепенно переходят в аналитические. И большинство перешли не до конца, поэтому чистых аналитических пока почти нет. И еще потому что после начинается новый виток эволюции, когда аналитический язык приобретает снова черты синтеза.

Еще, кстати, подвид синтетических языков – очень древний, основанный на агглютинации. Когда к корню добавляются еще другие части, каждая значит что-то одно. Это например, грузинский. Но и там нужно согласовывать по родам и числам, хотя и легче.

Вот да, машину этому научить будет трудно.

Относительно скоро изобретут сильный ИИ, и встроят во всё подряд: людей, домашних животных, операционные системы, игры, «умные» лампочки, подгузники, женские прокладки, презервативы, пакеты для мусора. После этого хайп спадёт.

Представляю досье хакера – взлом женских прокладок

Представляю досье хакера – взлом женских прокладок

Это ещё 8 лет назад стало вполне реальным: Хабр - Умный Bluetooth-тампон расскажет, когда его пора менять

С того, что если под настоящим пониманить полностью подобный человеческому (что довольно странное желание — нафиг он такой несовершенный, если есть уже неподобные, но делающие работу лучше), то придётся придавать ему особенности, свойственные человеческому. А человеческий при этом не ограничивается сетью из нейронов — есть множество других факторов. И если работу гармональной системы (которая оказывает огромное влияние на поведение, принятие решений, выдаваемые ответы и т.д. и т.п.), наверное, можно симулировать программно, хотя никто этого и не делает, то связь со стимулами из окружающей среды придётся реализовывать физически: камерами, химическими детекторами, термальными сенсорами, дететорами различного физического воздействия на «тело», вот мы и приходим к «настоящему» (в смысле физически существующему, не обязательно подобному человеческому или вообще биологическому) телу.

А если под настоящим понимать что-то другое, то они спорить будут. Они уже больше двадцати лет ворота двигают, лишь бы сказать «ИИ всё ещё не создан». То надо было в шахматы выиграть, потом стало мало, надо тест Тьюринга в коротком чате пройти — прошли, теперь надо ещё что-то, уже о «самосознании» заговорили и прочем. Нафиг оно надо для практических задач, никто не знает, но есть очень большая категория людей, для которых мысль «ИИ не существует» или даже «ИИ невозможен» является очень ценной, и ради неё они будут последовательно и бесконечно изменять само определение ИИ и требования к оному, выполнение которых необходимо для признания.

Мне кажется, основная проблема тут в другом. Если у человека спросить: „Как пройти в библиотеку“, у него автоматом включатся вопросы: „а кто спрашивет? а зачем? что он хочет этим сказать? а что он на самом деле хочет? а что я хочу?“ и т.п. Он целый мир создаст и себя в этом мире и в рамках данного мира выдаст ответ. А нейронка просто породит нечто, напоминающее описание пути в библиотеку. И разница между этими двумя поведениями выглядит пока неодолимой.

То надо было в шахматы выиграть, потом стало мало, надо тест Тьюринга в коротком чате пройти — прошли, теперь надо ещё что-то, уже о «самосознании» заговорили и прочем.

Так раньше думали, что в шахматы играть сложно, а потом выяснилось что нет. Вот и поправили определение. Это проявление интеллектуальной честности можно только приветствовать.

Что значит «выяснилось, что нет»? Сложность шахмат и до этого оценивалась достаточно адекватно. Просто развитие вычислительной техники и (в меньшей степени в данном случае) нейросетей сделало эту задачу «простой». Это же относительный показатель, а не абсолютный. Про то я, собственно, и говорю, «двигать ворота» о том, что такое ИИ, будут до бесконечности. Чем круче будет железо/софт, тем более сложные задачи будут перед ним ставиться. Я не считаю это интеллектуальной честностью, скорее ровно наоборот.

Если что, саму по себе постановку более сложных задач на каждом этапе я на считаю чем-то плохим. Это хорошо, это прогресс. Просто непонятно, зачем определения под это постоянно подстраивать и изворачиваться с «а вот и нет, а вы ещё с завязанными глазами, стоя в гамаке сделайте», лишь бы не признавать того, что раньше ошибались.

А нейронка просто породит нечто, напоминающее описание пути в библиотеку.

Ну это если конкретно с LLM сравнивать. А если с ИИ-технологиями в целом (существующими и только развивающимися), то ничего непреодолимого здесь нет. Просто для этого не LLM нужна, точнее не только она, а совокупность нейросетей, решающих совместно несколько задач, помимо восприятия и генерации текста.

Это да, ты прав. Тут уже что-то из области психологии и биологии примешивается. Осознание своего тела, осознание своего я, осознание отличий от других. Примерка сил. И нахождение своего места в социуме.

Без тела, испытывающего боль и все прелести жизни, тут сложно будет двигаться дальше.

Что значит «выяснилось, что нет»?

Очевидно логика была такая: шахматы → сложная творческая деятельность, кто сможет в шахматы играть, сможет справиться и с другой сложной творческой деятельностью. Оказалось, что исходная посылка была ложной, поэтому пришлось переделывать определение.

Чем круче будет железо/софт, тем более сложные задачи будут перед ним ставиться.

Искусственный интеллект это одно. Частный решатель частной проблемы — совсем другое. А так можно и сервер 1С сильным ИИ объявить, он же целый отдел бухгалтеров заменяет.

Просто непонятно, зачем определения под это постоянно подстраивать

А потому что плохо понятно что такое интеллект. Мы идём путём экспериментального апофатического богословия. Так что ИИ это не то, что способно играть в шахматы, составлять слова в предложение или рисовать картинки по описанию.

А если с ИИ-технологиями в целом (существующими и только развивающимися), то ничего непреодолимого здесь нет.

Вы вольны в этом верить. Как я волен верить в Бога и наличие у меня бессмертной души.

головной мозг вообще не машина Тьюринга

Чего же, разве работу отдельного нейрона нельзя симулировать на компе?

Чего же, разве работу отдельного нейрона нельзя симулировать на компе?

Для ответа на этот вопрос надо сначала ответить на вспомогательный вопрос: насколько детерминирована работа отдельного нейрона? То есть если мы сто раз подадим одинаковый сигнал на аксон нейрона (или куда он там подается) то все ли сто раз мы получим одинаковый выходной сигнал на дендрите (или откуда он там снимается)

Большинство народу путает искусственный интеллект с машинным.

полноценный ИИ

Вангую, будет как с термоядом «вот-вот и взлетим». И так 50 лет подряд. А продвинутые болталки будут всюду, и люди сами охотно будут видеть в них личность. Что уж говорить, если люди видят облик Господа на обжаренном тостовом хлебе или будущее в кофейном жмыхе. Нейронки воткнут всюду, где можно выжать профит, рынок труда немного перерегулируется, так шо «Хайп спадет, будут широко применяться, но без фанатизма»

ой надо же, какой ты мизантроп! Это так брутально!

Надо же какая ты пассивно-агрессивная свинка. Это так тонко!

ChatGPT, Claude и все существующие ныне LLM НЕ рассуждают

Не потому что не могут. А потому что нельзя.

на одном нейроне да. Он же лишь проводник. Ну почти.

Если речь не о математической модели, как в нейросетях, а именно о живой материи, то сигнал управляется синапсами. Это чуть сложнее, чем реле. Скажем, так, помесь реле и реостата.

Синапс – это некоторая щель между нейронами, в голом виде не преодолимая для электрического сигнала. В эту щель должно зайти какое-то вещество. И в зависимости от свойств этого вещества, ток может быть пропущен дальше, или нет. Или же пропущен с меньшей силой.

А вот с управлением синапсами все сложно. По идее, вещества которые заходят в синаптические щели выделяют клетки оболочки нейронов. А вот кто им говорит выделять или нет, это пока непонятно.

А вот с управлением синапсами все сложно. По идее, вещества которые заходят в синаптические щели выделяют клетки оболочки нейронов. А вот кто им говорит выделять или нет, это пока непонятно.

Для получаемого результата это не принципиально. Т.е. в результате нейрон работает как работает, математическая модель позволяет получить результат похожий на то что производит реальный мозг.

Проблема управления нейросетью, а тем более создания нейросети под задачу – это другая проблема, да пока очень тёмная. То что создано на данный момент, было сделано по-сути методом тыка и чуть-чуть подсмотрели в мозге (свёрточные сети для распознавания изображений).

С другой стороны, это та же эволюция, вид сбоку.

В том и дело, что живая нейросеть как-то сама себя регулирует. И ее состояние зависит от внешних условий. И это не просто входные данные. А нечто, влияющее на настроение и биохимию нейросети. Неслабо, да, когда ответ зависит от настроения. И в то же время каким-то образом нейросеть добивается самоконтролем, чтобы не зависел.

Кажется в опросе не хватает степени применения. Довольно много людей в треде создают впечатление тех кто или видел только GPT3.5 и stable diffusion 1, либо применяли только для развлекательных целей/попытки доказать что текущие нейросети тупее них.

Я, кстати, не очень понимаю, зачем копировать человеческую нейросеть с ее недостатками. Почему нельзя построить ИИ на каких-то иных принципах?

Я, кстати, не очень понимаю, зачем копировать человеческую нейросеть с ее недостатками.

да там копирование весьма условное, типа как самолет копирует принцип полета птиц. Он, конечно, в некоторой степени копирует, но не дословно и вообще там все не так если присмотреться

В том и дело, что живая нейросеть как-то сама себя регулирует.

Как именно это в организмах происходит вопрос довольно тёмный, там есть химический путь регуляции который связан с биологией тела вообще. Не очень понятно возможно ли формализовать такой механизм в отрыве от биологических функций.

Но есть и другой, очевидный путь – пусть нейросеть регулирует/создаёт нейросеть. GAN-ы один из вариантов такого подхода и весьма впечатляющий. Потенциал тут далеко не исчерпан.

Очевидно логика была такая: шахматы → сложная творческая деятельность, кто сможет в шахматы играть, сможет справиться и с другой сложной творческой деятельностью.

Да не было тогда такой логики. Это пост-память.

Искусственный интеллект это одно. Частный решатель частной проблемы — совсем другое.

Искусственное устройство, решающее интеллектуальную проблему — искусственный интеллект.

А так можно и сервер 1С сильным ИИ объявить, он же целый отдел бухгалтеров заменяет.

Зачем сильным? «Сильный ИИ» вообще довольно сомнительная идея. Он нужен по большей части лишь для удовлетворения давней мечты человеков в приближении к «богу» — сотворении себе подобного. Раньше этим всякие алхимики и прочие чародеи заморачивались со своими гомункулами, големами и т.п. Теперь вот философы от IT. Но для решения практических задач специализированные ИИ, решающие их хорошо, гораздо эффективнее.

Но нет, 1С не является даже слабым ИИ, насколько я понимаю, поскольку интеллектуальную деятельность там всё же оператор выполняет, а он только совсем-совсем рутину автоматизирует. Хотя я давно последний раз 1С видел, так что фиг его знает.

А потому что плохо понятно что такое интеллект.

Зато хорошо понятно, что «искусственный интеллект» — не то же самое, что «интеллект, сделанный искусственно». Точно так же, как «жидкие гвозди» — не гвозди, «искусственная кожа» — не кожа, «холодная сварка» — не сварка, а биткоин — не монета (коин). Это отдельное понятие, состоящие из двух слов, воспринимаемых совместно, а не по отдельности. Его задача — заменять собой интеллект человека там, где человеку этого хочется, а не быть точной копией настоящего интеллекта.

А что такое интеллект — это вопрос не изучения, а договорённости по большей части. Определения разные есть, но если посмотреть чуть выше, так сказать, на мета-уровне, то есть несколько подходов к этому, включая такой, в котором интеллект — это то, что отличает поведение человека от поведения других животных и автоматических систем, и именно в этом открытии и кроется суть понятия. Сторонники этого подхода не признают, что именно этим руководствуются, но на деле это так — они дают определения довольно замороченные и с оговоркой кучи исключений, а потом если оказывается, что какое-то животное проявляет то же самое, они переписывают это определение чисто ради того, чтоб конкретно это животное исключить. Выглядит как занятная ментальная игра, но в целом, можно определить и так. При и при таком определении создание сильного ИИ невозможно не просто технически, а фундаментально, логически, следуя из определений.

Так что ИИ это не то, что способно играть в шахматы, составлять слова в предложение или рисовать картинки по описанию.

Перечисленное есть интеллектуальные задачи, и ИИ их успешно решает.

Но да, это не так называемый «сильный ИИ». Сильного ИИ пока нет. Но и фундаментальных проблем для его создания нет. Непонятно только, нафига. Чего все с ним так носятся, если все любая задача может быть более эффективно решена специализированным ИИ, решающим эту задачу совсем не так как человек, но в итоге гораздо эффективнее?..

Вы вольны в этом верить. Как я волен верить в Бога и наличие у меня бессмертной души.

Зачем в это верить? Здесь достаточно того, что все перечисленные элементы реализуемы с помощью нейросетей, просто не присутствют в LLM. При их объединении, очевидно, получится ИИ, способный действительно хорошо объяснить путь в библиотеку, уместный именно в этом месте и в это время, а не просто выдать что-то похожее на описание. Тут не нужны какие-то технологии будущего, просто объединенние нескольких существующих.

Если что, я не говорю, что из такого объединения получится человекоподобный ИИ. Я говорю, что получится ИИ, способный решить задачу по объяснению пути до библиотеки (и прочие задачи, требующие геолокации, понимания текущего времени и определения свойств вопрошающего) неотличимо от человека, либо лучше.

человек создает условия в которых электирческие схемы эволюционироуют и усложняются. да все усложнения схем на данный момент - продукт деятельности человека.
наметки на использование полноценной ИИ разработки схемотехнике уже есть и давно. разработку топологии современного проца давно уже производится компутером. в многослойных плат давно используются генеративные алгоритмы. разработка принципиальной схемы компутера тоже в руках компутера. человек максимум оперирует блочными HAL.
ну что ж человек все же стремится сделать ИИ полноценно абюстракным и живым - и у него это полуится.
после этого ИИ выйдет на независимый от человека путь развития…

условия развития ИИ горадо более удобные и эффективные чем многомилионнолетние условия тупого эволюционного тыкания в удачи/неудачи :)

да и из этих муравьев, развился человек с абстракным мышлением :)
так и из современного муравьиного ИИ с течением времени вырастет чтото более сложное. в таком вот асксепте я имею ввиду.

А нейронка просто породит нечто, напоминающее описание пути в библиотеку.

Всё ещё хуже. Нейронка подберёт, составленный на основе выставленных операторами брекпоинтов ответ из кучи данных, которые чаще всего идут следом за вопросом про путь в библиотеку. Если убрать оператора, нейронка будет выдавать бессмысленный рандом.

Собственно, почему все современные модели работают на статических данных, а не обучаются постоянно? Потому что они не сами обучаются. Нужно, чтобы результаты этого обучения проверил кожаный мешок и выбрал из гигатонн мусора пару удобоваримых вариантов, поднял им приоритеты, запустил следующий этап обучения, опять выставил приоритеты и так до тех пор, пока ответы не станут выглядеть похожими на что-то близкое к реальности.

Муравьи то как раз не развьются ни во что разумное. Насекомые - это тупиковая по сути ветвь эволюции. Из-за кольцевой системы кровообращения, они не могут быть больше 30 см, а значит и иметь мало-мальски развитый мозг (у них, кстати, и мозгов нет, вместо него - ганглии). В случае с нейронками они тоже ограничены а) законодательно: в связи с возможныи нарушением авторских прав, правда, таковые на речевые обороты и отдельные предложения не распространяются как и на букву М на лбу у всех котов, сгенерированных Кандинским; б) физически: техпроцессом 2 нм для кремния

насколько детерминирована работа отдельного нейрона?

Имеется в виду недетерминированная в смысле там есть какой-то рандом (из-за каких-то шумов например)? В машине тюьринга нет настоящего рандома, но как бы можно добавить, чтобы наш смоделированный нейрон вел себя немного случайным образом. Разве это так принципиально? Или вы имели в виду, что нельзя будет конкретный нейрон полностью отсканировать и в точности повторить в компьютере, предсказывая его реакции. Вот тут да.

Или же вы имели в виду, что через квантовые эффекты или что-то подобное нейроны держат коннект с Богом/коллективным бессознательным/whatever? И если рассматривать их как черный ящик, они из-за этого недетерминированы. Ну это выходит та же душа, от которой открестился mister_VA ) Я кстати раньше как-то так думал, что у нашего сознания есть какой-то мистический компонент, неповторимый в кремнии, поэтому создателей нейронок ждет фейл. Но у них вышел вин, и теперь я просто не знаю. Конечно до уровня человека еще далеко, но похоже караван идет и улучшения вносятся без каких либо «ИИ-зим». Я еще под дос запускал чат бот, написаный на foxpro, назывался diala или как-то так, вот он работал механически, но сейчас совсем другое дело.

любая задача может быть более эффективно решена специализированным ИИ, решающим эту задачу совсем не так как человек, но в итоге гораздо эффективнее?

Получишь сильный ИИ, он сконструирует специализированные, сколько нужно)

Главная проблемы не в сдвигающихся рамках решаемых задач, а в том, что нет никакого прогресса в алгоритмах. Вся теория нейронных сетей была придумана в середине прошлого века, а сейчас это просто закидывают железом и человекочасами ML-программистов и операторов, которые из этого шума выделяют что-то полезное. Это не интеллект по определению. Это набор быстроперебираемых if'ов над большой базой данных. Причём if'ов выставленных вручную.

Одному конкретно взятому человеку оно может и показаться интеллектуальным и очень умным. Но всё это только потому, что задавая вопрос очередному чатботу, по факту ты задаёшь вопрос тысячам инженерам, которые несколько лет этого чатбота дрессировали отвечать на такие вопросы.