Каким вы видите будущее нейросетей?

Искусственное устройство, решающее интеллектуальную проблему — искусственный интеллект.

В качестве примера такого устройства можно придумать весы, определяющие, нужно ли человеку похудеть. По-моему это вполне тянет на интеллектуальную проблему. Здоровье это важно. В качестве реализации можно использовать фанерку, на которой написано «Пора худеть». Ты встаёшь на весы, читаешь надпись и вжух — интеллектуальная проблема решена.

Но нет, 1С не является даже слабым ИИ, насколько я понимаю, поскольку интеллектуальную деятельность там всё же оператор выполняет

Ну, вот на втором шаге вы уже начинаете вилять определением какая деятельность интеллектуальная, а какая не совсем. ЧТД

Сильного ИИ пока нет. Но и фундаментальных проблем для его создания нет.

Да. Есть чисто технические сложности:

1. Непонятно что это такое.
2. Неопнятно как его сделать.

Дело плёвое, начать да кончить.

так и не отмерли и переводчики всякие, когда есть гуглотранслей и скайп лет 15 в реальном времени переводить умеет

Скайп и гугл-транслейт гарантию на перевод не дадут. И спросить с них не выйдет. А с человека можно.

Вот такие казусы человек не допустит.

Риэлторы тоже не вымрут.

Главная проблемы не в сдвигающихся рамках решаемых задач, а в том, что нет никакого прогресса в алгоритмах

Есть такое. Но это две разные проблемы. Одна философско-полемическая, другая техническая. Мы-то выше несколько другое обсуждали.

А так, с тем, что конкретно LLM переоценены (хоть и могут быть весьма полезны даже уже сейчас, но они не являются дорогой к «сильному ИИ»), я согласен.

Нейросеть в компьютерах не имеет ничего общего с нейронами в нашей голове.

Тут в треде уже упоминалось, что связи в мозге непостоянны. Они создаются и разрушаются. Сейчас, когда ты холиваришь в этом тредике, у тебя мозг перестраивается. А нейросеть - это простой линейный алгоритм с добавлением рандома для имитации обучаемости.

Чтобы научить нейросетку управлять автомобилем и входить в поворот, люди выставляют граничные условия(скорость, угол поворота, количество возможных коректировок курса) и путевые отметки, запускают нейросетку, она в рамках граничных условий пробует 100500 вариантов пути. С помощью какого-то маленького процента путей сетке удаётся довести машинку до путевой отметки. Для этих путей повышается приоритет, запускается следующая итерация с учётом приоритетов и так далее. В процессе помимо, прочего, люди корректируют граничные условия. И так через множество итераций с помощью человека нейросетка в итоге находит оптимальный путь и кладёт его в базу.

Я имел в виду, что нейрон это химия, это не цифровая машина, а аналоговая. Какой-то гормон должен прицепиться к какому-то рецептору, а может и не прицепиться, а может прицепиться но с немного другой задержкой, и так далее. То есть, насколько работа нейрона рандомизирована. Я на этот вопрос ответа не знаю, не компетентен. Смысл не в том, что душа с богом соединяется, а в том, насколько было детерминировано гениальное озарение, которое меня на прошлой неделе озарило, и если повторить все тоже самое, что было неделю назад, озарит оно меня снова или нет?

В качестве примера такого устройства можно придумать весы, определяющие, нужно ли человеку похудеть. По-моему это вполне тянет на интеллектуальную проблему. Здоровье это важно. В качестве реализации можно использовать фанерку, на которой написано «Пора худеть». Ты встаёшь на весы, читаешь надпись и вжух — интеллектуальная проблема решена.

В этом случае интеллектуальную проблему «с какого веса надо начать худеть» решил инженер, спроектировавший весы, задолго до измерения. Весы лишь измерение производят. А вот если прибор отслеживает динамику твоего веса, твои нагрузки за день и твой рацион, и на основе этого даёт какие-то рекомендации — тогда да, он уже решает интеллектуальную проблему.

Ну, вот на втором шаге вы уже начинаете вилять определением какая деятельность интеллектуальная, а какая не совсем. ЧТД

Где вы это увидели, я пока вполне последователен. Хотя я не спорю, что определение «интеллектуальной деятельности» весьма туманное само по себе, и их можно множество противоречивых придумать, как и с интеллектом (о чём я выше говорил). Вплоть до определения вида «деятельность, на выполнение которой способен только представитель вида Homo Sapiens», к которому многие склоняются (но никак честно об этом не скажут).

Да. Есть чисто технические сложности

С сильным ИИ? Есть, конечно. Вы назвали две, главных. Я этого же и не отрицаю. Только здесь есть и другая, нетехническая проблема:

3. Зачем его делать? Ради чего?

В любом случае, давайте не будет путать «ИИ» и т.н. «сильный ИИ».

А так, с тем, что конкретно LLM переоценены (хоть и могут быть весьма полезны даже уже сейчас, но они не являются дорогой к «сильному ИИ»), я согласен.

Да, я именно про это.

Зачем в это верить?

Не хотите — не верьте.

Здесь достаточно того, что все перечисленные элементы реализуемы

А хотите верьте. Вот в это вот самое.

получится ИИ, способный решить задачу по объяснению пути до библиотеки (и прочие задачи, требующие геолокации, понимания текущего времени и определения свойств вопрошающего) неотличимо от человека, либо лучше.

Получится устройство, которая может построить маршрут, но не может понять кто у неё спрашивает, что, зачем, чего он этим хочет сказать и т.п. Спасибо конечно, но такой ИИ уже лет 15 как у всех автовладельцев в навигаторах стоит и отлично работает.

Вот такие казусы человек не допустит.

История показывает, что допускает. Не ровно такие, но подобные, в том числе приводящие к серьёзным последствиям.

Каким вы видите будущее нейросетей?

Никаким.

Хотя я не спорю, что определение «интеллектуальной деятельности» весьма туманное само по себе

То при желании что угодно можно назвать искусственным интеллектом. Очень удобно, но непонятно зачем.

Я имел в виду, что нейрон это химия, это не цифровая машина, а аналоговая. Какой-то гормон должен прицепиться к какому-то рецептору, а может и не прицепиться, а может прицепиться но с немного другой задержкой, и так далее.

Ну, если там процессы не подшаманивает на квантовом уровне какая-то метафизическая сущность, и в мозгу нет антенны для связи с Богом, то химия же должна симулироваться нормально, в будущем конечно, когда все эти процессы будут изучены, и будет достаточно компьютерной мощи?

То при желании что угодно можно назвать искусственным интеллектом. Очень удобно, но непонятно зачем.

Ну вообще-то я согласен. Поэтому я первым практически никогда не употребляю это понятие — слишком уж оно туманное, но главное даже не это, а то, что его понимают все по-разному, у кого-то «ИИ» это автоматически синоним «сильного ИИ», у кого-то и бот из Metal Gear Solid, ходящий по заданному маршруту и поднимающий тревогу, если игрок попал в конус зрения — «ИИ». Именно поэтому я предпочитаю использовать другие термины: NN (нейросети), или с уточнением (генеративные, трансформеры, и т.д., LLM, ещё что).

да в том то и дело, что симулировать этот процесс можно только статистически - в среднем нейрон должен вести себя вот так то. Но в каждом единичном случае, это какая-то молекула, которая по каким-то каналам плывет и она может каким-то непредсказуемым образом каким-то не тем боком повернуться и не прелипиться к другой молекуле или прилепиться но не так и не туда. Никаких квантовых приколов, сугубо химические приколы.

Нейросеть в компьютерах не имеет ничего общего с нейронами в нашей голове.

Дядя ты в курсе что такое математическая модель? С тем же успехом можно утверждать, что вся механика – это чушь, на самом деле всё не так происходит.

Я-то как раз в курсе. А ты?

Вся теория нейронных сетей была придумана в середине прошлого века, а сейчас это просто закидывают железом и человекочасами ML-программистов и операторов, которые из этого шума выделяют что-то полезное

ДНК вообще «была придумана» миллиарды лет назад. И с тех пор ничего нового не появилось. Но есть нюанс…

Да при чём тут это?

Настоящий ИИ возможен только в «настоящем теле»,

Потому что за неправильный ответ можно получить в морду. Что резко повышает уровень осознанности и ответственности говорящего. Нейронка вам предложит в торт для вкуса стрихнину подложить и что вы ей сделаете?

Я-то как раз в курсе

А по-моему нет.

Да при чём тут это?

я не знаю, это не моя цитата и ни я ни мои комментарии не имеют к ней ни малейшего отношения

В данной аналогии молекулы ДНК - это язык программирования, который позволяет генерировать белки. Комбинации этих молекул(не только конкретные «буквы», но и просто их расположение - например, бывают участки ДНК-цепочки, содержимое которых не важно, они работают как goto на следующий этап) кодируют какие белки будут сгенерированы, в каком количестве и когда. Вариантов бесконечное количество и в процессе эволюции они постоянно меняются. Создаются новые, уходят старые. Т.е. прогресс не стоит на месте, появляются новые алгоритмы и решения. В отличие от нейросетей, которые увы не развиваются.

Спасибо, что подкинул отличный пример.

Будущее нейросетей обещает быть увлекательным и преобразовательным. Давайте рассмотрим несколько аспектов:

1. Продолжительное развитие: Нейросети продолжат развиваться, становясь более мощными и универсальными. Мы увидим новые архитектуры, более эффективные методы обучения и более точные результаты.

2. Мультимодальные модели: Нейросети будут способны обрабатывать не только текст, но и другие типы данных, такие как изображения, звук и видео. Это откроет новые возможности для создания интеллектуальных систем.

3. Интеграция в повседневную жизнь: Нейросети будут все больше встроены в нашу повседневную жизнь. Они помогут автоматизировать рутинные задачи, улучшать медицину, образование, транспорт и другие области.

4. Этические вопросы: Возникнут новые этические вопросы, связанные с применением нейросетей. Как обеспечить прозрачность, безопасность и ответственность при использовании ИИ?

5. Обучение и образование: Нейросети будут играть ключевую роль в образовании, помогая студентам и преподавателям. Они также могут создавать учебные материалы и автоматически оценивать знания.

В целом, будущее нейросетей обещает быть захватывающим и полезным для человечества. Но, как всегда, важно следить за развитием технологий и учитывать их воздействие на общество и индивидуумов

Звучит как ответ от нейросети.

Потому что за неправильный ответ можно получить в морду. Что резко повышает уровень осознанности и ответственности говорящего.

Это слишком высокий уровень абстракции. Из возможности получить в морду напрямую не следует, что человек будет давать правильный ответ. Следует через несколько этапов. Человек имеет понимание, что за неправильный ответ можно получить в морду; человек понимает, что если он получит в морду, будет больно и опасно; человек, в виду биологической приспособленности, избегает боли и опасности, причём на уровне ниже сознательного ⇒ человек избегает ситуаций, при которых он будет подвергнут опасности и испытает боль ⇒ он имеет намерение дать правильный ответ вместо неправильного.

С ИИ не обязательно эмулировать всю цепочку от морды до избегания. Можно заложить «негативный стимул» (при желании можно даже эту подсистему обозвать его «болью», но это всего лишь абстракция в данном случае), которого нейросеть будет всячески избегать, точно так же выстраивая своё поведение. Точно так же можно дать ей понять, что за неправильный ответ будет этот самый негативный стимул. В таком случае вполне можно обойтись и без физической морды и даже без непосредственно реакции того, с кем ИИ коммуницирует.

Можно заложить «негативный стимул»

Чем это отличается от обучения?

Ничем по сути.

И человек точно так же обучается, как не получать в морду. С рождения этим навыком никто не обладает. Некоторые, правда, бывает так и не научаются никогда…

Более того, картинки/музыка/видео от ии станет неотличима от творчества людей. ИМХО это плохо.

Да в принципе такое уже есть, наверное. Suno может вполне нормальный результат выдать иногда. Только вот песня это не только музыка и текст, это ещё то что вокруг неё — личность автора, исторический и культурный контекст. Есть конечно люди которые вообще не интересуются исполнителями, которых слушают, или просто слушают фоном, вот они наверное нейросетевую будут слушать. А нейросети смогут делать аллитерации, отсылочки в текстах? Научить наверное можно, но вряд ли будут, это только задротам нужно. Задроты всегда будут, так что авторов ИИ не заменит полностью. Но может помочь, например, сделать набросок, можно что-то нагенерировать и потом взять за референс, что плохого-то)

Ничем по сути.

Тогда ой, возвращаемся к ситуации: «человеку важно сохранить физиономию, а нейронка просто порождает нечто, похожее на ответ».

И человек точно так же обучается,

У человека есть самосознание. Он непрерывно сам себя обучает, на основе концепции своего я и некоей модели мира, в котором это «Я» находится. Т.е. между человеческой рефлексией и настройкой нейронки в принципе мало чего общего и называть это одним словом «обучение» суть жульничество.

У человека есть самосознание. Он непрерывно сам себя обучает, на основе концепции своего я и некоей модели мира, в котором это «Я» находится.

Верно. И об этом я выше говорил — для сильного ИИ нужно некоторое «железо», взаимодействуюещее с окружающим миром.

Да и не для сильного могут быть порой весьма полезны.

Т.е. между человеческой рефлексией и настройкой нейронки в принципе мало чего общего и называть это одним словом «обучение» суть жульничество.

Во-первых, не «т.е.», потому что даже если принять второе утверждение за истинное, оно никак не следует из первого. Ну а во-вторых, общего всё же достаточно много, чтобы можно было использовать этот эпитет. Да, различного тоже много, само собой. Но никакого жульничества тут нет. Не придумывать же по новому слову для каждого нового процесса, в чём-то подобного уже существующему, но отличающемуся. Вас же не напрягает, что компьютер или даже вентилятор — «работает», хотя и с тем, как работает человек, у этого мало общего; ну или даже сам термин «нейросеть» для сущности, не состоящей из физических нейронов? Или смущает? Да, обучение нейросети человека и обучение нейронки в комплюхтере — не одно и то же. Но никакого жульничества тут нет — переиспользование слов для новых понятий, для которых нет отдельного слова — обычная практика живых человеческих языков (кстати то, что языки «живые» вас не смущает? ;)).

Прибежали в избу дети,
Триумфально хохоча:
Тятя, тятя, нейросети
Оживили Ильича!

собственно, в англоязычной традиции это и не teaching, а training

...какой ты мизантроп...

Знавал, кстати, чувака, который даже гордился тем, что он, дескать — мизантроп.

...мир изменится радикально: человеческий труд еще больше обесценится, тотальный контроль усилится и т. д. Одним словом, станет только хуже.

И не поспоришь. И, да, ИИ в этом вале негатива совсем не при чем.

Этические вопросы

Разрешать ли однополые браки ИИ с ИИ

Относительно скоро появится полноценный ИИ мощнее людей -> Строго запретят как разработку оружия массового поражения

Так что я бы добавил последнему пункту баллов

В отличие от нейросетей, которые увы не развиваются.

Перцептрон vs GAN-сети. Ну да, совсем не развивается. База сети нейрон, как база ДНК аминокислоты. Как ты сам сказал, есть разница как соединять и т.д. Собственно в природе тоже есть сетки разной сложности.

Знавал, кстати, чувака, который даже гордился тем, что он, дескать — мизантроп.

Обычно такое проходит вместе с прыщами.

Ну как это ни при чем? Раньше нужно было кассиру платить, бухгалтеру, водителю хоть какие-то деньги, чтобы он не умер с голоду и работал. Если их заменят роботы то где они работать будут?

Склады Амазона это нагляднейший пример того, о чем я говорю. Благодаря роботам люди там стали вкалывать больше, работа их стала еще менее интеллектуальной, заменить их стало проще, прав иметь меньше, и получать меньше (если сравнить с покупательной способностью на аналогичной работе раньше).

так и не отмерли и переводчики всякие, когда есть гуглотранслей и скайп лет 15 в реальном времени переводить умеет

Гуглтранслейт переводит между русским-английским хуже, чем человек со средним знанием этих языков. Про перевод например между японским и английским я вообще молчу, там иногда весь смысл теряется или меняется с ног на голову.

Есть ещё например DeepL, он местами получше, но там вылезает нейромаразм - например вставка текста, которого вообще в оригинале нет.

Так что переводчики ещё очень даже нужны. Или не дай б-г сложный технический или юридический документ, такое вообще только человек-эксперт может перевести.

Раньше нужно было кассиру платить, бухгалтеру, водителю хоть какие-то деньги, чтобы он не умер с голоду и работал. Если их заменят роботы то где они работать будут?

Они будут работать на другой работе, очевидно же.

Несколько сот лет назад значительная часть населения всех стран фигачила в поту в полях - добывала хлеб. В африке кстати до сих пор фигачат.

Потом это дело в значительной степени механизировали, а потом автоматизировали, оставили всяких сеятелей-пахарей без работы. Но в итоге люди просто начали заниматься чем-то другим, сейчас вот изобретают процессоры и всякую фигню в космос запускают.

Технологическая безработица конечно неприятна, но она необходимый спутник улучшения качества жизни всех. Быть против этого и одновременно вкушать все блага автоматизации в виде всяких компьютеров и автомобилей - это лицемерие.

Ну и в довесок, нейронки всякие вряд ли повлияют сильно.

Я пока не видел какого-то радикально эффекта. Сейчас их пихают куда угодно, но в итоге они влезли только в те сферы, где человек не особо был нужен (типа генерации спама или картинок для привлечения внимания), а для более сложных задач они не годятся.

Ну и в довесок, нейронки всякие вряд ли повлияют сильно.

но в итоге они влезли только в те сферы, где человек не особо был нужен (типа генерации спама или картинок для привлечения внимания), а для более сложных задач они не годятся

Вообще-то они неслабо так помогают химикам, биологам и медикам. Для разработки новых лекарств, аналогов старых, например. Астрономы тоже юзают — для обработки «фоток» участков неба, на предмет появления там новых объектов (нет, обычные не нейросетевые алгоритмы там так себе справляются, раньше юзали труд добровольцев в основном, да и сейчас продолжают, но нейросетки сильно помогают). Всяким археологам они тоже помогают — недавно с помощью какой-то хитрой нейросетки удалось прочитать горелый папирус. Была его томограмма, и сетка восстановила по ней собственно текст на слоях свитка, как единый лист. Без сетки там вообще никак было. В общем много есть сложных задач, где они очень даже годятся — и вместо человека и там, где человек вообще бы не справился.

Также уже много было разных исследований, показывающих, что ИИ ставит диагнозы по тем же данным точнее, чем человек-врач. Пока это не внедряется на практике (в основном по этическим вопросам, да и вообще надо получше всё изучить, узнать все подводные и т.д.), но такой вариант использования явно не за горами.

Ну а так ещё они сейчас вовсю используются также для генерации контента для говноигр. Визуальных новелл в первую очередь. Раньше там нужен был человек, теперь нет. Да, сами по себе говноигры не нужны, но вот некоторые ушлые персонажи сейчас вообще без усилий поднимают на них деньги.

Скорее всего «аффторы» по типу Донцовой, которые раньше использовали труд т.н. «литературных негров» исключительно, теперь наверняка перешли (или скоро перейдут) на нейросетки + один редактор-человек (который требовался и раньше всё равно), что очень-очень сильно удешевляет процесс производства «романа» (если это можно так назвать). Более того, думаю, что качество результата от этого только повысится — нейросетка всяко может лучше сделать связное произведение, чем пять слабомотивированных студентов, которые ещё и не знают, что пишет каждый другой.

Так что нет, не соглашусь. Всё же они уже довольно активно юзаются. Как на пользу (в основном в науке), так и для всякого говна, но такого, где раньше были заняты кучи людей.

Ну и для развлечений тоже ничего. Например вот музыкальные AI-кавера бывают весьма прикольны. Ну там, голосом умершего певца какую-то новую песню спеть, или в другом жанре чисто ради прикола, и т.д. и т.п. Да, это просто развлекалово, но получается уже даже сейчас весьма недурно.

Они будут работать на другой работе, очевидно же.

Мне, например, это совсем не очевидно. Обычно, когда закрываются целые отрасли то люди оказываются на улице. В лучшем случае у них получается торговать трусами с раскладушки.
На другой это какой, например?

сейчас вот изобретают процессоры и всякую фигню в космос запускают.

Да-да, те кто таскали плуг стали проектировать процессоры.

Вот те же автомобили, судя по всему, водят они достаточно успешно. А это самая популярная профессия в США, на минуточку.

Кстати, про каверы. Я тут недавно кавер на Говновоз [1] услышал. Долго не мог поверить, что это ЭВМ сделал. Это лучше чем 90% того что я слышал сделанного людьми.

https://www.youtube.com/watch?v=r-X3jbIy2Dw

Да, оно сейчас делает так, что действительно уже не отличишь от человеков. Я тут тоже недавно скидывал, на что натыкался интересного.

Да-да, те кто таскали плуг стали проектировать процессоры.

Ну через пару поколейний-то вполне. А некоторые мб даже в следующем.

Это невозможно. Плуг таскало 90% населения а проектировать процессор *способен*, дай бог, если 5% населения. Я даже думаю, что цифра ближе к 0.5%.

Давай, расскажи мне как stable diffusion или например это https://thispersondoesnotexist.com/ ищет результат по базе? Где там база то, покажи откуда оно картинку тырит.

У нейросетей хорошее будущее они продолжат развиваться. А вот людей увы эта участь не коснется