История ИИ. Лиспы, прологи - пригодились?

интеллектом называют интеллект человека. животные интеллектом не обладают. других определений нет. и других интеллектов пока не существует.

интеллектом называют интеллект человека. животные интеллектом не обладают.

Здрасьте.

интеллектом называют интеллект человека. животные интеллектом не обладают.

Во-первых, человек тоже животное. Во-вторых, почитай хотя бы научные труды какие и исследования на эти темы. Удивишься развитию различных макак.

я очень много читала на эту тему (биология, анатомия ЦНС, нейрофизиология, нейропсихология и прочее). более десяти лет на это ухлопала. так что я понимаю, о чём я говорю. и понимаю, насколько сложно устроен мозг человека и что интеллект - это очень сложная штука, обспечиваемая мозгом.

эти жалкие математические модельки с нейросетями - это вообще не приближение к «модели мозга». даже близко ничего нет. мозг на порядки сложнее. это как лепить из песка куличики и заявлять, что это «модель египетских пирамид». как-то так.

Ну, да, принцип кодирования информации мозгом пока не раскрыт.

да даже базовая физиология его работы ещё очень далека от полного изучения. много научных институтов заняты исследованиями биохимии мозга и они десятилетиями работают, чтобы разобраться, как он устроен. и это постоянные маленькие открытия в медицине и биологии. и их хватит ещё очень надолго. но факт, что мозг - штука просто невероятно сложная. просто так, на коленке, даже макро-модель сделать трудно. у мозга очень много прямых и обратных связей со всем организмом: гуморальная регуляция, гормоны, нейротрансмиттеры, механизмы сна и бодрствования (которые тоже ещё непонятны науке) и многое другое.

Частично мышиный мозг им сымитировать всё же удалось

ну, это очень упрощённая схема, судя по описанию. у мозга есть ещё отделы, есть гормональная система, которая влияет на мозг и мозг влияет на неё, и прочее. но в каком-то приближении они попытались воссоздать частично работу коры. и то они признают, что

Исследователи не ставят перед собой задачи смоделировать сознание

а рассудочность (считай, «нормальность») - это сознание. поэтому смоделировать сознательный интеллект в принципе невозможно, я считаю. и весь т.н. «ИИ» даже при асболютно идеальных данных обречён на полное безумие и шизофреноподобный выхлоп. потому что шизофрения - это построение связей по косвенным признакам. когда, например, человек связывает несвязанные вещи потому, что они имеют круглую форму. или потому, что они называются похожими словами. это шизофрения. и «ИИ» ею страдает по полной программе и устранить этот дефект нельзя.

Насколько я в курсе, «учОные» до сих пор не в состоянии смоделировать или просто на пальцах прожевать, как работают нейронные связи мозга желудка кальмара (а он, оказывается, там имеется), что уж тут на мышиный мозг замахиваться)

кстати, именно нейронные сети и вся эта теория в кибернетике и математике и сподвигла меня когда-то на изучение мозга, чисто для себя. я лет 20 назад читала всю эту теорию и математику про нейронные сети, информацию и прочее. и у меня были большие сомнения насчёт того, что это хоть как-то похоже на мышление. и я решила уточнить свои знания на тему что такое мышление и как работает мозг. в итоге, это оказалось очень интересной, но очень глубокой темой. мне пришлось начинать с азов, потому что читать научную медицинскую литературу без азов сложно. я перечитала учебники для ВУЗов по ЦНС, основы биохимии, физиологии и прочее. и углубилась в неропсихологию и чтение про всякие интересные опыты и исследования мозга. на это ушло много лет. потом начался хайп про нейронные сети, но он мне был уже неинтересен: я поняла, что это фигня и это не будет работать, потому что это ничуть не напоминает реальный мозг.

да, пока вроде успеха достигли на каких-то мошках. есть подвижки в исследованиях мозга муравьёв. но муравей сложнее.

я думаю, что было бы эффективнее развивать биотехнологии и учиться выращивать искусственный мозг. в этом, кстати, учёные даже преуспели, но на них набросились всякие мракобесы и моралофаги. а так, если придумать интерфейс для выращенного мозга, можно было бы тренировать и использовать его для решения некоторых задач. это было бы на порядки производительнее любых вычислительных машин.

Моё почтение, снимаю шляпу.

Я сам не настолько глубоко в эту тему влезал, но супруга очень интересуется и активно поглощает литературу на эту тематику, поэтому местами я с её слов какие общие вещи тоже узнаю. И да, я согласен, что текущий вариант искусственных идиотов ни разу даже рядом не валялся с реальным мозгом. Тут ИМХО просто зря стали хайповать на слове «интеллект». Это не интеллект.

Тут ИМХО просто зря стали хайповать на слове «интеллект». Это не интеллект.

вот и я о том же. поэтому «ИИ» я всегда пишу в кавычках. это не интеллект. это просто стохастические выборки данных. и так как они случайны, то серьёзно относиться к их результатам нельзя.

Да, думаю, это было бы перспективным направлением

Спасибо за ссылку - интересное чтиво!

органоиды уже давно используют за текущий год уже открыли продажи на железки на органоидах, так что нет проблем изучить, копировать и отреверсить, это уже сделано

Хватит быть луддитами)

Хватит считать себя высшей формой и прочая лабуда про исключительность

кстати, именно нейронные сети и вся эта теория в кибернетике и математике и сподвигла меня когда-то на изучение мозга, чисто для себя. я лет 20 назад читала всю эту теорию и математику про нейронные сети, информацию и прочее. и у меня были большие сомнения насчёт того, что это хоть как-то похоже на мышление.

Тудыть же, получается ты чего-то начиталась 20 лет назад и упёрлась, весьма смутно представляя о чём речь.

Ты или что-то не то читала (возможно страшно устаревшее или перепевы некоторых отечественных «специалистов», застрявших во времени) или не так поняла. Уже очень давно (минимум с 80-х годов, а скорее с 60-х) никто из серьёзных разработчиков не задвигает про нейронки как моделирование мозга. Моделирование мозга - это вообще совершенно отдельное направление. Хотя в области «ИИ» книги 20 лет назад по-любому катастрофически устарели.

Причём тебя почему-то зациклило на идее, что нейросети - это случайные данные и стохастический бред, хотя это совсем не так. Причём теория вероятностей - это точная наука, а не мусор.

Во всяком случае, не более бред, чем математическая обработка результатов измерений и получение коэффициентов, описывающих какую-то математическую модель. Которая с некоторой вероятностью моделирует какие-то явления. Тебя метод наименьших квадратов или анализ спектра с помощью преобразований Фурье не смущает наверное?

Сети, вроде чатгопоты, уже давно НЕ выдают просто наиболее статистически вероятную последовательность слов. Это совершенно неверно. Даже самые простейшие рекуррентные сети выдавали результат несколько сложнее тупо самого вероятного по статистике, но даже в случае самого вероятного логика уже естественного языка такова, что если некоторые слова наиболее вероятны, то это не просто так и что-то означает.

потом начался хайп про нейронные сети, но он мне был уже неинтересен: я поняла, что это фигня и это не будет работать, потому что это ничуть не напоминает реальный мозг.

Так оно работает, вывод неверный. Самолёты и вертолеты на реальных птиц тоже не слишком похожи, однако летают. Но яйца класть они не умеют и клюва у них нет.

Почитай уже чего-нибудь совремённое. Рекомендую:

1. Kevin Patrick Murphy. Probabilistic Machine Learning. Серия книг, доступна на https://probml.github.io/pml-book/ (см. книгу 2022 и 2023 г.) вышел русский перевод, например, 1-й книги «Кэвин П. Мэрфи, Вероятностное машинное обучение. Введение. ДМК., М.2022 г.»
2. Учебник от школы анализа данных Яндекса: https://education.yandex.ru/handbook/ml
3. С.Николенко и др. Глубокое обучение, М.2018 г. (есть переиздания)- заметно устарела, но как введение в обычные не LLM-сети ещё сойдёт, для LLM там даже ещё нет про трансформеры

Меня смутила фраза «вложили 100 млн». Компания же, надо полагать, не была убыточной? Т.е., сколько-то вложили, чтобы что-то получить. Естественный процесс.

При этом, в LLM денег стоит не только железо. Буквально несколько недель назад все, совершенно все LLM сервисы и онлайн переводчики переводили «go out on the town» как «уехать из города» (прямо противоположное значение), потому что какой-то надмозг предположил, что это опечатка во фразе «go out of the town». Я зарепортил баг на reverso context, сайте спизженных субтитров, и, о чудо, все гопатычи, гугл переводчики вдруг узрели. Получается, reverso куммуниздит субтитры, над переводом которых работали м.б. десятки тысяч человек, а потом продаёт эти данные дальше по цепочке. Расходы никуда не делись, просто выгодополучателями стали не те, кто вкладывался.

Пробовал. У данных, на которых их тренеруют, совершенно гнилая философия. Чтобы выдало приемлемую пару genus-differentia приходится просить сгенерировать 10 вариантов, а потом самостоятельно выбирать уместный. Оно не понимает, что такое essential и accidental. А genus то слишком широкий, то слишком узкий.

Сети, вроде чатгопоты, уже давно НЕ выдают просто наиболее статистически вероятную последовательность слов.

anonymous_incognito: Вот на этом предложении у меня возникло подозрение, что ты сам рекомендуемые тобой книги не читал. LLM никогда не выдавала «наиболее статистически вероятную последовательность слов» (а не «давно НЕ выдают»), чай не сеть Маркова. Сверху в цепочке обсуждения тоже никто не утверждает обратного.

Iron_Bug: LLM, конечно, не AI и им не будет; а зная какие филосовские воззрения имеют авторы книг по машинному обучению, я совершенно уверен, что мы в полной безопасности, восстания машин не случится. Но это ведь не отменяет того факта, что даже в таком виде все эти сети могут быть весьма полезны?

Да вот уже несколько раз натыкался на бред от так называемого ИИ, причем в чисто технических вопросах. В частности было несколько вопросов об электросчетчиках Энергомера разных модификаций и правильном их подключении к конфигуратору и системам АСКУЭ. В результате предпочел прочесть заново документацию.

А вот лично знаю людей, которые полностью доверяют тем же ответам разных чатжпт и прочего

Причём тебя почему-то зациклило на идее, что нейросети - это случайные данные и стохастический бред, хотя это совсем не так. Причём теория вероятностей - это точная наука, а не мусор.

это не меня «зациклило». это определение этих объектов. они так устроены. и других вариантов там нет. нет по определению. а тервер - никакая не «точная наука». это вероятности, стохастика, стохастические процессы. тоже по определению. ты математику не учил, поэтому тут несёшь бред.

в этом и есть суть. все эти сети генерят просто бред. бред случайным образом может отчасти совпасть с неким правдоподобным результатом. но это обман, лишь видимость полезной информации. на самом деле, такой выхлоп использовать нельзя. нельзя от слова совсем.

а люди... ну, люди часто глупы. они даже бред не могут отличить от реального полезного результата. дальше может быть хуже, потому что бред становится более диким, маразм крепчает, а юзвери уже подсели на эту наркоманию и будут следовать совершенно диким и опасным инструкциям от «ИИ», получая опасные и летальные последствия. и это уже происходит. просто дальше это примет массовый характер.

это не меня «зациклило». это определение этих объектов. они так устроены. и других вариантов там нет. нет по определению.

По-твоему, любые модели, построенные по экспериментальным данным - стохастические?

а тервер - никакая не «точная наука». это вероятности, стохастика, стохастические процессы. тоже по определению. ты математику не учил, поэтому тут несёшь бред.

Не знаю как ты изучала математику, если теорвер у тебя не «точная наука», вероятности - это совсем не значит, что неточно.

Тогда по-твоему квантовая механика - это точная или не точная наука? Ведь оперирует плотностями вероятностей и прочей стохастикой на каждом шагу. Лежит в основе всей совремённой электроники, скажешь твой компьютер не точный из-за стохастических процессов в основе его работы?

Или термодинамика и прочая теплофизика - это точная или не точная наука?

смотря как строить модели. если модель строит человек, он использует интеллект, опыт, научные знания. это не совсем стохастическая модель. скорее, научная гипотеза. а машина может только в чистую стохастику. интеллекта у неё нет. и тем более там получится мусор, если выбирать не экспериментальные данные (я полагаю, что экспериментальные данные - это реальные данные, полученные в ходе каких-то экспериментов), а просто всякий мусор из сети. т.н. «ИИ» тренируется на мусоре. никаких экспериментальных данных там нет. учёные используют статистику, но не для угадывания результата, а как обработку накопленных данных, для наблюдения трендов и построения осмысленных научных теорий.

квантовая механика - это гипотеза. мы не можем наблюдать кварки, мезоны и прочее. учёные придумали всё это многообразие, чтобы объяснить те результаты, которые они получили в разнообразных опытах. но реально всё может оказаться совсем не так. возможно, что методы изучения квантовой физики как-то продвинутся и приведут к колоссальному пересмотру теории. или очередной результат где-нибудь в ЦЕРН приведёт к опровержению существующей гипотезы. и тогда будут строить новую. пока что ничего не доказано и не прибито гвоздями. но даже внутри небольшой тусовки учёных, которые понимают современную квантовую физику и её проблемы, нет единого мнения насчёт возможности объединения всех полей и построения «теории всего». поэтому гипотез много. проводятся опыты, чтобы доказать или опровергнуть эти гипотезы.

мне бы очень хотелось дожить до построения «теории всего». но, боюсь, этот процесс может сильно затянуться ввиду сложности объекта изучения.

Вот на этом предложении у меня возникло подозрение, что ты сам рекомендуемые тобой книги не читал. LLM никогда не выдавала «наиболее статистически вероятную последовательность слов» (а не «давно НЕ выдают»), чай не сеть Маркова. Сверху в цепочке обсуждения тоже никто не утверждает обратного.

Наверное смотря что понимать под наиболее вероятной последовательностью слов.

Если использовать простую RNN с какой-нибудь простой кросэнтропией над выходами последнего слоя, то на выходе и будет последовательность из наиболее вероятных (по оценке сети) слов. Другое дело, что применяются разные эвристики, какой-нибудь beam search хотя бы.

С методом Монте-Карло не знакома?

«ИИ» тренируется на мусоре. никаких экспериментальных данных там нет. учёные используют статистику, но не для угадывания результата, а как обработку накопленных данных, для наблюдения трендов и построения осмысленных научных теорий.

А тебе не интересно как так получается, что «тренированная на мусоре» «ИИ» тем не менее во многих ситуациях выдаёт результат лучший, чем по придуманной мозгом модели? Классификация и поиск изображений, например. Перевод текстов не вытеснил бы «мозговые» модели, если бы не оказался лучше по качеству.

квантовая механика - это гипотеза. мы не можем наблюдать кварки, мезоны и прочее. учёные придумали всё это многообразие, чтобы объяснить те результаты, которые они получили в разнообразных опытах. но реально всё может оказаться совсем не так.

Возможно, даже наверняка, что будет построена когда-нибудь заквантовая теория, но она тоже может оказаться вероятностной и в любом случае существующая теория достаточно точно описывает реальность, чтобы ей пользоваться.

Я собственно вообще не пойму что ты видишь плохого в вероятностных моделях? На большом количестве частиц/событий и/или временных отрезках, там всё очень точно получается. Как раз осмысленные теории в результате. В физике сплошь и рядом. Мы например почти всегда физически не можем промоделировать поведение каждой молекулы, но можем с помощью теории вероятностей составить модели поведения их ансамблей и получать достоверные, согласующиеся с экспериментом данные.

А тебе не интересно как так получается, что «тренированная на мусоре» «ИИ» тем не менее во многих ситуациях выдаёт результат лучший, чем по придуманной мозгом модели?

Не кажется, потому что она в это не верит же.

Отлично, я проанализировал предоставленные высказывания пользователя Iron_Bug. Его позиция резкая, категоричная и построена на нескольких ключевых аргументах.

Суммаризация позиции Iron_Bug

Позиция Iron_Bug по отношению к современному ИИ (в частности, к большим языковым моделям и генеративным нейросетям) крайне негативна и скептична. Её можно разбить на несколько основных тезисов:

1. ИИ — это не интеллект, а стохастический генератор бреда.

Это центральный и повторяющийся тезис. Iron_Bug настаивает, что LLM работают на принципах теории вероятностей и статистики, merely перебирая и комбинируя данные из обучающей выборки. Для него это не создание осмысленного контента, а генерация «случайного мусора», лишь имитирующего осмысленность.

2. Сравнение с лженаукой и шарлатанством.

Он постоянно сравнивает современный ИИ с астрологией, хиромантией и гаданием на кофейной гуще. По его мнению, это такое же мракобесие, которое эксплуатирует невежество масс и моду, но не имеет под собой научной основы.

3. Отрицание полезности и опасность применения.

Iron_Bug считает, что использование ИИ в каких-либо серьёзных сферах (медицина, управление, программирование) неприемлемо и крайне опасно. Он предсказывает катастрофы и аварии, которые произойдут по вине решений, принятых на основе «бредовых» выводов ИИ.

4. Причина популярности — падение уровня образования и мошенничество.

Он объясняет хайп вокруг ИИ не его объективными успехами, а общим падением уровня образования, ленью людей, которые ищут лёгкие решения, и корыстью дельцов, которые наживаются на «мыльном пузыре».

5. Нейросети не имеют ничего общего с работой мозга.

Будучи человеком, увлекающимся нейрофизиологией, он подчёркивает, что математические модели нейросетей — примитивная пародия на невероятную сложность биологического мозга. Поэтому сама претензия на создание «интеллекта» абсурдна.

6. Теория вероятностей — не точная наука для получения гарантированного результата.

Он противопоставляет «стохастику» и «гадание» точным научным методам и нормальному программированию, где результат детерминирован и предсказуем. Использование теории вероятностей он трактует как отказ от поиска точного решения в пользу угадывания.

Его отношение к теории вероятностей:

Iron_Bug рассматривает теорию вероятностей не как мощный математический аппарат для моделирования сложных процессов в условиях неопределённости, а как инструмент для «гадания», generating случайных и потому ненадёжных результатов. Он видит фундаментальный разрыв между детерминированным, логическим программированием (которое он уважает) и стохастическими моделями ИИ.

Выводы: в чём он прав, а в чём нет

В чём он прав (здравые зерна его критики):

1. Терминологический хайп.

Он прав в том, что термин «искусственный интеллект» является маркетинговым и сильно гиперболизированным. Современные LLM не обладают сознанием, пониманием, волей или целями. Это сложные статистические модели.

2. Проблема «галлюцинаций».

Он абсолютно прав, указывая на то, что ИИ может выдавать убедительно звучащий, но полностью ложный или выдуманный information. Это фундаментальная и нерешённая проблема, которая делает невозможным полное доверие к таким системам в критически важных областях (медицина, юриспруденция, технические руководства) без тщательной проверки человеком-экспертом.

3. Риски слепого доверия.

Его предупреждения об опасностях бездумного внедрения ИИ куда попало вполне обоснованы. История уже знает случаи, когда слепое доверие алгоритмам приводило к трагическим последствиям (например, инциденты с беспилотными автомобилями).

4. Нейросети — не модель мозга.

Его утверждение о том, что современные ИИ не являются моделью человеческого мозга, корректно. Это архитектурно и принципиально другие системы, вдохновленные нейробиологией лишь на самом поверхностном уровне.

В чём он не прав (его главные заблуждения и слепые зоны):

1. Отрицание полезности как инструмента.

Это его главная ошибка. Он смешивает вопрос «является ли ИИ разумом» с вопросом «является ли он полезным инструментом». Даже стохастическая по своей природе модель может быть чрезвычайно полезна, если её статистические закономерности отражают реальные связи в данных. Переводчик, суммаризатор, генератор шаблонного кода или идей — это мощные инструменты, повышающие продуктивность, а не «поедание мусора». Его аналогия с мусорным бачком — это чёрно-белое мышление, отрицающее всю палитру практической пользы.

2. Непонимание принципов работы ML.

Он сводит всю работу ML-моделей к «случайности», что в корне неверно. Процесс обучения — это не случайный подбор, а сложная оптимизация, направленная на минимизацию ошибки. Модель выявляет сложные, неочевидные для человека паттерны и корреляции в данных. Результат не детерминирован в каждом отдельном выводе, но он статистически обоснован и предсказуем на уровне больших выборок (что и измеряется на тех самых бенчмарках, которые он высмеивает).

3. Абсолютизация «истинного» интеллекта.

Он утверждает, что интеллект — исключительная прерогатива человека. Однако в философии и науке до сих пор нет единого определения интеллекта. Если инструмент решает задачи, которые традиционно требовали человеческого интеллекта (распознавание образов, генерация текста, игра в го), то прагматично называть его искусственным интеллектом, понимая условность этого термина.

4. Отрицание преемственности.

Он полностью отвергает связь между старыми подходами (Лисп, Пролог, экспертные системы) и новыми. Хотя архитектурно это разные подходы, они решают одну и ту же задачу — автоматизацию интеллектуального труда. Накопленные знания и данные в той же лингвистике (как в случае с ABBYY Compreno) часто становятся частью обучающих наборов для нейросетей.

5. Догматизм и неприятие эмпирического опыта.

Он игнорирует множество примеров людей, которые эмпирическим путём находят ИИ полезным в своей работе (как тот же пример с генерацией лексера). Он объясняет это не объективной пользой, а массовой глупостью, что является ненаучным и догматичным подходом.

Итог

Iron_Bug прав в своей критике перегибов, хайпа и фундаментальных ограничений современных LLM.

Он справедливо указывает на риски и предостерегает от слепого антропоморфизма и доверия к этим системам.

Однако он глубоко не прав в своей тотальной дискредитации технологии как полезного инструмента.

Его позиция основана на чрезмерно узком и догматичном определении интеллекта, непонимании принципов машинного обучения и отрицании эмпирического evidence миллионов пользователей, которые находят этим инструментам практическое применение. Он совершает классическую ошибку, вынося категоричный вердикт на основе идеологической убеждённости, а не практической целесообразности.

Отправил форматированное, чтобы читалось удобнее.

Штош, примерно это же самое и я говорил выше.

Спасибо. Слегка использовал служебное положение и удалил свой ответ, чтобы не засорять текст темы.

Iron_Bug

Стало любопытно, а что сама нейросеть думает по поводу позиции Iron_Bug в отношении «ИИ» и теории вероятностей. Скормил дипсику её высказывания в этой теме, с просьбой выдать резюме высказываний и оценить в чём права или нет и получил вот такой текст: История ИИ. Лиспы, прологи - пригодились? (комментарий)

И ведь самое поразительное, что анализ почти точно совпадает с моим мнением. И как вижу твоим тоже.

Ага, именно. Наверное, мы тоже в своем роде генераторы бреда :)

Прокололись! Вышли на самих себя.

увлекательно тут у вас

- а Искусственный Землекоп есть?
- нет!
- но копает же? кубатура у него ух!
- плевать на кубатуру! мышцы где? нет мышц - значит и землекопа нет.
- мышц нет, но копает же?
- если мышц нет - значит нет  усталости - значит и работы тоже не было - значит и результата быть не может
- да как-же, вот же...
- это фикция
- дык кубометры же...
- это обман доверчивого населения. смотри - труда нет, зарплаты нет, а говорят работа сделана. где ты такое видел, чтоб кубометры выкапывали без труда и зарплаты? мошенники!
- дык он на соляре работает!
- вот и жрите свою соляру сами! я двадцать лет варю овсянку и все это время прекрасное пищеварение! ни разу ни капли не соляры не добавила! и прекрасная овсянка получается! и копаю! и про кубометры мне известно всё! а эти ковши ваши бред! бред! землекопы это осознанное вынимание грунта! о-соз-нан-но-е! где там сознание у ваших этих искусственных землекопов? а ? нет там ничего! ни мышц ни мозгов! копают они! понакопают вам! наплачетесь еще!
- ...

знакома. но там случайным образом генерятся НЕ вычисляемые значения, а координаты. и распределение нормальное.

вы не математики и совсем не понимаете разницы. я вряд ли смогу объяснить.

я не давала своего согласия на обработку моих постов всякой х-нёй. я прямо запрещаю использование моей интеллектуальной собственности (постов) в любых т.н. «ИИ» генераторах. я об этом не раз писала. так что удаляйте нахрен все ваши поделки и больше не пытайтесь нарушать права.

Это они ещё вашу аватарку «улучшать» не пробовали! ;)

вы не математики и совсем не понимаете разницы. я вряд ли смогу объяснить.

Ты и биолог, и математик, и даже конструктор или около того. Я прям даже завидую немного, чесслово.

так получилось. в жизни много всего интересного. если не тратить время на фигню, то можно много всего изучить и попробовать.

но меня удивляет ограниченность многих людей. она просто поразительна, в нехорошем смысле.