История ИИ. Лиспы, прологи - пригодились?

а «ИИ» - это непредсказуемый, мусорный результат. человек на него вообще никак не влияет

Влияет. Данные-то для ИИ человек предоставляет.

ну да, что нарыли на просторах интернетов. не хотелось бы мне такие «данные». человеки способны генерить ужасную, поистине эпическую глупость. и сеть ею полным полна. я бы даже сказала, что подавляющее большинство сайтов ею начинено до отказа. очень мало грамотного, серьёзного научного и технического контента. даже по статистике. я одно время работала с категоризацией и фильтрацией DNS и по статистике выходило, что только порнухи в сети где-то 30% доменов, всякого социального хлама - процентов 50, остальное - коммерция. и лишь 10% - сайты учебного, научного, технического характера. как-то так.

и да, тут надо учесть, что многие ресурсы закрывают свои сайты от разных пауков и прочего. я тоже так делаю. ибо нефиг. зато вот всякие информационные помойки открыты для них прямо повсеместно. там они и набирают свои «данные».

не хотелось бы мне такие «данные»

Вот конкретно вы вольны выбирать данные и нейросети на выбранных вами данных обучать. Если заказчик хочет на выходе мусор, подрядчик и обучает нейросети на мусоре.

они не «обучаются». а я этим не занимаюсь, к счастью :)

они не «обучаются»

Откуда такая уверенность?

потому что обучаться может только живой интеллект. человек или хотя бы животное. для этого нужны восприятие, опыт, сознание, память. а софт просто заполняет базу данных некими данными. чтобы потом из них случайным образом вытягивать что-то, наподобие гадания на кофейной гуще или вытягивания случайной карты из колоды.

мне не нравится, когда люди подменяют понятия. когда вместо заполнения БД они говорят «обучение», когда вместо «выборка случайных данных» они говорят «интеллект». это ни разу не так. и это создаёт ложное представление об этих системах среди широких масс.

интеллект - это критическое мышление. критическое мышление - это опыт и личное мнение. опыт - это результат жизнедеятельности, восприятия и запоминания. личное мнение - продукт личности человека, его отношение к тем или иным понятиям. это не имеет никакого отношения к базам данных, какими бы данными их не начиняли.

это все равно что спросить машиниста тяжелого тепловоза - ну что, Толя, пригодился тебе трехколесный велосипед, на котором ты сопливым недомерком гонял по двору?

потому что обучаться может только живой интеллект. человек или хотя бы животное. для этого нужны восприятие, опыт, сознание, память.

У вас нет такой информации, поскольку вам не известен механизм обучения живого интеллекта.

А если спросить программиста - ну что, Толя, пригодился тебе бейсик на советском ZX-Spectrum клоне, на котором ты сопливым недомерком пытался что-то писать?

конечно, пригодился. любой опыт - это опыт. и он используется в последующих решениях и выборе человека. из опыта формируется сознание и личное мнение.

я вот, будучи «сопливым недомерком», постоянно разбивалась в хлам на любых велосипедах. иногда с неприятными тяжёлыми травмами. поэтому велосипед у меня однозначно ассоциируется с травматизмом, опасностью для жизни, я их избегаю и на них не езжу. и автомобили не люблю, и не люблю «скорость», езду ради езды. я этого не понимаю и не получаю от этого ни малейшего удовольствия. поэтому я бы никогда не стала водителем, например. пусть этим занимаются другие.

с другой стороны те, кто гонял на великах, видели мало пользы от сидения с книжками целый день. они не стали программистами.

Ну, бейсик то конечно пригодился так то, потому что на нем он учился программировать, как-то формировал свое мышление, а потом на чем-то другом, и так далее. Это не очень пример к сабжу.

Тут изначально в ИИ существовало несколько разных школ, из которой сейчас сильно выстреливает одна. А та, в которой лиспы, похоже уже пакует чемоданы в музей.

моя реплика была к тому, что невозможно сидеть на ветке, бубукать, срывать бананы, набивая крутое пузо…и вдруг открыть общую теорию относительности, например.

любой опыт полезен. а без пройденных этапов невозможны новые достижения.

и да, даже Бейсик мне пригодился. на самом первом компе у нас дома для меня отец поставил GW-Basic, с которого я начинала знакомство с компом. правда, я быстро перешла на Си и ассемблер, но бейсик тоже пригодился, потому что в нём были заложены основы самого программирования, структурного подхода к мышлению, написание абстрактного кода, английский язык (что немаловажно для программиста), ведь вся документация к нему была на английском. так что даже Бейсик имел свою пользу в моём образовании и навыках.

каждый шаг, каждый эксперимент, каждый опыт взаимодействия с чем-то - всё это накапливается и используется человеком в дальнейшем. бесполезного опыта не бывает. целовек использует свой опыт для построения системы знаний и ценностей и в дальнейшем оценивает информацию с точки зрения этой своей накопленной системы личных знаний.

ну, наших далёких предков с пальм согнали, скорее всего, не интеллектуальные размышления, а изменившиеся условия жизни: похолодало, стало некомфортно, стало гораздо меньше еды, пришлось приспосабливаться. и вот уже появились какие-то племена, которые жили в пещерах, использовали огонь, научились охоте, добыванию шкур для утепления себя и прочее. это происходило не сразу, но большинство первичных достижений были вынужденными.

но да: путь в тысячу ли начинается с одного шага (китайская пословица). чтобы чего-то достичь, надо прилагать усилия, получать новый опыт и постепенно достигать целей. само собой ничего не достигается.

кстати, именно с ощушениями, с этим самым стремлением к «комфорту», к более лучшему окружению и связан главный движущий (в прямом смысле) модус всей эволюции: двигательная мотивация.

от простых химических реакций к более сложным, связанным с движением простейших микроорганизмов, к сложным организмам, способным передвигаться сознательно и целенаправленно.

именно движение породило нервную систему, которая потом развилась в нервные сплетения и, как высшее развитие, в головной мозг.

так что живые существа - это не просто кусок мозга, изолированный в черепной коробке. это связь ощущений, мотивации, движений в процессе жизнедеятельности. опыт неразрывно связан с ощущениями и он формирует мотивацию к движению. это совсем не похоже на базы данных с выборками. это намного больше и сложнее.

а софт просто заполняет базу данных некими данными. чтобы потом из них случайным образом вытягивать что-то, наподобие гадания на кофейной гуще или вытягивания случайной карты из колоды.

мне не нравится, когда люди подменяют понятия. когда вместо заполнения БД они говорят «обучение», когда вместо «выборка случайных данных» они говорят «интеллект». это ни разу не так. и это создаёт ложное представление об этих системах среди широких масс.

Я не знаю, что ты 20 лет назад изучала про нейросети, но ты сейчас совершенно ошибаешься в технических деталях. Нейросеть в общем случае в ходе «обучения» не заполняет никакую БД , а решается вариационная задача, в ходе решения которой вычисляются коэффициенты матриц и векторов, бывает, что и ещё некоторые параметры. В дальнейшем данные не извлекаются случайным образом, они вообще не извлекаются, «обученая» нейросеть в своей основе - это детерминированная нелинейная функция, какое нафиг случайное извлечение?

Хотя для некоторых (обычно генеративных) архитектур элемент случайности всё же вводится намеренно, чтобы разнообразить вывод. Без этого, например, в генерации картинок на один и тот же запрос всё время выдавалась бы одна и таже картинка, что как раз было бы нежелательно. Есть ещё понятие «температуры». При этом для отладочных целей можно и зафиксировать вообще всё и никакой случайности не будет.

Важно, что эта случайность управляемая, веса матриц и прочее детерминированы, это не гадание на кофейной гуще. Опять же по аналогии с естественным интеллектом случайность тут играет роль фантазии у человека. Абсолютно детерминированный человек без воображения - это тупой робот :) Слишком фантазирующий - это уже бредящий.

Там где случаность совсем не нужна, например, для задач классификации при распознавании изображений (биометрия в том числе) её и нет.

Насчёт БД, ситуация, когда сетка как бы тупо запоминает исходную информацию является вредной и называется переобучением. Переобученная сетка даёт хорошие результаты на тренировочных данных, но бесполезна на других. Простейшая иллюстрация проблемы: когда набор из допустим 20 экспериментальных точек (x,y) апроксимируется полиномом 19-й степени, проходящим через все эти точки. Идеальное совпадение и чаще всего полная бесполезность такого полинома для интерполяции или экстраполяции.

«Обучение» - это просто устоявшийся жаргон, ставший профессиональным термином. Не нравится слово «обучение», ещё часто употребляется слово «тренировка». Можешь попробовать своё слово изобрести.

Кстати, в процессе становления генеративных сетей для фото, наблюдаю «усушение» фантазии нейросетей. Т.е. анализ промпта совершенствуется, всё больше и больше словесных деталей обрабатывается, а вот результирующая картинка всё удушается и удушается.

При тех же самых инструментах ComfyUI, скажем. Т.е. SD 1.5 генерировала такое… было даже интересно. SD XL вообще мерзко промпт обрабатывала. Flux - как будто смотришь разное кино, но, снятое на одной и той же студии одним и тем же режиссёром с одними и теми же актёрами. Алибаба - ну, тут вообще, даже позы актёров не меняются. Лишь, чуть-чуть ветерок с другой стороны подует.

и да, тут надо учесть, что многие ресурсы закрывают свои сайты от разных пауков и прочего. я тоже так делаю. ибо нефиг. зато вот всякие информационные помойки открыты для них прямо повсеместно. там они и набирают свои «данные».

Подбор датасета для «обучения» нейросетки - это в некотором роде искусство и данные отбирают целенаправленно даже, если с помоек. В каких-то случаях датасеты предварительно размечают - это называется обучение с учителем и до недавнего времени было основным. Разметка - это причём сложный и дорогостоящий процесс, который может составить 99% затрат ресурсов.

Неразмеченные заранее датасеты с обучением без учителя - это другая тема, но и в этом случае просто так в сеть не пихают совсем что попало. Например, недавно был скандал, что Meta/Facebook для своей LLM использовала базу книг с либгена. Либген - это не помойка, в основном там научные книги. Наверняка ещё и какая-то предварительная фильтрация была.

Кстати, в процессе становления генеративных сетей для фото, наблюдаю «усушение» фантазии нейросетей. Т.е. анализ промпта совершенствуется, всё больше и больше словесных деталей обрабатывается, а вот результирующая картинка всё удушается и удушается.

Есть такое явление. Даже не знаю это объективный недостаток в других отношениях более лучших моделей или специально подобрезанный полёт фантазии.

Если где-то есть ручка управления под названием «температура» попробуй её покрутить в сторону увеличения.

Нет, там народ уже инструменты создаёт для вбрасывания случайных слов в промпт, чтоб хоть какую-то привычную вариативность получить

Ну тут в принципе ожидаемо. Они работали над четкой моделью где четко прописано отличие плоскогубцев от пассатижей. Однако в реальном тексте люди часто путают плоскогубцы с пассатижами. Даже в таком строгом к терминологии языке как русский. В английском вообще смысл всех слов размыт, у нас обыватели путают БМП и БТР, американец БТР от танка не отличит.

Не знаю насчёт БТР от танка, но gun у них - любой огнестрел от пистолетика до артиллерийского орудия.

Сейчас русский становится таким же размытым по терминологии. Немецкая академическая школа, прижившаяся у нас еще с Пети 1, требует строго образования по четким стандартам. А Пролог и ко хорошо работают только в таких строгих моделях. Иначе ошибки накапливаются лавинообразно.

Русский всегда и был размытым. Если на вопрос «Ты не пойдёшь в школу?» можно ответить и «да», и «нет», и в обоих случаях это будет утверждение.

Ну это контекст, это во всех языках есть. Подход к словообразованию однако у нас преобладал немецкий, где под новое явление выдумывали новый термин, а не английский, где добавляют новый смысл к уже существующему слову.

А это всегда-всегда хорошо? Ибо мы имеем таким образом кофе и кафе, саппорт и суппорт, хотя исходно это одно иностранное слово.

либген - это не помойка, в основном там научные книги

Однако там pdf со всеми вытекающими.

Ну для моделей вроде тех как которыми работала АББИ это хорошо. Обывателю в среднем пофиг.

Да блин, а ты не видишь противоречия? «мерзко обрабатывала промпт», ну сделали flux который рисует близко к промпту, то что запросили, так нет же, опять плохо - «нет вариативности». Будем поганить промпт теперь специально. Лицоладонь.

Проблема то в том, что вариативность должна быть не у нейросети, лол, а у человека в голове. А нейронка как инструмент реализует то что придумал человек. Для этого и инпейнтинг, и controlnet, и улучшают clip у flux.

Но нет блина, мы хотим вводить одни и теже три слова в промпт - «красивая баба, стоит», и чтобы оно выдавало миллион разных вариаций уровня шедевр! И не напрягало мозг.

животные интеллектом не обладают.

Ну я бы поспорил. У тех же собак довольно мощное абстрактное мышление. Они, например, понимают что такое помещение и как оно разграничивается. Если собаку приучить что драть когти о мебель нельзя, собака это еще и коту объяснит при его попытках полирнуть маникюр диванчиком.

ты хоть почитай для начала, что такое «абстрактное мышление». а потом уже лезь в дикуссию. если твоя собака поймёт, что такое синус и косинус, например, то я офигеть как удивлюсь, но признаю факт, что у твоей собаки есть абстрактное мышление. а так - собака как собака. дрессировка и одомашнивание животных - не какое-то невиданное чудо.

Дело не в дрессировке, а в рефлексии. Кстати, примерно 10% людей рефлексии лишены.

понимают что такое помещение и как оно разграничивается

Это не абстрактное мышление. А дележ территории зашит эволюцией в прошивку большинства животных, для которых важен контроль территории.

Собака понимает что граница помещений проходит по дверям. И что шкаф при этом не является отдельным помещением. Чтобы прийти к таким выводом нужно иметь способности к абстракции. А так и понятие непрерывности пространства непосредственно зашито в архитектуру мозга.

вот да. у меня даже рептилии «понимают», где их территория. потому что территориальность - обычный базовый инстинкт для животных. я тоже не люблю, когда на мою территорию кто-то посягает. и это тоже базовый инстинкт.

собака ничего не «понимает». ей пару раз выписали звездюлей за то, что залезла куда не следует - и выработался условный инстинкт. учёные так на мышах опыты проводят, дёргая их электротоком. и мыши успешно преодолевают лабиринты в «правильном» направлении. но это никакое не «абстрактное мышление» а выработанный инстинкт.

даже люди и то не все обладают абстрактным мышлением. на эту тему проводились многократные исследования нейропсихологов. впрочем, кому и зачем я это тут пишу? идите сначала читайте основы. разберитесь с терминологией и потом уже что-то заявляйте. а то выходит ну совсем не смешная чушь.

Ты видимо путаешь понятия «обобщение» и «абстракция». Абстракция это не двери и не шкафы.

Да просто лингвисты палёные.

Однако там pdf со всеми вытекающими.

С какими вытекающими? Там и djvu есть.

Неразмечен, с переносами, часто колонки слиты в одну строку, а может быть вообще перепутана последовательность символов (pdf такое позволяет). А ocr еще и с ошибками. djvu с текстовым слоем вообще только ocr по определению.

А вообще либген для текстмайнинга использовали и 10 лет назад.

Неразмечен, с переносами, часто колонки слиты в одну строку, а может быть вообще перепутана последовательность символов (pdf такое позволяет). А ocr еще и с ошибками. djvu с текстовым слоем вообще только ocr по определению.

Это уже чисто технические проблемы, я в том смысле, что по содержанию это не помойка, а книги.