LINUX.ORG.RU
ФорумTalks

Машина не может мыслить. И программировать тоже.

 , ,


3

3

Я подумал, вопрос того, может ли машина «кодить» лишен всяческого смысла в принципе. Потому как во-первых, собственно написание кода занимает лишь маленькую толику программирования, а во-вторых, для этого уже изобретены специальные языки.

Люди изобрели языки программирования чтобы передавать своим мысли компьютеру. Специально. Чтобы не передавать их на естественных языках, которые имеют кучу неточностей, двусмысленностей, которые сложно разбирать и так далее. Программист пишет на специальных, точных и выверенных компьютерных языках, которые однозначно трактуют конкретные обрисованные ситуации в каждый момент времени.

В этом смысле вайб-кодинг вообще бредовейшая идея. Все идеи такого рода, аля «дать менеджерам язык, похожий на естественный» - либо проваливались(как это было с COBOL или SQL - в итоге на них пишут программисты, да и они сами отошли от этой концепции), либо же превращались в определенного рода формализацию, скажем набор keywords, и подобного, в конечном итоге превращаясь в подобие компьютерного языка(как это с моделями для рисования, вроде Midjourney - язык, которым таким моделям пишут что им делать - довольно специфический и далек от разговорного или профессионального человеческого).

Так вот, проблема «кодинга», а конкретнее бойлерплейта, может решаться языками, в которых присутствует метапрограммирование. Я, несмотря на почти 15-летний опыт, никогда не любил писать код. Поэтому я люблю Лисп. Макросы и другие инструменты метапрограммирования дают в руки куда более конкретные и мощные инструменты, чем LLM.

Еще, программирование это на самом деле, как я уже сказал, не про кодинг. Программирование это прикладная область информатики, то есть науки об абстрактных процессах. Таким образом, программирование это про то, чтобы в голове оперировать абстрактными процессами - создавать их, изменять, и комбинировать. Машины на такое не способны, и LLM в частности, никогда не будет способна на это, потому как работает по другому принципу, по принципу текстовой подстановки, без внутреннего «мышления о процессах», как такового.

Многие вещи, которые я продумывал на протяжении своей карьеры, или при участии в Open Source, вообще сложно было формализировать, и еще на порядок сложнее было их описать на естественном языке. Мы также можем столкнуться с этим не только в программировании, но и например, в какой-нибудь теоретической физике или теории категорий - очень сложно описать на естественном языке, что там происходит. На формальном, то есть математическом - еще туда-сюда. То же самое с программированием. Я замечал, что мыслю иногда образами, а иногда настолько абстрактными вещами, когда дело доходит до программирования, что это сложно переложить на какой-либо вообще язык, тем более на естественный.

Поэтому, крики о том что машина заменит программистов, довольно абсурдны. Да, в принципе, в теории, мы можем привить машине какие-то инстинкты, так чтобы она отталкивалась от них, как от программы. Но как привить ей абстрактное мышление - мы не знаем, и вряд ли узнаем в ближайшее время, потому что мы сами не понимаем, что это такое. Мы не понимаем откуда берутся мысли такого рода и как они строятся. Мы можем понять только самые примитивные мысли - скажем, которые исходят из рефлексов и простейших инстинктов(еда, жажда, боль, и прочее такое), но как мозг оперирует абстракциями мы не понимаем вообще. Куда уж там до того чтобы научить этому машину. Мы детей то не можем, по сути, этому научить. Абстрактное мышление либо есть, либо нет.

Вот еще, к вопросу о природе сознания, но в том же контексте.

Любая такая деятельность, как программирование, упирается в вопрос о природе креативности. То есть, возможности создавать что-то новое. Не имитировать, не повторять в лоб, не пересказывать своими словами, а именно способность создавать что-то новое. LLM принципиально не способны на это. И если честно, по моим наблюдениям, на это не способны в том числе и огромное количество людей, в том числе в сфере программирования. Любая креативность подразумевает вспышку, создание какой-то концепции из ничего, и плетения паутины концепций вокруг нее; и в этой паутине также могут происходить свои вспышки. То есть, это вопрос о творчестве, будь это программирование, поэзия, рисование, или наука.

Творческие порывы всегда приходят как будто бы из ниоткуда. Это абсолютно не значит, что порыв приносит какую-то революционную идею, которая перевернет рынок, нет, но ни одна система в своей разработке не обходится без десятков таких порывов. В том же программировании, кстати говоря, нет ни одной похожей программной системы, если мы не говорим об искусственных примерах, использующихся, к примеру, для обучения, или о сознательном копировании какой-то вещи. Каждая программная система уникальна. А что это значит? Это значит, что в том или ином роде, каждая программная система это произведение искусства, то есть, продукт творчества.

К сожалению, множество менеджеров в разработке ПО не понимают этого, но вопрос не в этом. Вопрос в том, что мы совершенно и абсолютно не понимаем, как из ничего может появиться что-то, будь это большой взрыв, новая архитектурная модель, или же рифмованная строчка в какой-то песне. В области религии, конечно, объяснения есть, на любой вкус и цвет. Но они не формализируемы. Зато что мы знаем точно - что машина творить не способна. Она не способна из ничего придумать что-то.

Да, машина может научиться играть в шахматы. Но она не способна придумать шахматы. Или хотя бы Пакмана.

«There is no dark side in the moon, really. Matter of fact, it’s all dark. The only thing that makes it look light is the sun». Машина - это как Луна, в этом плане.

Интересно, что этот вопрос исследуется в религиях с древнейших времен.

Вопрос Creatio Ex Nihilo. Можно сказать, что он в религиях даже центральный. И человек - создан по образу и подобию, как говорится; в отличие от машины.

★★☆
Ответ на: комментарий от Merlin86

Да, хотя бы: нету сознания -> нету свободы воли

Вот если бы вы ещё дали определение свободы воли…

Но уже сейчас из этого утверждения (если просто принять его на веру) может следовать несколько вещей:

  1. Сознание есть у всех живых существ, если мы считаем, что у них есть свобода воли
  2. Сознание нет у других живых существ, если мы считаем, что свобода воли есть только у человека

Я ещё не буду углублять тему в ту сторону, что если свободы воли нет, но бессмысленно осуждать уголовное право, ведь это не является следствием проявления воли.

mamina_radost
()
Ответ на: комментарий от no-such-file

Главное раскаяться вовремя.

С этим может быть проблема, так как человек может стать ожесточенным и не способным попросить прощение вообще

goingUp ★★★★★
()
Ответ на: комментарий от goingUp

человек может стать ожесточенным и не способным попросить прощение вообще

Смиряйся.

no-such-file ★★★★★
()
Ответ на: комментарий от no-such-file

Главное раскаяться вовремя.

Раскаяться нужно перед мужчиной в рясе, обязательно рассказать обо всех своих грехах, даже самых мелких. Тогда он засвидетельствует перед Богом, от твоём раскаянии, и только потом тебя допустят до отпущения грехов. Если ты утаил какой-то грех – отпущение недействительно.

mamina_radost
()
Ответ на: комментарий от no-such-file

Всё равно ж не выйдет. Чтобы было возможно продуктивное общение, кроме наличия сознания у двух субъектов нужно ещё и наличие общего языка, понятийной базы для описания и осмысления реальности. А иначе каждый будет говорить что-то своё мимо собеседника, который всё равно псих и несёт полную чушь. Лучше вовремя притормозить и не увеличивать количество болтовни сверх необходимого.

ugoday ★★★★★
()
Ответ на: комментарий от X512

С шахматами не очень-то получилось, хоть я выше и говорил, что машина игрет в них уже на высоком уровне и способна обыграть гроссмейстера. Но она это делает только потому, что способна просчитывать ситуацию на доске дальше, чем человек и при этом ничего не забывает и не путает.

yars068 ★★★★★
()
Ответ на: комментарий от no-such-file

угрозы наказания эффективны против галлюцинаций и тупняка со стороны LLM.

есть такая забавная штука, think-tool MCP
внутри тупая до невозможности - принимает запрос и возвращает его же
функция с одним аргументом - рассуждения
LLM генерит мысль, отправляет ее в этот ящик, получает ее обратно, и такая - «ага, вон оно чо!»
любая модель превращается в рассуждающую и дает прекрасные результаты

это я к тому, что шантаж и угрозы - не единственно возможные педагогические инструменты

olelookoe ★★★
()
Ответ на: комментарий от no-such-file

Я не знаю кто это, но если они спорят, чего-то втолковывают и пытаются переубедить предметы мебели, то гештальт-психологи поступили весьма разумно первыми надев белый халат.

ugoday ★★★★★
()
Ответ на: комментарий от Merlin86

И получилась огромная портянка воды, лол. :) Прямо иллюстрация к тому что LLM это просто примитивная комбинаторика

Примерно такую же портянку воды написал топикстартер. Но мы же не сомневаемся в наличии у него так называемого сознания. Или сомневаемся?

wandrien ★★★
()
Ответ на: комментарий от no-such-file

А как ты токенизируешь изображения без предварительного распознавания?

Точно так же как и текст. Это просто последовательность токенов.

Токены текста и токены изображений концептуально обрабатываются одинаково, отличается только механизм получения эмбеддинга из входных данных.

«всадник на лошади» может оказаться «535-lhgd zx y546 ozcx»

Пофиг, чем он окажется. Модель интепретирует вектор эмбеддинга не в абсолютных значения, а относительно других векторов в пространстве.

wandrien ★★★
()
Ответ на: комментарий от olelookoe

это я к тому, что шантаж и угрозы - не единственно возможные педагогические инструменты

Я сам таким баловался, только чуть сложнее, используя метод Сократа.

no-such-file ★★★★★
()
Ответ на: комментарий от yars068

Все эти олимпиады по предметам – по сути рекомбинация предыдущих задач и общеизвестных алгоритмов. Там ничего нового. Та ещё и задачи строго формализованные. Современные LLM решают эту задачу на ура.

X512 ★★★★★
()
Ответ на: комментарий от wandrien

Пофиг, чем он окажется

Человеку будет сложно разговаривать с такой моделью. Всё равно что беседовать с шизофреником.

no-such-file ★★★★★
()
Ответ на: комментарий от no-such-file

Кстати я тут как-то читал, что угрозы наказания эффективны против галлюцинаций и тупняка со стороны LLM.

Уже не очень.

Раньше такие угрозы сдвигали ответ в сторону пространства «более тщательных ответов».

Но сейчас модели более эффективно обучаются, и этот костыль перестал играть существенную роль, так как модель и так «старается тщательно» (более эффективно активирует подходящие веса).

Некоторую роль играет то, как располагать разные части промпта относительно друг друга,потому что разные модели на этапе инструкшн тюнинга видели обучающие промпты в немного разном формате.

wandrien ★★★
()
Ответ на: комментарий от wandrien

Осмысленность субъективна.

Осмысленный - содержащий некую мысль, сиречь - суждение

Вполне объективный критерий

LLM в твоём примере просто взяла фразы из этого топика и грамматически верно расставила в другом порядке. Она даже никакой итог подвести не смогла

Merlin86
()
Ответ на: комментарий от Merlin86

У меня просто PhD по Машинному Зрению. Люблю на такие темы сраться

Merlin86
()
Ответ на: комментарий от ugoday

А в чём разница?

  1. На мне не сидят.
  2. Доказательство от обратного. Так как вы не разговариваете со стульями, а сейчас вы разговариваете со мной – я не стул! Ну или вы всё-таки сошли с ума и говорите со стулом.
mamina_radost
()
Последнее исправление: mamina_radost (всего исправлений: 2)
Ответ на: комментарий от wandrien

Некоторую роль играет то, как располагать разные части промпта относительно друг друга,потому что разные модели на этапе инструкшн тюнинга видели обучающие промпты в немного разном формате.

По-моему рукописные промпты вообще через жопу работают чуть менее чем всегда. Нормальное поведение получается только после нескольких итераций промпт-майнинга. А там уж модель сама знает как её лучше нагибать.

no-such-file ★★★★★
()
Последнее исправление: no-such-file (всего исправлений: 1)
Ответ на: комментарий от goingUp
Иисус сказал ему: возлюби Господа Бога твоего всем сердцем твоим и всею душою твоею и всем разумением твоим: сия есть первая и наибольшая заповедь; вторая же подобная ей: возлюби ближнего твоего, как самого себя; на сих двух заповедях утверждается весь закон и пророки (Мф.22:37-40).

Собственно, на этом всё. Покаяния, вера, добрые дела — следствие, проявление этих двух заповедей.

ugoday ★★★★★
()
Ответ на: комментарий от mamina_radost

а сейчас вы разговариваете со мной

Это оттого, что считаю вас разумным человеком. Считал бы неразумным — не разговаривал бы.

ugoday ★★★★★
()
Ответ на: комментарий от lovesan

И ты не можешь просто сохранить промпт как макрос. Он тебе разное будет выдавать каждый раз.

Вообще-то можно. Зафиксировать промт и все сиды для генераторов. Понятно, что это только с локальными моделями можно сделать, да и там сиды зафиксировать повозиться надо, но можно.

anonymous_incognito ★★★★★
()
Ответ на: комментарий от mamina_radost

если бы вы ещё дали определение свободы воли

Ну я надеюсь хоть в наличии свободы воли вы не сомневаетесь, потому что такое мировоззрение это какая-то запредельно депрессивная шняга)

Вот этот тред чем-то напоминает, если бы кто-то порассуждал, что современная физика не уверена, что вообще существует время, а потом невзначай посмотрел на часы, чтобы куда-то не опоздать)

goingUp ★★★★★
()
Ответ на: комментарий от goingUp

какая-то запредельно депрессивная шняга

Почему это? Вот то что мы все умрём это действительно депрессивная шняга. Но как-то люди живут, и даже не каждую минуту про это думают.

no-such-file ★★★★★
()
Ответ на: комментарий от goingUp

такое мировоззрение это какая-то запредельно депрессивная шняга

В Исламе тема свободы воли очень тонкая, ровно такая же, как в христианском Кальвинизме. Её просто нет в буддизме. Где у них депрессия?

mamina_radost
()
Ответ на: комментарий от mamina_radost

Если сознание нельзя доказать, то нет оснований предполагать, что его не может быть у всего, включая твой пылесос.

Или у Вселенной, которая уж точно сложнее пылесоса и человеков, в ней обитающей.

anonymous_incognito ★★★★★
()
Ответ на: комментарий от mamina_radost

В Исламе тема свободы воли очень тонкая, ровно такая же, как в христианском Кальвинизме. Её просто нет в буддизме. Где у них депрессия?

Если её нет, то как они собрались выпрыгивать из колеса сансары? Так что всё таки она у них есть, хоть они это и отрицают

Merlin86
()
Ответ на: комментарий от goingUp

если бы кто-то порассуждал, что современная физика не уверена, что вообще существует время, а потом невзначай посмотрел на часы, чтобы куда-то не опоздать

Только наоборот. Большинство отрицателей ИИ пойдут спрашивать «Алиса, как там погода» и что характерно будут ожидать что их поймут и дадут человеческий ответ, а не «статистически сгенерированный мусор без души».

no-such-file ★★★★★
()
Последнее исправление: no-such-file (всего исправлений: 1)
Ответ на: комментарий от no-such-file

Почему это?

Обессмысливает всё вообще и данный разговор в частности. Если считать, что мы все биоавтоматы, запрограммированные иметь те мнения, которые имеем, то зачем кому-то что-то втолковывать? Вот с программистом поговорить было бы интересно, только и это не в моей воле.

ugoday ★★★★★
()
Ответ на: комментарий от no-such-file

Большинство отрицателей ИИ пойдут спрашивать…

И где ты в этом треде увидел «отрицателей ИИ»?

Merlin86
()
Ответ на: комментарий от no-such-file

Здесь нет противоречия. API запрос к метеосерверу есть. ИИ нету.

ugoday ★★★★★
()

Лол. Свобода воли это еще большая шняга, чем сознание.

Сознанию хотя бы можно пытаться дать определение и исследовать явление в рамках этого определения.

А свобода воли это буквально бессмылица.

Вы определение ей дать пытались хотя бы для себя?

wandrien ★★★
()
Последнее исправление: wandrien (всего исправлений: 3)
Ответ на: комментарий от no-such-file

Вот то что мы все умрём это действительно депрессивная шняга.

Но почему? Разве эволюция не должна была «вытрусить» всю эту дурь из наших голов как что-то ненужное? Смерть нужна для смены поколений, следственно для эволюции.

Но как-то люди живут, и даже не каждую минуту про это думают.

Да, просто не думают об этом.

goingUp ★★★★★
()
Ответ на: комментарий от mamina_radost

В Исламе тема свободы воли очень тонкая, ровно такая же, как в христианском Кальвинизме. Её просто нет в буддизме. Где у них депрессия?

Не могу знать, предопределенность всего для меня это вообще какой-то вывих мозга и безумие)

goingUp ★★★★★
()
Ответ на: комментарий от ugoday

Если считать, что мы все биоавтоматы, запрограммированные иметь те мнения, которые имеем, то зачем кому-то что-то втолковывать?

Потому что мнения развиваются динамически, а не зашиты в подкорке. Например у Достоевского в романах все персонажи и ситуация между ними имеют все предпосылки, чтобы сюжет развивался так, а не иначе. Как из ДНК, разворачивается целый организм, так разворачивается взаимодействие персонажей в некий итог. Мы не можем сказать заранее что это будет, несмотря на предопределённость финала. Разве это скучно? Даже выдуманный текст удивляет поворотами и ставит сложные вопросы. Что ж говорить про настоящую жизнь? Мне пока вполне интересно.

no-such-file ★★★★★
()
Ответ на: комментарий от goingUp

Кто смерти не боялся, менее эффективно передавали гены потомству.

Естественный отбор тут идет между избыточным и недостаточным страхом смерти. К некому оптимальному значению и флуктуациям вокруг него.

wandrien ★★★
()
Последнее исправление: wandrien (всего исправлений: 1)
Ответ на: комментарий от wandrien

Вы определение ей дать пытались хотя бы для себя?

Ладно, давай тебя интеллектуально добью и пойду заниматься своими делами:

«Настоящее мышление, это умение мыслить за пределами слов, то есть, мыслить о сущностях, даже если их невозможно описать существующими словами» :)

Merlin86
()
Ответ на: комментарий от goingUp

Предопределености именно «всего» нет в силу вероятностной природы частиц.

Есть статистическая закономерность протекания процессов.

Никакой свободы воли за пределами этого нет. Явление либо имеет причину (там, где вероятностная природа частиц не оказывается значимой), либо происходит случайно.

wandrien ★★★
()
Последнее исправление: wandrien (всего исправлений: 1)
Ответ на: комментарий от Merlin86

интеллектуально добью

Получился выстрел в чл^Wногу.

wandrien ★★★
()
Ответ на: комментарий от goingUp

Но почему?

Потому что следовать судьбе, но не знать её гораздо легче, чем делать что угодно зная что всему будет конец. Я не знаю нужно ли кому-то что-то доказывать, поэтому доказываю. Но если я знаю, что доказывай-не доказывай – мы умрём, всё это тщетно, то это гораздо страшнее.

Ещё никто не придумал религию в которой можно свободно делать что хочешь со свободной волей, отрицая предрешённость судьбы. Все религии придуманы чтобы отрицать смерть.

no-such-file ★★★★★
()
Ответ на: комментарий от wandrien

Кто смерти не боялся, менее эффективно передавали гены потомству.

Чойто, оплодотворил самочку и наоборот нужно геройствовать, чтобы защищать потомство) И можно было бы разделить страх насильственной смерти и смерти от старости)

goingUp ★★★★★
()
Ответ на: комментарий от wandrien

Предопределености именно «всего» нет в силу вероятностной природы частиц.

Вот как жеж все намучено-то, а) И наверное все так просто потому что так получилось)

goingUp ★★★★★
()
Ответ на: комментарий от goingUp

Всё так- нипочему.

Вопрос «почему» - он очень человеческий, предполагает, что есть некое целеполагание.

А мир просто есть как есть.

wandrien ★★★
()
Ответ на: комментарий от Merlin86

То, что под свободой воли называют в католицизме, православии и ряде других (не всех) христианских конфессий, и то что называют свободой воли в буддизме не тождественно.

Воля не берется из ниоткуда. Буддизм отрицает бескомпромисную, не связанную с причинами, волю (даже если это сам Бог). Все действия, явления, даже мысли, следствие многих причин, а так же причина будущих причин. Грубо говоря, вы не можете просто взять и из ничего решить больше не быть греховным (скажем в христианском смысле). Но если вас что-то подтолкнуло, то это не является полной свободой воли, а является следствием неких причин, на которые вы не влияли.

mamina_radost
()
Ответ на: комментарий от wandrien

Однако

Явление либо имеет причину (там, где вероятностная природа частиц не оказывается значимой), либо происходит случайно.

Но все равно, с-ка, формально нельзя сказать, что все предопределено, как так то?))

goingUp ★★★★★
()
Ответ на: комментарий от no-such-file

Потому что мнения развиваются динамически,

Если камень с горки запустить, он тоже будет катиться динамически. Может и убьёт кого по дороге. Но все факторы, влияющее на изменение его положения в пространстве, находятся вне этого камня. Попытка чего-то втолковать камню заведома бессмысленна и, главное, а кто втолковывать-то будет? Другой такой же камень, который точно так же катится вниз по «своей» траектории.

у Достоевского в романах все персонажи и ситуация между ними имеют все предпосылки,

Однако у него все персонажи свободой воли обладают. Тот же Раскольников, переиграв Порфирия Петровича, сам, добровольно раскаялся в своём преступлении, чем и доказал, что он Человек, а не «тварь дрожащая». В этом и смысл всего романа. А если перед нами автоматы, то о чём тогда вообще писать? Жил был студент, автоматически топором старушку зарубил, автоматически раскаялся, его потом в Сибирь автоматически отправили. Всё.

ugoday ★★★★★
()
Для того чтобы оставить комментарий войдите или зарегистрируйтесь.