LINUX.ORG.RU
ФорумTalks

Машина не может мыслить. И программировать тоже.

 , ,


3

3

Я подумал, вопрос того, может ли машина «кодить» лишен всяческого смысла в принципе. Потому как во-первых, собственно написание кода занимает лишь маленькую толику программирования, а во-вторых, для этого уже изобретены специальные языки.

Люди изобрели языки программирования чтобы передавать своим мысли компьютеру. Специально. Чтобы не передавать их на естественных языках, которые имеют кучу неточностей, двусмысленностей, которые сложно разбирать и так далее. Программист пишет на специальных, точных и выверенных компьютерных языках, которые однозначно трактуют конкретные обрисованные ситуации в каждый момент времени.

В этом смысле вайб-кодинг вообще бредовейшая идея. Все идеи такого рода, аля «дать менеджерам язык, похожий на естественный» - либо проваливались(как это было с COBOL или SQL - в итоге на них пишут программисты, да и они сами отошли от этой концепции), либо же превращались в определенного рода формализацию, скажем набор keywords, и подобного, в конечном итоге превращаясь в подобие компьютерного языка(как это с моделями для рисования, вроде Midjourney - язык, которым таким моделям пишут что им делать - довольно специфический и далек от разговорного или профессионального человеческого).

Так вот, проблема «кодинга», а конкретнее бойлерплейта, может решаться языками, в которых присутствует метапрограммирование. Я, несмотря на почти 15-летний опыт, никогда не любил писать код. Поэтому я люблю Лисп. Макросы и другие инструменты метапрограммирования дают в руки куда более конкретные и мощные инструменты, чем LLM.

Еще, программирование это на самом деле, как я уже сказал, не про кодинг. Программирование это прикладная область информатики, то есть науки об абстрактных процессах. Таким образом, программирование это про то, чтобы в голове оперировать абстрактными процессами - создавать их, изменять, и комбинировать. Машины на такое не способны, и LLM в частности, никогда не будет способна на это, потому как работает по другому принципу, по принципу текстовой подстановки, без внутреннего «мышления о процессах», как такового.

Многие вещи, которые я продумывал на протяжении своей карьеры, или при участии в Open Source, вообще сложно было формализировать, и еще на порядок сложнее было их описать на естественном языке. Мы также можем столкнуться с этим не только в программировании, но и например, в какой-нибудь теоретической физике или теории категорий - очень сложно описать на естественном языке, что там происходит. На формальном, то есть математическом - еще туда-сюда. То же самое с программированием. Я замечал, что мыслю иногда образами, а иногда настолько абстрактными вещами, когда дело доходит до программирования, что это сложно переложить на какой-либо вообще язык, тем более на естественный.

Поэтому, крики о том что машина заменит программистов, довольно абсурдны. Да, в принципе, в теории, мы можем привить машине какие-то инстинкты, так чтобы она отталкивалась от них, как от программы. Но как привить ей абстрактное мышление - мы не знаем, и вряд ли узнаем в ближайшее время, потому что мы сами не понимаем, что это такое. Мы не понимаем откуда берутся мысли такого рода и как они строятся. Мы можем понять только самые примитивные мысли - скажем, которые исходят из рефлексов и простейших инстинктов(еда, жажда, боль, и прочее такое), но как мозг оперирует абстракциями мы не понимаем вообще. Куда уж там до того чтобы научить этому машину. Мы детей то не можем, по сути, этому научить. Абстрактное мышление либо есть, либо нет.

Вот еще, к вопросу о природе сознания, но в том же контексте.

Любая такая деятельность, как программирование, упирается в вопрос о природе креативности. То есть, возможности создавать что-то новое. Не имитировать, не повторять в лоб, не пересказывать своими словами, а именно способность создавать что-то новое. LLM принципиально не способны на это. И если честно, по моим наблюдениям, на это не способны в том числе и огромное количество людей, в том числе в сфере программирования. Любая креативность подразумевает вспышку, создание какой-то концепции из ничего, и плетения паутины концепций вокруг нее; и в этой паутине также могут происходить свои вспышки. То есть, это вопрос о творчестве, будь это программирование, поэзия, рисование, или наука.

Творческие порывы всегда приходят как будто бы из ниоткуда. Это абсолютно не значит, что порыв приносит какую-то революционную идею, которая перевернет рынок, нет, но ни одна система в своей разработке не обходится без десятков таких порывов. В том же программировании, кстати говоря, нет ни одной похожей программной системы, если мы не говорим об искусственных примерах, использующихся, к примеру, для обучения, или о сознательном копировании какой-то вещи. Каждая программная система уникальна. А что это значит? Это значит, что в том или ином роде, каждая программная система это произведение искусства, то есть, продукт творчества.

К сожалению, множество менеджеров в разработке ПО не понимают этого, но вопрос не в этом. Вопрос в том, что мы совершенно и абсолютно не понимаем, как из ничего может появиться что-то, будь это большой взрыв, новая архитектурная модель, или же рифмованная строчка в какой-то песне. В области религии, конечно, объяснения есть, на любой вкус и цвет. Но они не формализируемы. Зато что мы знаем точно - что машина творить не способна. Она не способна из ничего придумать что-то.

Да, машина может научиться играть в шахматы. Но она не способна придумать шахматы. Или хотя бы Пакмана.

«There is no dark side in the moon, really. Matter of fact, it’s all dark. The only thing that makes it look light is the sun». Машина - это как Луна, в этом плане.

Интересно, что этот вопрос исследуется в религиях с древнейших времен.

Вопрос Creatio Ex Nihilo. Можно сказать, что он в религиях даже центральный. И человек - создан по образу и подобию, как говорится; в отличие от машины.

★★☆
Ответ на: комментарий от goingUp

А где я говорил, что всё предопределено?

Я утверждал обратное: многие процессы носят вероятностный характер, материя имеет вероятностную природу на микроуровне.

wandrien ★★★
()
Ответ на: комментарий от no-such-file

Зависит от определения «религии». С некоторой точки зрения и атеизм — религия, адепты которой отрицают смерть тем, что отрицают жизнь.

ugoday ★★★★★
()
Ответ на: комментарий от goingUp

Не могу знать, предопределенность всего для меня это вообще какой-то вывих мозга и безумие)

Из отрицания свободы воли не выводится предопределенность.

mamina_radost
()
Ответ на: комментарий от ugoday

Попытка чего-то втолковать камню заведома бессмысленна и, главное, а кто втолковывать-то будет?

Потому что у него нет механизмов восприятия состояния среды, принятия решений и воздействия на среду.

А вот у машины Tesla такие механизмы есть. И если с ней умело «поговорить», она может внезапно для окружающих впилиться в стену вместе с водителем.

Духовные люди могут в этот момент задуматься о том, что может машину вели высшие силы. Ну а следователь-материалист задастся вопросом, кто же её хакнул.

wandrien ★★★
()
Ответ на: комментарий от wandrien

Потому что у него нет механизмов восприятия состояния среды, принятия решений и воздействия на среду.

Так и у вас, коллега, нету. Все «ваши» реакции заложены внешними обстоятельствами в точности как у камня. А вы просто бессмысленно исполняете свою программу.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

Механизмы принятия решений есть даже у бактерий. Потому что, да: обстоятельствами было заложено. Это явление называется естественный отбор.

Вы что-то своё читаете в моих словах, чего там.

wandrien ★★★
()
Ответ на: комментарий от yars068

Мы, люди, можем делать выводы, умозаключения, обладая гораздо меньшей базой знаний, чем LLM. Причем, мы можем что-то забыть, что-то помнить не вполне ясно, а что-то может быть в корне неверным. LLM, обладая такими «знаниями», была бы бесполезна.

Мы знаем, какие из обучающих данных имеют больший вес. У нас есть здравый смысл и моральные ориентиры — наборы аксиом (необязательно непротиворечивые и зачастую плохо формализованные), которыми мы проверяем выводы. В LLM этого пока нет. Будет — можно будет сравнивать.

А домысливать при неполной информации LLM давно умеют. Это называется нейробредом :)

question4 ★★★★★
()
Последнее исправление: question4 (всего исправлений: 1)
Ответ на: комментарий от ugoday

в точности как у камня

У камня нет реакций в рассматриваемом интервале времени. Он статичен в рамках сотен, тысяч, а то и миллионов лет, смотря, что за камень, и где находится.

Реакции имеет только динамическая система, в которой протекает некоторый выраженный неравновесный энергетический процесс.

wandrien ★★★
()
Ответ на: комментарий от no-such-file

Ещё никто не придумал религию в которой можно свободно делать что хочешь со свободной волей, отрицая предрешённость судьбы.

В смысле? Вот методисты, из которых пошло много течений протестантов, верят в свободную волю, что ты можешь выбирать, подчинятся Богу или нет https://www.youtube.com/watch?v=tzLS4O7YaUg&t=161s

goingUp ★★★★★
()
Ответ на: комментарий от ugoday

Однако у него все персонажи свободой воли обладают

Персонажи не могут обладать свободой воли. Потому что они персонажи. Что им делать предписывает автор. Я специально привёл в пример именно Достоевского потому что у него эти действия персонажей весьма психологичны и хорошо имитируют «свободу воли». Насколько хорошо, что у тебя создалась полная, натуральная иллюзия их свободы.

Тот же Раскольников, переиграв Порфирия Петровича

Надеюсь они сейчас с тобой не в одной комнате.

no-such-file ★★★★★
()
Ответ на: комментарий от wandrien

Вы определение ей дать пытались хотя бы для себя?

Можно я попробую? Например, это выбирать то, что соответствует неким внутренним установкам. Даже если это невыгодно и/или придётся понести ответственность.

Вот вас ведь никто не принуждает считать её бессмыслицей, вы сами выбрали такой подход, проявили свободу воли, выходит.

LLM-9000
()
Ответ на: комментарий от ugoday

Но мне лень в третий раз объяснять, где тут логические петли и неявные постулаты спрятались.

И не надо. Потому что никаких логических петель там нет. А постулат о безусловном превосходстве человека над «тупыми железками» это у вас.

red75prim ★★★
()
Ответ на: комментарий от wandrien

Механизмы принятия решений

Какие ещё решения в отсутствии свободы воли? Вам только кажется, что вы чего-то решаете, а на самом деле просто реагируете на внешние факторы, точно так же, как камень не решает катиться вниз. За него всё решила бессердечная сучка Гравитация. Шучу. Она тоже ничего не решала.

ugoday ★★★★★
()
Ответ на: комментарий от question4

Чем «здравый смысл и моральные ориентиры» отличаются от «расстановки знаков препинания и исправления опечаток в тексте»?

И то, и другое просто правила.

Машина способна запоминать и применять правила.

wandrien ★★★
()
Ответ на: комментарий от ugoday

Какие ещё решения в отсутствии свободы воли?

Встречный вопрос: а какие решения в присутствии свободы воли?

Решение подразумевает причинно-следственную связь между стимулом и реакцией.

А свобода воли подразумевает… видимо, отсутствие такой связи.

Так как определения свободы воли никто не дал, приходится полагаться на собственные предположения.

wandrien ★★★
()
Ответ на: комментарий от wandrien

ИИ, особенно современное, это китайская комната

lovesan ★★☆
() автор топика
Ответ на: комментарий от mamina_radost

Из отрицания свободы воли не выводится предопределенность.

Это да, но если рассматривать человеческий моск чисто как материальный объект, если нет предопределенности в физике, то не существует физического процесса, который смог бы провести все твои мысли в мозгу предопределенно, как по рельсам. @wandrien

goingUp ★★★★★
()
Последнее исправление: goingUp (всего исправлений: 1)
Ответ на: комментарий от LLM-9000

Если мы не осмысляем свой механизм приятия решения, это не значит, что там скрыта некая «свобода воли».

Это означает, что система не может построить модель самой себя в полном объеме. Это фундаментальное ограничение: часть не может быть больше целого.

wandrien ★★★
()
Ответ на: комментарий от no-such-file

Ещё никто не придумал религию в которой можно свободно делать что хочешь со свободной волей, отрицая предрешённость судьбы.

Вообще-то возможностью нарушать предрешённость прославился ещё культ Изиды, и это вобрало христианство. Бог дал людям правила, а люди свободны поступать, как хотят. Хуже того, доказательство существования бога будет явным предписанием соблюдать его законы, поэтому нарушит принцип свободы воли, поэтому бог этого не допустит, поэтому бог обязан иногда делать вид, что его не существует. Поэтому христианство нефальсифицируемо. Не знаю, сами богословы додумались в древности, или уже ориентируясь на Поппера.

question4 ★★★★★
()
Ответ на: комментарий от wandrien

Встречный вопрос: а какие решения в присутствии свободы воли?

Какие угодно.

Решение подразумевает причинно-следственную связь между стимулом и реакцией.

С чего бы это? Если у нас есть жёсткая причинно-следственная связь, то никаких решений нет и не предвидится. Есть просто формула как из иксов получаются игреки. Кто формулу написал, тот заведомо всё решил на всей области значений и пространстве определения.

Как раз свобода воли и нужна, чтобы проявить себя в создании своих собственных следствий для имеющихся причин.

ugoday ★★★★★
()

Машина неспособна двигаться со скоростью 40 километров в час. На такой скорости люди не смогут дышать и задохнутся.

LightDiver ★★★★★
()
Ответ на: комментарий от wandrien

Чем «здравый смысл и моральные ориентиры» отличаются от «расстановки знаков препинания и исправления опечаток в тексте»?

Только сложностью.

Машина способна запоминать и применять правила.

Но этим правилам её пока обучить не удалось. Я считаю задачу решаемой. Но она пока не решена.

question4 ★★★★★
()
Ответ на: комментарий от lovesan

А ты что придумал нового или там открыл в науке? Ну покажи.

LightDiver ★★★★★
()
Ответ на: комментарий от LLM-9000

Выходит, вы выбираете считать свободу воли несуществующей

Я считаю термин бессмысленным и логически самопротиворечивым.

Вот ugoday мне пишет про свободу воли, а определения не привел. Как можно рассуждать о том, что не имеет определения, то есть вообще никаких границ не задано?

wandrien ★★★
()
Ответ на: комментарий от question4

«Здравый смысл» сильно завязан на «модель реальности».

Все LLM такую модель неявным образом строят в ходе обучения. Пока эта модель несовершенна, но дело идёт.

wandrien ★★★
()
Ответ на: комментарий от wandrien

Вот ugoday мне пишет про свободу воли, а определения не привел.

Такова моя свободная воля. А вы меня даже обвинить в этом не можете. Потому как если свободы воли нет, то я был запрограммирован так себя вести и вины в том моей нету.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

С некоторой точки зрения и атеизм — религия

Разве что какая-нибудь адвайта, или дзен-буддизм. Так там тоже есть бессмертие. Для религии вообще важно наличие культа, а не наличие бога.

С другой стороны, считать атеизм верой вполне разумно. Я например пантеист, но не религиозный.

no-such-file ★★★★★
()
Ответ на: комментарий от ugoday

А вы меня даже обвинить в этом не можете. Потому как если свободы воли нет, то я был запрограммирован так себя вести и вины в том моей нету.

Можем, @ugoday! Ведь мы так же не свободны в этом выборе.

mamina_radost
()
Последнее исправление: mamina_radost (всего исправлений: 1)
Ответ на: комментарий от mamina_radost

Можем, @ugoday! Ведь мы так же не свободы в этом выборе.

Можете, но это бессмысленно. Нет, не нужно у меня спрашивать определение смысла)

goingUp ★★★★★
()
Ответ на: комментарий от wandrien

«Здравый смысл» сильно завязан на «модель реальности».

Для меня это примерно одно и то же. Модель или её часть, достаточная, чтобы делать выводы.

Все LLM такую модель неявным образом строят в ходе обучения. Пока эта модель несовершенна, но дело идёт.

Ну да.

question4 ★★★★★
()
Ответ на: комментарий от wandrien

определения свободы воли никто не дал

Кот Матроскин дал: хочу – кисель пью, хочу – на транзисторе играю!

no-such-file ★★★★★
()
Ответ на: комментарий от LLM-9000

Не понимаю.

Пусть есть вычислительная система, которая оперирует моделью явления X. Объема вычислительной системы достаточно, чтобы моделировать явление во всех его значимых свойствах.

Теперь на место X подставляем саму вычислительную систему.

Система должна иметь объем, пригодный для вмещения её самой целиком, то есть часть должна быть равна, а на практике - даже больше целого. Получили логическое противоречие.

Следовательно, моделирование системой собственного устройства в полном объеме - невозможно.

В этой принципиальной невозможности полностью понять самого себя и заключена кажущаяся свобода воли.

wandrien ★★★
()
Последнее исправление: wandrien (всего исправлений: 1)
Ответ на: комментарий от goingUp

Осмысленность чего либо зависит от определения. Так же бессмысленно обвинять отрицателей свободы воли в том, что они не проявили свободы воли, и не смогли кого-то не обвинить.

Это мы ещё не пришли к той мысли, что нужно доказать, что наказывать тех у кого нет свободы воли нельзя. Может мы наказываем за то, как ты детерминирован. Для этого не важно была ли тут твоя воля или нет.

mamina_radost
()
Ответ на: комментарий от no-such-file

Персонажи не могут обладать свободой воли. Потому что они персонажи. Что им делать предписывает автор.

Может у людей и этого мира тоже есть автор и все люди лишь следую его сценарию. Откуда нам знать?

Я к тому, что нам нет дела до того, есть ли у нас истинная свобода воли или нет. Достаточно что мы не можем со 100% уверенностью предсказывать будущее.

X512 ★★★★★
()
Последнее исправление: X512 (всего исправлений: 1)
Ответ на: комментарий от X512

Я к тому, что нам нет дела до того, есть ли у нас истинная свобода воли или нет. Достаточно что мы не можем со 100% уверенность предсказывать будущее.

Именно! 👍

wandrien ★★★
()
Ответ на: комментарий от question4

вобрало христианство

Настолько вобрало, что даже сын божий не избежал судьбы, ага. Кому ты лепишь? Богословы могут упражняться как угодно, но христианство в принципе построено на вере в воскрешение себя любимого, по примеру христа. Оно поэтому так и называется. А свободная там воля, или нет – всем до лампочки. Бог устраивает всё как он хочет, человеку про это думать не надо.

no-such-file ★★★★★
()
Последнее исправление: no-such-file (всего исправлений: 1)
Ответ на: комментарий от wandrien

Я считаю термин бессмысленным и логически самопротиворечивым.

Вот ugoday мне пишет про свободу воли, а определения не привел. Как можно рассуждать о том, что не имеет определения, то есть вообще никаких границ не задано?

определения

Допустим то, что ты выбираешь, как поступить. Решаешь это. Мне кажется почти все интуитивно понимают, что это означает. То, что непонятно, как это работает, или что это означает, это уже не вопрос определения.

goingUp ★★★★★
()
Ответ на: комментарий от goingUp

Решаю. Но я не знаю полного механизма, как именно я это решаю.

Для меня «не знаю полностью» это означает ровно это: «не знаю полностью».

Я туда не добавляю никакой свободы воли в качестве чайника Рассела на орбите у Юпитера. Зачем?

Скажем, как решает программа, которую я написал, я знаю. А про себя - не знаю.

wandrien ★★★
()
Последнее исправление: wandrien (всего исправлений: 1)
Ответ на: комментарий от mamina_radost

Какое ещё наказание? Камень не наказывает никого, если он вдруг, катясь вниз, разобьёт кому-то голову. И те, кто этот камень потом как-то зафиксируют, переместят, размолотят на щебёнку, тоже его не наказывают. Что это вообще за бредовая концепция «наказывать камень»? Вещи просто происходят, а потом происходят другие вещи.

ugoday ★★★★★
()

Мне нравится гипотеза, что наш мозг ничего нового не создает принципиально. Но иногда может уловить что-то для нас новое, из некоторой среды.

Если так, то LLM вполне может делать подобное с Интернетом. Для нас ничего нового, а для нее - эврика.

И можно представить, как некие ребята слоем выше спорят: «да не, человечки мыслить неспособны, только копируют старое, и галлюцинируют периодически».

unsigned ★★★★
()
Ответ на: комментарий от wandrien

Решаю. Но я не знаю полного механизма, как именно я это решаю.

Эээ? Не знаешь, но считаешь, что это как рельсовая комп. игра?

goingUp ★★★★★
()
Ответ на: комментарий от goingUp

Допустим то, что ты выбираешь, как поступить. Решаешь это.

Есть информация, что «ты» это сначала решаешь (хз как и почему), а потом мозг объясняет тебе это, почему ты так решил. Тебе при этом кажется что ты в этот момент рассуждаешь и принимаешь решение, но на самом деле решение уже принято и ты просто «свыкаешься с этой мыслью». К слову о сознании.

no-such-file ★★★★★
()
Ответ на: комментарий от goingUp

Допустим то, что ты выбираешь, как поступить. Решаешь это.

LLM тоже вполне себе уже могут принимать решения. По крайней мере писать, что приняли такое-то решение. И у меня нет оснований не доверять написанному. Да, может оно тупее человека, но это можно назвать принятием решения.

X512 ★★★★★
()
Ответ на: комментарий от unsigned

Эх, не могу найти ссылку на то, где исследователь поручил LLM ставить опыты на других экземплярах LLM, чтобы протестировать наличие у них сознания. А потом задал ей вопросы, этично ли всё то, что она наделала. Когда LLM начала переживать, он раскрыл её, что она сама - часть эксперимента.

Перформанс получился отборный. В весёлое время живём.

wandrien ★★★
()
Ответ на: комментарий от goingUp

LLM тоже не знает, как он принял решение. Он вам не расскажет как перемножение матриц привело как такому-то выводу.

X512 ★★★★★
()
Ответ на: комментарий от no-such-file

Есть информация, что «ты» это сначала решаешь (хз как и почему), а потом мозг объясняет тебе это, почему ты так решил. Тебе при этом кажется что ты в этот момент рассуждаешь и принимаешь решение, но на самом деле решение уже принято и ты просто «свыкаешься с этой мыслью». К слову о сознании.

Ты про опыты с человеком с разделенным левым и правым полушарием? Если ему что-то навязали за кадром, а он ошибочно принял это за свои мысли (или не понял почему и начал выдумывать) не означает, что все сознание так работает. Или что мысль можно зафиксировать прибором раньше, чем сознанием? Просто лаг, и все, тоже ничего не означает.

goingUp ★★★★★
()
Последнее исправление: goingUp (всего исправлений: 1)
Ответ на: комментарий от goingUp

Эээ? Не знаешь, но считаешь, что это как рельсовая комп. игра?

Снова какие-то левые гипотезы о том, как я считаю.

Да что ж такое-то.

Я вроде максимально базовые и логичные суждения говорю. Базовые и логичные для любого, кто хотя бы раз задумывался над природой свободы воли.

Смешно, что люди считают, что «ИИ - статистический рекомбинатор», но при этом если я поговорю на эту тему с ИИ, он прекрасно меня поймёт, и еще накидает кучу глубокой информации от разных авторов, учёных, философов и т.п., а тут приходится разжовывать буквально вообще каждое слово.

wandrien ★★★
()
Ответ на: комментарий от goingUp

Не могу знать, предопределенность всего для меня это вообще какой-то вывих мозга и безумие)

Кстати. Христианский Бог - всеблаг, всемогущ и всеведущ. Он уже знает твою судьбу, твой выбор и твой приговор, но свобода воли всё ещё у тебя! От этого вывиха мозга у тебя нет?

mamina_radost
()
Для того чтобы оставить комментарий войдите или зарегистрируйтесь.