LINUX.ORG.RU
ФорумTalks

Машина не может мыслить. И программировать тоже.

 , ,


3

3

Я подумал, вопрос того, может ли машина «кодить» лишен всяческого смысла в принципе. Потому как во-первых, собственно написание кода занимает лишь маленькую толику программирования, а во-вторых, для этого уже изобретены специальные языки.

Люди изобрели языки программирования чтобы передавать своим мысли компьютеру. Специально. Чтобы не передавать их на естественных языках, которые имеют кучу неточностей, двусмысленностей, которые сложно разбирать и так далее. Программист пишет на специальных, точных и выверенных компьютерных языках, которые однозначно трактуют конкретные обрисованные ситуации в каждый момент времени.

В этом смысле вайб-кодинг вообще бредовейшая идея. Все идеи такого рода, аля «дать менеджерам язык, похожий на естественный» - либо проваливались(как это было с COBOL или SQL - в итоге на них пишут программисты, да и они сами отошли от этой концепции), либо же превращались в определенного рода формализацию, скажем набор keywords, и подобного, в конечном итоге превращаясь в подобие компьютерного языка(как это с моделями для рисования, вроде Midjourney - язык, которым таким моделям пишут что им делать - довольно специфический и далек от разговорного или профессионального человеческого).

Так вот, проблема «кодинга», а конкретнее бойлерплейта, может решаться языками, в которых присутствует метапрограммирование. Я, несмотря на почти 15-летний опыт, никогда не любил писать код. Поэтому я люблю Лисп. Макросы и другие инструменты метапрограммирования дают в руки куда более конкретные и мощные инструменты, чем LLM.

Еще, программирование это на самом деле, как я уже сказал, не про кодинг. Программирование это прикладная область информатики, то есть науки об абстрактных процессах. Таким образом, программирование это про то, чтобы в голове оперировать абстрактными процессами - создавать их, изменять, и комбинировать. Машины на такое не способны, и LLM в частности, никогда не будет способна на это, потому как работает по другому принципу, по принципу текстовой подстановки, без внутреннего «мышления о процессах», как такового.

Многие вещи, которые я продумывал на протяжении своей карьеры, или при участии в Open Source, вообще сложно было формализировать, и еще на порядок сложнее было их описать на естественном языке. Мы также можем столкнуться с этим не только в программировании, но и например, в какой-нибудь теоретической физике или теории категорий - очень сложно описать на естественном языке, что там происходит. На формальном, то есть математическом - еще туда-сюда. То же самое с программированием. Я замечал, что мыслю иногда образами, а иногда настолько абстрактными вещами, когда дело доходит до программирования, что это сложно переложить на какой-либо вообще язык, тем более на естественный.

Поэтому, крики о том что машина заменит программистов, довольно абсурдны. Да, в принципе, в теории, мы можем привить машине какие-то инстинкты, так чтобы она отталкивалась от них, как от программы. Но как привить ей абстрактное мышление - мы не знаем, и вряд ли узнаем в ближайшее время, потому что мы сами не понимаем, что это такое. Мы не понимаем откуда берутся мысли такого рода и как они строятся. Мы можем понять только самые примитивные мысли - скажем, которые исходят из рефлексов и простейших инстинктов(еда, жажда, боль, и прочее такое), но как мозг оперирует абстракциями мы не понимаем вообще. Куда уж там до того чтобы научить этому машину. Мы детей то не можем, по сути, этому научить. Абстрактное мышление либо есть, либо нет.

Вот еще, к вопросу о природе сознания, но в том же контексте.

Любая такая деятельность, как программирование, упирается в вопрос о природе креативности. То есть, возможности создавать что-то новое. Не имитировать, не повторять в лоб, не пересказывать своими словами, а именно способность создавать что-то новое. LLM принципиально не способны на это. И если честно, по моим наблюдениям, на это не способны в том числе и огромное количество людей, в том числе в сфере программирования. Любая креативность подразумевает вспышку, создание какой-то концепции из ничего, и плетения паутины концепций вокруг нее; и в этой паутине также могут происходить свои вспышки. То есть, это вопрос о творчестве, будь это программирование, поэзия, рисование, или наука.

Творческие порывы всегда приходят как будто бы из ниоткуда. Это абсолютно не значит, что порыв приносит какую-то революционную идею, которая перевернет рынок, нет, но ни одна система в своей разработке не обходится без десятков таких порывов. В том же программировании, кстати говоря, нет ни одной похожей программной системы, если мы не говорим об искусственных примерах, использующихся, к примеру, для обучения, или о сознательном копировании какой-то вещи. Каждая программная система уникальна. А что это значит? Это значит, что в том или ином роде, каждая программная система это произведение искусства, то есть, продукт творчества.

К сожалению, множество менеджеров в разработке ПО не понимают этого, но вопрос не в этом. Вопрос в том, что мы совершенно и абсолютно не понимаем, как из ничего может появиться что-то, будь это большой взрыв, новая архитектурная модель, или же рифмованная строчка в какой-то песне. В области религии, конечно, объяснения есть, на любой вкус и цвет. Но они не формализируемы. Зато что мы знаем точно - что машина творить не способна. Она не способна из ничего придумать что-то.

Да, машина может научиться играть в шахматы. Но она не способна придумать шахматы. Или хотя бы Пакмана.

«There is no dark side in the moon, really. Matter of fact, it’s all dark. The only thing that makes it look light is the sun». Машина - это как Луна, в этом плане.

Интересно, что этот вопрос исследуется в религиях с древнейших времен.

Вопрос Creatio Ex Nihilo. Можно сказать, что он в религиях даже центральный. И человек - создан по образу и подобию, как говорится; в отличие от машины.

★★☆
Ответ на: комментарий от ugoday

Но выбрали отчего-то именно его

Когда-то Дийкстра протестовал против термина «память» применительно к ОЗУ. Видимо «человеку нужен человек», даже если его нет.

no-such-file ★★★★★
()
Последнее исправление: no-such-file (всего исправлений: 1)
Ответ на: комментарий от mamina_radost

Доказательством я называю обоснование

А что вы называете обоснованием?

которые будут приянты мной

Кем? Откуда взялся какой-то «вы», что это вообще такое?

Надо предполагать, что вы считаете, что ранее выживали только те живые организмы,

модель реальности которых не сильно отличалась от реальности. Оно и сейчас очень полезно, да времена настали травоядные. Можно считать себя философским зомби, можно Наполеоном, можно зомби-Наполеоном и всё равно добрые, заботливые люди не дадут вам умереть с голоду и холоду. Может даже и вылечат.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

а потом добавим ещё узлов в кластер

Да, узлы будут добавлены в кластер: https://www.youtube.com/watch?v=GhIJs4zbH0o Вот что творится. Так что попытки создать AGI идут, у нас в голове достаточно мощное и эффективное железо, и, наверное, пытаются достичь прорыва заполучив «больше узлов в кластер». Посмотрим, что из этого выйдет.

goingUp ★★★★★
()
Последнее исправление: goingUp (всего исправлений: 1)
Ответ на: комментарий от ugoday

А зачем, чего хотели этим добиться?

Почему происходят приливы и отливы? Кто в этом виноват и кому выгодно, не капиталистам ли?

Гражданин, сейчас мы будем открывать мир вместе. Смешивание терминов является естественным свойством человека, наших языков. Взять слово БОГ в авраамических религиях, буддизме, язычестве это абсолютно разные по смыслу слова. Они означают разных по влиянию, существованию, проявлению сущностей.

mamina_radost
()
Ответ на: комментарий от no-such-file

Вы вносите и вносите всё больше неопределённых сущностей. Что есть знание в отсутствии сознания? Проверочный вопрос: знает ли градусник какая сейчас температура?

встроенным инстинктом знания

Это вообще что такое?

Муравьи и пчёлы с тобой не согласны.

Коли так, пусть сами мне об этом и скажут.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

Но выбрали отчего-то именно его. А зачем, чего хотели этим добиться?

Этот термин удобен тем, что можно писать неиссякаемое количество статей по философии и получать за это гранты, даже если в статьях есть явно грубые ошибки. Кушать люди хотят, они больше ни на что не способны кроме как нести пургу студентам.

X512 ★★★★★
()
Ответ на: комментарий от goingUp

узлы будут добавлены в кластер

Будут. А дальше всё сводится к вере в диалектический переход количества в качество. Кто-то верит, кто-то — нет.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

А что вы называете обоснованием?

Последовательное использование логических аргументов. Когда вы спросите, что такое аргумент, я вам снова приведу определение из логики. А вот сможете ли вы привести определение сознания, это большой вопрос.

Кем? Откуда взялся какой-то «вы», что это вообще такое?

Если я не считаю, что сознание существует, значит меня нет? Как вы это доказали? А llm тоже не существует? А кошки Муси? А стульев?

mamina_radost
()
Ответ на: комментарий от mamina_radost

Ну, ок. Значит не осознанное враньё, а буквы сами собой так в слова сложились. Тут никто не виноват.

Извините, не могу ответить подробнее. Мой скрипт (на бабашке) чувствует себя одиноко и нуждается в моей заботе и внимании, протестует и отказывается работать. Пойду, займусь его воспитанием. Пора бы скрипту уже и повзрослеть!

ugoday ★★★★★
()
Ответ на: комментарий от mamina_radost

Когда вы спросите, что такое аргумент,

Нет, я спрошу: «Использование аргументов кем?».

Если я не считаю, что сознание существует,

Если сознание существует, то вы заблуждаетесь. А если не существует, то не заблуждаетесь, потому как нет того субъекта, который мог бы заблуждаться.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

У вас в рассуждениях неявное предположение, что мозги программиста не мощнее машины Тьюринга. А оно не основано ни на чём.

Оно основано на том, что известные физические процессы, кроме квантовых вычислений, не нарушают физический тезис Чёрча-Тьюринга. А квантовых вычислителей в мозгах пока не нашли.

Ну и известные на текущий момент квантовые алгоритмы не помогают с решением произвольных задач.

red75prim ★★★
()
Последнее исправление: red75prim (всего исправлений: 2)
Ответ на: комментарий от ugoday

Вы вносите и вносите всё больше неопределённых сущностей

Что значит неопределённых? Как бы со-знание подразумевает, что на счёт знания сомнений нет. Иначе как может существовать что-то производное?

пусть сами мне об этом и скажут

Они об этом и говорят, своим бытием. А это высшая форма истины. Уж не тебе православному это объяснять.

Что есть знание в отсутствии сознания?

Обладание информацией о реальности. Например собака каких-то людей знает, а каких-то нет. Реагирует соответственно.

no-such-file ★★★★★
()
Последнее исправление: no-such-file (всего исправлений: 1)
Ответ на: комментарий от ugoday

Значит не осознанное враньё, а буквы сами собой так в слова сложились.

Перепрочтите ещё раз свои слова, нарисуйте круги Эйлера и сделайте вывод, что между «буквы сами» и «вранье» злых капиталистов, бывает что-то ещё.

mamina_radost
()
Последнее исправление: mamina_radost (всего исправлений: 1)
Ответ на: комментарий от red75prim

Это было бы аргументом, если б люди могли на основе известных им принципов построить «мозги программиста». Пока не могут. Поэтому пока люди как на самом деле устроены мозги не знают. А раз не знают, то и говорить не о чем.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

Нет, я спрошу: «Использование аргументов кем?».

Вашим оппонентом, конечно, мистер @ugoday. Существую ли я в реальном мире, или этот мир только в вашей голове, не важно.

потому как нет того субъекта, который мог бы заблуждаться.

Вы последовательно продолжаете гнуть линию, что сознание равно существование. Но вы забыли это доказать. Ведь тогда логически следует, что всё, что существует – имеет сознание. Вы панпсихист?

mamina_radost
()
Ответ на: комментарий от ugoday

Большие языковые модели общего назначения уже решают задачи международных олимпиад программистов. И нет никаких намёков (ну, кроме, лирики и поэзии), что для решения задач на производстве требуется качественный скачок.

red75prim ★★★
()
Последнее исправление: red75prim (всего исправлений: 2)
Ответ на: комментарий от no-such-file

Что значит неопределённых?

То и значит. Слова без явного определения появляются в разговоре всё больше и больше и в целом всё сводится к объяснению неизвестного через непонятное. Не надо так.

Они об этом и говорят, своим бытием.

Нет, не об этом.

Обладание информацией о реальности.

Обладает ли градусник информацией о реальности?

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

Слова без явного определения появляются в разговоре всё больше и больше и в целом всё сводится к объяснению неизвестного через непонятное. Не надо так.

Согласен, например слово сознание в ваших текстах.

mamina_radost
()
Ответ на: комментарий от mamina_radost

Вашим оппонентом,

Что это такое вообще?

забыли это доказать.

Доказать кому? Кто должен доказать? Что вообще такое тогда доказательство? Без ответов на эти вопросы мы не продвинемся дальше.

сознание равно существование.

Только в аспекте разумного общения. Два камня могут существовать (без сознания), но ни мыслить, ни разговаривать, ни доказывать друг-другу они не могут.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

Обладает ли градусник информацией о реальности

Тут уже упоминали панпсихизм. В моём понимании да. Градусник устроен так, что он содержит информацию о реальности (температура) следовательно обладает знанием. Это знание встроено в сам предмет и т.о. являет собой самую примитивную форму знания. При этом использовать это знание градусник не может. Однако выше я привёл примеры когда знание используется без сознания. Причём как сложновстроенное (инстинкты у муравьёв и пчёл), так и динамически формируемое (рефлексы у собак). Если нужно пример знания у сущностей вроде градусника, которое при этом используются, то можно посмотреть на белки и их взаимодействие с ферментами.

no-such-file ★★★★★
()
Последнее исправление: no-such-file (всего исправлений: 1)
Ответ на: комментарий от red75prim

Это абсолютно не важно, ни на что не влияет и доказательством в данном вопросе не является. Но мне лень в третий раз объяснять, где тут логические петли и неявные постулаты спрятались.

ugoday ★★★★★
()
Ответ на: комментарий от red75prim

Большие языковые модели общего назначения уже решают задачи международных олимпиад программистов.

Это скорее аргумент не в пользу больших языковых моделей, а против задач международных олимпиад программистов. Заблуждение вида «сильный ИИ будет построен, когда он сможет одержать победу в шахматах перед сильнейшим человеком».

X512 ★★★★★
()
Ответ на: комментарий от no-such-file

Боюсь, мы говорим на кардинально разных языках, тут лучше зафиксировать этот факт и остановить спор о словах.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

Что это такое вообще?

Это сущность, которой вы отвечаете сейчас на ЛОРе.

Доказать кому?

Мне. Тут вы упорно продолжаете делать вид, не обосновывая, что существование равно сознание.

Кто должен доказать?

Вы.

Что вообще такое тогда доказательство?

Доказательство – это логическое обоснование суждений. Суждение – это текст, который вы (не только вы) генерируете.

mamina_radost
()
Последнее исправление: mamina_radost (всего исправлений: 1)
Ответ на: комментарий от ugoday

Будут. А дальше всё сводится к вере в диалектический переход количества в качество. Кто-то верит, кто-то — нет.

А что, если у них получится? Как там в Библии, в откровении

И дано ему было вложить дух в образ зверя, чтобы образ зверя и говорил и действовал так, чтобы убиваем был всякий, кто не будет поклоняться образу зверя. И он сделает то, что всем, малым и великим, богатым и нищим, свободным и рабам, положено будет начертание на правую руку их или на чело их, и что никому нельзя будет ни покупать, ни продавать, кроме того, кто имеет это начертание, или имя зверя, или число имени его.

Что за «образ» зверя такой? «вложить дух в образ зверя, чтобы образ зверя и говорил и действовал» Может это ИИ, не ИИ в общем, а конкретный ИИ созданый некой властью с определенными намерениями?

goingUp ★★★★★
()
Ответ на: комментарий от ugoday

зафиксировать этот факт и остановить спор о словах

Жаль, можно было бы ещё поговорить о коллективном знании/сознании роя, муравейника и человечества.

no-such-file ★★★★★
()
Ответ на: комментарий от mamina_radost

Мне

Какое-такое «мне»? Откуда тут взялось какое-то «я», которому можно что-то доказывать?

Вы

Тот же ответ. Откуда взялось какое-то «я» (что это вообще?), которое может что-то доказать?

логическое обоснование суждений

Так нету никого, кто мог бы логически судить суждения.

ugoday ★★★★★
()
Ответ на: комментарий от X512

сильный ИИ

Вообще тупорылый термин. Это как «сильный программист» который и программировать умеет и тяжести таскает. С какой стати ИИ должен быть «сильнее» чем все люди за всё время вместе взятые? Причём сразу, не отходя, от кассы, а не в результате многолетнего развития.

no-such-file ★★★★★
()
Последнее исправление: no-such-file (всего исправлений: 1)
Ответ на: комментарий от goingUp

Хотя, наверное, для всеобщего контроля и чтобы обольщать народ в качестве AI политика, AGI не нужен. Но нужно больше узлов! Вон Маск выпустил своего грока чирикать в твиттер)

goingUp ★★★★★
()
Ответ на: комментарий от lovesan

На самом деле, все что LLM высирает, надо как минимум долго и тщательно править. И это только затрудняет и удлинняет разработку.

Они непрерывно совершенствуются. Где-то весной прошлого года LLM ещё запросто генерировали код с несуществующими библиотеками или методами.

Сейчас же это стало редкостью, а не слишком длинный код в пределах 100-150 строк после них очень часто компилируется без ошибок вообще. Задачи с литкода часто им уже можно скормить как есть и сразу получить работающее решение.

И это даже пугает. И не страхом работу потерять, а мыслью, что а чем мы от LLM отличаемся? Особенно в случае вывода цепочки «рассуждений» при решении задачи. Пока что отличаемся способностью придумать принципиально новое, но нет уверенности, что с дальнейшими усовершенствованиями, чему-то такому модели тоже не научатся.

Во всяком случае, как человек, изучающий эту тему уже почти пару лет, могу категорически сказать, что нынешние модели - это уже далеко не просто генерация наиболее вероятного текста. Принципы по которым идёт обработка подаваемого контекста стали очень сложными.

В этом плане есть ещё такая полумистическая штука. Уже традиционно, например, для распознавания изображений или звука, модели тренировали на датасете из них. С этого ещё персептрон Розеблата в 50-60-е начал, с этого даже нынешний взлёт нейросетей началался, когда в 2012-м на конкурсе ImageNet распознаваний (классификаций) изображений с большим отрывом выиграла свёрточная сеть AlexNet.

Но вот, что неожиданно и в чём-то мистически - это что LLM, которую тренировали на текстах, а не изображениях, может и их тоже распознавать!!! Лишь бы токенизировать изображения и подавать их на вход.

anonymous_incognito ★★★★★
()
Ответ на: комментарий от goingUp

Во-первых, пусть сначала сделают. А, во-вторых, это всё равно ни на что не повлияет тогда. Если начнётся предсказанное в откровении Иоанна Богослова, то тут нужно конечно немедленно становиться хорошим мальчиком, чтобы попасть в Рай. А если не начнётся, то всё равно нужно становиться хорошим мальчиком, чтобы попасть в Рай. Ну и разница? Да и вообще, когда я увижу как «конь белый, и на нем всадник, имеющий лук, и дан был ему венец; и вышел он как победоносный, и чтобы победить». Мне сразу резко не до чат-гопоты будет.

ugoday ★★★★★
()
Ответ на: комментарий от question4

Мы, люди, можем делать выводы, умозаключения, обладая гораздо меньшей базой знаний, чем LLM. Причем, мы можем что-то забыть, что-то помнить не вполне ясно, а что-то может быть в корне неверным. LLM, обладая такими «знаниями», была бы бесполезна.

yars068 ★★★★★
()
Ответ на: комментарий от anonymous_incognito

Лишь бы токенизировать изображения

А как ты токенизируешь изображения без предварительного распознавания? Ну т.е. можно конечно в режиме самообучения, но тогда LLM сформирует свой язык токенов для описания изображений и «всадник на лошади» может оказаться «535-lhgd zx y546 ozcx». Причём речь будет про «серо-коричневый симбиот со стальными подковами».

no-such-file ★★★★★
()
Ответ на: комментарий от no-such-file

Причём сразу, не отходя, от кассы, а не в результате многолетнего развития.

Ну дык концепция технологической сингулярности же. Если ии будет способно разработать ии чуть лучше себя второй версии, вторая версия сделает третью и т.д. То есть какой-то момент развития будет особенным и приведет к этой самой сингулярности, будет резкий скачок. Можно это называть AGI.

goingUp ★★★★★
()
Ответ на: комментарий от ugoday

Какое-такое «мне»?

Я – @mamina_radost

Смотрите, есть стул, у него есть свойство «стульности», на нём сидят! Есть кухонный стол, у него есть свойство «кухонной стольности», за ним едят!

Есть llm, у него есть свойства «llmности». Вы отрицаете, что у этих вещей есть сознание (только забыли определение дать этому слову), но не отрицаете их существование. При этом вы отрицаете, что существует @mamina_radost со свойствами «mamina_radostности», потому что сознания (чтобы это не значило) в нём нет!

Так нету никого, кто мог бы логически судить суждения.

Если бы вы дали определение сознанию, а потом доказали, что логические суждения присущи только сознательному, то ваше утверждение не было бы просто набором токенов. Но вы этого сделать не смогли.

mamina_radost
()
Ответ на: комментарий от olelookoe

живут не приходя в сознание

Ну так что б всю жизнь, это редкость. Обычно в какой-то момент получают леща и начинают соображать. Кстати я тут как-то читал, что угрозы наказания эффективны против галлюцинаций и тупняка со стороны LLM.

no-such-file ★★★★★
()
Последнее исправление: no-such-file (всего исправлений: 1)
Ответ на: комментарий от wandrien

И получилась огромная портянка воды, лол. :) Прямо иллюстрация к тому что LLM это просто примитивная комбинаторика

Merlin86
()
Ответ на: комментарий от mamina_radost

Смотрите, есть стул, у него есть свойство «стульности», на нём сидят!

Сидеть можно. А вот разговаривать со стулом и чего-то ему доказывать — уже нет. Не делайте так. Я тоже не буду.

ugoday ★★★★★
()
Ответ на: комментарий от ugoday

становиться хорошим мальчиком, чтобы попасть в Рай

Вроде ж чтобы попасть в рай нужно просто искренне раскаяться и уверовать, а становится хорошим мальчиком это последующий путь

goingUp ★★★★★
()
Ответ на: комментарий от mamina_radost

Докажите своё высказывание. Люди тысячи лет жили, не вводя в обиход идею сознания, эта идея ни чем не полезна. До сих пор она характерна больше для западного мира, контринтуитивна для многих буддистов. Предположим, я буду жить с мыслью, что сознания нет и?

Да, хотя бы: нету сознания -> нету свободы воли -> уголовное право бессмысленно, так как преступников не за что наказывать

Merlin86
()
Ответ на: комментарий от no-such-file

А как ты токенизируешь изображения без предварительного распознавания?

Если в двух словах, то изображение делится на непересекающиеся фрагменты, например, 16x16, каждый из которых потом да, пропускается, через что-то делающее ряд преобразований, и на выходе получаются вектора, которые трактуются как токены.

Можно это считать чем-то вроде предварительного распознавания, но очень условно. Основная логика всё-таки в том, что LLM работает не со словами, а с токенами, полученными из слов. И как оказывается, не обязательно из слов.

Тут ещё можно вспомнить умение LLM переводить тексты с одного языка на другой. Фокус в том, что их специально (ну кроме совсем уже специальных моделей) этому не обучали

anonymous_incognito ★★★★★
()
Последнее исправление: anonymous_incognito (всего исправлений: 1)
Ответ на: комментарий от Merlin86

свободы воли

Так, пошла свобода воли, теперь тред точно не загнется)

goingUp ★★★★★
()
Ответ на: комментарий от ugoday

Коли так, пусть сами мне об этом и скажут

Они, может, и сказали бы, если бы были способны коммуницировать с нами, а мы – с ними. Скорее всего, они коммуницируют между собой, но мы этого не замечаем/не понимаем.

yars068 ★★★★★
()
Ответ на: комментарий от ugoday

чтобы попасть в Рай

Ты какой-то неправильный православный. Какой ещё рай? Главное воскреснуть на Земле (на этой же самой, в этом же самом теле).

no-such-file ★★★★★
()
Для того чтобы оставить комментарий войдите или зарегистрируйтесь.