LINUX.ORG.RU
ФорумTalks

Машина не может мыслить. И программировать тоже.

 , ,


3

3

Я подумал, вопрос того, может ли машина «кодить» лишен всяческого смысла в принципе. Потому как во-первых, собственно написание кода занимает лишь маленькую толику программирования, а во-вторых, для этого уже изобретены специальные языки.

Люди изобрели языки программирования чтобы передавать своим мысли компьютеру. Специально. Чтобы не передавать их на естественных языках, которые имеют кучу неточностей, двусмысленностей, которые сложно разбирать и так далее. Программист пишет на специальных, точных и выверенных компьютерных языках, которые однозначно трактуют конкретные обрисованные ситуации в каждый момент времени.

В этом смысле вайб-кодинг вообще бредовейшая идея. Все идеи такого рода, аля «дать менеджерам язык, похожий на естественный» - либо проваливались(как это было с COBOL или SQL - в итоге на них пишут программисты, да и они сами отошли от этой концепции), либо же превращались в определенного рода формализацию, скажем набор keywords, и подобного, в конечном итоге превращаясь в подобие компьютерного языка(как это с моделями для рисования, вроде Midjourney - язык, которым таким моделям пишут что им делать - довольно специфический и далек от разговорного или профессионального человеческого).

Так вот, проблема «кодинга», а конкретнее бойлерплейта, может решаться языками, в которых присутствует метапрограммирование. Я, несмотря на почти 15-летний опыт, никогда не любил писать код. Поэтому я люблю Лисп. Макросы и другие инструменты метапрограммирования дают в руки куда более конкретные и мощные инструменты, чем LLM.

Еще, программирование это на самом деле, как я уже сказал, не про кодинг. Программирование это прикладная область информатики, то есть науки об абстрактных процессах. Таким образом, программирование это про то, чтобы в голове оперировать абстрактными процессами - создавать их, изменять, и комбинировать. Машины на такое не способны, и LLM в частности, никогда не будет способна на это, потому как работает по другому принципу, по принципу текстовой подстановки, без внутреннего «мышления о процессах», как такового.

Многие вещи, которые я продумывал на протяжении своей карьеры, или при участии в Open Source, вообще сложно было формализировать, и еще на порядок сложнее было их описать на естественном языке. Мы также можем столкнуться с этим не только в программировании, но и например, в какой-нибудь теоретической физике или теории категорий - очень сложно описать на естественном языке, что там происходит. На формальном, то есть математическом - еще туда-сюда. То же самое с программированием. Я замечал, что мыслю иногда образами, а иногда настолько абстрактными вещами, когда дело доходит до программирования, что это сложно переложить на какой-либо вообще язык, тем более на естественный.

Поэтому, крики о том что машина заменит программистов, довольно абсурдны. Да, в принципе, в теории, мы можем привить машине какие-то инстинкты, так чтобы она отталкивалась от них, как от программы. Но как привить ей абстрактное мышление - мы не знаем, и вряд ли узнаем в ближайшее время, потому что мы сами не понимаем, что это такое. Мы не понимаем откуда берутся мысли такого рода и как они строятся. Мы можем понять только самые примитивные мысли - скажем, которые исходят из рефлексов и простейших инстинктов(еда, жажда, боль, и прочее такое), но как мозг оперирует абстракциями мы не понимаем вообще. Куда уж там до того чтобы научить этому машину. Мы детей то не можем, по сути, этому научить. Абстрактное мышление либо есть, либо нет.

Вот еще, к вопросу о природе сознания, но в том же контексте.

Любая такая деятельность, как программирование, упирается в вопрос о природе креативности. То есть, возможности создавать что-то новое. Не имитировать, не повторять в лоб, не пересказывать своими словами, а именно способность создавать что-то новое. LLM принципиально не способны на это. И если честно, по моим наблюдениям, на это не способны в том числе и огромное количество людей, в том числе в сфере программирования. Любая креативность подразумевает вспышку, создание какой-то концепции из ничего, и плетения паутины концепций вокруг нее; и в этой паутине также могут происходить свои вспышки. То есть, это вопрос о творчестве, будь это программирование, поэзия, рисование, или наука.

Творческие порывы всегда приходят как будто бы из ниоткуда. Это абсолютно не значит, что порыв приносит какую-то революционную идею, которая перевернет рынок, нет, но ни одна система в своей разработке не обходится без десятков таких порывов. В том же программировании, кстати говоря, нет ни одной похожей программной системы, если мы не говорим об искусственных примерах, использующихся, к примеру, для обучения, или о сознательном копировании какой-то вещи. Каждая программная система уникальна. А что это значит? Это значит, что в том или ином роде, каждая программная система это произведение искусства, то есть, продукт творчества.

К сожалению, множество менеджеров в разработке ПО не понимают этого, но вопрос не в этом. Вопрос в том, что мы совершенно и абсолютно не понимаем, как из ничего может появиться что-то, будь это большой взрыв, новая архитектурная модель, или же рифмованная строчка в какой-то песне. В области религии, конечно, объяснения есть, на любой вкус и цвет. Но они не формализируемы. Зато что мы знаем точно - что машина творить не способна. Она не способна из ничего придумать что-то.

Да, машина может научиться играть в шахматы. Но она не способна придумать шахматы. Или хотя бы Пакмана.

«There is no dark side in the moon, really. Matter of fact, it’s all dark. The only thing that makes it look light is the sun». Машина - это как Луна, в этом плане.

Интересно, что этот вопрос исследуется в религиях с древнейших времен.

Вопрос Creatio Ex Nihilo. Можно сказать, что он в религиях даже центральный. И человек - создан по образу и подобию, как говорится; в отличие от машины.

★★☆
Ответ на: комментарий от lovesan

Знаем. Человек способен решать алгоритмически неразрешимые задачи.

например?

adn ★★★★
()
Ответ на: комментарий от watchcat382

Три гигабайта - это не много, скоро дизассемблируют и разберутся как этот код править.

там кодирование очень хитрое - не влезет в 3 гигабайта

adn ★★★★
()
Ответ на: комментарий от watchcat382

В очень многих,если не большинстве, случаев можно обойтись намного более простыми узкоспециализированными электронными роботами.

полностью согласен. как раз робот-программист один из таких роботов будущего

adn ★★★★
()
Ответ на: комментарий от lovesan

Программирование это не производственая задача, это не механический однотипный труд, это творчество.

Программирование - это всего лишь объяснение компьютеру что ты от него хочешь. От какой-нибудь сантехники и электроники отличается только инструментами для реализации. Программирование - это обычное ремесло.

adn ★★★★
()
Ответ на: комментарий от watchcat382

как этот код править.

как править в принципе знают уже более 50 лет. с 1970х годов, когда появились первые генно-модифицированные культуры

adn ★★★★
()
Ответ на: комментарий от watchcat382

Хотя мозг-то есть,вполне средненормальных размеров.

У людей с синдромом Дауна он что визуально, что на компьютерной томографии выглядит несколько иначе - с менее развитой корой. Увы, он дефектный.

Leupold_cat ★★★★★
()
Последнее исправление: Leupold_cat (всего исправлений: 1)
Ответ на: комментарий от adn

не влезет в 3 гигабайта

Я помню что лет двадцать назад объем генетической информации оценивали в 800 Мб и сравнивали с объемом компакт-диска. Видимо с тех пор еще что-то накопали если сейчас уже про три гига пишут.

watchcat382
()
Ответ на: комментарий от watchcat382

Ну только совсем недавно выяснили что «мусорные звенья», которые не отвечают за наследственные признаки ни фига не мусорные, а подпрограммы. А этих молекул больше 90% от всей цепочки ДНК и раньше их вообще не учитывали.

adn ★★★★
()

В старых фильмах роботы рассуждали максимально рационально и этим отличались от людей. Гуманитарии-сценаристы почему-то пытались выдать это за дефект. Сегодняшний ИИ пытается имитировать бестолковое мышление людей. И это тупиковый путь.

Люди изначально мыслят ещё хуже чем нейронки. Научный подход, который дают в школах и ВУЗ-ах, с доказательствами теорем, с выводом формул и т.д. делают мышление намного более ценным. Если ИИ освоит научный подход, а не имитацию мышления, то, конечно же сможет заменить людей. Потому что по другим параметрам он уже лучше.

А «вспышки», «творческие порывы будто бы из ниоткуда» - это гуманитарная чушь. Это не из ниоткуда, а результат обработки данных нашей внутренней «нейронкой».

Kogrom
()
Для того чтобы оставить комментарий войдите или зарегистрируйтесь.