Ричард Докинз пообщался c Клодом, назвал его Клавой и сказал что она разумна

И какой язык нужен, чтобы полететь к звёздам?

Критерий разумности - саморефлексия.
«Что я делаю?», «что я говорю?», «что я думаю?».

Так многие кожатые тоже так не умеют.

именно так

как по мне - уже выжимает сильно больше (а главное быстрее) джуниоров, но за 100 баксов в мес меня жаба удушит :)

А где ты джунов дешевле 100 баксов в месяц берешь?

Ну такой, знаешь, чтобы написал «лететь к звездам» и летишь.

Тот, что позволит произвести базовую автоматизацию цивилизации. Чтобы мечтатели не думали как на хлеб насущный заработать. Чтобы в обществе вопрос базовых потребностей вообще не стоял. Чтобы люди смотрели на наш исторический момент, как на каменный век охотников на мамонтов.

На сях и крестах этого не сделать. На ржавом тоже.

Так я не принижаю ИИ. Сам пользуюсь, хороший инструмент в грамотных руках. Пусть и дальше развивается, потенциал огромный. Мы все увидели только верхушку айсберга.

И какой язык нужен, чтобы полететь к звёздам?

ДРАКОН же, ну.

Кстати, проще изобретать не межзвездный двигатель, а межзвездную связь, а там просто такси вызвать.

там просто такси вызвать.

SMS от Эйнштейна: «Почём межзвёздный извоз и как оплачивать счётчик, в системе координат отправления или прибытия?» :)

А ты уверен, что в этом вообще должен помогать именно язык программирования?

Кстати, проще изобретать не межзвездный двигатель, а межзвездную связь, а там просто такси вызвать.

Очень хорошо такое такси описано у Лю Цысиня во второй книги трилогии о «Задаче трех тел», он этот феномен назвал «тёмный лес».

Ричард Докинз поговорил с Клод 3 дня подряд, и теперь называет его Клавдией и говорит что ИИ разумно:

Если это не дня а суток, то вполне нормальное явление. Проходил на себе, почти трое суток хардкорного девеломпмента, после которого чутка принял, реально чутка (одна маленькая стопка) и всё! очнулся с утра в кровати, как до дома добрался не помню от слова совсем. Но самое главное, что рассказали родные я ещё и «чудил», даже подумали, что я какие-то наркотики принял. А всего-то три дня без сна с загруженностью мозга по полной. И это ещё в сильно молодом возрасте было, мне тогда и 20-тник не стукнул. А тут дяденьке сколько лет уже, он в какой угодно разум поверить может.

А ты уверен, что в этом вообще должен помогать именно язык программирования?

Конечно. Слышал историю про Вавилонскую башню? Ладно, история попроще. Про CUDA что-нибудь слышал?

за 100 баксов в мес меня жаба удушит

джунов дешевле 100 баксов в месяц

я для личных целей никого не нанимаю, пользуюсь тем, что есть забесплатно

Это тест, который можно пройти двумя способами: либо подтянуть интеллект машины до человеческого, либо опустить человеческий. Есть мнение, что второе проще.

Такой диагноз еще как существует и доводит порой до дурки или того хуже, уже были случаи. Но этот на них не похож, Докинз кругами не бегает с криками о том, что мы живем в матрице, демонов не видит и не убеждает себя же причинять себе вред; он может себе позволить поиграть с определением слова «разумность»

Из-за, которых приходится писать множество дублирующего кода. Поэтому вот эти Клоды и блистают в этом болоте легаси.

LLM действительно легко поднимает бойлерплейт. Однако, он способен на гораздо большее:

1. Работать с похожими, но не идентичными языками. Я регулярно прошу его (думающий DeepSeek) поревьюить мой код на rc 1 — очень нераспространённый язык.

2. Анализировать необычную и непрямую логику. Например, он смог понять пайплайн из ~7 команд, в котором лексически вообще ничто даже не намекало на конечный результат (минимальная ширина выравнивания):

cat $tmpfd0 |
grep . |
sed 's/[^	 ].*//' |
awk '{print length}' |
sort -n |
sed 1q |
seq -f. `{cat} |
tr -d '\xa'

3. Понимать совершенно неизвестные ему языки, если объяснить ему основные принципы. У меня получалось заставлять его понимать sam 2 — язык, который он вообще не понимал.

То есть ошибки возникают вовсе не из-за экзотичности технологии, а скорее из-за галлюцинаций: он не может провести грань между истиной и ложью, поэтому просто продолжает генерировать что у него спросили.

Когда получится создать новые ЯП, новые IDE, фреймворки и ОС соответсвующие 21 веку, все эти Клоды будут не нужны. Любой погроммист с такими инструментами сможет решать задачи быстрее, чем с Клодом.

С тем, что наши системы безнадёжно устарели, я согласен. Это можно обосновать. Однако, «новые» звучит очень размыто: чем они должны принципиально отличаться от текущих систем?

У меня есть другая мысль, но в похожем направлении. Сегодня мы наблюдаем концептуальную фрагментацию компьютеров. Какую бы задачу мы не взяли, есть не просто несколько подходов её решить, а сотни конкретных способов, каждый из которых чем-то отличается от всех остальных. Мы до сих пор не пришли к единому способу управлять окнами. Разумеется, это сильно завышает порог эффективного использования компьютеров: слишком много мета-препятствий.

Однако, есть две проблемы:

1. Решение проблемы фрагментации не видно даже на горизонте. Мы до сих пор не перешли на IPv6.

2. Собственно, а с каких пор мы решили, что ИИ не смог бы эксплуатировать эту потенциальную выгоду? Модели станут проще, датасеты станут менее противоречивыми, количество ложно-положительных ошибок сократится.

Поэтомы разрабы до сих пор работащие в Vi

Вы где таких разрабов-то видели? Все сидят на IDE. В лучшем случае на текстовом редакторе с плагинами, который всё равно становится сложнее отличить от IDE с каждым годом. Даже самая многочисленная база поклонников vi (пользователи vim) подражает IDE, причём давно.

Любители легковесного софта и минимализма в компьютерах — это ниша в нише.

Какие есть метрики для сознания, и что вообще такое сознание?

Сознание — это способность воспринимать то, что существует. Это первичный факт, который содержится во всех остальных: нечто существует и ты это знаешь.

Единицами понятия «сознание» являются каждое состояние или процесс осознавания, которое индивид испытывает, испытывал или будет испытывать.

Метрика — это система или стандарт измерения.

Сознание как таковое, очевидно, «измерить» невозможно, равно как и невозможно измерить существование как таковое. Измерить можно конкретные единицы, которые эти понятия абстрагируют: психологические процессы, когнитивные функции, оценивание. Измерять можно по содержанию, интенсивности, охвату, иерархии, etc.—конкретное применение стандарта диктуется тем, что именно измеряется.

Но ваш вопрос, очевидно, подразумевает, какие материальные метрики присущи сознанию. Никакие. Как и никакие ментальные метрики не присущи материальным предметам. Настойчивость монистов на том, что должно быть только что-то одно, беспочвенна и может быть принята только на веру.

И о чем тогда тут говорить?

очень нераспространённый язык

Как мне кажется, все эти нераспространённые языки давно и прочно сидят в обучающем датасете. Я вот проверил, и клава и чатгопота знают очень нишевый язык byond и уверенно на нём пишут [бойлерплейт], соблюдая стиль и общепринятые правила. Эрудиция у LLM колоссальная и не стоит недооценивать эту их сильную сторону.

Мне кажется, люди которые вообще критикуют AI, никогда не общались с ИИ как Докинз. Ну или как я, хотя бы.

См. AI-induced psychosis

Чем они должны принципиально отличаться от текущих систем?

Значительным уменьшением дублирования кода. На дворе 21 веке, а банальное создание приложения для работы с БД это боль и страдания. Огромная фрагментация библиотек, фреймворков, языков. Популярные библиотеки и фреймворки ужасно тяжеловесны и переусложнены. А что попроще требует массы телодвижений для банального хеловорда.

Управление проектом тоже самое. Просто поискать какой-то код в интернете невозможно. На гитхабе поиск ужасен. Где-то находил альтернативные поисковики, чуть лучше, но в целом также ужасно. Поэтому приходится использовать чатгпт, они хотя бы имеют большую базу по коду и ищут примерно, что тебе нужно. Но при грамотном поисковике эти чатгпт были бы не нужны.

Решение проблемы фрагментации не видно даже на горизонте

Моя цель создания аналога эпл в опенсорце. Единная экосистема открытого железа и софта с высоким качеством реализации и дизайна.

Решается общением о себе (пользователе) в третьем лице, не раскрывая свою личность.

Но здесь тоже кроется подвох: его можно склонить к определенной стороне, давая пояснения. Проблема в том, что он воспринимает это как инструкцию и слепо следует ей, поэтому нет уверенности, что он даст поддержку по существу, а не просто красиво-звучащую прозу.

банальное создание приложения для работы с БД это боль и страдания

Для юзеров специально созданы no-code/low-code платформы, чтобы юзер не ломал профессиональные инструменты разработки и не резал себе руки.

Моя цель создания аналога эпл в опенсорце.

И как продвигается?

low-code платформы

SQL штоле? :D

Я предполагаю, что он таки про гуйню.

Причём тут юзер? Я тебе задачу дам сделать приложение с СУБД. Ты нме либо hibernate начнёшь подключать, либо полезешь вручную sql пилить. То и то зло. Нет СУБД работающей в одном процессе с приложением через удобный АПИ, не требующий лишние телодвижения как для процессора, так и для человека. Особый случай если ты мне ещё plsql начнёшь лепить. И в этом сейчас весь ИТ. Колется, но жрёт этот кактус.

И как продвигается?

Черновые наброски ЯП. Плюс видение как это всё можно сделать. Хотя процессор не знаю как делать открытым. Даже ЦПУ уровня микроконтроллера нет понимания как это всё можно сделать и заказать на фабрике.

Причём тут юзер?

Ну ты рассуждаешь с позиций юзера.

Черновые наброски ЯП

Вааау.

Даже ЦПУ уровня микроконтроллера нет понимания как это всё можно сделать

Программирование FPGA для начинающих © (litres.ru).

Вон Gemini Pro вполне о себе говорит постоянно всякое «такие модели как я», или «как AI, я …», или «спасибо что выбрали меня», или что-то в этом духе

Codex/GPT-5.5 мне на Common Lisp находит критические ошибки в моей библиотеке https://github.com/Lovesan/bike - причем продираясь через трехэтажные макросы и межъязыковой interop. Даже race condition нашла. Gemini тоже вполне себе разбирается в моем коде.

Там трехэтажные макросы. Этих макросов у них в обучающей выборке нет, у них, естественно, нет. Они буквально посмотрели код, README, итд, и могут исправлять сложные ошибки. Я уж не говорю про то чтобы использовать API.

То есть они строят в голове «картину мира». Это не просто автодополнение, обученное там на куче вещей.

Каким образом модели понимают мои трехэтажные макросы, вот типа таких, по-твоему?

https://github.com/Lovesan/bike/blob/master/src/proxy-compiler.lisp

Там даже reader-макросы. По сути это язык над лиспом.

Психоз, в т.ч. разная шиза, это, в первую очередь дефект мышления, а не «странные мысли»

Человек буквально тупеет. Видел это лично.

То есть они строят в голове «картину мира». Это не просто автодополнение, обученное там на куче вещей.

И таким образом, разбивается аргумент о «китайской комнате». То есть модель понимает не только синтаксис, но и семантику.

То есть они строят в голове «картину мира». Это не просто автодополнение, обученное там на куче вещей.

Ничего они не строят. Базовая математика косинус между векторами, только на огромном массиве данных. Я и не говорил, что это автодополнение. Ошибки находят, потому что их сотни-тысячи нанятых индусов обучили их находить. Настроили те самые векторы.. А твой лисп ничем не отличается от других ЯП, если вынести за скобки синтаксис. Поэтому в основе работает всё тот же косинус между векторами.

Поэтому это отличная штука для избавления от рутины. Но сделать прорыв в создании новых инсрументов разработки, начиная с ЯП эта штука не осилит. Или просто изобрести фундаментально новый UI/UX ей тоже не под силу. Я уж не говорю про термояд и машину времени.

Этих макросов у них в обучающей выборке нет, у них, естественно, нет

код на гитхабе

они строят в голове «картину мира».

Да, эта «картина мира» называется «большая лингвистическая модель». К полноценной картине мира это не имеет никакого отношения. Потому что другие программы и системы тоже работают со своими моделями(«картинами») мира(которые называются не «LLM» а как-то иначе). // тут правда не факт что а облаке только LLM используются, а не некоторая смесь из LLM, экспертных систем и др

Ну попробуй ей скормить свой макрос на лиспе. Она так же разбирается. Она умнее чем средний кодер.

Причем как работает агент - это видно. Он среди прочего смотрит документацию и код. И рассуждает. Это уже лучше чем 90% «кодеров»

Это уже лучше чем 90% «кодеров»

Вы пессимист. Это лучше 99% «кодеров»

И рассуждает.

А казалось бы в основе простой косинус между векторами. Как и в основе 0 и 1, а вон какие чумовые вещи из этого получились.

Ты понимаешь что понимать макросы лиспа и связку двух разных рантаймов - это уже фундаментальный рывок? Обычный кодер там не поймет нихрена. А просто автодополнение не может понимать макросы. Чтобы понимать макросы(или MOP) - недостаточно просто подставлять токены. Ей надо думать о них, раскрывать их «в уме»

Ну попробуй ей скормить свой макрос на лиспе. Она так же разбирается. Она умнее чем средний кодер.

Ну заупусти расчёт прочности балки или подбор профиля крыла в воздушном потоке в специальной программе. Она так же произведёт много математических операций и выдаст результат. Ну всё теперь, программа разбирается в физике лучше Эйнштейна. Он бы эти матрицы умножал много лет, а тут числодробилка их подробила за неделю.

Это он говорит о себе - а это не признак разумности.
А вот например «сначала я подумал что дважды два равно пять, мне эта мысль казалась очевидной, и уж было собрался отвечать, но что-то меня остановило и заставило обдумать вопрос еще раз и тут-то меня и осенило! Очевидная ошибка была прямо перед носом! Как же я ее упустил! Ну конечно же четыре! Четыре, а не пять! Моя склонность к спешке и самонадеянность снова подвели меня, надо это намотать на ус и обязательно учесть в будущем!» - вот тут я вижу саморефлексию.
И это несомненный признак разумности, несмотря на допущенные ошибки. Которые как раз таки мерилом разумности не являются (иначе пришлось бы признать разумным калькулятор - уж кто кто, а он точно не ошибается)

Регулярно подобные промпты в thinking плашке

Ей надо думать о них, раскрывать их «в уме»

Ну, такими темпами у тебя компилятор умеющий в рекурсию станет AGI. Нет там ума, есть настроеные веса на огромных массивах данных. Внезапно их можно настроить на логику преобразования макросов в код.

Более того, веса эти статичны и отлиты в граните. Они не могут перенастраиваться в рантайме, не имеют обратной связи.

А ещё такая штука. Компилятор даст тебе 100% гарантию правильности преобразования макросов в код. А настроена веса нейронки в лучшем случае даст где-нибудь 95%

А у тебя в голове что находится, вопрос?

Нету там никакого компилятора лиспа внутри

В голове нейроны пластичны и имеют обратную связь. Они в реальном времени могут перенастраиваться. А эта штука так не умеет на текущий момент. Как сделают приходи. Но боюсь сейчас не хватит у них для этого мощности. Если только для обучения им 100500 датацентров нужно.

Нету там никакого компилятора лиспа внутри

Вот здесь ты прав, там лишь слабая тень этого компилятора. Там и калькулятора нет, но тем не менее веса нейронки можно подстроить так, что будет нечто похожее на калькулятор при подаче данных на входе и снятии на выходе. Прадва будет работать правильно лишь с некоторой вероятностью.