Ричард Докинз пообщался c Клодом, назвал его Клавой и сказал что она разумна

И какой язык нужен, чтобы полететь к звёздам?

Критерий разумности - саморефлексия.
«Что я делаю?», «что я говорю?», «что я думаю?».

Так многие кожатые тоже так не умеют.

именно так

как по мне - уже выжимает сильно больше (а главное быстрее) джуниоров, но за 100 баксов в мес меня жаба удушит :)

А где ты джунов дешевле 100 баксов в месяц берешь?

Ну такой, знаешь, чтобы написал «лететь к звездам» и летишь.

Тот, что позволит произвести базовую автоматизацию цивилизации. Чтобы мечтатели не думали как на хлеб насущный заработать. Чтобы в обществе вопрос базовых потребностей вообще не стоял. Чтобы люди смотрели на наш исторический момент, как на каменный век охотников на мамонтов.

На сях и крестах этого не сделать. На ржавом тоже.

Так я не принижаю ИИ. Сам пользуюсь, хороший инструмент в грамотных руках. Пусть и дальше развивается, потенциал огромный. Мы все увидели только верхушку айсберга.

И какой язык нужен, чтобы полететь к звёздам?

ДРАКОН же, ну.

Кстати, проще изобретать не межзвездный двигатель, а межзвездную связь, а там просто такси вызвать.

там просто такси вызвать.

SMS от Эйнштейна: «Почём межзвёздный извоз и как оплачивать счётчик, в системе координат отправления или прибытия?» :)

А ты уверен, что в этом вообще должен помогать именно язык программирования?

Кстати, проще изобретать не межзвездный двигатель, а межзвездную связь, а там просто такси вызвать.

Очень хорошо такое такси описано у Лю Цысиня во второй книги трилогии о «Задаче трех тел», он этот феномен назвал «тёмный лес».

Ричард Докинз поговорил с Клод 3 дня подряд, и теперь называет его Клавдией и говорит что ИИ разумно:

Если это не дня а суток, то вполне нормальное явление. Проходил на себе, почти трое суток хардкорного девеломпмента, после которого чутка принял, реально чутка (одна маленькая стопка) и всё! очнулся с утра в кровати, как до дома добрался не помню от слова совсем. Но самое главное, что рассказали родные я ещё и «чудил», даже подумали, что я какие-то наркотики принял. А всего-то три дня без сна с загруженностью мозга по полной. И это ещё в сильно молодом возрасте было, мне тогда и 20-тник не стукнул. А тут дяденьке сколько лет уже, он в какой угодно разум поверить может.

А ты уверен, что в этом вообще должен помогать именно язык программирования?

Конечно. Слышал историю про Вавилонскую башню? Ладно, история попроще. Про CUDA что-нибудь слышал?

за 100 баксов в мес меня жаба удушит

джунов дешевле 100 баксов в месяц

я для личных целей никого не нанимаю, пользуюсь тем, что есть забесплатно

Это тест, который можно пройти двумя способами: либо подтянуть интеллект машины до человеческого, либо опустить человеческий. Есть мнение, что второе проще.

Такой диагноз еще как существует и доводит порой до дурки или того хуже, уже были случаи. Но этот на них не похож, Докинз кругами не бегает с криками о том, что мы живем в матрице, демонов не видит и не убеждает себя же причинять себе вред; он может себе позволить поиграть с определением слова «разумность»

Из-за, которых приходится писать множество дублирующего кода. Поэтому вот эти Клоды и блистают в этом болоте легаси.

LLM действительно легко поднимает бойлерплейт. Однако, он способен на гораздо большее:

1. Работать с похожими, но не идентичными языками. Я регулярно прошу его (думающий DeepSeek) поревьюить мой код на rc 1 — очень нераспространённый язык.

2. Анализировать необычную и непрямую логику. Например, он смог понять пайплайн из ~7 команд, в котором лексически вообще ничто даже не намекало на конечный результат (минимальная ширина выравнивания):

cat $tmpfd0 |
grep . |
sed 's/[^	 ].*//' |
awk '{print length}' |
sort -n |
sed 1q |
seq -f. `{cat} |
tr -d '\xa'

3. Понимать совершенно неизвестные ему языки, если объяснить ему основные принципы. У меня получалось заставлять его понимать sam 2 — язык, который он вообще не понимал.

То есть ошибки возникают вовсе не из-за экзотичности технологии, а скорее из-за галлюцинаций: он не может провести грань между истиной и ложью, поэтому просто продолжает генерировать что у него спросили.

Когда получится создать новые ЯП, новые IDE, фреймворки и ОС соответсвующие 21 веку, все эти Клоды будут не нужны. Любой погроммист с такими инструментами сможет решать задачи быстрее, чем с Клодом.

С тем, что наши системы безнадёжно устарели, я согласен. Это можно обосновать. Однако, «новые» звучит очень размыто: чем они должны принципиально отличаться от текущих систем?

У меня есть другая мысль, но в похожем направлении. Сегодня мы наблюдаем концептуальную фрагментацию компьютеров. Какую бы задачу мы не взяли, есть не просто несколько подходов её решить, а сотни конкретных способов, каждый из которых чем-то отличается от всех остальных. Мы до сих пор не пришли к единому способу управлять окнами. Разумеется, это сильно завышает порог эффективного использования компьютеров: слишком много мета-препятствий.

Однако, есть две проблемы:

1. Решение проблемы фрагментации не видно даже на горизонте. Мы до сих пор не перешли на IPv6.

2. Собственно, а с каких пор мы решили, что ИИ не смог бы эксплуатировать эту потенциальную выгоду? Модели станут проще, датасеты станут менее противоречивыми, количество ложно-положительных ошибок сократится.

Поэтомы разрабы до сих пор работащие в Vi

Вы где таких разрабов-то видели? Все сидят на IDE. В лучшем случае на текстовом редакторе с плагинами, который всё равно становится сложнее отличить от IDE с каждым годом. Даже самая многочисленная база поклонников vi (пользователи vim) подражает IDE, причём давно.

Любители легковесного софта и минимализма в компьютерах — это ниша в нише.

Какие есть метрики для сознания, и что вообще такое сознание?

Сознание — это способность воспринимать то, что существует. Это первичный факт, который содержится во всех остальных: нечто существует и ты это знаешь.

Единицами понятия «сознание» являются каждое состояние или процесс осознавания, которое индивид испытывает, испытывал или будет испытывать.

Метрика — это система или стандарт измерения.

Сознание как таковое, очевидно, «измерить» невозможно, равно как и невозможно измерить существование как таковое. Измерить можно конкретные единицы, которые эти понятия абстрагируют: психологические процессы, когнитивные функции, оценивание. Измерять можно по содержанию, интенсивности, охвату, иерархии, etc.—конкретное применение стандарта диктуется тем, что именно измеряется.

Но ваш вопрос, очевидно, подразумевает, какие материальные метрики присущи сознанию. Никакие. Как и никакие ментальные метрики не присущи материальным предметам. Настойчивость монистов на том, что должно быть только что-то одно, беспочвенна и может быть принята только на веру.

И о чем тогда тут говорить?