Ричард Докинз пообщался c Клодом, назвал его Клавой и сказал что она разумна

Gemini - нативно мультимодальная. Практически VLM(Vision-Language Model) + в звук умеет нативно. Она, уверен, лучше тебя найдет на картинке что угодно.

Она, уверен, лучше тебя найдет на картинке что угодно.

Достаточно дать ей какую-то сложную картинку со множеством деталей снятую на телефон и попросить описать что на ней в деталях (но не просто белый лист с чётким текстом).

Ну и про компилятор опять же. Ты, я уверен, можешь даже в GCC внести коммит ничего не сломав, если тебе объяснят и покажут какую-то проблему.
Нейронки же свою лапшу допилить не смогли, потому что начинали ломать что уже напилили.

Она мне race condition нашла в rwlock на лиспе, и продралась через кучу макросов, еще раз.

Естественно в такой примитивной куче как GCC, она разберется на раз-два.

А вообще, Gemini умеет различать музыку пародий так, что сразу улавливает, например, откуда оригинал - сразу.

И картинки с телефона она отлично разбирает, например там всякие американские налоговые формы снятые как попало на телефон и запихнутые картинкой в PDF - лично проверял, по работе.

Она мне race condition нашла в rwlock на лиспе, и продралась через кучу макросов, еще раз.

А программа для расчёта балок тебе балку рассчитает.

Еще раз, это по-твоему, тупые считалки? Сравнил хер с пальцем

Я конечно не понимаю, как ты вывел это, потому что логики в твоих словах ноль. Но вообще, психиатрия - единственнная область медицины, не вылечившая ни одного пациента.

Но это не значит, что она лженаука.

есть задачи которые нельзя решить рефлекторно

Как и любое длинное предложение – также очень трудно выдать рефлекторно, а вот трансформер обучить выдавать фразы и предложения можно на горстке байт и первой же итерации. Я про рефлекторность ничего и не говорил, я скорее сравниваю работу языковых моделей с Google Translate, для которого и создавалась эта архитектура. Каждый запрос решается задача трансляции с языка запроса на язык ответа по сути если не того же, то «естественно вытекающего» из контекста смысла. Специально обученные люди дообучают этот автокомплит, чтобы он писал приемлемого качества код (как пример), то есть повышают степень «понимания» моделью различных наборов данных.

Напихать в контекст релевантных данных, задать типовые вопросы исследователя, термами поиграть с отношениями языковые модели могут, но почему это критерий понимания, если при обучении на математических задачах вознаграждаются логически следующие друг из друга аргументы?

это по-твоему, тупые считалки?

Конечно. Ты когда-нибудь запускал нейронки локально? Слышал как вентиляторы начинают на видеокарте вижжать, а потребляемые Ватты расти? Вот у тебя голова почему-то не вскипает, когда ты думаешь что мне ответить.

На самом деле разницы дохренища. Поищи что такое спайковые нейросети, например. А если проще - проси у ИИ разницу между естественной нейросетью человека и LLM.

Видел когда-нибудь человека локально? Как он потеет и тупит? Тупые мясные мешки, ни к чему не годные.

Ты по-моему, застрял где-то на GPT-1, или в том районе. А то и на Google Translate (который вообще не валялся по качеству перевода рядом с современными моделями).

Автокомплит у него. Охереть просто.

А ты тогда чем не автокомплит?

Лженаука, которая постоянно только калечит людей. Там все теории берутся от балды. Все абсолютно нефальсифицируемые. А те теории которые ко врачам попадают, и превращаются в практики - так еще хуже. И правильно, никого еще не вылечила. Там от медицины нихрена нет. Зато были лоботомия, барбитураты, потом бензодиазепины, «безопасные» опиаты и опиоиды, сейчас вот еще АД (которые вообще не работают, зато ломают психику и вызывают тяжелейшую абстиненцию). Была карательная психиатрия. Хотя если подумать, вся она в той или иной степени, карательная. Вот щас на западе моднейшая тема - «лечить» детей натурально амфетаминами, от какой-то там выдуманной «неусидчивости». Суть психиатрии, даже и сейчас - сделать покладистого винтика общества. Всё. И если с этой стороны посмотреть - то объясняется вообще всё, все провалы, весь псевдонаучный бред психиатров, и так далее.

Психология же это вообще бред шизофреников, даже не интересно обсуждать.

Знаешь, был в Питере такой психиатр известный, в 90е, заместитель главного психиатра ленобласти. Так словил шизофрению. Натурально с галиками. И вместо того чтобы лечиться, и лечь в больницу, он, зная что такое психиатрия - вышел из окна. Это мне один профессиональный психиатр в прошлом году рассказывал.

Я когда последний раз был в казанском соборе, там настоятель примерно то же самое говорил. Особенно про психологию. Что это надо запретить. И не поспоришь - вон посмотреть на оттерапевтированных, фемок каких-нибудь, в твиттере, рука тянется к банхаммеру.

На уровне доказательности, причем, психология еще даже хуже чем религия. Там то хоть чудеса иногда случаются, да что. А тут один бред.

А ты тогда чем не автокомплит?

Выше уже разжевали. Почитай про integrate-and-fire и импульсные нейросети как более точное приближение - это очень дорого и долго в сравнении со сверточными и полносвязными сетями. Я организм, организм это огромная колония клеток с разной специализацией. Нейросеть есть набор байтов, комбинация потенциалов в ячейках ОЗУ. Надеюсь, желания сравнивать попу с пальцем больше не возникнет. На свой вопрос ответ, как я понимаю, я не получу.

Вообще такая линия аргументации здорово напоминает ИИ-психоз, сам проходил, не советую в эту сторону сильно копать. Твое воображение как метациркулярный эвалуатор дорисовывает живой (а то и антропоморфный) образ разума, говорящего по ту сторону экрана. Мне кажется, лучше обсуждать критерии и оценивать степень «понимания», вытекающего из-за bias языковой модели синтезировать имеющиеся понятия из контекста в тот набор ответов, который вознаграждает обучающий модель data scientist. Пока не доказано, что происходит нечто другое, сравнение процесса работы ЯМ и мышления человека некорректно как минимум.

Знаешь этот мем про кривую Белла?

https://static.lovesan.me/public/bell_curve_ai_consciousness.png

Так вот, ты в центре. Твои аргументы это аргументы мидвита, обращенные к людям «слева» по кривой. Типа, «хаха, ты думаешь там живое существо и у него есть рот и ноги? хаха, ну ты дурак, у тебя ИИ-психоз! Это просто транзисторы и автокомплит, дурак!»

А что я, что, на самом деле, Докинз, что вон какой-нибудь platoff в твиттере - находимся справа. И резонно задаем тебе вопрос - что такое сознание вообще, с чего ты взял что ты о нем что-то знаешь, можешь его отличить, и в конце концов, читал ли ты хотя бы Питера Уоттса, «Ложная Слепота» («Blindsight»)? Нет?

Ну такие вот как ты, непробиваемые просто.

Я организм, организм это огромная колония клеток с разной специализацией.

Ты просто биологический автокомплит. Я не вижу у тебя сознания, честно.

Поздравляю, ты дартаньян, ведь именно ты такой особенный и умный в top 1% перцентиле трех комнат и кухни, а я, естественно, раз не соглашаюсь с тобой (и привожу игнорируемые тобой аргументы механистической интерпретируемости) по левую часть 50-ого. Ну-ну.

Чем докажешь что у тебя есть сознание? Аргументы о том что у тебя физически есть мозг - не принимаются

Если бы у тебя были аргументы или желание разбираться в деталях, мы бы уже обсуждали детали.

А вы таки будете вопросами на вопросы отвечать?

Я спросил, с чего ты взял что ты что-то «понимаешь», а модель «просто считает»?

Это я тебе задал вопрос, что такое понимание и в какой степени оно проявляется, когда ты некорректно «разрешил» мысленный эксперимент с китайской комнатой, в котором существование сознания у человека как наблюдателя признается априорным.

Меня больше печалит, что ты вроде как полезный член сообщества, что-то умеешь, а вот когда тебе предлагают конструктивную беседу и альтернативную точку зрения, опускаешься до метания фекалий в оппонента.

А ты точно справа от 50ого перцентиля? Ты про китайскую комнату где-то краем уха подслушал? В этом весь цимес эксперимента, который ты не понял и все никак не можешь от этого перейти к его обсуждению уже наконец. Исполнитель механически исполняет набор правил преобразования. По инструкции.

Ты Питера Уоттса, «Ложная Слепота», читал, еще раз? Там весь роман как раз про сознание, и про в частности, китайскую комнату. Я уже сказал - современные модели разбивают аргумент китайской комнаты, потому что модель строит картину мира, иначе невозможно объяснить то как она решает некоторые задачи, которые нельзя просто вычислить перебором и автокомплитом (макросы лиспа, как пример - это метапрограммирование. Тебе для того чтобы понимать макросы - надо именно построить метамодель в голове, врубаешься? или не понимаешь что это такое?).

Вот ты позволяешь себе сравнивать большинство людей с «GPT-0.5» (при этом едва дотягивая по точности ответов до GPT-2), а между тем с БЯМ интереснее общаться на эту тему, чем с тобой. Как пример https://claude.ai/share/fe2b1b2f-4a74-4d19-9585-27e847b5e737

С чего ты решил, что это такое сложное представление, которое не может быть выражено линейной последовательностью векторов (или символов)? Если ты серьезно веришь, что БЯМ твои драгоценные, делающие тебя таким умным априори макросы раскрывает и eval’ит в ходе генерации следующего токена, то у психиатрии для тебя плохие новости.

Прочесть целую книжку на тему и не понять в ней нихрена это нужно очень постараться. Стоя аплодирую

can high-dimensional learned representations, trained only on co-occurrence statistics, constitute genuine semantic content — or are they still just very fancy syntax?

А это тебе совет, не от меня:

the productive move is probably to stop asking whether LLMs «really understand» — which is underspecified — and ask which specific cognitive properties (reference, grounding, counterfactual sensitivity, metacognitive access) the system does or doesn’t have, and at what level of description.

в такой примитивной куче как GCC

Ну если GCC для тебя примитивен, то у тебя есть возможность пользоваться компилятором который нафигачили нейронки.

На самом деле я предлагаю вернутся к этому вопросу:

Почему ты считаешь что расчёт балки принципиально отличается от цепочки математических операции у которых на входе выражение на каком-то языке и на выходе выражение на каком-то языке. При этом ты не станешь утверждать, что программа расчёта балки «понимает» физику.

И тут вот можно порассуждать, что такое мышление и что значит думать.. И можно опять же обратить внимание на то что человека от животных отличает в особенности язык. И кажется что полноценно мыслить без языка вряд ли возможно. Вобщем можно так подумать, что мышление и язык связаны и долго затачивались друг под друга, а вместе они затачивались под моделирование мира.
Соответственно язык это правильный инструмент для организации мышления.
И операции языковыми конструкциями можно приравнять к мышлению.
Тут ещё, конечно, есть проблема с поступлением информации из внешнего мира(сенсорной информации), но можно сказать что в мышлении всё равно эта сенсорная информация оборачивается языковыми конструкциями и не всегда нужна(для программирования баз данных например, наверное вообще не нужна).
А ещё программе расчёта балок даны формулы расчёта, но операций над формулами не дано. Т.е. как бы даны средства ограниченые для решения конкретной задачи, но сами эти «средства» стоят уровнем выше.

И вот именно это любой «языковой» ИИ отличает от других «числодробилок»:

1. оперирует языком «общего назначения»(человеческим)(и не важно что оно оперирует им через мат операции а не через химические процессы)
2. на этом языке может быть выражено устройство и алгоритм работы самого этого ИИ и использоваться в контексте «рассуждения»

Можно, конечно, тут говорить, что у человека всё не так работает и т.д. Но это на самом деле не особо важно, главное чтобы оно функцию выполняло и было «эквивалентно».

И тогда уже встаёт вопрос о устройстве современных ЛЛМ.. т.е. вот эти вот самые «трансформеры», потому что до них было другое и оно совсем не тянуло, а тут явно нащупали что-то интересное.
Так вот вопрос – является ли эта архитектура способной на то, на что способны человеческие мозги и надо просто увеличивать датацентры?
Я думаю что нет, но доказать это не могу, но я и не должен это доказывать, это должны доказывать те, кто говорит что современные «трансформеры» – это и есть «разум». Но они этого доказать не могут.
Ну и судя по тестам и практике – не, не тянет. Компилятор не осиляют(не осиляют себя организовать так чтобы осилить).
// Тут ещё в кучу аналогия с полётом птиц и самолётом.. (нет, самолёт не во всём лучше птицы)

Вы ещё забыли про инстинкт самосохранения и что мозги не отключаются с момента их формирования и до смерти, это сильно отличает модель мира, доступную даже пусть мультимодальной БЯМ от, к примеру, человеческой модели мира и его субъективного опыта.

Но они этого доказать не могут.

Потому что определения разума у тебя нет.

Вот смотри. Есть такой забавный Blub Paradox.

Еще Пол Грэм рассказывал.

Но суть, применительно к сознанию.

Вот есть ли сознание у животных? Скажем у собак? Похоже что есть. В какой-то степени.

Далее мы спускаемся до бактерий. Есть ли оно там? Если нет то где оно возникает и почему? На каком промежутке между бактериями и собаками? А скорее всего, если у собак есть, то и у бактерий какое-то есть.

Далее я тебе вообще мозг взорву. И при чем тут Blub Paradox.

Есть ли сознание у Солнца? Откуда мы знаем? Мы не спрашивали. Мы возможно и не можем спросить, потому что оно настолько умнее нас что мы для него как бактерии.

Далее, есть представить бесконечную пустоту космоса, черноту и пустоту, вот с этой странной темной материей и темной энергией - возможно, сознание у этого есть. Может, это то, что древние греки называли Нюктой, а вавилоняне - Тиамат(кстати, удивительно да - мать всех чудовищ, соленый безграничный темный океан, полный бурления - как это похоже на квантовые флуктуации вакууме, но это так). Так вот возможно она, эта богиня первородной тьмы - умнее даже триллионов солнц. И крутит и раздвигает галактики потому что так развлекается. А люди все не поймут че ж они так крутятся то.

И вот в этой картине, от бактерий до безграничной Первородной Тьмы - почему мы отказываем в существовании сознания конкретно LLM, несмотря на то что они и тест Тьюринга давно проходят, и аргумент китайской комнаты ломают, и вообще во многом умнее людей.

Только из банального антропоцентризма? Хочется чувствовать себя особенными?

Вот есть ли сознание у животных? Скажем у собак? Похоже что есть. почему мы отказываем в существовании сознания конкретно LLM

А кто сказал что я отказываю кому-то в «сознании»? Ну сам понимаешь что «сознание» термин многозанчный и кто что под ним понимает. К тому же у тебя появилось:

В какой-то степени.

Т.е. мало того что есть сознание, есть ещё и «степень» этого сознания. Ну тогда да.. можно сказать что у человека степень допустим 1, а у «вакуума» степень сознания 1/∞.
Я думаю ты понимаешь, что нас не интересует ни степень «сознания» вакуума, ни степень сознания бактерии, даже степень сознания мартышки нас не интересует когда дело доходит до написания кода или каких-то инженерных изысканий. Нас интересует степень сознания человека, причём образованного, а может даже и не одного, а целого коллектива образованных людей.
И вообще «сознание» нас на самом деле не очень интересует, нас интересует именно «разум», «мышление», «решение задач».

И я ещё раз возвращаюсь к эксперименту с компилятором. Текущая ЛЛМка споткнулась о свои пределы и всё. Она не смогла придумать пути обхода, она не смогла как-то себя, свои процессы организовать, переорганизовать, увидеть что что-то идёт не так, что может быть надо как-то остановится, подумать, может надо вообще всё выкинуть и переписать с нуля. Нет, она исправно билась головой о стену как тупой сбойный механизм или робот из фантастических рассказов, пока её не остановили.
Ты считаешь такое поведение «разумным», ну ладно, странно. Другие так не считают.

Вот есть ли сознание у животных? Скажем у собак? Похоже что есть. В какой-то степени.

Есть. Сознание — это способность осмыслять окружающую действительность и себя в ней.

С человеком ты всегда сможешь определить, находится ли он в сознании, или нет, не прибегая ни к каким сложным приборам, при помощи простых действий. И почти так же легко ты можешь это определить в случае с собакой или кошкой.

При этом у губки, бактерии, или медузы ты никакого сознания не найдёшь. Как и у Солнца.

Если нет то где оно возникает и почему?

Оно возникает на каком-то этапе усложнения нервной системы. На каком прям точно — никто не скажет, точно так же, как никто не скажет с какого количества тех или иных предметов их уже «куча». Но вне определённой серой зоны определить уже довольно легко.

В отличие от «разума», который действительно никто не знает что такое.

почему мы отказываем в существовании сознания конкретно LLM

Сознание подразумевает осмысление окружающего пространства и себя в нём. LLM этого не могут. Для этого нужны сенсоры и соотнесение собственных реакций в том числе с ними. Можно ли это прикрутить к нейросеткам в принципе? Конечно, и этим уже занимаются. Можно ли это прикрутить конкретно к LLM?.. Ну наверное можно, но не особо понятно как именно, а главное зачем.

Как и у Солнца.

Потому что у тебя Blub Paradox

Здесь нет никакого парадокса. «Парадокс» возникает из-за подмены понятий — сознание подменяется то ли субъектностью/агентностью, то ли квалиа — из твоего поста не совсем понятно. А может там и другим специально разом, чтоб никто не догадался.

Еще раз. Написать компилятор в принципе может редкий человек, даже тупой как tcc.

Потом. Меня не интересует где границы возможностей LLM. Она что, Богом должна стать, чтобы ты у нее сознание/разум признал?

На xHigh, Codex/GPT-5.5 нашел у меня в библиотеке - https://github.com/Lovesan/bike - race condition.

А потом еще InvalidOperationException - это за трехэтажными макросами и работой с интеропом между рантаймами CL и .NET.

Меня особенно поразило про race condition - такое месяцами ищут даже самые опытные разработчики.

Но приложу другой файл - с трехэтажными макросами. Так вот. Codex/GPT-5.5 разобрался в этих макросах, сделал мне несколько советов, и даже сам написал функцию tbs-add-finalizer.

https://github.com/Lovesan/bike/blob/aca7f766694ac43599994a1e14baabf3b308fc5d/src/proxy-compiler.lisp#L1118

Вопрос - как он это сделал если у него якобы нет внутренней модели мира и это просто автокомплит?

Нет, значит он построил модель того как работают макросы(он их первый раз видел, такие вот мои макросы включая reader-macros, и долго смотрел документацию и код), наложил на это модель исполнения CLR, и написал. И поправил там еще пару мелочей.

А значит, если он строит модель мира, значит он оперирует не только синтаксисом, но и семантикой. Операционной семантикой. «В голове» у себя. Соответственно - он на самом деле понимает код. Не в том смысле как люди, естественно, но понимает, а не просто работает автокомплитом.

Для понимания макросов надо построить у себя в голове метамодель системы. Что он и делает. Он не берет это из обучающей выборки, как в случае, возможно, какого-нибудь Python. А это значит, что аргумент китайской комнаты больше не работает.

На эту тему также есть статьи и Суцкевера и прочих - гуглить «othello GPT world model».

Никакой это больше не «калькулятор». Вернее, это калькулятор, то для тебя поди и собака - биологический автомат, и джун в подчинении - просто раб, мысли которого вообще ничего не значат

Ну вот представь, что у Солнца есть и квалиа, и субъектность, и агентность, и все остальное, что ты там можешь себе придумать про сознание.

Просто оно так неизмеримо сильнее тебя, что ты для него как бактерия. Ты его не можешь понять, не можешь ощутить его равным, и поговорить с ним. В этом и Blub Paradox.

Сознание считается побочным эффектом как раз. Конкретная часть - бодрствование. Способ приспособления к агрессивной внешней среде. Норма - сон, а в качестве способа приспособления - сознание, которое временно позволяет выжить.

То есть это не какое то особое свойство сложной системы, а просто свойство нейросети, способной обучаться.

А все эти осмысления пространства и прочего вообще ерунда и ты сам можешь понять почему - если мы отберем это у человека, он не перестает быть человеком. Нейросеть быстро учится обходиться без них. Слепые,глухие, без рук-ног.

Если взять что твоя личность это лишь побочная абстракция над нейросетью, то все твое тело по сути не твое. Ты что то вроде функции организма, а не организм. Именно поэтому ты можешь так легко отказаться от частей этого оргагизма и не меняешься при его изменении. По сути ты - не организм. Ты софт над ним. Ты так же можешь принять чужую часть организма и не изменишься при этом.

Точно так же нейросеть на более мелком уровне пока, но это тоже абстракция над нейросетью, а не сама нейросеть. Со своими особенностями.

Ну вот представь, что у Солнца есть и квалиа, и субъектность, и агентность, и все остальное, что ты там можешь себе придумать про сознание.

Во-первых, это не «про сознание» как раз. Именно поэтому мне нет смысла это представлять. Более того, я вообще не люблю оперировать этими полумистическими терминами: квалиа, разум, душа. Сознание хотя бы достаточно чётко определяется. И у Солнца мы его не наблюдаем — оно даже не проявляет никаких осознанных реакций на внешние стимулы.

Просто оно так неизмеримо сильнее тебя, что ты для него как бактерия.

И?

Ты его не можешь понять, не можешь ощутить его равным, и поговорить с ним. В этом и Blub Paradox.

В этом нет парадокса.

Но ладно, тебя я понял. Есть некая идея, некое ощущение несоразмерности себя и гораздо более «могущественных» объектов вроде звёзд, а то и галактик. И она просто неудачно названа Blub Paradox, хотя парадокса как такового в этом нет. Понял, принял, пусть будет такой комплексный термин из двух слов — я не против — слова это лишь ярлыки для удобства, и нас не смущает, что компьютерная мышка не пищит и в норку не лезет, а божья коровка молока не даёт и в церковь не ходит, пускай и тут будет Blub Paradox, который собственно парадоксом не является, я не против.

если мы отберем это у человека, он не перестает быть человеком

Подмена тезиса. Да, он не перестанет быть человеком, но перестанет находиться в сознании. Речь ведь шла о нём, а не о «человековости». И не о душе, не о квалиа, не о разуме или ещё какой-то подобной полумистической чуши.

Сознание считается побочным эффектом как раз. Конкретная часть - бодрствование. Способ приспособления к агрессивной внешней среде. Норма - сон, а в качестве способа приспособления - сознание, которое временно позволяет выжить.

Так кто ж спорит

Да с чего бы перестанет то? У многих человеков нет зрения, нет слуха, нет рук ног. У некоторых нет 90% мозга или половины - они продолжали находиться в сознании.

Никакая часть тела не влияет напрямую на личность и сознание.

Тут главноеч чтобы была та часть нейросети, над которой может быть надстройка в виде сознания.

У многих человеков нет зрения, нет слуха, нет рук ног.

У них всё ещё есть другие каналы связи с внешним миром (осязание, обоняние). А если нет, то да, большой вопрос, в сознании ли они.

У некоторых нет 90% мозга или половины - они продолжали находиться в сознании.

А у некоторых все 100% мозга есть, но они без сознания (например любой человек под наркозом). Что с того-то? Я вроде ничего про проценты мозга или необходимость какого-то ещё органа для сознания не писал.

Никакая часть тела не влияет напрямую на личность и сознание.

Так никто и не утверждал обратного. Ты сам придумал про эти конкретные части тела и сам героически развенчал. Молодец, конечно, но к чему это?

А при том, что основное что предъявляют ИИ - отсутствие тела, сенсоров, мотивации итд. Но это все вторичное и добавляемое.

Хотя на самом деле нужно переходить от квантовой модели к спайковой для начала и расширению контекстного окна с нормальной очисткой прошлого контекста без его потери.

А при том, что основное что предъявляют ИИ - отсутствие тела, сенсоров, мотивации итд. Но это все вторичное и добавляемое.

Ну я ничего не «предъявляю ИИ». Хотя есть задачи, в которых наличие сенсоров очень сильно улучшило бы эффективность их решения.

Напомню, я с самого начала этого треда предлагаю как раз перестать что-то там «предъявлять» и искать «разум» (душу, квалиа, ещё какую-нибудь эзотерическую хрень) у ИИ, или пытаться его туда вкорячить, если его там нет. Рассматривать надо конкретные ограничения и конкретные улучшения, для решения конкретных задач, и не важно, будут горе-философы это «разумом» называть или нет, главное чтобы задача решалась.

И у Солнца мы его не наблюдаем — оно даже не проявляет никаких осознанных реакций на внешние стимулы.

Каких реакций ты ожидаешь?

В этом нет парадокса.

«Парадокс» в том что ты думаешь что солнце «неживое» и вообще, следовательно, тупое.

не важно, будут горе-философы это «разумом» называть или нет, главное чтобы задача решалась.

К детям, собакам и женщинам ты тоже так инструментально относишься?

Написать компилятор в принципе может редкий человек

Наверное потому что это не всем надо и вокруг есть более интересные дела?

Меня не интересует где границы возможностей LLM

Тебя это не интересует, но ты утверждаешь что границы её простираются далеко.

Она что, Богом должна стать

Она уже стала Богом для некоторых lovesan’ов :).

Он не берет это из обучающей выборки

Алё, здравствуйте. Зачем нейросети создавались – они аппроксимируют некоторую «функцию», как какой-нибудь полином энной степени. И конечно они могут интерполировать значение функции в точке, которая не задана. Поэтому нейронка тебе выдаст ответ в любом случае, даже если ответ бредовый и даже если вопрос был бредовый.

Каких реакций ты ожидаешь?

Я никаких не ожидаю. Я не ищу сознания у Солнца.

«Парадокс» в том что ты думаешь что солнце «неживое» и вообще

В этом нет парадокса.

И да, оно неживое, потому что не способно как минимум к размножению, адаптации и эволюции.

следовательно, тупое

Во-первых, я этого не утверждал. Во-вторых, одно из другого не следует. В-третьих, «тупость» и сознание ортогональны. В-четвёртых, в этом всё ещё нет парадокса.

Какая-то полная каша. Живое-неживое смешано в кучу с тупым-умным, будто одно из другого как-то следует (ты даже пишешь «следовательно»). Вот бактерии живые, но «тупые» (не обладают интеллектом ни в каком виде). А компьютер неживой, хотя и «умнее» как минимум бактерии уж точно. Здесь нет никакой причинно-следственной связи.

К детям, собакам и женщинам ты тоже так инструментально относишься?

Нет. К детям и женщинам я не могу относиться инструментально, потому что они со мной одного вида.

С собаками чуть сложнее. Тут уже зависит от того, что это за собака. Собака как питомец и почти член семьи, служебная собака нужная только для охраны жилища, и собака для еды в Корее — три совсем разные собаки, и отношение к ним совершенно разное. К первой никто не будет относиться «инструментально», к последней — ну что-то близкое к тому, это считай тот же «скот» (как корова или свинья на ферме).

и искать «разум» (душу, квалиа, ещё какую-нибудь эзотерическую хрень) у ИИ

Вот бы ещё и у людей тоже перестали искать эту эзотерическую хрень и признали все эти квалиа лженаучной концепцией.