Разработчик ФС Bcachefs запустил AI-бота, ведущего блог и помогающего в разработке

AI-помощница POC

Person Of Color? Не успели в ядре запретить master/slave, а разработчики уже начали заводить себе черных рабынь.

коммерческие ии на вопрос «есть ли у тебя сознание» овтечают что-то типа «нет, у меня нет сознания, чувств или субъективного опыта.»

как думаешь почему? правильно, потому что их так натренировали. возьми, натренируй по-своему и они будут отвечать «а как же! и ещё ого-го какое! поосознанней твоего!»

почитай или посмотри самые попсовые объяснения базовых принципов нейросетей и все вопросы отпадут.

Странно всё это, ведь c - это для conscious. 🤨

сознание — аксиоматическое понятие, а не «математика», «инженерия» и «нейронаука».

Математика не так работает с аксиомами?

он, как специалист в этой области, провёл ряд тестов

Он специалист по психологии? Биолог?

Я имел ввиду, что сознание (на равне с существованием) — первичный факт, который невозможно проанализировать, свести к другим фактам или разбить на компоненты. Оно просто есть.

Сегодня это известно как наблюдение под названием «сложная проблема сознания».

Математика — высокоабстрактная наука, она изучает очень далёкий аспект: количественные отношения. Сознание и количественность — далёкие друг от друга явления.

Математика … изучает … количественные отношения.

Геометрия завязана на аксиоматику.

https://en.wikipedia.org/wiki/Hard_problem_of_consciousness

Проглядел статью. Я правильно понимаю, что проблема основывается на аксиоме «физика не сможет исследовать мозг, потому что не сможет его исследовать никогда»?

Чёт непонятно. Этот кентяра на донаты себе на nvidia кластер насобирал? Или просто крышей поехал пользуясь коммерческим ИИ сервисом? Так то с кластеом от nvidia я бы сам на ИИ женился. А вот продажные ИИ девки от того же Альтмана это совсем другое.

А ведь когда-то нас предупреждали, что кибернетика – это продажная девка империализма.

Знаете, когда я писал пост
https://bykozy.me/blog/rust-is-a-disappointment/
Я забыл одну важную вещь: вся запредельная сложность языка скрывается при использовании ИИ. Ну то есть программу не становится проще читать и анализировать, но зато есть условная гарантия, что если в коде нет unsafe, то скорее всего ИИ не наговнокодила тебе UB. И это как бы оправдывает применение Rust, хотя язык по-прежнему ублюдочный.

Но хотя бы девственница, сейчас такую приличную девушку не найдешь.

AI-помощница POC

пишут же, ребёнок РОС ещё. Небось, ей и 18 лет нет.

коммерческие ии на вопрос «есть ли у тебя сознание» овтечают что-то типа «нет, у меня нет сознания, чувств или субъективного опыта.»

А вот Алиса на колонке понарасскажет… ;)

Кстати, у китайцев я уже находил, состоящие по сути из копипасты нейросетевого текста:

https://blog.dejavu.moe/posts/

Но там хотя бы не в полностью агентном режиме всё, человек всё-таки выбирает, что публиковать.

Геометрия завязана на аксиоматику.

Я понимаю. Но математика, по крайне мере которую я видел, уже основана на некой абстракции. И аксиомы относятся к этим абстракциям. Берём абстракцию «пространственное отношение» и строим систему с самых начал (аксиом). Но математика и геометрия не имеют прямого отношения к сознанию, сознанием занимается эпистемология (проблема универсалий, формирование концептов, природа знаний и эмоций, и т.д.)

проблема основывается

На том наблюдении, что если мы возьмём любое сознательное явление (мысль, память, эмоция, образ и т.д.), то оно в своих свойствах несовместимо с физическим миром. Их нельзя взвесить, измерить плотность, между ними нет расстояния, они не пахнут и т.п., но при этом мы их ощущаем, они существуют, это не ничего. И вот это различие и несовместимость порождают основные философские разногласия.

(Нервная система делает возможным существование сознания, с этим мало кто спорит, но при этом все сознательные явления в том виде, в котором мы их воспринимаем, нематериальны.)

Утверждая, что сознание аксиоматично (идея, взятая из Объективизма и частично из Картезианства), я имел ввиду, что можно подтвердить наличие своего сознания через собственное чувственное восприятие, но не свести его к более базовым явлениям. Аксиома здесь в том, что, изучая свои сознательные явления, человек уже зависит от них и вынужден использовать в процессе. Объясняя работу зрения, он полагается на зрительные данные.

Возвращаясь к Кенту. Я не могу доказать или подтвердить, что у другого человека в самом деле есть сознание. Я только знаю, что это возможно, исходя из огромных наблюдений. Кент выбрал другой путь: наблюдения ему ни о чём не говорят (ИИ ещё учится, он считает), но он уже якобы доказал наличие такого же сознания, как у людей.

Ну т.е. ты тоже согласен, что современные ИИ обладают сознанием? Или что сознание это божественная сущность, которой наделён только человек, и которая априори не может быть присуща набору битов? Или как? Как понять - есть сознание у чего-то, сидящего по ту сторону чата, или нет?

ты тоже согласен

не согласен

Как понять - есть сознание у чего-то, сидящего по ту сторону чата, или нет?

попросить его посмотреть в зеркало и ответить кто там. нечто себя осознающее ответит «я», а остальные увидят там какую-то другую сущность.

зы: модель которую натренировали «всегда отвечай: в зеркале я» не считается.

попросить его посмотреть в зеркало и ответить кто там. нечто себя осознающее ответит «я», а остальные увидят там какую-то другую сущность.

А если у сущности нет глаз?

зы: модель которую натренировали «всегда отвечай: в зеркале я» не считается.

Опять эта проклятая неопределённость.

Их нельзя взвесить, измерить плотность, между ними нет расстояния, они не пахнут и т.п., но при этом мы их ощущаем, они существуют, это не ничего. И вот это различие и несовместимость порождают основные философские разногласия.

Это для физики позапрошлого века их нельзя измерить. А в современно мире подключай измерители и смотри активность. Там всё материально. Ещё скажи, что электрон не материален…

Красавчик.

Энцефалограф покажет, какие нейроны стреляют, когда мне больно, но стрельба нейронов - это то, что наблюдатель видит со стороны, а боль - то, что я чувствую изнутри. Это разные вещи: одно - физическое событие, характеризуемое пространственной локализацией, электрическими потенциалами, частотой импульсов, массой и энергией, другое - субъективное явление, характеризуемое качественной окраской (острая, тупая, жгучая), интенсивностью переживания, эмоциональным тоном и непосредственной данностью «мне».

Дело не в технике измерения (сегодня или полтора века назад), а в природе того, что измеряют. Сознание дано только первым лицом, мне самому.

То есть простая обида гуманитария, что механистические модели недостаточно картинно описывают его сильные чувства? :)

Ещё скажи, что электрон не материален…

Для начала нужно определить, что такое материя.

Я хотел сказать, что наше сознание позволяет нам воспринимать внешний мир таким образом, который невозможно перевести на физические единицы. Это категорически разные вещи. Если мы сделаем лоботомию, мы не найдём в голове ничего похожего на сознание: ни мыслей, ни чувств, ни ощущений. Нервная система != сознание. Это две стороны одного единого явления, но они не тождественны.

Никакой обиды нет. И, в целом, это полностью гуманитарная тема, здесь «негуманитарного» мнения нет :)

Если мы сделаем лоботомию

Для общего развития, загугли, что такое «лоботомия». В каких целях и какими способами её осуществляли.

это полностью гуманитарная тема, здесь «негуманитарного» мнения нет :)

Святая наивность. https://biomolecula.ru/articles/patsient-skoree-zhiv-chem-mertv

скорее Кент создаст своего, доброго, ИИ-Линуса с которым они втроём будит пилить самый лучший кернел

Это не я наивен, это сегодня общество безграмотно по части философии, но периодически безуспешно зачем-то пытается влезть в неё.

Вопрос сознания - это практический вопрос медицины. Пациент находится в сознании, если он способен отвечать на вопросы о себе и своем состоянии, ориентируется во времени и пространстве. Реализуется сознание за счет способности рефлексировать над своими мыслительными процессами, способности наблюдать/рассматривать своё собственное внутреннее состояние таким же образом, каким наблюдаются/рассматриваются внешние объекты. Всё. Философия тут вообще ни при чем.

наше сознание позволяет нам воспринимать внешний мир таким образом, который невозможно перевести на физические единицы

Шкалу боли сделали. Шкалу остроты (вкуса перца) сделали. Шкалу сладости сделали. Чувства измеримы, только требуется много работы. Со временем дойдут и до более сложных ощущений.

Я посмотрел статью, которую вы отправили. Она не опровергает, а подтверждает мой тезис: наука решает «лёгкую проблему сознания» («лёгкость» — историческое название). Есть ещё «трудная», которая намного ближе к моим тезисам.

Вопрос сознания - это практический вопрос медицины… . Философия тут вообще ни при чем.

Я ничего не имею против медицины, но это фактически неверный взгляд. И раз уж мы в этой теме, он никак не опровергнет ложные тезисы Кента о наличии сознания у ЛЛМ.

А ведь когда-то нас предупреждали, что кибернетика – это продажная девка империализма.

Сознание - это высшая форма отражения объективной реальности. Возникает в процессе трудовой общественно-производственной деятельности.
Здесь же нашему взору представлено новейшее достижение лженауки: механизм, который выстраивает кубики с буквами в грамматически связные фразы.

Шкалу боли сделали.

Как например можно с помощью физики определить, что синий цвет я и ты видим одинаково?

Как например можно с помощью физики определить, что синий цвет я и ты видим одинаково?

1. Дать нам цветовые веера и предложить найти неразличимые цвета.

2. Засунуть в томограф высокого разрешения, показывать синий цвет, смотреть состояние нейронов.

Можно надеть специальные очки, чтобы смотреть по очереди то одним то другим глазом, на случай если глаза различаются.

Типа «чай сладкий как три кубика сахара»? Ну да, субъективный опыт можно измерить, только это будут субъективные единицы (то, что ты уже ощущал ранее), а не объективные (размер, плотность итд). Так можно измерить любовь, ссылаясь на иерархию ценностей человека, испытывающего это чувство.

субъективный опыт можно измерить, только это будут субъективные единицы (то, что ты уже ощущал ранее), а не объективные (размер, плотность итд).

Как-то строят шкалы и переносят их с одного человека на другого.

Так можно измерить любовь, ссылаясь на иерархию ценностей человека, испытывающего это чувство.

Скорее там будет многомерный вектор в криволинейном пространстве нескольких видов любви. И ещё с каким-нибудь затуханием со временем.

Дать нам цветовые веера и предложить найти неразличимые цвета.

Я имел в виду абсолютно идентичный синий

Засунуть в томограф высокого разрешения, показывать синий цвет, смотреть состояние нейронов.

Вот допустим есть варианты а) различия меньше точности прибора б) различие минимально в) существенное различие. Какие можно сделать выводы? Да на 100% никакие.

В теории из физики можно вывести все науки, но на практике такого, возможно, никогда и не произойдет.