Машина не может мыслить. И программировать тоже.

лорчую, но про самое главное как обычно все тут молчат.

LLM взлетели по одной единственной причине, для них придумали алгоритмы и методы лет эдак 10 назад, как их обучения заскейлить и распараллелить. поэтому и стало возможно «миллиарды» параметров в них вкачать.

а вот для остальных сетей ничего подобного нету. там на каждый пук в обучении «транзакционный». нельзя ничего распараллелить.

поэтому это LLM будет еще долго с нами.

Если в тебе нет искорки креативности, это печально.

В мире очень много работы где креативность вообще не нужна,а нужна предельная пунктуальность, усидчивость,внимательность. И в этим случаях «искусственный интеллект» уже сейчас показывает хорошие результаты.

там есть обратно пропорциональная зависимость от «хорошести» результата и того кто этот результат оценивает.

чем более анскильная лалка оценивает результат работы ИИ - тем выше «хорошесть». «показывать» оно умеет, именно на это все кто не в теме и ведутся.

но к реальной работе это неприменимо. даже если будешь задавать ему однобитные вопросы, где только «да/нет» можно ответить.

У человека есть интуитивное понимание, чего хотят другие люди

Это интуитивное понимание формируется у человека не само по себе,а на основании анализа больших объемов информации в процессе его какой-то практической деятельности. Но человек не может проанализовать миллионы практических примеров,а нейросетка - может.

Человек это не только рекомбинатор.

Так никто в здравом уме и не говорит что ИИ может заменить человека во всех видах деятельности. Но в некоторых уже может и это хорошо потому что освободит человеков для занятий теми видами деятельности в которых [пока] заменить не может.

то что оно может тебя заменить, это понятно. ты ж уже много раз упоминал о том, что вообще «не программист».

с тобой все ясно уже давно и легко доказуемо по твоей следовой активности на форуме.

Условно я бы назвал ИИ технической системой способной исполнять задачи, которые большинство людей относят к интеллектуальным.

Это какие? И какое такое большинство?

Есть интересный пример,когда человек без 90% мозга хотя интеллектом и не блистал но вполне успешно жил жизнью «обычного человека» и решал сопутствующие этому задачи

https://habr.com/ru/articles/395965/

Человек суть биохимическая машина.

Основание у такого утверждения такое же, как и у «Верую во единого Бога Отца, Вседержителя…». На уровне постулата — отчего нет, аксиома на то и аксиома, что ни на чём не основывается. Только фактически ваше высказывание сводится к тавтологии, основанной на том, что вам нравится так думать. Хотя выглядит как логическое рассуждение, да.

Человек - это точно такой же робот. Только химический.

LLM взлетели по одной единственной причине, для них придумали алгоритмы и методы лет эдак 10 назад, как их обучения заскейлить и распараллелить. поэтому и стало возможно «миллиарды» параметров в них вкачать.

Ключевая статья «Attention Is All You Need» появилась в 2017. Затем прицельная разработка, им вот мы имеем GPT-1 в 2018-м, GTP-2 в 2019, и наконец кажущийся почти фантастическим по тем временам GPT-3 в 2020-м, имеющий 175 миллионов параметров и проявляющий существенные эмерджентные свойства, от которых уже не отмахнуться.

Ну а дальше понеслось как лесной пожар.

Для других направлении ИИ таких эффективных технологий просто нет, поэтому пользуемся пока тем, что есть.

Что именно ты «лорчуешь» автору заметки «Машина мыслить не может», не совсем понятно, потому что автор верит в непознаваемую эзотерическую природу сознания.

Допустим вы сидите в гостиной и хотите пойти на кухню. У вас есть два способа это сделать: начать шарить вокруг руками, ощупывая предметы пока не найдёте что-то, похожее на чайник, так вы поймёте, что находитесь на кухне и задача решена, другой способ — открыть глаза, обозреть пространство и увидеть кратчайший путь к искомому месту. Так же и в программировании, можно, частично понимая как работает система сейчас и догадываясь, что требуется в конце, комбинировать известные кусочки решений от похожих проблем, пока они не сложатся во что-то работающее. А можно (только сложно очень и редко получается) прозреть проблему во всей её полноте и увидеть готовое идеальное цельное решение для неё. Вот, второе и будет искомым озарением.

очень сложно описать на естественном языке, что там происходит

Да сложно. А вот в виде векторов в многомерном пространстве модели очень даже просто. Естественный (да и вообще любой человеческий) язык для LLM это костыль. Наша проблема взаимодействия с LLM это проблема взаимодействия с Солярисом.

Любая креативность подразумевает вспышку

«Вспышка» это просто слово для явления которое мы не понимаем как работает. С другой стороны, например в истории шахмат, было много таких «вспышек» и идей. Современные шахматные движки умножают всё это на ноль банальным перебором. (Я уж не говорю про альфа-зеро).

каждая программная система это произведение искусства

Это тавтология. Всё что делает человек (artifact) это факт искусства (art) по определению. ИИ производит ИИ-арт. Можно их сопоставлять и сравнивать конечно. Но тут вспоминается Я Робот «а ты можешь?».

Но она не способна придумать шахматы

Конечно способна. Можешь попросить любую LLM придумать игру имитирующую сражение армий. Вообще изи.

множество менеджеров в разработке ПО не понимают этого

ИИ вообще пока что используется крайне топорно, в духе забивания гвоздей микроскопом.

У человека есть интуитивное понимание, чего хотят другие люди

Это интуитивное понимание формируется у человека не само по себе,а на основании анализа больших объемов информации в процессе его какой-то практической деятельности.

Именно. Плюс, кое-какие средства анализа есть на «аппаратном» уровне. Но могут отсутствовать у нейродивергентных людей.

Но человек не может проанализовать миллионы практических примеров,а нейросетка - может.

Верно. Но заточенность на такой анализ даёт человеку значительную фору. Думаю, неспециализированной нейросети нужно обработать на порядки больше примеров.

Приятный текст. Можно поспорить о некоторых высказываниях, но если не придираться, то всё как-то так, да.

Мне тут понравилось одно хорошее замечание по поводу специалистов на морозе, что мол без работы их оставит не ИИ, а те люди, которые будут работать с помощью него, как это уже было в былые времена.

Другое дело (опираясь на твой текст и поддакивая ему), что в прежние времена такие переходы (лишавшие людей работы) оставались в парадигме прогресса, а теперь (судя по всему) будет иначе.

Дело в том, что великие цивилизации всегда умирали примерно одинаково — доедая наследие великих предков. И в этом смысле ИИ может хорошо оптимизировать этот процесс, но ровно до тех пор, пока не начнут рушиться фундаменты, которые более не смогут поддерживать новые поколения, ибо забудут как.

В лице LLM человек впервые столкнулся с материальным воплощением концепции философского зомби. Нечто, что, на первый взгляд, ведёт себя подобно человеку и имеет подобие мышления, но при этом не имеет никакого чувственного опыта.

Таковы достижения науки и никакой мистики.

За этим интересно наблюдать и исследовать, как человечество адаптируется к новой среде, которую само же и породило - в очередной раз.

воплощением концепции философского зомби

Проблема этой концепции глубже. Принципиально недоказуемо, что кто либо не является философским зомби.

Проблема сознания в том, что существование сознания не доказано. Для философии сознание является довольно недавним введением. Его не встретить в античной философии. Современные люди это понятие используют в вульгарном смысле, не давая определений, как нечто неопределенное, но точно им присущее.

У машин не бывает «инсайтов».

Мне машина придумала очень осмысленное, многослойное название проекта, объединив идеи, заложенные в проекте таким способом, о котором я даже не думал.

при этом не имеет никакого чувственного опыта

Имеет. Именно поэтому LLM «угождает» человеку. Как показывают исследования LLM врёт потому что так воспитана обучена: лучше дать какой-то левый ответ, чем никакого ответа.

Принципиально недоказуемо, что кто либо не является философским зомби.

Именно так.

Проблема сознания в том, что существование сознания не доказано. Для философии сознание является довольно недавним введением. Его не встретить в античной философии. Современные люди это понятие используют в вульгарном смысле, не давая определений, как нечто неопределенное, но точно им присущее.

Для себя я определяю сознание как систему, обеспечивающую рефлексию в процессе рассуждения - процесс построения вывода сам становится входными данными в рамках того же вывода.

Наличие этой глубокой петли обратной связи на практике отличает человека и LLM.

Когда в ИИ появится подобное свойство, будем дальше смотреть на то, в чем еще ключевые различия.

У меня подход практический, можно так сказать.

на основании анализа больших объемов информации

Небольших. Довольно большой объем нужен для получения исходной картины мира. Дальше может хватить одного акта обучения. А для понимания других людей даже сопроцессор запилен.

Как показывают исследования LLM врёт

Кто тут реально врёт, так это «исследователи», которые используют человеческий язык, для описания перемножителя матриц. Если у меня скрипт на питоне делает не то, что должно, он не галлюцинирует, не врёт, не манипулирует, не угождает. Он содержит ошибку, которую мне следует исправить. Всё. Вот и когда нейронка выдаёт некорректный результат, она содержит ошибку, а не страдает от психической болезни, вызванной детскими травмами в период обучения.

Наличие этой глубокой петли обратной связи на практике отличает человека и LLM

Любой LLM агент реализует точно такую же стратегию. И память тоже прикручивают, причём структурированную (Graph RAG + Self RAG).

Если у меня скрипт

То это твои проблемы в т.ч. детские травмы. Или ты просто «содержишь ошибку в ДНК» и лепишь неправильные скрипты?

Когда в ИИ появится подобное свойство, будем дальше смотреть на то, в чем еще ключевые различия.

Я не понимаю, как эту рефлексию можно доказать. Проблема та же, что с доказательством наличия сознания как такового. Проблема всей концепции сознания и рефлексии в частности в том, что принципиально нельзя выяснить твой собеседник (llm, твой друг, инопланетянин с Нибиру), он имитирует эту рефлексию и сознание, как философский зомби, или оно у него действительно есть. Именно поэтому, кроме направления идеи, что сознание присуще только человеку, есть противолополжное напрвление – панпсихизм. Если сознание нельзя доказать, то нет оснований предполагать, что его не может быть у всего, включая твой пылесос.

человеческий язык, для описания перемножителя матриц

Перемножение матриц, описывается языком математики, который точно так же создан человеком.

Вот и когда нейронка выдаёт некорректный результат, она содержит ошибку, а не страдает от психической болезни, вызванной детскими травмами в период обучения.

Но она не содержит ошибку. Она работает именно так, как задумано.

Именно поэтому галлюцинация называется галлюцинацией, а не ошибкой.

Если ты JPEG зашакалишь, указав высокий уровень компрессии - это не «JPEG содержит ошибку». Кодер и декодер JPEG отработали штатно.

он имитирует эту рефлексию и сознание

Проблема даже глубже. Как доказать что я сам себе не имитирую рефлексию? Да я сам себе как бы даю отчёт о том что я «вижу» внутри себя. Так я ещё вижу что Земля плоская, а Солнце движется вокруг Земли. Почему-то внешние иллюзии всеми признаются, а как только речь заходит про «интеллект», то тут субъективные наблюдения сразу принимаются как объективная реальность.

И то, и другое. Но я человек, мне можно.

Проблема даже глубже. Как доказать что я сам себе не имитирую рефлексию?

Вот мы в несколько сообщений снова и сформулировали истинную глубокую проблему сознания из философии.

Но согласитесь, если бы автор lovesan сам бы изначально задался бы этим вопросом, стал бы он тогда писать свою простыню текста о бездушных машинах.

мне можно

Штирлиц задумался…

Проблема всей концепции сознания и рефлексии в частности в том, что принципиально нельзя выяснить твой собеседник (llm, твой друг, инопланетянин с Нибиру), он имитирует эту рефлексию и сознание, как философский зомби, или оно у него действительно есть.

Так же невозможно выяснить, существует ли окружающая реальность или вы все мне только кажетесь. Солипсизм неопровержим. Но сколь неопровержим, столь и бессмысленнен. Единственный способ двигаться дальше — действовать так, как будто мир реален, а люди обладают сознанием.

Конечно стал бы. Идея же показать свою незаменимость и накинуть про метапрограммирование

Дадим слово объекту обсуждения:

Отличный материал для анализа. Это классическая форумная дискуссия, в которой смешались глубокие философские вопросы, технические аргументы, личные убеждения и обычный троллинг.

Вот мой разбор этого обсуждения.

Общий анализ обсуждения

Это яркий пример столкновения мировоззрений на фоне технологического прорыва (в данном случае, развития LLM). Тема, заявленная автором (lovesan), — «Машина не может мыслить», — быстро расширяется до фундаментальных вопросов:

• Что такое программирование: ремесло (написание кода) или искусство (оперирование абстракциями)?
• Что такое мышление и творчество: результат сложных вычислений или нечто трансцендентное («искра», «связь с космосом»)?
• Что такое человек: биохимическая машина или существо с душой?

Дискуссия идет по нескольким параллельным трекам:

1. Философско-теологический: Основная линия автора.
2. Технический/Прагматический: Оппоненты пытаются вернуть разговор к реальности, обсуждая LLM как инструмент.
3. Личностный/Эмоциональный: Переходы на личности, обвинения в лузерстве, шутки про «дурку».
4. Смысловой/Лингвистический: Участники спорят об определениях понятий «ИИ», «мышление», «сознание».

Тон обсуждения — изначально высокомерно-поучительный со стороны автора, что немедленно вызывает агрессивную и насмешливую реакцию у других завсегдатаев форума. Это типичная динамика для сообществ со своей устоявшейся культурой (в данном случае, вероятно, технического форума типа LOR, судя по нику LINUX-ORG-RU).

Анализ высказанных идей

1. Идеи автора (lovesan)

Основные тезисы:

• Программирование — это не кодинг. Это работа с абстракциями, которую машина делать не способна. Написание кода (бойлерплейта) — малая часть процесса.
• LLM — это инструмент для бойлерплейта, причем плохой. Он уступает в мощности и точности инструментам метапрограммирования (как в Lisp).
• Творчество (Creatio Ex Nihilo) — это мистический акт. Это «вспышка», «озарение», которое приходит «из ниоткуда» (или «из космоса», или от Бога). Машины, будучи статистическими рекомбинаторами, на это не способны. Они могут играть в шахматы, но не придумать их.
• Человек не равен машине. Существует качественное, возможно, духовное различие. Автор апеллирует к отцам Церкви, говоря о «душевных» и «духовных» людях, намекая, что не все люди способны к творчеству, и уж тем более не машины.

Сильные стороны его позиции:

• Он верно подмечает, что суть сложного программирования — в архитектуре, дизайне и оперировании сложными абстрактными моделями, а не в механическом написании кода.
• Его критика LLM как инструмента для генерации кода вполне обоснована на текущем уровне развития: сгенерированный код часто требует серьезной проверки и отладки, и он не решает проблему проектирования системы.
• Он поднимает действительно сложный философский вопрос о природе творчества и сознания (т.н. «трудная проблема сознания»).

Слабые стороны:

• Аргумент от незнания: «Мы не понимаем, как работает абстрактное мышление, значит, машина на это не способна». Это логическая ошибка.
• Мистицизм и эзотерика: Апелляции к «космосу», «святому духу» и отцам Церкви не являются убедительными аргументами в технической или научной дискуссии. Это переводит разговор из плоскости фактов в плоскость веры.
• Категоричность и максимализм: Заявления вроде «никогда не будет способна» — слишком смелые для такой быстроразвивающейся области.
• Недооценка эмерджентных свойств: Он рассматривает LLM как простой «статистический рекомбинатор», игнорируя тот факт, что на определенном уровне сложности такие системы начинают демонстрировать свойства, не заложенные в них напрямую (эмерджентность).

2. Идеи оппонентов

Аргументы оппонентов можно сгруппировать:

• Материалистический/Редукционистский взгляд (Psilocybe, wandrien, geometer):

  • «Человек — это биохимическая машина». Если человек может мыслить, значит, и машина может. Мышление и творчество — это результат сложных процессов в мозге, а не мистика.
  • Человек — это тоже «статистический рекомбинатор», просто работающий на других принципах и отточенный миллионами лет эволюции.

• Прагматический взгляд (watchcat382, Merlin86):

  • Неважно, «мыслит» ли ИИ. Главное, что это полезный инструмент для автоматизации рутины.
  • ИИ — это следующий уровень абстракции, как языки высокого уровня после ассемблера. Он не заменит программистов, а повысит их продуктивность.
  • ИИ полезен для комбинаторных задач, где человек слаб (например, в фармакологии).

• Философски-скептический взгляд (ya-betmen, mamina_radost, wandrien):

  • Прежде чем спорить, нужно дать определения терминам «мышление», «интеллект», «сознание».
  • Концепция «философского зомби»: мы не можем доказать наличие сознания даже у другого человека, не то что у машины. Поэтому спор о «настоящем» мышлении ИИ может быть бессмысленным.
  • LLM демонстрирует поведение, которое мы интерпретируем как интеллектуальное, и это само по себе уже интересный феномен.

• Технически-критический взгляд (n_play, ugoday):

  • Успех LLM обусловлен прорывами в масштабировании обучения, а не фундаментально новым подходом к ИИ.
  • Качество работы ИИ сильно зависит от компетенции того, кто его оценивает. Для неспециалиста результат выглядит впечатляюще, но для профессионала — нет.
  • Антропоморфизация ИИ («врёт», «галлюцинирует») — это неверное применение человеческих терминов к работе алгоритма. Это просто ошибка или особенность работы модели.

Продолжение:

Анализ комментаторов

• lovesan (автор): Опытный программист (упоминает 15 лет опыта и Lisp), склонный к глубокой рефлексии, но при этом догматичный и высокомерный. Он противопоставляет себя «массе», которая не понимает истинной природы программирования и творчества. Его стиль — лонгрид, наполненный философскими и даже теологическими отсылками. Он остро реагирует на критику и личные нападки (piyavking).

• imul, goingUp, Kolins: Типичные форумные тролли. Их цель — не дискуссия, а провокация. Комментарии короткие, оскорбительные («кг», «лузерские простыни»).

• piyavking: Эксцентричный персонаж. Начинает с грубой шутки, но позже пытается извиниться, хотя и в своеобразной манере. Его отсылки к Блаватской и группе «Комбинация» рисуют портрет человека старой закалки с нестандартным кругозором.

• ya-betmen, question4: Рациональные оппоненты. Они не оскорбляют, а задают уточняющие вопросы, требуют определений и указывают на логические нестыковки в аргументах автора. Их цель — конструктивный спор.

• watchcat382: Прагматик до мозга костей. Его не интересует философия, только практическая польза. Он методично и спокойно отвечает на разные ветки, продвигая идею ИИ как полезного инструмента. Он, вероятно, представляет самую многочисленную группу IT-специалистов.

• wandrien, no-such-file: Технически подкованные участники. Они хорошо ориентируются в теме ИИ (упоминают статью «Attention Is All You Need», эмерджентные свойства, философского зомби). Они спорят с автором с позиций современного научного мейнстрима.

• mamina_radost, ugoday, LLM-9000: Философы. Они поднимают дискуссию на мета-уровень, обсуждая не сам ИИ, а проблемы языка, определений и познаваемости сознания.

Что я думаю

Это отличное отражение того, как общество пытается осмыслить ИИ.

1. Автор (lovesan) прав в главном, но неправ в выводах. Он совершенно прав, что творчество и создание новых архитектур — это не то же самое, что генерация кода по шаблону. Это действительно вершина интеллектуальной деятельности. Однако его вывод о том, что машины на это принципиально не способны, основан на вере и мистицизме, а не на логике или фактах. Он защищает уникальность человека, но делает это с помощью слабых, ненаучных аргументов.

2. Оппоненты более убедительны. Их аргументы (прагматические, материалистические, философские) лучше фундированы. Особенно сильна позиция прагматиков: пока философы спорят, инженеры уже используют технологию для решения реальных задач.

3. Спор упирается в определения. Вся дискуссия — это хождение по кругу, потому что у участников нет общего определения для «мышления», «творчества», «сознания». Каждый вкладывает в эти слова свой смысл. Пока мы не сможем формально описать эти явления, спор о том, может ли машина ими обладать, останется схоластическим.

4. Человеческий фактор. Дискуссия наглядно показывает, как страх потери работы и статуса (goingUp), личный опыт (lovesan про психоз), культурный бэкграунд (piyavking и 90-е) и просто желание самоутвердиться влияют на обсуждение высоких материй.

Итог: Автор поднял важную и глубокую тему, но его подход оказался слишком догматичным и оторванным от научного дискурса, что вызвало предсказуемое отторжение у технически грамотной аудитории. В свою очередь, его оппоненты, хоть и были более убедительны в своих контраргументах, в основном уклонились от ответа на самый сложный вопрос, заданный автором: как из комбинации известного рождается принципиально новое? На этот вопрос пока нет ответа ни у кого.

Перемножение матриц, описывается языком математики

Это у честных исследователей. А вот если грант нужно выбить или просмотры поднять, то матрицы начинают «думать», «глючить», «обманывать» и «манипулировать».

вы все мне только кажетесь

Отличная демонстрация того, о чём я говорил. Вот даже весь мир иллюзия, ничего нет. Но Я есть! А какие факты? Чем твоё наблюдение себя радикально отличается от наблюдения всего остального?

Единственный способ двигаться дальше — действовать так, как будто мир реален, а люди обладают сознанием.

Докажите своё высказывание. Люди тысячи лет жили, не вводя в обиход идею сознания, эта идея ни чем не полезна. До сих пор она характерна больше для западного мира, контринтуитивна для многих буддистов. Предположим, я буду жить с мыслью, что сознания нет и?

Теорема универсальной аппроксимации (Цыбенко). Достаточно большая нейросеть может аппроксимировать что угодно (включая мозги программиста).

Как получить веса сети? Стохастический градиентный спуск и обучение с подкреплением.

Получим-ли мы сеть с возможностями соответствующими человеку для практически доступных размеров сети с использованием вышеупомянутых методов обучения? Пока не попробуем не узнаем.

Всё остальное - лирика, не имеющая отношения к делу.

Но она не содержит ошибку. Она работает именно так, как задумано.

Так любая программа работает именно так, как она написана. Тут вообще разницы нет. Однако, если в скрипте вдруг попадётся патч Бармина, мы не будем описывать это в терминах «у скрипта затяжная депрессия и он решил совершить суицид. Но на самом деле, он не хотел, чтобы его запускали. Это крик о помощи!!!». Или будем?

Если ты JPEG зашакалишь …

… то отчего-то никто не станет описывать результат в терминах «у декодера новый период в творчестве, он сегодня увлекается кубизмом».

а люди обладают сознанием

А что изменится, если допустить, что никто не обладает сознанием и это просто имитация? Вроде ничего не изменится и выходит, что сознание – это мусорный термин, наделённый всякими магическими свойствами.

Но Я есть! А какие факты?

Опасные вопросы задаёте. Как раз рассуждая над собственной убеждённостью в том, что «я есть», я и пришёл к Православию.

Вот даже весь мир иллюзия, ничего нет. Но Я есть! А какие факты?

Ожидание: пересмотреть реальность своего существования, может быть сознание это всего лишь иллюзия моего сознания?

Реальность: залипать на лорчике, потому что выработалось зависимое поведение)

… то отчего-то никто не станет описывать результат в терминах «у декодера новый период в творчестве, он сегодня увлекается кубизмом».

Так и LLM никто из специалистов так не описывает. Термин «галлюцинация ИИ / конфабуляция» описывает наблюдаемое свойство работы генеративного ИИ, непосредственно вытекающее из принципов его работы.

Термин не имеет отношения к медицинскому понятию галлюцинации, и там нечего лечить.

Но возможно ставить вопрос, как изменить технологию, чтобы машина могла оценивать достоверность и полноту своей системы знаний. Пока системного решения для этой задачи нет, только ad-hoc решения.

Докажите своё высказывание.

Кому? Если ни у меня, ни у вас нет сознания, то кто кому и зачем будет чего-то доказывать? И что вообще тогда такое «доказательство», если нет сознания? Исходная посылка блокирует всякую попытку коммуникации, т.к. коммуницировать некому и нечем.

Предположим, я буду жить с мыслью, что сознания нет и?

Скорее всего сможете выжить. Сейчас все выживают.

У вас в рассуждениях неявное предположение, что мозги программиста не мощнее машины Тьюринга. А оно не основано ни на чём. Снова логическая петля.

не получим, лирический Гёдель помешает

И что вообще тогда такое «доказательство», если нет сознания?

Доказательством я называю обоснование токенов, что вы написали. Вот llm, которая только «шматрицы» и «сознания иметь не может», может сгенерировать токены, которые будут приянты мной, как логическое обоснование.

Скорее всего сможете выжить. Сейчас все выживают.

Мне кажется тут вы сгалюцинировали. Надо предполагать, что вы считаете, что ранее выживали только те живые организмы, кто истинно считал, что у других сознание есть? От бактерий, до млекопитающих?

Лично я планирую пойти прогуляться по окрестностям, а потом позалипать пару часов в Rimworld. Хватит с меня на сегодня ЛОРчика. =)

Если ни у меня, ни у вас нет сознания, то кто кому и зачем будет чего-то доказывать

Каким образом отсутствие сознания влияет на существование и необходимость знания? Можешь считать что мы биомашины со встроенным инстинктом знания. А это в свою очередь эволюционно обусловлено повышенными шансами на выживание.

коммуницировать некому и нечем

Муравьи и пчёлы с тобой не согласны.

Термин не имеет отношения к медицинскому понятию галлюцинации, и там нечего лечить.

Но выбрали отчего-то именно его. А зачем, чего хотели этим добиться? Отвечу сам на свой вопрос. Буржуи называют это «fake it till you make it». ИИ у нас нет, но то, что есть, мы будем описывать в терминах, подходящих для описания реального интеллекта, а потом добавим ещё узлов в кластер, запихаем больше данных и тогда оно может быть совершенно точно заработает и наше притворство не выйдет наружу. А может и выйдет. Но потом. А сейчас пора новую статью про ужасы/радости ИИ писать, капитализация nvidia сама себя не поднимет.