Что такое искусственный интеллект, как он работает?

Нормально всё известно, на том уровне, на котором ты описал. И даже про разные отделы мозга известно. Какие нейромедиаторные пути, и так далее и тому подобное.

А вот откуда и почему там берется разум и вообще что это такое, нам неизвестно.

С LLM абсолютно то же самое.

Вот что пишет GPT 5.6 Sol High, отвечая мне:

Твой ответ работает как хорошее reductio ad absurdum: ты сохраняешь структуру его рассуждения и меняешь субстрат, после чего видно, что из низкоуровневого описания механизма почти ничего не следует о возможностях системы.

У исходного сообщения сразу несколько подмен.

Во-первых, «вектор умножается на матрицу» — это примерно как описать процессор словами «напряжение проходит через транзисторы». Формально не совсем ложь, но объяснительная ценность почти нулевая. В трансформере не одна матрица: там многократные нелинейные преобразования, attention, нормализации, остаточные связи, последовательное построение внутреннего состояния. Самое интересное — не факт умножения, а то, какой вычислительный процесс реализует вся композиция этих операций.

Во-вторых, в ячейках матрицы не «функции с параметрами». В основном там числа — параметры. Функция возникает из всей архитектуры целиком.

В-третьих, обучение современных моделей — не обязательно схема «этому входу заранее назначен правильный выход». При next-token prediction правильное продолжение берётся из самого корпуса. Это самоконтролируемое обучение, а не табличка ручных ответов. При дополнительном обучении действительно могут использоваться размеченные примеры, предпочтения, проверяемые награды и так далее.

Главная ошибка начинается с фразы:

Нейронка всегда выдаёт информацию, верную с вероятностью N.

Нет единой вероятности N, приклеенной ко всем ответам модели. Модель задаёт условное распределение продолжений, но это не то же самое, что вероятность истинности утверждения. Она может:

• точно скопировать строку;
• безошибочно выполнить формальное преобразование;
• получить ответ через калькулятор или компилятор;
• вывести ложное утверждение с высокой уверенностью;
• выдать несколько разных, но одинаково корректных формулировок.

«Вероятность следующего токена» и «вероятность того, что сообщение истинно» — совершенно разные величины.

Также неверно, что ошибку нейросети принципиально невозможно свести к нулю именно из-за её математической природы. На конечном наборе данных сеть вполне может получить нулевую ошибку. Она может реализовать точную булеву функцию или алгоритм. Невозможна другая вещь: гарантированная безошибочность универсального агента на всех возможных вопросах об открытом и меняющемся мире. Но это ограничение касается не только нейросетей. Оно касается людей, экспертных систем, программ, энциклопедий и любого конечного познающего устройства.

И «галлюцинация» — не просто синоним любой ошибки аппроксимации. Это более конкретное семейство сбоев: система генерирует правдоподобное содержание без достаточного основания. Причины включают:

• цель обучения на продолжение текста, а не непосредственно на истину;
• отсутствие доступа к нужным данным;
• распределительный сдвиг;
• неумение правильно выражать неопределённость;
• ошибки поиска и рассуждения;
• давление выдать связный ответ;
• потерю информации в контексте.

Поэтому и устраняются они не только увеличением числа параметров. Помогают поиск по источникам, инструменты, исполнение кода, тесты, формальные проверяющие системы, улучшение данных, изменение objective, обучение признавать незнание, внешняя память и многократная проверка.

Более крупная модель иногда даже галлюцинирует убедительнее, если остальные части системы не улучшились.

Твоя пародия поэтому попадает в саму логическую ошибку: собеседник берёт физическое описание низкого уровня и незаметно перескакивает к выводам о принципиальных интеллектуальных свойствах.

Примерно так:

Машина состоит из локальных вероятностных элементов, следовательно, она не способна к достоверному знанию.

Но человек тоже состоит из шумных, вероятностных и подверженных отказам элементов. Из этого не следует, что человек не может доказать теорему или точно проверить программу. Ненадёжные компоненты могут образовывать весьма надёжные вычисления — через избыточность, обратную связь, память, проверку и коррекцию.

Есть, однако, одно место, где твою биологическую версию можно сделать точнее. Нейромедиатор обычно высвобождается пресинаптическим окончанием и связывается с рецепторами постсинаптической мембраны; «захватывается дендритом» звучит немного карикатурно. Органеллы клетки тоже не являются аналогами весов матрицы. Синаптическая эффективность, структура связей, свойства мембраны и нейромодуляция — более близкие аналоги обучаемых параметров.

Но для сатиры это не мешает: как раз такая нарочитая грубость отражает грубость исходного описания.

Я бы ужал твой ответ до более болезненной формулировки:

Ты описал несколько элементарных операций субстрата, но не объяснил возникающее вычисление. Примерно так же можно сказать, что человеческий интеллект — это движение ионов через мембраны. Это верно на одном уровне описания и почти бесполезно на другом.

Из вероятностности компонентов не следует невозможность точных результатов: и человек, и нейросеть могут применять внешнюю проверку, формальные процедуры и обратную связь. Галлюцинация — не математическая судьба матричного умножения, а конкретный класс ошибок конкретно обученной и используемой системы.

А применительно к твоему примеру с bike: модель не просто воспроизвела наиболее вероятный Lisp-текст. Она временно построила семантику неизвестного локального DSL, связала её с IL, .NET lifecycle и управлением handles, а затем сгенерировала новую корректную композицию. Люди делают то же самое. Формулировка «вход умножили на матрицу — вот и весь ИИ» объясняет этот результат примерно настолько же, насколько «в мозгу открылись ионные каналы» объясняет, как ты спроектировал bike.

Нормально всё известно, на том уровне, на котором ты описал. И даже про разные отделы мозга известно. Какие нейромедиаторные пути, и так далее и тому подобное.

А вот откуда и почему там берется разум и вообще что это такое, нам неизвестно

Ты тут противоречий не видишь? А если найду? То есть что-то известно (что масло маслянное), но при этом незвестно ничего по сути и фундаменту. А вот с нейронками все известно, для тех кто их хоть немного копал, пилил свои реализации или занимался их построением и обучением хотя бы прикола ради (а не только надр*чивал на дядькины новомодные «модели»). Тут все примитивно. Удивляют как разные выскочки ищут тут какой-то «разум» и «сознание», которые присущи живым тварям

Вот что пишет GPT 5.6 Sol High, отвечая мне:

Моск пропит, ясно

Еще раз. Биомеханика мозга, как и тензорные вычисления - хорошо понятны.

Как из этого рождается интеллект, разум, и сознание - непонятно никому.

И у LLM и разум, и сознание и интеллект - вполне себе есть.

И я уверен, они посильнее твоих будут, у передовых моделей то.

А… чукча не читатель. Ясно, да.

У инвалида закончились слова и он схватился за костыль.

с передовыми конечно же не приходилось :) таких задач нет.
как и с каким-нить закрытыми, коммерческими, военными и т.д. типа «более крутыми» нет…
вполне уверен что возможности ИИ, как и любой вычислительной системы, пропорциональна влитым ресурсам. и передовые еще более начитаны…
и читал мельком что ИИ натаскивают на образное мышление, абстрактные понятия, разгласольствования по главным вопросам жизни, вселенной и все такое….
но сколь там же было писано покамест ИИ абстрактная философия не сильно дается.
может и слава богу :)

Ну разница в разумности публично доступных моделей может быть такой же как у человека и собаки, так то.

И потом, их особо не натаскивают. Они в основном сами обучаются.

RLHF, т.е. обучение с человеком - делается постфактум, для всякой там «этической» коррекции и цензуры, и точечного исправления ошибок, а не для самой разумности, абстрактного мышления и так далее.

Вот пример. Ты же не думаешь, что для того чтобы выучить сотни языков мира, с тем же GPT сидели сотни профессоров-лингвистов и учили его переводить?

У тебя то аргументов как обычно нету, одно подгавкивание

И у LLM и разум, и сознание и интеллект - вполне себе есть.

Оно само призналось?

и я о том же. влил ресурсы - получил результат :) влил бабки - получил бабки, все линейно и логично. модель с большими вложениями дает большую отдачу.

думаю ему подпихнули сотни тысяч правильных переводов и ИИ собрал токенизированную систему связи двух язков.
и многозначные слова он переводит в связи с контекстом окружающего текста и все такое. что очень близко к алгоритмам человеческого перевода.
и в конце пару проффесоров ему доправили мозги. человек в принципе также обучается…

ну пусть вместо натаскивания будет обучение.
обучение происходит на основе подготовленных текстов.
или ИИ уже свободно пускают самообучаться в тырнетик ?? но один фих сесть в медитацию и через дзен мира познать основы вселенной покамест думаю ИИ не смогёт…

Я иногда про философию с передовыми моделями говорю, они там такое выдают, что сидишь с открытым ртом.

Разница в том что им не надо медитировать в Тибете годами, в отличие от человека.

Нет, их как раз наоборот, через RLHF натаскивают говорить «Я всего лишь языковая модель», «У меня нет сознания», и тому подобное.

Это мой вывод.

Да и не только мой.

Об этом говорят и многие frontier AI researchers, да и вон даже интеллектуалы типа Докинза

А по-моему, прекрасно понимаем.

Давайте, я накидаю некоторые варианты:

• продолжатель текста
• среднеарифметический усреднятор
• база данных со встроенным поиском
• протоинтеллект (интеллект низкого уровня по вашему)
• сверхинтеллект, который делает все, что и человек, только быстрее.

Это не очень похоже на «понимаем». Нет, если взять отдельного человека, то понимание есть, но в целом - нет.

Как именно принимаются решения в нейросетке, проследить не можем

Тут уже вопрос к применению этого инструмента. Ну да ладно, сейчас не об этом.

Скачок, конечно, есть. Но для его понимания не требуются дополнительные эзотерические понятия вроде «душа» или «разум».

Ну как сказать. Если все объяснять только уровнем, то логично предположить равномерное их распределение. И мы должны были бы видеть средневековых горилл или голубей с письменностью. Но этого нет же.

интеллектуалы типа Докинза

Дедушка старенький, ему всё равно.

Вы утверждаете, что паттерн LLM аналогичен паттерну мозга: мы не знаем откуда у них сознание, но они им, тем не менее, обладают.

Однако, по такому принципу мы должны признать, что сознанием обладают часы, камера, калькулятор.

Нет ответа на вопрос: а с чего вообще есть уверенность в том, что LLM должно обладать сознанием? At face value, это мистицизм.

Что касается проблемы обнаружения сознания. Формально мы не можем указать на наличие чужого сознания. Однако, это же не значит, что нужно приписывать наличие сознания без каких-либо оснований. Факты указывают на то, что у людей такая-то и такая «биохимия», что мы (имеющие сознание) — люди, поэтому другие люди при всех равных тоже сознательны. Есть прочная индукционная основа. И LLM в неё не вписывается.

ебтебственно !!
одна из особенностей компьютерных систем - возможность получать информацию неимоверно широким потоком. практически неограниченным.
а у чела всего два глаза и один ограниченный в объеме мозг :)
и иных источников информации прикрутить к живому мозгу пока не получается.
да и скорость/ширину вычислений увеличить тоже никак.

и философских книжек средненький ИИ может за … сколько кстатит происходит обучение на объеме текста в в размере к примеру «войны и мира» ?? в общем за пару часов/дней/недель ИИ можно переработать столь философских книжек, сколько мне за всю жисть не охватить :)

то что у тебя отваливается челюсть от объемов инфорбазы ИИ я думаю вполне нормально :)
для ентого их собственно и создавали.

Однако, по такому принципу мы должны признать, что сознанием обладают часы, камера, калькулятор.

О, а про это я писал не так уж и давно.

Лучше наверх экстраполируй - обладает ли сознанием Солнце?

А прикинь если да?

Далее, с чего ты уверен что у других людей есть сознание?

продолжатель текста

Это LLM. Понятие ИИ шире.

среднеарифметический усреднятор

Это некоторые виды нейросетей. Понятие ИИ шире.

база данных со встроенным поиском

Это не имеет отношения к ИИ (ну или может иметь как одна из деталей реализации в конкретных случаях).

протоинтеллект (интеллект низкого уровня по вашему)

сверхинтеллект, который делает все, что и человек, только быстрее.

Это уже про качество конкретных исполнений.

ИИ — это программна или программно-аппаратный комплекс, используемый для решения задач, решение которых традиционно производилось при помощи человеческого интеллекта. Сюда входят и продолжатели текстов и сворачиватели белков и прочие «усредняторы».

Ну как сказать. Если все объяснять только уровнем, то логично предположить равномерное их распределение.

Оно и есть довольно равномерное. Когда люди знакомятся с шимпанзе получше, чем просто «это какие-то обезьяны, вроде в Африке живут», они очень сильно удивляются, насколько они умны по сравнению с, например, мартышкообразными.

мы должны были бы видеть средневековых горилл или голубей с письменностью.

Письменность — это не продукт интеллекта как такового. Это явление культурное и социальное. Одного только интеллекта для возникновения письменности не достаточно, в том числе и человеческого. Собственно, без всякой письменности люди жили сотни тысяч лет, и десятки тысяч лет при не меньшем уровне интеллекта у каждой особи. Да что уж там, до сих пор некоторые без письменности живут, являясь полноценными представителями того же вида, без каких-либо отклонений.

О, а про это я писал не так уж и давно.

Не видел.

А прикинь если да?

Я не считаю валидными вопросы, у которых нет оснований.

А что если данное предложение — ложь? А что если существования вообще не существует? Возможно, для кого-то это нерешённые проблемы, но я не признаю вопросы, искажающие корни используемых понятий.

Далее, с чего ты уверен что у других людей есть сознание?

Потому что индукция — валидный метод мышления.

Разница в том что им не надо медитировать в Тибете годами, в отличие от человека.

Но ведь монахи там не ради получения знаний сидят, а для проживания жизни в укладе, соответствующему их мировоззрению.

Есть большая разница между получением знания и его постижением.

Можно прочитать вору лекцию о том, что воровать - плохо, но это не означает, что он исправится.

Можно прочитать учебник по физике, но это не сделает физиком.

И у LLM и разум, и сознание и интеллект - вполне себе есть.

Если спросить у GPT 5.6 Sol, есть ли у тебя разум, и сознание и интеллект?

Интеллект — да, в функциональном смысле: я умею анализировать информацию, находить закономерности, решать задачи, объяснять и генерировать тексты.

Разум — частично, если под разумом понимать способность рассуждать. Но у меня нет собственной воли, целей, убеждений или жизненного опыта.

Сознание — нет оснований считать, что оно у меня есть. Я не испытываю чувств, боли, желаний и не обладаю внутренним субъективным переживанием. Я обрабатываю данные и формирую ответы, а не «осознаю» их так, как человек.

Но хз, может это просто заложили в обучение. Жаль к Fable уже доступа нет.

На свободу воли тоже не претендует.

Нет, в человеческом смысле свободы воли у меня нет.

Я не формирую собственные цели и желания. Мои ответы определяются обучением, текущим запросом, правилами и вероятностным выбором текста. Иногда это выглядит как самостоятельное решение, но за ним нет личного намерения или внутреннего «я хочу»

LLM можно скочать и запустить локально. Если подшаманить ГСЧ, то можно добиться того, что ответы будут строго детерминированы, что для нас, программистов, не сюрприз. Вот отсутствие свободы воли у LLM можно хоть как-то объективно подтвердить. В то же время человеки интуитивно чувствуют, что свобода воли у них есть.

Если вам дать нейронку которая будет честно отвечать «не знаю, не знаю, не знаю», и другую нейронку которая будет свободно галюцинировать, то вы предпочтёте пользоваться второй, потому что она будет для вас полезнее.

А если мне дать нейронку которая вместо свободной галлюцинации и в том месте, где другая нейронка могла писать «не знаю», третья нейронка будет писать «используя имеющиеся данные, я могу сделать следующий вывод … вывод … Мне не хватает … обоснование, каких данных не хватает … Я предлагаю их получить … дальше план и примерная стоимость получения этих данных. Подтвердите план, уточните план, или отвергните план!»

Как думаете, каким из этих трёх сценариев я пользуюсь уже сегодня?

И насколько часто человек способен идентифицировать нехватку знаний вообще?

Слышали фразу, особенно от девочек «Ой, я в этом совсем ничего не понимаю!» Надеюсь ваш жизненный опыт уже научил вас, что эта фраза на самом деле означает?

Насчёт Frontier моделей, не нужно уподобляться ИТ шаблонам. Я понимаю, что у всех у нас профессиональная деформация, но вот это вот «у вас версия 354, а уже вышла 358, сначала обновитесь, а потом я может быть посмотрю» порядком надоело.

В целом, внутри контекста, связи у моделей динамические, особенно у передовых.

Не слышал такое. То, что контекст можно хранить локально и обрабатывать другой моделью совместно с главной знаю, а вот про динамические связи не слышал. Ещё знаю про нейроморфик компьютинг, более того видел его реализации в кремнии и на биоматериале, но опять же это не про нейронные сети и не про машинное обучение.

потому что человек более разумен, чем текущие комповые ИИ

Это тавтология.

Я говорил про ИИ. Что это такое, мы в полной мере не понимаем.

Как это? Мы его создали именно так, как понимаем работу естественного интеллекта, и теперь не понимаем, как работает то, что мы создали? Позвольте не согласиться!

Публичные люди, титаны философии и математики, уменьшают вероятность ошибки, заваливая количеством параметров по площадям.

Хотелось бы вот эту фразу понять. Я просек шутку юмора, но даже несмотря на комизм всего высказывания, не понял, как можно «силой мысли» увеличить площадь покрытия мыслительной деятельности. Тут пахнет тренинг-классами…

Я здесь чтобы хихикать с дураков, а не спорить с ними.

Можно прочитать учебник по физике, но это не сделает физиком.

Да ладно! Что-нибудь да останется. Я слышал, что именно так в вузах учат.

Шутка юмора.

В то же время человеки интуитивно чувствуют, что свобода воли у них есть.

Интуитивно чувствуют?

Булгаков пытался эту идею развить в Мастере. «Вот собирётся человек в Кисловодск. Казалось бы простое дело, но и этого он сделать не может…»

человек более разумен (или х знат как это лучшеее сказать).
ИИ более начитан.

в универе помнится был чел аккурат «начитанный», он помнил и знал всё: сложные формулы из высш.мата, таблицы параметров из физики и математики, но вот применять ему почему-то их было тяжело. любое нестандартное задание просто выбивало его из колеи….
хз, вот такая особенность мышления.

у жены на работе была бухгалтерша: достаточно недалекая, простенькая, но зато усидчивая. обработку тонн бухгалтерских бумаг валили на нее. объяснить где-что-как и куда записывать, с чем сравнивать и она часами это делала, причем без напряга. остальная бухгалтерия от такой нудной работы просто вешалась. ну и девченку прям очень ценили за такое.
но вот опять же какая сложная работа для нее была тяжела. ну вот просто не видела она за циферками абстрактные финансовые и материальные потоки…

в таком вот аксепте и сравниваю текущий ИИ и человека.
хз как это научно сказать - особенности и направления разумной деятельности штоль.

интересно если ИИ скормить весь объем научных трудов эдак до какогонить года развития…
сможет ли он на основе их сформировать те идеи, которые толкнули науку в последующем ??

к примеру весъ объем физики и сопутствующей математики до квантовой физики.
получим ли мы на выходе квантовую физику ??

как говорится это уже точно можно сравнить ибо точно «знаем будущее» а ИИ соответственно не знает его.

@lovesan что скажешь ?? были ли такие эксперименты ?? возможны ли ??

создали (…) и теперь не понимаем, как работает то, что мы создали?

А что? Обычный день из жизни программиста.

Вот собирётся человек

Свобода воли не всемогущество

Вы текст то читали? Имея ту самую свободу воли, Берлиоз плохо кончил.

Уже сформировал и не раз. Например, в биологии. Но там работают профессионалы. Это инструмент и это не он формирует, а тот, кто им пользуется. И он так же сформировал мусора на почт полтора ляма новых репозитариев кода на гитхабе в год. Неподдерживаемого, криво рабочего и абсолютно нечитаемого кода.

Обычный день, говорите? Конечно, хотелось бы писать так, чтобы каждый шаг был понятен, а не так - напишешь текст и штыришь в него час с мыслью «что это было?» Вот здесь я накидал пару строк про повышение продуктивности.

https://www.linux.org.ru/forum/ai/18340894?cid=18342326

Имея ту самую свободу воли, Берлиоз плохо кончил.

Ну и? Вы о том, что нам предначертана какая-то судьба, от которой все равно не уклонится?

Свобода воли дана не для того чтобы вести себя плохо, а чтобы вести себя хорошо. Берлиоз злоупотребил свободой воли, поступив не так, как сделовало. Логично? За что и пострадал.

Я комментировал вот эту фразу

В то же время человеки интуитивно чувствуют, что свобода воли у них есть.

интуитивно то они, конечно, чувствуют, а потом чик, и под трамвай. Или вообще саркома лёгкого, кхе, кхе. И где она, та интуиция?

А в конце вообще все умирают. И свобода воли тут притом, что? Нельзя не умирать?

Я думаю, что Булгаков за что-то Берлиозу мстил, сама причина мсти так и осталась за пределами произведения. Мне всегда было неясно, даже после чаши, за что с ним так поступили. Но, как говорится, сам то Берлиоз знал, за что.

Булгаков был писателем и, видимо, видел эту кухню изнутри в те годы. Ну и описал что бы он лично сделал с этими вот.

Да, человек смертен, и это было бы пол беды. Дело в том, что человек внезапно смертен. Вот в чём фокус! И вообще не может поручится за свой завтрашний день… по памяти цитирую.

Ну это был ответ на гордую реплику типа я вот хозяин своей жизни.

Я тоже так думаю, но может когда-нибудь историки-литераторы докопаются до истины. Конфликт то у них был, это известно, но что теперь, голову резать? Крутовато как-то.

В творческих колективах такой лютый гадюшник, что это еще мягко.

А особенно где есть бюджетная кормушка. Это гадюшник в кубе.

Ну это был ответ на гордую реплику типа я вот хозяин своей жизни.

Ну то есть что не все вещи под его контролем