Что такое искусственный интеллект, как он работает?

Доказательства теорем составлены из отдельных фраз, которые оно генерило тем же способом. У него просто очень много вычислительных ресурсов и оно может тупо перебором всех возможных вариантов находить ответ, который вроде как соответствует его критериям реалистичности.

Единственное, что стоит отметить, так это то что научились конвертировать естественный язык в компьютеро-понятный вид, чтобы дальше можно было оперировать числами.

Уже который раз говорят: современные модели далеко ушли от просто автодополнения типа 2+2= вплоть до того, что не все модели напишут 4, если их прямо не попросить это сделать. ИИ может даже пошутить, а не написать 4.

Я спрашивал, почму человек способен идентифицировать нехватку знаний, а модель нет.

Да нет никакой разницы, просто у человека контекстное окно неизмеримо шире. Когда человек выходит за его пределы, начинает «галлюцинировать» - экстраполировать свои знания на предмет беседы и выдавать даже для себя эксперта. Если мозгов не хватает промолчать. Нейросеть промолчать не может - ей запрещено.

А бывает и хуже - старые знания заменяются глюками и человек помнит то, чего с ним никогда не было. Тот самый выход за пределы контекстного окна.

Просто еще есть и целенаправленная ложь - это совсем другое.

Так что подходы идентичны, разница лишь в масштабе.

Ага, особенно для детей характерно. Но вообще человек научился понимать ситуацию отсутствия знаний. Модели, кстати тоже постепенно избавляются от галлюцинаций. Современные уже очень редко.

Я тебя частично понял недавно. Для новичков ИИ зло - мешает обучению люто. Путает. Но во многом ты неправ. Они чуток другое, чем ты описываешь.

Впрочем - те самые агенты и «вайбкодинг» - тоже зло.

Ты бы лучше попробовал разобраться в инструменте. Его сейчас пихают вообще везде, вне зависимости - нужно оно там или нет. Заменяют им мозги. Пытаются. Результат мы еще увидим и врядли он нам понравится. Сейчас активно засирается кодовая база многих проектов. Линукса тоже.

А у собаки? А у червяка? Или в последнем случае связей недостаточно для самосознания?

Но по крайней мере человек хорошего, а лучше сказать – правильного – воспитания не будет врать умышленно, хотя может, а ИИ даже не понимает, что врёт :)

«Самосознание» это не какое то высшее достижение, до которого нужно развиться, а просто одна из сфер обучения. Способ выживания. Большая часть того кто ты есть, заложено в тебе еще до рождения. Дальше дообучение строго по этим заложенным шаблонам. У собак тоже заложено немало того, чего нет у тебя. Тебе это просто не нужно.

Это «самосознание» ничем не отличается от острого нюха, слуха, зрения. От способности спринта на 120км в час. Просто одна из заложенных в тебя особенностей. В твоем виде вымерли особи без него.

Человек, который не врет все время, быстро зарабатывает врагов и остается изгоем. Вранье - очень эффективный и частоиспользуемый эволюционный инструмент. В социуме жизненно необходим во всех сферах. Не надо тут обсуждать такое.

То что происходит с ИИ - совершенно другой механизм, до которого человек тоже доходит в свое время. Просто благодаря своим особенностям, человеку до такого дойти гораздо сложнее.

Слушаюсь, проверяйте учитель! Интерполяцией называется поиск неизвестного значения используя известные значения внутри компактного множества. Может привести к галюцинациям, если функция интерполяции взята слишком абсурдно. При использовании полиномиальной интерполяции полинома правильного порядка отклонение минимально. Самые правильные полиномы - полиномы Чебышёва.

Вы, учитель, возможно хотели спросить про экстраполяцию, посколько именно она, как считается, является причиной галюцинаций. Экстраполяция пытается вычислять неизвестное значение выходя за компактное множество известных значений. При этом велика вероятность, что поведение значений внутри компакта может не соответствовать поведению снаружи компакта. Это и приводит к противоречивым предсказаниям. Экстраполяцию следует проводить осторожно только при разумном обосновании, что функция продолжает то же самое поведение в сторону экстраполирования, что она показывала внутри компакта.

Обе операции являются бызовыми в математическом анализе. Рассуждать, почему без них компьютером было бы легче или сложнее пользоваться считаю абсурдным. При этом приведённый пример растягивания картинки - пример интерполяции, а вот пример дорисования окружения за пределы картинки - пример экстраполяции.

Не судите строго. Я стараюсь использовать простые термины, поскольку не знаю, знакомы ли вы, учитель, с понятием компактного пространства. Обычно изучают на первом курсе математического анализа Университета, но я слышал, что могут затрагивать и в непрофильных вузах на так называемом курсе «высшей математики». Не знаю, что это означает, не посещал.

Обе операции являются бызовыми в математическом анализе. Рассуждать, почему без них компьютером было бы легче или сложнее пользоваться считаю абсурдным.

В таком случае требовать ответа «не знаю» от нейронки так же абсурдно.

Да нет никакой разницы, просто у человека контекстное окно неизмеримо шире.

Разница есть и она огромная. Человек способен определить, внутри или снаружи компакта знания расположен вопрос и может принять решение, интерполирует он или экстраполирует. Каждый из этих случаев рассматривается человеком по разному. Вероятность ошибки, так назыаемый риск, оценивается исходя из ситуации. Модель это делать не может. Пока не может. Поэтому сейчас борьба с галюцинацией проходит экстенсивно путём увеличения размера модели, а значит попыткой максимально охватить область знаний и любой прогноз свести к интерполяции. Ясно, что это путь органиченный возможностями ресурсов. Вот и появляются специализированные модели, меньшие по размеру, но более точные в узко определённой области.

И это является предметом работ, в основе которых трёхзначные логики, с true, false, и undefined. Типа тех, что предлагали Клини или Лукашевич. При этом если значение вычислимое, но неопределённое, то можно попытаться получить или вычислить его. Это делают с использованием агентов.

Нет, это тут вообще не при чём. Тут сугубо практические соображения. Если вам дать нейронку которая будет честно отвечать «не знаю, не знаю, не знаю», и другую нейронку которая будет свободно галюцинировать, то вы предпочтёте пользоваться второй, потому что она будет для вас полезнее. Почему это так, опять же предлагаю подумать самостоятельно. (нет, тут нет никакого трюка или психологического эффекта или подобной лажи)

И что? Что делает человек когда думает что его знаний не хватает?

Единственное, что стоит отметить, так это то что научились конвертировать естественный язык в компьютеро-понятный вид, чтобы дальше можно было оперировать числами.

Вспомните про теорию хаоса, и почему после этого 80% пошли пасти овец.

А у собаки? А у червяка? Или в последнем случае связей недостаточно для самосознания?

Известно, что коты, маленькие, себя в зеркале не узнают. Получается, у них еще самосознания нет. Так что у червей или у каких-нибудь муравьёв это нет. Может быть у некоторых птиц.

коты, маленькие, себя в зеркале не узнают. Получается, у них еще самосознания нет.

ИИ говорит, что любые кошки (даже взрослые) не проходят зеркальный тест.

Ну вроде как взрослые успокаиваются, когда видят себя в зеркале, а значит понимают, пусть и не с первого раза, что этот они. Впрочем, это не так важно. Я про то, что не у всех животных есть самосознание. Точная граница не так важна.

Известно, что коты, маленькие, себя в зеркале не узнают. Получается, у них еще самосознания нет. Так что у червей или у каких-нибудь муравьёв это нет.

Если что, муравьи (некоторые виды) как раз в отличие от кошек зеркальный тест проходят.

Если кошка чего то не делает, это еще не значит, что кошка чего то не понимает. У них в целом социальная модель такая - оставаться невозмутимым в любом положении и не подавать виду.

А еще у них очень хорошие причинно-следственные связи. Если твое поведение не приведет к положительному результату, нахрена суетиться?

Если она орет на тебя и ты ее кормишь - это хорошее поведение. Она это запомнит и будет дальше орать. Результат ведь есть.

Ну вроде как взрослые успокаиваются, когда видят себя в зеркале, а значит понимают, пусть и не с первого раза, что этот они.

Нет, не значит.

Впрочем, это не так важно.

А вот это в точку.

Я про то, что не у всех животных есть самосознание. Точная граница не так важна.

Не так важна не граница. Не так важны в принципе вообще любые рассуждения о «самосознании» и прочей полуэзотерической антропоцентричной чуши, не решающей ровно никакие задачи.

это какая-то идеализация человеческого мышления

люди постоянно врут неосознанно, додумывают, переписывают у себя историю, неправильно экстраполируют и так далее

Это не совсем то, что я спрашивал. Мой вопрос немного хитрее. Я спрашивал, почму человек способен идентифицировать нехватку знаний, а модель нет.

Почему это модель не способна? Frontier модели способны. Вон, пообщайся с каким-нибудь GPT-5.6 Sol на High/xHigh итп.

А то опять экстраполяция опыта с GPT-3.5 идет, как вечно тут на форуме.

И насколько часто человек способен идентифицировать нехватку знаний вообще?

Если что, муравьи (некоторые виды) как раз в отличие от кошек зеркальный тест проходят.

Да, но они круги сметри могут организовать. Что вряд ли бы сделало разумное существо.

Не так важны в принципе вообще любые рассуждения о «самосознании» и прочей полуэзотерической антропоцентричной чуши, не решающей ровно никакие задачи.

Вы не правы. Мы имеем дело с неведомой штукой. И понять её крайне важно.

Странно, почему мне нужно одно и тоже повторять несколько раз - потому что связи у него динамические а не заранее построенные.

Есть такое понятие, in-context learning.

В целом, внутри контекста, связи у моделей динамические, особенно у передовых.

Да, но они круги сметри могут организовать. Что вряд ли бы сделало разумное существо.

Именно. Я не пытался сказать, что муравьи умнее кошек, это абсурд. Это скорее к тому, что зеркальный тест — так себе критерий.

Вы не правы. Мы имеем дело с неведомой штукой. И понять её крайне важно.

Нет никакой неведомой штуки, это глюк работы нашего мозга, считающего себя офигенно важным и пытающегося выделить некую «штуку», называемую то разумом, то «самоосознанием», то вообще душой. А так это всего лишь определённый уровень интеллекта, не более того. Да, самый высокий (по совокупности, но не в каждой конкретной области) среди живых существ, и да это важно, но это не нечто магическое и требующее введения отдельной сущности.

во выловил тебя, https://self-signed.badssl.com/

Я ответил в той теме, дабы как-то оно менее офтоп было, и не обрывалось без окончания.

Сертификат от минцифры (комментарий)

Я туда писать не могу …

Вот я про это и пишу, теперь фф стал самоподписанные сертификаты приравнивать к 0. Т.е. ты принимаешь этот сертификат так как сайт знаешь, а тебе ФФ тычит что соединение не защищено

• значок в адресной строке, а с какого перепуга? Защита то есть соединения … ну ты понял.

Входной вектор, умножается на матрицу, получаем выходной вектор. Входной вектор моделирует входные данные, выходной вектор моделирует выходные данные. В ячейках матрицы функции с параметрами, которые подбираются так, чтоб определенному входному вектору соответствовал заранее известный выходной вектор, это все есть то самое обучение. Вот и весь ИИ на базе нейронок. Есть и другие технологии ИИ, но их в массах не видно

галлюцинаций

Нет никаких галлюцинаций у моделей.

Это не совсем то, что я спрашивал. Мой вопрос немного хитрее. Я спрашивал, почму человек способен идентифицировать нехватку знаний, а модель нет.

потому что человек более разумен, чем текущие комповые ИИ. опять «сравниваем первокласника со студентом».
более развито абстрактное мышление, рассуждения и т.д. он может абстрактно увидеть вопрос «со стороны» и понять что чтото здесь не так.

в комповых ИИ пока только фомируют абстрактное мышление. ихний уровень гораздо ниже, ответы и логика действий линейнее…
и получается ответ в виде элементарной и вполне логичной связки «что знаю то и говорю».
«подняться» над такой простой логикой ИИ пока не могёт :)

Модели, кстати тоже постепенно избавляются от галлюцинаций. Современные уже очень редко

Нейронка всегда выдает информацию, которая верна с вероятностью N и это вероятность никогда не будет равна 100%. Ошибку можно сколько угодно минимизировать, увеличением количества параметров нейронок, и как следствие, затратами на ресурсы, но ошибку никогда не пролучится свести к нулю. А значит голлюцинации в нейронках (та самая ошибка) будут всегда, это следует из их математической природы. И чем ближе подтягивается ошибка к нулю, тем больше на это нужно ресурсов. Законо асимптотический. Публичные сервисы ИИ от титанов индухстрии уменьшают вероятность ошибки, заваливая количеством параметров по площадям. И поэтому их сервисы-это датацентры железа и элекстростанции эелесктричества. Слишком дорого стоит то самое «постепенно избавляются от галлюцинаций»

Вот я про это и пишу

Там было «не различает». О том, что он в принципе выдаёт «соединение не защищено» я знал. Думал, теперь даже не говорит, почему именно. Оказалось, что таки говорит.

О том, что он в принципе выдаёт «соединение не защищено» я знал.

И что по вашему это соединение не защищено?

На всякий случай: Под словом защита соединения понимаю что его не могут в середине цепочки почитать. Твой пароль от тебя - прилетает только на сайт.

И что по вашему это соединение не защищено?

Не по моему, а по firefox’ову. Я вообще ничего не говорил о том, что под чем стоит понимать. Было сообщение, что разницы теперь нет, подумал, что может теперь и правда вообще не принимает самоподписанные сертификаты, и пишет, что сертификата нет.. Проверил, разница есть, успокоился. Для меня эта тема исчерпана. Обсуждение, кто что под каким словом понимает, мне не особо интересно, извини.

Это скорее к тому, что зеркальный тест — так себе критерий

С этим согласен. Но хоть какой-то критерий лучше его полного отсутствия. Понятно, что к нему надо относиться с некоторым подозрением.

Нет никакой неведомой штуки, это глюк работы нашего мозга

Я говорил про ИИ. Что это такое, мы в полной мере не понимаем.

Что до интеллекта, то этот «всего лишь уровень» обеспечил качественный скачок. Думаю, не надо объяснять разницу в жизни между допустим бобром и человеком. Именно этот качественный скачок и интересует человека.

Я говорил про ИИ. Что это такое, мы в полной мере не понимаем.

А по-моему, прекрасно понимаем. Как именно принимаются решения в нейросетке, проследить не можем (точнее можем, но это малоинформативно), но что это — понимаем.

Думаю, не надо объяснять разницу в жизни между допустим бобром и человеком.

На самом деле, это довольно полезное упражнение.

Скачок, конечно, есть. Но для его понимания не требуются дополнительные эзотерические понятия вроде «душа» или «разум». Они только запутывают и мешают, а не помогают.

Входной нейромедиатор поступает в синапс и захватывается дендритом. Совокупность входных нейромедиаторов моделирует входные данные, выходной набор нейромедиаторов моделирует выходные данные. В клетках нейронов органеллы такие, которые подбираются так, чтобы определенному входному массиву нейромедиаторов соответствовал заранее известный выходной вектор нейромедиаторов, это все есть то самое обучение. Вот и есть разум на базе нейронов. Есть и другие технологии разума, и в массах их тоже видно.

потому что человек более разумен, чем текущие комповые ИИ. опять «сравниваем первокласника со студентом». более развито абстрактное мышление, рассуждения и т.д. он может абстрактно увидеть вопрос «со стороны» и понять что чтото здесь не так.

С чего ты взял? Что такое «ИИ»? Ты общался с передовыми моделями типа Fable или GPT-5.6 Sol?

А теперь докажи, что в мозгах все устроено именно так. Как оно устроено в нейронках точно известно, как в мозгах-только предположения.

Мозг всегда выдает информацию, которая верна с вероятностью N и эта вероятность никогда не будет равна 100%. Ошибку можно сколько угодно минимизировать, увеличением количества нейронов, и как следствие, затратами на ресурсы, но ошибку никогда не получится свести к нулю. А значит галлюцинации в мозгу (та самая ошибка) будут всегда, это следует из их биологической природы. И чем ближе подтягивается ошибка к нулю, тем больше на это нужно ресурсов. Закон асимптотические. Публичные люди, титаны философии и математики, уменьшают вероятность ошибки, заваливая количеством параметров по площадям. И поэтому их мозги забирают на сознательную деятельность огромные ресурсы, в том числе у других частей организма и самого мозга. Слишком дорого стоит то самое «постепенно избавляются от галлюцинаций».

Какие предположения? Биомеханика мозга изучена очень хорошо.

Ошибку можно сколько угодно минимизировать, увеличением количества нейронов

Ну давай, увеличь их хотя бы у себя, чтоб бред не писать

Биомеханика мозга изучена очень хорошо.

Вот иди и изучи эту бихмеханику, заодно поймешь, что там нет ничего доказанного, сплошные предположения. Как работает мозг живых тварей неизвестно и сейчас

Легко можно уменьшить, разными способами, от нейродегенеративных заболеваний до травм.

Короче, резюмируя, тебе хочется чувствовать себя умником, и считать что ты якобы все понял.

А я тебе говорю, ничего ты не понял.