Будущее ИИ

Ещё есть сравнительная психология. Пускай муравьи или дельфины ИИ создадут

До меня только что внезапно дошло, что я вот прям сейчас смотрю на ИИ.

На сайте Radio Paradise такие чудесные подборки картинок листаются под почти каждую песню. Под Pink Floyd «Mother» аж не удержался, спёр себе несколько.

Всё удивлялся до этой секунды - вот думаю же кто-то столько труда вкладывает, чтобы под песню тематические картинки по каталогам раскладывать. Респект и уважуха.

А тут песня Bones. И черепа-скелеты. И каааааааааааааааааак дошло-дошло.

Ей пещеристые тела и помпу пооборотистей

Будущее ИИ

ИИ раз! ИИ два! Закончили упражнение!

Если эти теоремы не создают особых проблем для одной физической системы (мозгов математиков)

Человеческая логика не является формальной.

Если же применять принцип подобия, то даже если у человека не учитывать внутреннюю противоречивость логического вывода, а с полнотой - всё нормально, то проблема будет с невозможностью построить модель своего мышления в рамках такого же мышления. Потребуются категории более высоких порядков. Иначе говоря, какая бы не была мета-, потребуется метаинформация (или host-система) более высокого порядка в любом случае. См. аналогию с вычислительной техникой.

Человеческая логика не является формальной.

А у больших языковых моделей вообще с любой логикой проблемы. Вывод?

Иначе говоря, какая бы не была мета-, потребуется метаинформация

Более мощная формальная система требуется, чтобы доказать непротиворечивость рассматриваемой формальной системы. Но рассматриваемая формальная система будет (или не будет) непротиворечивой и без этого доказательства.

если […] не учитывать внутреннюю противоречивость логического вывода, […] то проблема будет с невозможностью построить модель своего мышления в рамках такого же мышления

Это просто означает, что человеческое мышление противоречиво и/или неполно.

А у больших языковых моделей вообще с любой логикой проблемы. Вывод?

Более мощная формальная система требуется, чтобы доказать непротиворечивость рассматриваемой формальной системы.

Это понятно. Но формальная система не может репродуцировать себя.

Я про третий тезис 2-й проблемы Гильберта - тезис полноты вывода. Она сама себя вывести не сможет.

Для любого интеллекта (машинного или естественного), требуется система аксиом (базис) + правила вывода (пусть даже закодированные в аминокислотах).

Правила вывода и аксиомы существуют в платоническом мире чистой математики. В физическом плане мы имеем систему, которая издаёт звуки и двигает конечностями. Некоторые результаты этих действий можно интерпретировать как аксиомы и правила вывода.

В физическом плане мы имеем систему,

Правильно говоришь, Дядя Фёдор (c)

Ты ведь, исходно, сравниваешь мозги математиков (как физическую систему), и кремниевый «мозг». Я тебе и говорю, что обе эти системы имеют фундаментальный недостаток - невозможность вывода самой себя. Для каждой из этих систем нужна «host-система».

Или ты готов строить модель интеллекта, не используя математику?

Всем аполагетам ИИ советую погуглить и почитать статейки на темы: «Кризисы математики» и «Теорема Гёделя»

«Кризисы математики»

Ждём школьных рефератов на тему: «ИИ - как магия» или «Чёрный ящик без забот и хлопот».

Или ты готов строить модель интеллекта, не используя математику?

Это утверждение предполагает, что невозможно построить интеллект, не имея модели его работы. Существующая ситуация в области машинного обучения скорее показывает, что достаточно построить систему способную к самоорганизации на основе входящих данных.

Я уверен, что существующие ИИ недотягивают до человека не потому, что мы не имеем модели работы интеллекта взрослого обученного человека, а потому что у них отсутствуют многие присутствующие у человека подсистемы: кратковременная и долговременная память, способность контролировать собственное обучение и т.д.

Строить модель человеческого интеллекта - бесперспективное занятие (с точки зрения построения сильного ИИ). Тут исследователи толком не могут разобраться как именно работают большие языковые модели. Недавно была статья, где пытались выяснить как сеть решает выводить «a» или «an» (в «a table», «an apple»). Один механизм нашли, но он не полностью объясняет поведение сети.

Мы еще и компанейские организмы, а ИИ до сих пор варятся поодиночке.