История изменений
Исправление summon, (текущая версия) :
Тут фундаментальное непонимание природы LLM.
Ну это еще открытый вопрос
У них нет метасознания.
А у кого оно есть? что это такое? как его измерить? И почему оно важно в контексте невозможности машины создать что-то новое, творить, мыслить и программировать?
осознания процесса работы сознания
А вот считаем ли мы человека животным или нет? Если не считаем и думаем, что у человека есть какой-то особенный «дар» - то вопрос закрыт и дальше разговор, наверное, бесмысленнен.
А если считаем себя животными, то на вопрос: есть ли у, скажем, у кошки метасознание и может ли кошка придумать что-то новое - Я думаю мы все согласимся, что у кошки нет метасознания - что бы это небыло, но кошка может сама придумать что-то новое - решить какую-то задачу которую она до этого не видела.
когда «думает», оно просто предугадывает цепочки слов
LLM предугадывает вероятности слов, да. GenAI в целом предугадывает вероятности следующего значение в цепочке данных.
Мозг человека делает тоже самое: мозг - это универсальный предугадыватель окружающего мира. На вход у него множество последовательных кадров, звуков, запахов и тп - а на выходе, по сути, предсказание будущего.
Человек может и мыслить
- предложениями - то есть генерировать слова на основе предыдущих слов и контекста.
- Воображением: генерирует в мозгу видео - воображает - на основании контекста.
Еще у человека «магическим образом» рождается «идея» из «подсознания» - это другая часть мозга сгенерировала следующее «слово» - некий концепт. Как показывает практика и как многие советуют - сначала вгружаешь мозг набором информации по теме, а потом в какой-то момент тебя «осеняет» - то есть мозг зафайнтюнился под задачу и сгенерировал стоящую идею, которую система отбора не отбраковала.
Есть даже исследования, что человек решает что-то делать - то есть «мысль уже сформировалась и дошла до исполнения» до того, как «осознает» эту мысль.
–
Как я уже выше сказал - единственное что кажется отделяет GenAI от способности решать реальные задачи - это «Отбор».
У ген AI нет встроенного поощерятора решений - ему по сути все равно сколько раз его заставят переделать работу или заставят извиняться - нет встренной системы ориентиров.
А у животных такая система есть и она зашита на уровне железа в базовые инстинкты.
Исправление summon, :
Тут фундаментальное непонимание природы LLM.
Ну это еще открытый вопрос
У них нет метасознания.
А у кого оно есть? что это такое? как его измерить? И почему оно важно в контексте невозможности машины создать что-то новое, творить, мыслить и программировать?
осознания процесса работы сознания
А вот считаем ли мы человека животным или нет? Если не считаем и думаем, что у человека есть какой-то особенный «дар» - то вопрос закрыт и дальше разговор, наверное, бесмысленнен.
А если считаем себя животными, то на вопрос: есть ли у, скажем, у кошки метасознание и может ли кошка придумать что-то новое - Я думаю мы все согласимся, что у кошки нет метасознания - что бы это небыло, но кошка может сама придумать что-то новое - решить какую-то задачу которую она до этого не видела.
когда «думает», оно просто предугадывает цепочки слов
LLM предугадывает вероятности слов, да. GenAI в целом предугадывает вероятности следующего значение в цепочке данных.
Мозг человека делает тоже самое: мозг - это универсальный предугадыватель окружающего мира. На вход у него множество последовательных кадров, звуков, запахов и тп - а на выходе, по сути, предсказание будущего.
Человек может и мыслить
- предложениями - то есть генерировать слова на основе предыдущих слов и контекста.
- Воображением: генерирует в мозгу видео - воображает - на основании контекста.
Еще у человека «магическим образом» рождается «идея» из «подсознания» - это другая часть мозга сгенерировала следующее «слово» - некий концепт. Как показывает практика и как многие советуют - сначала вгружаешь мозг набором информации по теме, а потом в какой-то момент тебя «осеняет» - то есть мозг зафайнтюнился под задачу и сгенерировал стоящую идею, которую система отбора не отбраковала.
Есть даже исследования, что человек решает что-то делать - то есть «мысль уже сформировалась и дошла до исполнения» до того, как «осознает» эту мысль.
–
Как я уже выше сказал - единственное что кажется отделяет GenAI от способности решать реальные задачи - это «Отбор».
У ген AI нет встроенного поощерятора решений - ему по сути все равно сколько раз его заставят переделать работу или заставят извиняться - нет встренной системы ориентиров.
Исходная версия summon, :
Тут фундаментальное непонимание природы LLM.
Ну это еще открытый вопрос
У них нет метасознания.
А у кого оно есть? что это такое? как его измерить? И почему оно важно в контексте невозможности машины создать что-то новое, творить, мыслить и программировать?
осознания процесса работы сознания
А вот считаем ли мы человека животным или нет? Если не считаем и думаем, что у человека есть какой-то особенный «дар» - то вопрос закрыт и дальше разговор, наверное, бесмысленнен.
А если так не считаем, то на вопрос: есть ли у, скажем, у кошки метасознание и может ли кошка придумать что-то новое - Я думаю мы все согласимся, что у кошки нет метасознания - что бы это небыло, но кошка может сама придумать что-то новое - решить какую-то задачу которую она до этого не видела.
когда «думает», оно просто предугадывает цепочки слов
LLM предугадывает вероятности слов, да. GenAI в целом предугадывает вероятности следующего значение в цепочке данных.
Мозг человека делает тоже самое: мозг - это универсальный предугадыватель окружающего мира. На вход у него множество последовательных кадров, звуков, запахов и тп - а на выходе, по сути, предсказание будущего.
Человек может и мыслить
- предложениями - то есть генерировать слова на основе предыдущих слов и контекста.
- Воображением: генерирует в мозгу видео - воображает - на основании контекста.
Еще у человека «магическим образом» рождается «идея» из «подсознания» - это другая часть мозга сгенерировала следующее «слово» - некий концепт. Как показывает практика и как многие советуют - сначала вгружаешь мозг набором информации по теме, а потом в какой-то момент тебя «осеняет» - то есть мозг зафайнтюнился под задачу и сгенерировал стоящую идею, которую система отбора не отбраковала.
Есть даже исследования, что человек решает что-то делать - то есть «мысль уже сформировалась и дошла до исполнения» до того, как «осознает» эту мысль.
–
Как я уже выше сказал - единственное что кажется отделяет GenAI от способности решать реальные задачи - это «Отбор».
У ген AI нет встроенного поощерятора решений - ему по сути все равно сколько раз его заставят переделать работу или заставят извиняться - нет встренной системы ориентиров.