История изменений
Исправление Smacker, (текущая версия) :
Я б туда еще добавил, что нейросетка не имеет реального представления об окружающем мире и особо себя осознать не способна, т.к. не воспринимает мир в той же полноте что и люди…
Тогда уж добавим, что критерием доброкачественности для нейронки является правдоподобие, потому что она в широком смысле генерирует текст. А для тех задач, которые на неё пытаются взвалить — фактическая истинность и работоспособность. Но у нейронки нет ни другого валидатора, ни выхода на факты.
Например, для кода на каком-то языке, нужно, чтобы он был валидным и делал то, что нужно — мне не нужен код, который выглядит, как что-то на Перле, мне нужен работающий код на Перле, к тому же решающий ровно поставленную задачу. Мне не нужен текст, который выглядит как реальная инструкция по подаче заявления на визу какой-то страны, мне нужны точные данные по визовым требованиям (кстати, уже есть такие «истории успеха», где люди теряли деньги, потому что нейронки им врали про визовый режим). Мне не нужно что-то, что вполне могло бы быть ответом на вопрос «как из А проехать в Б», мне нужна верная информация о реально возможном маршруте. И так далее, и тому подобное.
Зато нейронка отлично напишет «два абзаца на тему нужны ли мы нам» или «эротический рассказ про доминатрикс в латексном боди, чулках в сеточку и сапогах выше колена». Тут она слово-за-слово (буквально, если задуматься) составит простыню вполне годного текста, к которому не будет никаких претензий. Потому что кроме правдоподобия ничего и не нужно.
Ближайшим аналогом человеческого выполнения такой задачи будет «дистанционное просматривание» (remote viewing) в проекте Stargate. ЦРУшники накачивали якобы ясновидящих людей веществами и спрашивали что-то типа «что сейчас делает Фидель Кастро». И те описывали правдоподобное нечто. Правда потом оказалось, что ни разу не угадали. Но никто не описывал никакого абсурда, хотя под веществами почему бы и не сказать, мол, «ясно вижу, как Фидель откусывает кусок от кубика Рубика и запивает гусём». Так и нейронки.
Исправление Smacker, :
Я б туда еще добавил, что нейросетка не имеет реального представления об окружающем мире и особо себя осознать не способна, т.к. не воспринимает мир в той же полноте что и люди…
Тогда уж добавим, что критерием доброкачественности для нейронки является правдоподобие, потому что она в широком смысле генерирует текст. А для тех задач, которые на неё пытаются взвалить — фактическая истинность и работоспособность. Но у нейронки нет ни другого валидатора, ни выхода на факты.
Например, для кода на каком-то языке, нужно, чтобы он был валидным и делал то, что нужно — мне не нужен код, который выглядит, как что-то на Перле, мне нужен работающий код на Перле, к тому же решающий ровно поставленную задачу. Мне не нужен текст, который выглядит как реальная инструкция по подаче заявления на визу какой-то страны, мне нужны точные данные по визовым требованиям (кстати, уже есть такие «истории успеха», где люди теряли деньги, потому что нейронки им врали про визовый режим). Мне не нужно что-то, что вполне могло бы быть ответом на вопрос «как из А проехать в Б», мне нужна верная информация о реально возможном маршруте. И так далее, и тому подобное.
Зато нейронка отлично напишет «два абзаца на тему нужны ли мы нам» или «эротический рассказ про доминатрикс в латексном боди, чулках в сеточку и сапогах выше колена». Тут она слово-за-слово (буквально, если задуматься) составит простыню вполне годного текста, к которому не будет никаких претензий. Потому что кроме правдоподобия ничего и не нужно.
Исправление Smacker, :
Я б туда еще добавил, что нейросетка не имеет реального представления об окружающем мире и особо себя осознать не способна, т.к. не воспринимает мир в той же полноте что и люди…
Тогда уж добавим, что критерием доброкачественности для нейронки является правдоподобие, потому что она в широком смысле генерирует текст. А для тех задач, которые на неё пытаются взвалить — фактическая истинность и работоспособность. Но у нейронки нет ни другого валидатора, ни выхода на факты.
Например, для кода на каком-то языке, нужно, чтобы он был валидным и делал то, что нужно — мне не нужен код, который выглядит, как что-то на Перле, мне нужен работающий код на Перле, к тому же решающий ровно поставленную задачу. Мне не нужен текст, который выглядит как реальная инструкция по подаче заявления на визу какой-то страны, мне нужны точные данные по визовым требованиям (кстати, уже есть такие «истории успеха», где люди теряли деньги, потому что нейронки им врали про визовый режим). Мне не нужно что-то, что вполне могло бы быть ответом на вопрос «как из А проехать в Б», мне нужна верная информация о реально возможном маршруте. И так далее, и тому подобное.
Исходная версия Smacker, :
Я б туда еще добавил, что нейросетка не имеет реального представления об окружающем мире и особо себя осознать не способна, т.к. не воспринимает мир в той же полноте что и люди…
Тогда уж добавим, что критерием доброкачественности для нейронки является правдоподобие, потому что она в широком смысле генерирует текст. А для тех задач, которые на неё пытаются взвалить — фактическая истинность и работоспособность. Например, для кода на каком-то языке, нужно, чтобы он был валидным и делал то, что нужно — мне не нужен код, который выглядит, как что-то на Перле, мне нужен работающий код на Перле, к тому же решающий ровно поставленную задачу. Мне не нужен текст, который выглядит как реальная инструкция по подачи заявления на визу какой-то страны, мне нужны точные данные по визовым требованиям (кстати, уже есть такие «истории успеха», где люди теряли деньги, потому что нейронки им врали про визовый режим). Мне не нужно что-то, что вполне могло бы быть ответом на вопрос «как из А проехать в Б», мне нужна верная информация о реально возможном маршруте. И так далее, и тому подобное.