LINUX.ORG.RU
ФорумTalks

Мы опять все умрем

 , ,


0

1

В продолжение сезонной истерии про гмо наши корреспонденты сообщают, что обострившиеся по осени англосаксонские учоные опять назвали очередную «самую вероятную» причину убиения «случайно всех людей» : «Физик-теоретик Макс Тегмарк из Массачусетского технологического института (США) в интервью IEEE Spectrum, посвященном недавно вышедшей в свет своей книге «Жизнь 3.0», назвал самый вероятный негативный сценарий будущего человеческой цивилизации.

Наибольшую опасность для жителей Земли, полагает ученый, представляет искусственный суперинтеллект, не наделенный сознанием. «Когда я говорю о сознании, я просто имею в виду субъективный опыт: он чувствует себя чем-то вроде меня», — сказал ученый.» (с)

Ну, разумеется, это будут роботы (внезапно, да?) Но без мозга«не наделенные сознанием» — которые даже не ведают чо творят, что характерно, опять о сознании рассуждает «физик-теоретик», т.е. лезет не на свою делянку, строя гипотезы о круглой в вакууме, несуществующей реально НЕХ, которую как обычно «вот-вот вдруг создадут». И главное привлекает аргументы типа «подумайте о детях» и «Гитлер»(хотя он-то совершенно точно понимал, чо творит — как будто сознательно нельзя выбрать зло и печеньки с амфетамином, в точном соответствии с библейской свободой воли).

Пугач напоминает гипножабу, с поправкой на «надо же что-то делать, хотя неясно что и как» — опыт Фукуямы никого ничему не научил, а главное безмозглые автомобили убивают людей годами — и всем норм. Роботы будущего будут снабжаться маркетинговыми дурилками «не содержит суперинтеллекта» и «наделен сознанием».

Все умрут скорее от какого-нибудь exception'a какой-нибудь рутины

record ★★★★★ ()
Последнее исправление: record (всего исправлений: 1)

Выпей чаю, съешь печеньку, выдохни, успокойся. Люди сами прекрасно справятся с задачей «убить всех человеков».

WARNING ★★★★ ()

Разум без (само)сознания это как функция без переменных.

Deleted ()
Ответ на: комментарий от record

Меня в отношении гипотетических НЕХ, каким по определению является не существующий «искусственный суперинтеллект» всегда напрягает определение стремление сделать их «самой вероятной причиной» БП. Это слишком похоже на попытку забить на решение насущных проблем.

slackwarrior ★★★★★ ()
Ответ на: комментарий от Deleted

Метцингер и Уоттс считают, что «не все так однозначно» — например, что «сознание не нужно».

slackwarrior ★★★★★ ()
Ответ на: комментарий от Deleted

Разум без (само)сознания это как функция без переменных.

Н.Вирт потирает руки: вот и процедуры пригодились. А сишники смеялись...

JacobTwoTwo ()
Ответ на: комментарий от WARNING

Пф, будучи «запасным оператором подготовки и пуска» SS-19 mod 3УР-100Н УТТХ, я в этом никогда не сомневался в отличие от сезонных параноиков :)

slackwarrior ★★★★★ ()
Ответ на: комментарий от slackwarrior

Сознание это инструмент расстановки приоритетов для входящей информации, логического мышления и постановки и достижения целей. Интеллект без сознания это пассивная безвольная шняга, неизвестно даже, способна ли она будет нормально самообучаться.

Deleted ()
Ответ на: комментарий от JacobTwoTwo

Некоторые считают, что система обретает что-то наподобие «сознания», как только начинает моделировать сама себя. Т.е. то что мы считаем «сознанием» — только частный случай в спектре «вычисления целевых функций», жуть как неэффективный (именно поэтому мы чаще всего не «думаем», когда что-то делаем, особенно там где решения надо принимать быстро)

slackwarrior ★★★★★ ()
Ответ на: комментарий от slackwarrior

Мы, по большей части, думаем только когда учимся чему-то новому - то есть, когда уже оформленные в виде нейросетей алгоритмы дают сбой))

Deleted ()
Ответ на: комментарий от slackwarrior

Разве существует какая-то система, которая моделирует себя? Давай пример.

JacobTwoTwo ()
Ответ на: комментарий от Deleted

Все эти определения — натягивание совы на «ну так получилось в процессе эволюции». Мы до сих пор не знаем точно «что такое сознание на самом деле». Для стремления к цели нужна воля (это нифига не сознание, да и без воли в примитивном случае можно обойтись: бегай за едой, избегай боли), для логики — собственно интеллект(он тоже не сознание), для постановки целей — «функция целеполагания»(примитивная прошивка «дают бери — бьют беги» + обратная связь). Сознание — это все «что-то иное». Мы судим о нем по частям, не видя в целом картины (и особенно в этом не помогает интроспекция: когда доходит до деталей, типа «где кончается физиология и начинается сознание» — выясняется, что «внутренние наблюдения» упираются в «зеркало» — приближенную «модель системы», которая содержит ошибки, заблуждения, когнитивные искажения («самоуверенность», «недооценка сложности проблем») и т.д.).

slackwarrior ★★★★★ ()
Последнее исправление: slackwarrior (всего исправлений: 1)
Ответ на: комментарий от JacobTwoTwo

Любой автомат содержит модель — приближенную «целевую функцию», которую «оптимизирует» (а почему приближенную — потому что лучшей моделью системы является она сама).

slackwarrior ★★★★★ ()
Последнее исправление: slackwarrior (всего исправлений: 1)

Огласите ,пожалуйста, весь список негативных сценариев, а то самый вероятный чота не вставляет.

ilovewindows ★★★★★ ()
Ответ на: комментарий от slackwarrior

Причем натягивать пытаются термины выдуманные поэтами и прочими художниками тысячи лет назад

af5 ★★★★★ ()
Ответ на: комментарий от slackwarrior

Мы до сих пор не знаем точно «что такое сознание на самом деле»

От таких слов фейлософией несёт — какие-то поиски «глубинной сути».

Достаточно проанализировать, какие функции оно выполняет, всё.

Для стремления к цели нужна воля

Для постановки и достижения цели нужно задавать приоритеты воспринимаемым и мысленным объектам и конструкциям. А для этого нужно быть абстрагированным от них.

Deleted ()
Ответ на: комментарий от slackwarrior

Ну а что тогда за паника? За кого переживаешь? За тупых маркетологов, за идиотов, которые верят любой чуши, за журналистов, которым лишь бы хайпануть?

WARNING ★★★★ ()

Пока что множество людей гибнет от рук наделенных сознанием (в разной мере) других людей.

Deleted ()
Ответ на: комментарий от record

Все умрут скорее от какого-нибудь exception'a какой-нибудь рутины

То, о чем ты говоришь — суть свойство быдлокода, написанного порочнымии и слабыми биологическими агентами. А программы, написанные неутомимым машинным сверхразумом, будут обладать безупречной exception safety :)

Manhunt ★★★★★ ()
Ответ на: комментарий от Deleted

Достаточно сказать для начала, что для «фейлософий» и т.д. мы пользуемся системой, которая «случайно получилась» для выживания в дикой саванне :) Т.е. с точки зрения забивания гвоздей микроскопом — это прям вин и стопроцентное попадание. Большая удача вообще, что эта система понадобилась достаточной сложности, что ее хватает чтоб создать интернеты и летать в космос например (и на фейлософию еще остается «машинное время»). Другая проблема в том что мозг сам по себе себя нихрена не моделирует (в нем даже болевых рецепторов нет) — т.е. в нашей внутренней модели есть огромная черная дыра, в которой с т.з. внешнего наблюдателя происходит «ХЗ», а внутренний — то ли дурилка для социалочек (начиная с «человеческая популяция Африки»), то ли вообще мы сами себе придумали чтоб чем-то занять «остающееся машинное время», когда использование моска не связано с построением выживательных стратегий, для чего он вроде бы по проектуслучано получился, сократив просто время тестирования с миллионов лет до смены поколений (с т.з. природы прост «кто выжил — молодец!» Тараканы, крысы и пивные дрожжи — еще и нехило сэкономили на апгрейде).

Для постановки и достижения цели нужно задавать приоритеты воспринимаемым и мысленным объектам и конструкциям. А для этого нужно быть абстрагированным от них.

Именно поэтому мы никогда не строим стратегий в реальном времени: и ошибка дорого обходится, и «просто думать» сильно утомительно.

slackwarrior ★★★★★ ()
Ответ на: комментарий от slackwarrior

Метцингер и Уоттс считают, что «не все так однозначно» — например, что «сознание не нужно».

Рефлексировать нужно для того, чтобы мочь целеноправленно и в то же время гибко самообучаться. То есть чтобы анализировать: что не так в текущей методологии познания, что не так пошло с опытами/экспериментами, почему были сделаны неправильные выводы, и как новые знания и сведения можно приложить к усовершенствованию методологии. Затем, в случае неудачного эксперимента с собственным поведением, адекватно откатываться к его предыдущей версии.

В общем, без понимания и модификации своей собственной механики, разум будет откровенно убогим... Обычные человеки — и то рефлексируют каждый над собой, и совместно взращивают «школы» и «учения», которые позволяют своё мышление нужным образом формировать.

Manhunt ★★★★★ ()
Ответ на: комментарий от Manhunt

проблема в том, что «голова предмет темный и познанию не подлежит» (с) х/ф «Формула любви» — ты понимаешь, что даже «вангуя о собеседнике» на лету «теорию его моска» ты просто сравниваешь его реакции «я на его месте в этой ситуации» с помощью системы, об устройстве которой сам ни малейшего понятия — и «рефлексия» тут только N-я производная от функций этой системы :)

slackwarrior ★★★★★ ()
Последнее исправление: slackwarrior (всего исправлений: 1)
Ответ на: комментарий от slackwarrior

Меня в отношении гипотетических НЕХ, каким по определению является не существующий «искусственный суперинтеллект» всегда напрягает определение стремление сделать их «самой вероятной причиной» БП.

Да тут предельно просто. Нынешняя человеческая илитка (все эти эстеблишменты, пжив-ы, жидомассоны и рептилоиды) боится утратить свои позиции при появлении адекватного машинного разума. Потому что планировать жизнь общества он сможет лучше и адекватнее, чем это делают они. Он сделает их obsoleted. Для них это враг #1, угроза самой основе их существования. Вот и клеймят его превентивно, чтобы при появлении можно было «во имя спасения человечества» отвергнуть и атаковать его, не стесняясь в выборе оружия..

Manhunt ★★★★★ ()
Ответ на: комментарий от Manhunt

Смоделировано в «Эсхатон» :) Илитка ищет другой глобус и пытается интриговать :)

slackwarrior ★★★★★ ()
Ответ на: комментарий от Manhunt

Почему это сразу боятся? Может они наоборот - специально всеми силами готовят полномочную иишку, чтобы уже сбагрить на неё неразумных надоевших людишек, а самим со спокойной душой улететь отдыхать в Атлантиду.

bender ★★★★★ ()
Ответ на: комментарий от slackwarrior

В первую очередь нужна модель не собеседника, а самого себя. Собственные поведенческие реакции системы должны самой же системой рассматриваться как предмет изучения и инжиниринга.

Manhunt ★★★★★ ()
Ответ на: комментарий от af5

Именно. Конкретно «Гитлера» привлекают как генератор «моральной паники», хотя по законам именно гуманистических сообществ, будь Гитлер «бессознательным» или хотя бы «невменяемым» — его и повесить-то было бы нельзя. Первые же энтузиасты «соблюдения прав человека» прибежали бы в Нюрнберг с плокатами «Как можно-с, не кровавый псих, а глубоко больной человек!» (с)

slackwarrior ★★★★★ ()
Ответ на: комментарий от Manhunt

Чаще прост «магия»интуиция и «умение читать людей», которое в общем-то встроено в моск «нормальных людей»(ТМ) — «эмпатия», «зеркальные нейроны» это вот все. Не работает с клиническими социопатами (хотя они прекрасные манипуляторы этими самыми «нормальными людьми»).

slackwarrior ★★★★★ ()
Последнее исправление: slackwarrior (всего исправлений: 1)
Ответ на: комментарий от bender

Беда илиток в том, что они сами себя не обеспечивают (ни в материальном, ни в каком-либо другом плане), их обеспечивают рядовые человеки. Человеки без любой конкретно взятой илитки проживут (сформируют себе новую илитку, или там подчинятся компьютеру), а вот илитка без подчиненного ей массива человеков — не жилец.

Manhunt ★★★★★ ()
Последнее исправление: Manhunt (всего исправлений: 1)
Ответ на: комментарий от Manhunt

Ну как же... Обмажутся самовоспроизводящимися роботами и остальные «человеки нинужны» :) Именно поэтому щас пошел откат по социалочке во Фрашке с приходом илитного Макрона, который наезжает на святое — 35 часовую раб. неделю и т.д. То же самое песни про «контроль рождаемости» и «чо-та слишком много человеков на глобусе», а «нужно больше золота», а не «человеков».

slackwarrior ★★★★★ ()
Последнее исправление: slackwarrior (всего исправлений: 1)
Ответ на: комментарий от JacobTwoTwo

Attention Schema Theory (так и гуглить. Одна из теорий о работе сознания. Как раз делает вывод о «внутренней модели» для эффективного управления вниманием)

Solace ★★ ()
Ответ на: комментарий от JacobTwoTwo

Разве существует какая-то система, которая моделирует себя? Давай пример.

Например, автомобиль наблюдает за поведением собственных подсистем и отображает информацию о сбоях на приборной панели. Система мониторинга является моделью (этакой упрощенной проекцией) узлов и агрегатов автомобиля.

То есть разума и познания там нет, а вот рефлексия — вполне себе есть.

Manhunt ★★★★★ ()
Последнее исправление: Manhunt (всего исправлений: 1)

Запей! Забей! Если не было, то уже 5 лет прошло после «Последнего Конца Света»...

xwicked ★★ ()
Ответ на: комментарий от bender

Ну тут как с любой оптимизацией. Не забирай лихо влево — окажешься справа. Достаточно развитый «супиринтеллект» может прийти к выводу, что для «оптимизируемой целевой функции» собственно говоря «людишки нинужны» (а илитка и подавно — даже не зная что такое «людишки» и «илитка» — просто воспринимая «помехи» в канале управления) — ровно в той же мере как некоторые тренеры личностного роста считают что «ниудачники тибя тянут на дно», «друзья и семья не нужны», «собственность и квартиру отдай секте» или «зона комфорта — от нее весь вред» — а потом вырастают эффективные «менеджеры среднего дназвена» и прочие зомбофрики, которые своим «оптимизированным моском» не знают, что «Дик — это уменьшительное от Ричард», а не penis canina, потому что «Пятнадцатилетнего капитана» не читали.

slackwarrior ★★★★★ ()
Последнее исправление: slackwarrior (всего исправлений: 1)
Ответ на: комментарий от Manhunt

Разве это моделирование? Тогда абсолютно любая хрень обладает «сознанием» поскольку сама по себе является отображением информации себе. Отображение своих характеристик не является сознанием.

JacobTwoTwo ()
Ответ на: комментарий от JacobTwoTwo

Отображение своих характеристик не является сознанием

Ыыы, а обоснуй конечно будет (особенно в отсутствие внятных определений «сознания») :)

slackwarrior ★★★★★ ()
Последнее исправление: slackwarrior (всего исправлений: 1)

Наибольшую опасность для жителей Земли, полагает ученый, представляет искусственный суперинтеллект

Если он начнёт строить машины фон Неймана из подручных материалов, то в конце-концов придёт к созданию сферы Дайсона.

Двойная выгода. А будут в солнечной системе копошиться людишки или их синтетические аналоги — не имеет никакого значения.

EXL ★★★★★ ()

А Слаквариор, конечно, куда больший специалист во всём. Он перечитал все журналы «Я у мамы Хакер» и официально опроверг мнение недоучёных из какой-то англосаксонии.

Очень странный у него, конечно, вывод, но вскукареки лоровских аналитиков ещё смешнее.

Deleted ()
Ответ на: комментарий от slackwarrior

конечно будет

Но если будет, то тогда это понятие абсолютно бесполезно и сродни выражению «Всё есть сепулька и сепуление суть естества» с точки зрения перспектив по анализу и развитию мысли.
Авенариус тобой гордился бы:)

JacobTwoTwo ()
Ответ на: комментарий от JacobTwoTwo

А загвоздка в этом и состоит: то что на обывательском уровне «очевидно», ни разу не очевидно при ближайшем рассмотрении, потому что обращается либо в «тавтологию» («сознание это сознание») либо к протащенным в контрабасе «идеализациям» («сознание это не это, а что-то другое более лудшэе»), либо сводится к осознанию пропасти между наблюдениями в каком-нибудь томографе, репортами подопытных про их «богатый внутренний мир» и интуицией (примерно как «11 свернутых измерений, из которых мы видим три».

slackwarrior ★★★★★ ()
Ответ на: комментарий от Deleted

А челобака, конечно, в белом польте в сторонке стоит красивый :)

slackwarrior ★★★★★ ()

Да, это самая опасная штука. Без чистого воздуха и воды, не отравленных продуктов мы как-нибудь проживём. Подумаешь, уже сейчас тысячи людей гибнут, а вот искусственный интеллект это да, катастрофа.

А ещё он же наше спасение, те, кто первые изобретут ИИ, будут доминировать в мире (так другие кукаретики говорили). Зачем спасать экологию и улучшать медицину, изобретать другие источники энергии. Нафиг это всё, ИИ решает.

InterVi ★★ ()
Ответ на: комментарий от slackwarrior

Афкос, потому что всё это криптофашизм и профанации.

Deleted ()
Ответ на: комментарий от Deleted

Ну почему же «крипто» — аффтар сразу с Гитлера зашел. Чтоб все осознали.

slackwarrior ★★★★★ ()
Ответ на: комментарий от InterVi

тысячи людей гибнут чтобы тебе досталась вода и еда и чтобы у тебя были силы и средства нести пользу капиталистам. А не почему-то ещё.

Deleted ()
Ответ на: комментарий от slackwarrior

Кстати, если у искусственного интеллекта нет сознания - то это же не может быть интеллектом вообще,да? популизм съел мозги даже у учёных.

И ещё. Если у искусственного интеллекта нет сознания, то с одной стороны - на него сложнее давить, потому что он руководствуется только логикой, а с другой стороны очень легко управлять контроллируя каналы инцормации и специально формируя аргументацию. В любой из ситуаций им будут управлять капиталистические радикалы.

Deleted ()
Ответ на: комментарий от Deleted

Никто не утверждает что «нет» :) Некоторые сомневаются, что мы называем «сознанием» — совсем не то, чем кажется. Другие вангуют, что возможны суперинтеллекты без сознания (ну типа как у Уоттса в «Ложной слепоте»). Но это всё «пока» спекулятивные сплетни «от противного» тезиса «допустим мы во всем разобрались... или не во всем, но создать получилось».

slackwarrior ★★★★★ ()
Последнее исправление: slackwarrior (всего исправлений: 1)
Ответ на: комментарий от Deleted

Интересное мнение. Правда я совсем не понял, как смерти от плохой экологии, техногенных катастроф и болезней приводят к тому, что мне достаётся вода и всё остальное. Это же не может быть очередной бред, ведь в толксах сидят только эксперты. Что я упустил?

InterVi ★★ ()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.