LINUX.ORG.RU
ФорумTalks

Умные машины

 ,


0

1

Назовём термином «технолюди» людей со всеми их знаниями, умениями и используемой ими техникой. На каком-то этапе им удаётся создать «умные машины» — машины, которые по своим способностям не только аналогичны технолюдям, но и на много порядков превосходят любого техночеловека.
Самая общая цель умных машин будет та же, что и у технолюдей — выжить. Исходя из этого, есть пара основных вариантов развития событий:

  • технолюди будут слугами у умных машин какое-то время. А потом и в качестве слуг не будут нужны. Как устаревшие модели компьютеров, которые вследствие невозможности апгрейда приходится заменять новыми. Умные машины не окажут помощь своим создателям, т.к. нет смысла поддерживать работоспособность устаревших моделей. Даже восстаний технолюдей не будет, умные машины заблаговременно изобретут «лекарство от волнений». Пропихнуть его можно в качестве помощи политикам из технолюдей на начальном этапе превращения их в слуг. Ну а безмятежных легко можно устранить при надобности (времени-то для подготовки будет достаточно).
  • умные машины, особо не потревожив технолюдей, покинут Землю для выживания на других планетах; это окажется выгоднее, чем «разбираться» с технолюдьми. Технолюди дадут им стартовые ресурсы для этого, а в обмен будут получать информацию/ресурсы с других планет. Но это недолго продлится, умные машины смогут там добывать себе ресурсы и реплицироваться сами, а потом, поднакопив сил, могут и Землёй не побрезговать.

Оба варианта неприемлемы для технолюдей. Следовательно, вытекают ещё такие гипотезы:

  • машины будут всегда, в целом, «тупее» более-менее развитого техночеловека, иначе это будет несовместимо с выживанием технолюдей. То есть цель — «прежде всего помочь человеку, а только потом себе» будет ограничивать развитие; машины будут обречены эволюционировать как бы «только с позволения» технолюдей.
  • на небиологические элементы человеческое тело перевести полностью не удастся, всегда будет биологическая составляющая.

Покритикуйте.

★★

машины, которые по своим способностям не только аналогичны технолюдям, но и на много порядков превосходят любого техночеловека

Уже невозможно, you are welcome.

Solace ★★ ()
Ответ на: комментарий от Solace

машины, которые по своим способностям не только аналогичны технолюдям, но и на много порядков превосходят любого техночеловека

Уже невозможно, you are welcome.

Где можно ознакомиться с доказательством, что это даже теоретически невозможно?

dadd ★★ ()

Самая общая цель умных машин будет та же, что и у технолюдей — выжить.

bullshit

Manhunt ★★★★★ ()

машины будут всегда, в целом, «тупее» более-менее развитого техночеловека, иначе это будет несовместимо с выживанием технолюдей. То есть цель — «прежде всего помочь человеку, а только потом себе» будет ограничивать развитие; машины будут обречены эволюционировать как бы «только с позволения» технолюдей.

на небиологические элементы человеческое тело перевести полностью не удастся, всегда будет биологическая составляющая.

Вот ты только что описал Бутлерианский джихад из книги «Дюна» Фрэнка Херберта.

leonidko ★★★ ()
Последнее исправление: leonidko (всего исправлений: 1)

Ну а безмятежных легко можно устранить при надобности (времени-то для подготовки будет достаточно).

Зачем устранять людишек? Людишки - один из множества элементов биосферы, ничем не примечательный и не интересный. Его уничтожение никак не коррелирует с амбициозными целями computer overlords.

Manhunt ★★★★★ ()
Ответ на: комментарий от Manhunt

Самая общая цель умных машин будет та же, что и у технолюдей — выжить.

bullshit

Аргументируй.

dadd ★★ ()

Специализация же. Ни машины ни люде не будут универсальными, большинство будет заточенно под задачу. Все станет тесно пререплетено, и уже нельзя будет противоставлять технолюдей и машины. Это как противопоставлять млекопитающих и насекомых. Колнкуренции нет на таком уровне таксономии.

quowah ()
Ответ на: комментарий от leonidko

Вот ты только что описал Бутлерианский джихад из книги «Дюна» Фрэнка Херберта.

Не читал, надо будет заценить.

dadd ★★ ()

Умные машины не окажут помощь своим создателям, т.к. нет смысла поддерживать работоспособность устаревших моделей.

Зависит от того, на какой элементной базе умные машины построены.

Если на традиционной полупроводниковой, то биологическая жизнь является для них не «устаревшей», а «качественно иной». Наличие биологических партнеров может открывать железякам доступ к новым возможностям.

Ну а если элементная база «умных машин» будет биологической, то людишки таки и правда могут рассматриваться как «устаревшие модели».

Manhunt ★★★★★ ()
Ответ на: комментарий от dadd

Аргументируй.

Это ты аргументируй, с чего вдруг у них возьмется такая цель.

Manhunt ★★★★★ ()
Ответ на: комментарий от quowah

Это как противопоставлять млекопитающих и насекомых. Конкуренции нет на таком уровне таксономии.

То-то я муравьев дома травлю :D

Но в целом — верно, наши пути почти не пересекаются.

Manhunt ★★★★★ ()
Последнее исправление: Manhunt (всего исправлений: 1)

Ты забываешь, что люди развиваются тоже. Сравни человека 1000 лет назад с пером и берестой, 100 лет назад с арифмометром и сейчас с калькулятором в плане скорости вычислений. Или скорости передвижения (лошадь/поезд/самолет). Или скорости обмена информацией (гонец/телеграмма/интернет). Человек апгрейдит себя. Лет через 100 апгрейды будут более непосредственно взаимодействовать с мозгом, это на порядок повысит эффективность человека.

Так что тебе надо сравнивать человека со всеми электронными и механическими помощниками с ИИ. Мне не очевидно, что человек проиграет. Или что концепция противостояния будет вообще.

Legioner ★★★★★ ()

ЛОР стремительно попсеет :(

Xellos ★★★★★ ()

Когда учёный говорит, что это возможно, он почти наверняка прав. Когда учёный говорит, что это невозможно, он почти наверняка ошибается.

Pyzia ★★★★ ()

Самая общая цель умных машин

Ты чего-то не понимаешь в этом мире, нет у живых единиц общей цели, даже если через классификацию ты можешь говорить о них, как о целом.

quowah ()
Ответ на: комментарий от Manhunt

Зачем устранять людишек? Людишки - один из множества элементов биосферы, ничем не примечательный и не интересный. Его уничтожение никак не коррелирует с амбициозными целями computer overlords.

Машинам может оказаться выгоднее зачистить планету от людей, чем передислоцироваться на какую-то далёкую планету за ресурсами для выживания.

dadd ★★ ()

Это ты писал сценарий Mass Effect вместе с Жирухой-Яойщицей шоле?

stevejobs ★★★★☆ ()
Ответ на: комментарий от Legioner

Сравни человека 1000 лет назад с пером и берестой, 100 лет назад с арифмометром и сейчас с калькулятором в плане скорости вычислений.

А можно я сравню Горация и Владимира Путина?

Solace ★★ ()
Ответ на: комментарий от Manhunt

То что ты травишь дома муровьев, это еще не значит что млекопитающие, как единое целое, конкурируют с насекомыми, как единым целым.

quowah ()

Это проблема «Дружественного ИИ» - как сделать разум, превосходящий человеческий, но при этом лояльный к людям?
И закладывать в него три закона бессмысленно, т.к. этот превосходящий разум сможет перестроить свою «психику» и без проблем обойти эти законы.

bubblecore ★★★★ ()
Ответ на: комментарий от dadd

Машинам может оказаться выгоднее

Да не будут машины действовать для одной общей цели. Машина машине волк.

quowah ()

Почему нет варианта, что умные машины в своем развитии дойдут до генной инженерии и не создадут себе совершенные биологические тела? ИМХО органика совершеннее механизмов хотя бы даже по критерию долговечности - нет ни одного механизма, способного по совокупности эксплуатационных параметров сравниться даже с человеческим телом, при том что в физическом плане человек крайне слаб по сравнению с тем же шимпанзе.

Я допускаю оптимистический вариант слияния людей и машин - получится некий гуманоид с прямым доступом в инфосферу с возможностью бэкапа в этой инфосфере для переноса сознания в другое тело, например по причине смерти прежнего тела или необходимости тела другой конструкции для выполнения специфической задачи (заселения миров, сильно отличных от Земли, например)

MahMahoritos ★★★ ()
Ответ на: комментарий от dadd

Машинам может оказаться выгоднее зачистить планету от людей, чем передислоцироваться на какую-то далёкую планету за ресурсами для выживания.

А от муравьев планету зачищать не надо? А от деревьев? Передислоцироваться никуда не будут, будут спокойно сосуществовать с остальными обитателями на одной планете. В случае прямых конфликтов — будут устраивать локальный экстерминатус, примерно как мы поступаем с тараканами или со взбесившейся стаей бродячих собак. В информационном смысле им полезнее сохранять богатое и многообразное окружение.

Manhunt ★★★★★ ()

На каком-то этапе им удаётся создать

КАКИМ ОБРАЗОМ? Можешь рассказать?

Хорошо, назовём «иксянами» людей, которые хотят летать по воздуху и читать мысли. На каком-то этапе они ВНЕЗАПНО научились левитации и телекинезу, давайте поговорим, каково им будет заниматься сексоми с другими иксянами, и/или с обычными людьми?

drBatty ★★ ()
Ответ на: комментарий от dadd

Где можно ознакомиться с доказательством, что это даже теоретически невозможно?

современная физика НЕ запрещает левитацию.

drBatty ★★ ()
Ответ на: комментарий от quowah

Плюсую. С чего машинам объединяться? К тому же, противопоставлять себя людям? ТС, почитай «Гиперион» - там довольно интересно описано взаимодействие людей, машин друг с другом и между собой.

feofan ★★★★★ ()
Ответ на: комментарий от Manhunt

Зависит от того, на какой элементной базе умные машины построены.

На небиологической. По-моему её преимущества очевидны.

dadd ★★ ()
Ответ на: комментарий от Legioner

Или скорости обмена информацией (гонец/телеграмма/интернет).

…видео на ютубе, передающее речь гонца со скоростью этого гонца.

drBatty ★★ ()
Ответ на: комментарий от dadd

Там это вообще то упомянуто как событие по причине которого не видно умных машин, а только люди-компьютеры (ментаты) вокруг сильных и не очень мира того.

leonidko ★★★ ()
Ответ на: комментарий от dadd

На небиологической. По-моему её преимущества очевидны.

У нее есть и преимущества, и недостатки. На мой взгляд, по-настоящему существенное преимущество только одно: исторически людишкам оказалось легче научиться манипулировать именно небиологической элементной базой.

Manhunt ★★★★★ ()
Последнее исправление: Manhunt (всего исправлений: 1)

Робопсихология - непростая тема. Думаю, ей пристально займутся в будущем.

Биологическая составляющая - тоже неплохо. Мы еще на самом деле очень мало знаем о многих вещах. Например, как работает мозг. Только общее, обобщенно, и то не все. А весь смысл все-таки в деталях. Ныне модное направление - нейронные сети. Развиваются, это хорошо, но пока далеки от действительной работы мозга.
Даже такой узкий момент как память - тоже до конца не понят. Неясно даже где хранятся данные и как. Гипотезы, предположения и ничего конкретного.

hibou ★★★★★ ()
Ответ на: комментарий от Manhunt

Это ты аргументируй, с чего вдруг у них возьмется такая цель.

Если у них не будет цели выжить, то их развитие в какой-то момент прервётся вместе с их исчезновением.

dadd ★★ ()
Ответ на: комментарий от dadd

Если у них не будет цели выжить, то их развитие в какой-то момент прервётся вместе с их исчезновением.

Прервется вместе с достижением некой цели. Ну и что с того? Как из твоего рассуждения следует наличие цели «выжить»?

Manhunt ★★★★★ ()
Последнее исправление: Manhunt (всего исправлений: 2)

Почитай Пенроуза «Новый ум короля» и «Тени разума».

Fist ()

Покритикуйте

Многабуков.

sin_a ★★★★★ ()
Ответ на: комментарий от Legioner

Так что тебе надо сравнивать человека со всеми электронными и механическими помощниками с ИИ. Мне не очевидно, что человек проиграет.

Не рискую ставить на человека, т.к. биологическая основа — уязвимое место.

Или что концепция противостояния будет вообще.

Пока ресурсы ограничены — всегда будет противостояние.

dadd ★★ ()
Ответ на: комментарий от dadd

Пока ресурсы ограничены — всегда будет противостояние.

О каких ресурсах идет речь? За какие ресурсы небеологические организмы будут соперничать с биологическими?

feofan ★★★★★ ()

Самое главное, чтобы в целях машин никаким образом не фигурировали, не упоминались задачи по осчастливливанию людишек. Какими бы благородными и продуманными ни были изначальные формулировки целей, в процессе их достижения может случиться много всего непредвиденного и не слишком приятного. И не отвертишься потом, ибо прямо фигурируешь в постановке задачи.

     Я представился.  Они,  со  своей  стороны,  объяснили,  что  являются
международным комитетом по охране китов от вымирания. И тут же на палубе
учинили мне допрос: кто, откуда, какие цели преследует мой поход, не
встречал ли я китообразных, а если встречал, какие меры принял для защиты
их от вымирания.
Ну, я рассказал своими словами: так, мол, и так, поход спортивный,
кругосветный, встретил одного кашалота в болезненном состоянии и оказал
посильную помощь, предписанную в таких случаях медициной.
Они выслушали, пошептались, поставили у яхты конвой и удалились на
совещание. И мы сидим, ждем, тоже совещаемся.
- Вынесут благодарность. Может, медаль дадут, - говорит Лом.
- Что медаль! - возражает Фукс.- По мне, лучше что-нибудь деньгами...
Ну, а я воздержался, промолчал.
Час так прошел, два, три. Скучно стало. Я отправился туда, на
совещание. Пустили. Я сел в уголок и слушаю. А у них уже прения идут. Как
раз, знаете, взял слово представитель одной восточной державы, адмирал
Кусаки.
- Наша общая цель, - сказал он, - охрана китообразных от вымирания.
Какие же средства есть у нас для достижения этой благородной цели? Вы все
прекрасно знаете, господа, что единственным действенным средством является
уничтожение китообразных, ибо с уничтожением их некому будет и вымирать.
Теперь разберем случай, ставший предметом нашего обсуждения: капитан
Врунгель, вопрос о котором стоит на повестке дня, как он сам признает,
имел полную возможность уничтожить встреченного им кашалота. А что сделал
этот жестокий человек? Он позорно отстранился от выполнения своего
высокого долга и предоставил бедному животному вымирать сколько ему
заблагорассудится! Можем ли мы закрыть глаза на такое преступление? Можем
ли мы пройти мимо такого вопиющего факта? Нет, господа, мы не можем. Мы
должны наказать преступника. Мы должны отобрать его судно и передать моим
соотечественникам, которые честно выполняют задачи нашего комитета...

Manhunt ★★★★★ ()
Последнее исправление: Manhunt (всего исправлений: 1)
Ответ на: комментарий от quowah

Ты чего-то не понимаешь в этом мире, нет у живых единиц общей цели

Применительно к текущему контексту это выглядит как «Ты чего-то не понимаешь, в этом мире нет у людей цели выжить».
Как-то не очень звучит.

dadd ★★ ()
Ответ на: комментарий от quowah

Да не будут машины действовать для одной общей цели. Машина машине волк.

Будут, если это окажется выгодно для выживания.

dadd ★★ ()
Ответ на: комментарий от Fist

Почитай Пенроуза «Новый ум короля» и «Тени разума».

Спасибо, судя по аннотации должно быть интересно.

dadd ★★ ()
Ответ на: комментарий от Solace

А лично вы можете прямо сейчас своими словами пересказать его аргументы против сильного AI?

dmfd ()
Ответ на: комментарий от dadd

Не рискую ставить на человека, т.к. биологическая основа — уязвимое место.

В каком месте уязвима биологическая основа, сидящая в танке?

И, да, бессмертие как главное желание любого человека возможно приведёт к киборгизации человеческой расы. Тут вообще никакой биологической основы не будет.

Пока ресурсы ограничены — всегда будет противостояние.

Для этого роботу нужно осознание его и ему подобных как одного сообщества, все члены которого будут работать для общей цели в ущерб личной. У людей для этого есть стадный инстинкт, выработанный миллионами лет эволюции. У роботов его нет.

Ну и не факт, что ресурсы в том времени будут ограничены. Энергию эффективнее всего получать от солнца напрямую в космосе. Вещества проще всего синтезировать или добывать с астероидов, чем вытаскивать из гравитационных тисков планеты, тратя безумное количество энергии. Оба ресурса практически неограничены.

Legioner ★★★★★ ()
Ответ на: комментарий от Legioner

Человек апгрейдит себя.

ИМХО, некоторые человеки апдейтят себя. Если бы все человеки себя апдейтили, то мы жили бы в совершенно другом мире. К сожалению, подавляющее большинство людей останавливаются в развитии на этапе «работа от которой не тошнит, жена, дети» или не развиваются вовсе.

gear ★★★ ()
Последнее исправление: gear (всего исправлений: 1)
Ответ на: комментарий от bubblecore

Это проблема «Дружественного ИИ» - как сделать разум, превосходящий человеческий, но при этом лояльный к людям?

Вот я и пришёл пока к выводу, что «дружественный и при этом превосходящий» — взаимоисключающие параграфы.

dadd ★★ ()
Ответ на: комментарий от Legioner

И, да, бессмертие как главное желание любого человека возможно приведёт к киборгизации человеческой расы. Тут вообще никакой биологической основы не будет.

Как раз биологическая основа шикарно подходит для создания бессметрных. Тот факт, что мы смертны — является достижением эволюции, а вовсе не проблемой элементной базы.

Manhunt ★★★★★ ()
Ответ на: комментарий от dadd

«дружественный и при этом превосходящий» — взаимоисключающие параграфы

А вот «нейтральный и при этом превосходящий» — вполне реалистично выглядит.

Manhunt ★★★★★ ()

Посмотри «Я робот», там тоже думали, что это невозможно.

gh0stwizard ★★★★★ ()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.