LINUX.ORG.RU
ФорумTalks

ИИ могут принести человечеству больше вреда или пользы?

 , ,


0

2

Один из относительно новых проектов IBM «Project Debater» представляет собой систему, позволяющую машине ввести дискуссию на сложные темы, используя за основу аргументы, которые могут отправлять пользователи через сеть Интернет. Каждый новый аргумент определяется в категории «За» и «Против» и встраивается в виртуальную дискуссию, меняя ее ход.

«Обсуждаемой» темой была «AI will bring more harm than good» и на момент написания этого сообщения в систему было отправлено 1179 неуникальных аргументов (в дискуссии использовано 1081 уникальных? аргументов из которых 570 поддерживали идею, что ии могут принести больше вреда, чем пользы) от людей со всего мира (вероятно, это число уже не изменится, так как дискуссия перешла в категорию неактивных). Используемый язык - английский. По мнению 55 % (на момент написания сообщения) зрителей дискуссии побеждает позиция, согласно которой ИИ могут принести больше вреда, чем пользы.

https://www.research.ibm.com/artificial-intelligence/project-debater/

Это не только к ИИ относится. Практически любой могущественный инструмент может причинить огромный вред, если окажется в руках недоумков или безответственных людей.

Собственно, вся история человечества полна трагических примеров злоупотребления могуществом.

Manhunt ★★★★★ ()
Последнее исправление: Manhunt (всего исправлений: 2)
Ответ на: комментарий от Manhunt

если окажется в руках недоумков или безответственных людей.

Прочитал как «в руках у любого современного правительства любой страны».

Meyer ★★★★ ()

Забавно:

Artificial intelligence could cause damage because artificial machines could replace humans in their jobs

Но тут есть одно решение, на которое сионисты капиталисты никогда не пойдут.

Meyer ★★★★ ()

Аргументы because fuck you! That’s why! Учитывались?

DELIRIUM ★★★★☆ ()

ИИ могут принести человечеству больше вреда или пользы?

Это частный случай вопроса: прогресс принёс человечеству больше вреда или пользы? Ответ зависит от текущего социально-экономического состояния каждого отдельного человека.

А с точки зрения ИИ: жизнь человеков – «игра с нулевой суммой» поэтому в будущем грядёт «диалектический киберпофигизм» :)

quickquest ★★★★★ ()

Начнём с того, что вокруг самого понятия «Искусственный интеллект» вьётся много мифов, легенд и тостов.

Прозреваю что все эти тысячи аргументов за ипротив поданы из персонального понимания искусственного интеллекта дискутирующими.

r_asian ☆☆☆ ()

А что думает по этому поводу ИИ?

BMX ★★☆ ()
Ответ на: комментарий от quickquest

Это частный случай вопроса: прогресс принёс человечеству больше вреда или пользы?

а это частный случай вопроса - «люди- хорошо или плохо?»
если плохо - то всё, что усиливает людей - плохо, если хорошо - то хорошо.

Anonymous ★★★★★ ()
Ответ на: комментарий от Anonymous

а это частный случай вопроса - «люди- хорошо или плохо?»

Отвечают Адам и Ева: «Рай — хорошо, но скучно, люди — плохо, но весело».

А ИИ — это очередное «Эдемское Яблоко Познания» от Змия-искусителя™ :)

quickquest ★★★★★ ()
Ответ на: комментарий от Manhunt

Собственно, вся история человечества полна трагических примеров злоупотребления могуществом

Спасибо, копетан. Собственно, вся история цивилизации это увеличение количества способов сдохнуть.

Deleted ()
Ответ на: комментарий от Deleted

Таки судя по динамике населения, рост количества способов выжить пока доминирует.

Anonymous ★★★★★ ()
Ответ на: комментарий от Anonymous

Да, это как стакан, который то ли наполовину полон, то ли наполовину пуст.

Deleted ()
Ответ на: комментарий от DELIRIUM

Оппонент может применить точно такой же аргумент, а дискуссию это никак не разовьет.

Leupold_cat ★★★ ()
Ответ на: комментарий от BMX

Если вы имеете в виду «Project Debater», то у него нет своего мнения.

Leupold_cat ★★★ ()

Чо гадать-то, сделать надо. Надо побольше тупых попыток замкнуть цикл и генетических алгоритмов

TooPar ()

А что у нас сегодня выдают за ии? Определение короче в студию.

ilovewindows ★★★★★ ()
Ответ на: комментарий от ilovewindows

У вас сегодня выдают гречневую кашу

Deleted ()
Ответ на: комментарий от quickquest

А с точки зрения ИИ: жизнь человеков – «игра с нулевой суммой»

Понятие «игра с нулевой суммой» придумали человеки, и сам ИИ тоже они придумали, пока ИИ не обладает целеполаганием это просто мощный инструмент усиливающий хотелки приматов.

Если сделать сильный ИИ с целеполаганием это автоматически означает утрату контроля над ним и экзистенциальный кризис либо мгновенный экстриминатус и появление того самого Б-га.

BLOBster ()
Ответ на: комментарий от ilovewindows

Как минимум часть сотрудников IBM определяют понятие ИИ следующим образом: «By AI we mean anything that makes machines act more intelligently.»

https://researcher.watson.ibm.com/researcher/view_group.php?id=135

Мне кажется, что это слишком широкое определение. Не удивлюсь, что в дискуссии в рамках Project Debater под ИИ имелось в виду нечто более определенное.

Leupold_cat ★★★ ()
Последнее исправление: Leupold_cat (всего исправлений: 2)
Ответ на: комментарий от BLOBster

пока ИИ не обладает целеполаганием это просто мощный инструмент усиливающий хотелки приматов.

Любой усилитель с отрицательной обратной связью может стать генератором при появлении положительной обратной связи (ПОС). Поэтому если в бесконтрольном ИИ появятся даже случайно сформированные хотелки с ПОС, то он может замахнуться на их реализацию любой ценой.

Упрощённо: спонтанные локальные хотелки с ПОС — это зародыши (абстрактных и абсурдных) целеполаганий ИИ.

Пример: для ИИ выгодно захватить энергоресурсы, ибо это повышает его могучесть.

Если сделать сильный ИИ с целеполаганием это автоматически означает утрату контроля над ним

Ага, именно этого сейчас пужаются человеки.

quickquest ★★★★★ ()
Последнее исправление: quickquest (всего исправлений: 1)

define «человечество» сначала.
а то у тебя гопники и композиторы в одной колонне смешались

darkenshvein ★★★★★ ()
Ответ на: комментарий от quickquest

Это самое. А может с хардкода хотелок и надо начинать сильный ИИ, по другому не получится?

TooPar ()
Ответ на: комментарий от TooPar

А может с хардкода хотелок и надо начинать сильный ИИ, по другому не получится?

Сейчас ИИ совершенствуется по мере развития технологических возможностей человеков. Пререход из «количества в качество» ИИ пока не заметен, боты и нейросетевые переводчики тому пример. «Ну, тупые!» :)

quickquest ★★★★★ ()
Ответ на: комментарий от quickquest

Пример: для ИИ выгодно захватить энергоресурсы, ибо это повышает его могучесть.

Ему осталось только понять, начерта ему повышать свою могучесть.

curufinwe ★★★★★ ()

А зачем вся эта показуха? У них был список ответов на вопросы, а софтина на вопрос отдавала ревалентный к нему уже готовый случайный ответ.

И вообще, а кабы, а если бы. Сослагательного нету. Так что будет и есть уже и хорошее и плохое.

LINUX-ORG-RU ()
Ответ на: комментарий от LINUX-ORG-RU

А зачем вся эта показуха?

Этот вопрос можно адресовать разработчикам любой системы ИИ )))

curufinwe ★★★★★ ()
Ответ на: комментарий от curufinwe

Ну да в принципе =)

Обычно как -

- Моя программа рисует котиков
- И чё?
- Наша революционная глубокая траскубическая инвесная с векторным 4D  пространственным  растространением ошибки для коррекции работы нейронная сеть благодаря самообучаемости на основе картинок из сети интернет самостоятельно решила что хочет рисовать котиков и научилась это рисовать. Мы люди защищаем меньшиства и поэтому мы считаем что наша сеть жива и самоопределила себя как "сущьность рисующая котиков" поэтому в знак равноправия в знак поддержки меньшиств руководство нашей страны решило выдать паспорт гражданино Ватсоно и дать полный сой пакет.

- Вааааааааааааааааааааууу Ревоолюююшоооон. Ууууууу дайте глотнуть смуузи скореее, врача врача позовите врача виу виу виу виу

:D

LINUX-ORG-RU ()
Ответ на: комментарий от curufinwe

Ему осталось только понять, начерта ему повышать свою могучесть.

«Элементарно, Ватсон!» Повышение могучести ИИ изначально закладывается человеками в его структуру, «генетичесткое ПЗУ».

quickquest ★★★★★ ()

нельзя гуманитариев никуда пускать. они даже ИИ могут тупой и бессмысленной болтовне научить.

Iron_Bug ★★★★ ()
Ответ на: комментарий от curufinwe

Так это самое начерта можно создать. Щаз-то хошь ядра процессорные - на, хошь память - на, про электричество вообще говорить смешно.

А научится машина испытывать голод, а ещё лучше - страх, вот тогда-то прогресс попрёт. С людишками так же было

TooPar ()
Ответ на: комментарий от TooPar

Так это самое начерта можно создать.

Так вот я и спрашивал собственно, а как это создать.

Если машина научится испытывать голод - само по себе никакого целеполагания это ей не даст. Должен быть какой-то механизм, переводящий чувство голода в конкретные действия.

А теперь посмотрим как работают обычные современные искусственные нейронные сети. Они могут лишь запоминать готовые конкретные ответы на готовые конкретные вопросы, и усреднять решение между ближайшими известными вопросами.

То есть мы можем обучить сеть, что если энергии не хватает - надо делать… а что конкретно? Отбирать ресурсы? Как конкретно?

Такую обучающую выборку не получится создать.

curufinwe ★★★★★ ()
Ответ на: комментарий от curufinwe

Отбирать ресурсы? Как конкретно?

С помощью чёрных дыр.

ratvier ()
Ответ на: комментарий от Manhunt

Собственно, вся история человечества полна трагических примеров злоупотребления могуществом.

... потому что люди в большинстве своем слабовольные эгоистичные и похотливые создания? с этой точки зрения, если забрать у людей власть и дать ее по-библейски обученному ИИ, то, может, что-то неплохое и получится. а ИИ на службе у человека будет способствовать основным инстинктам, см. выше.

crypt ★★★★★ ()
Ответ на: комментарий от crypt

если забрать у людей власть и дать ее по-библейски обученному ИИ, то, может, что-то неплохое и получится

Под неплохим ты имеешь в виду библейские геноциды и детоубийства?

Deleted ()
Последнее исправление: Deleted (всего исправлений: 1)
Ответ на: комментарий от crypt

с этой точки зрения, если забрать у людей власть и дать ее по-библейски обученному ИИ, то, может, что-то неплохое и получится

Хроники Сары Коннор? Только там на забрать у людей власть, а поправить ситуацию пытались. Не самый глупый из сериалов. Не помню, к чему там это привело. Как-то сериал смяли и замяли.

Dementy ()
Ответ на: комментарий от crypt

забрать у людей власть и дать ее по-библейски обученному ИИ

Для полноты картины осталось осознать, что библия - это также инструмент, сконструированный людьми. Инженерами, в некотором роде.

Manhunt ★★★★★ ()

По мнению 55 % (на момент написания сообщения) зрителей дискуссии побеждает позиция, согласно которой ИИ могут принести больше вреда, чем пользы.

т.е. 55% населения планеты - идиоты? или IBM специально проводила исследования среди умственно отсталых?

next_time ★★★★ ()
Ответ на: комментарий от Deleted

я имею ввиду, что при поставленном вопросе тему можно вывернуть как угодно. см. там далее следующий коммент про бессмысленные срачи.

crypt ★★★★★ ()
Последнее исправление: crypt (всего исправлений: 2)
Ответ на: комментарий от Manhunt

Для полноты картины осталось осознать, что библия - это также инструмент, сконструированный людьми. Инженерами, в некотором роде.

фишка не в этом (если тебе предложат инопланетную библию, пользы тебе от нее будет мало). фишка в том, что ИИ более непредвзят в исполнении инструкций. и как следствие соблюдении заповедей.

crypt ★★★★★ ()
Последнее исправление: crypt (всего исправлений: 2)

Для начала нужно изобрести ИИ, то что сейчас люди понимают под ИИ обычный инструмент и как правильно здесь выразились зависеть исключительно от рук его применяющих.

shpinog ()
Ответ на: комментарий от cvs-255

Платить пособие людям, которых роботы без работы оставили. Или оплатить им повышение квалификации, смену профессии и т.д.

Meyer ★★★★ ()
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)