LINUX.ORG.RU
ФорумTalks

Законы робототехники от ГосДумы

 


0

1

Правительство утвердило Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года. Исполнительная власть и «Роскосмос» должны в ближайшие три месяца разработать предложения по её реализации.

В документе сформулированы «базовые этические нормы» для ИИ и роботов:

приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод (цель обеспечения благополучия и безопасности человека должна преобладать над иными целями разработки и применения систем искусственного интеллекта и робототехники); запрет на причинение вреда человеку по инициативе систем искусственного интеллекта и робототехники (по общему правилу следует ограничивать разработку, оборот и применение систем искусственного интеллекта и робототехники, способных по своей инициативе целенаправленно причинять вред человеку); подконтрольность человеку (в той мере, в которой это возможно с учетом требуемой степени автономности систем искусственного интеллекта и робототехники и иных обстоятельств); проектируемое соответствие закону, в том числе требованиям безопасности (применение систем искусственного интеллекта не должно заведомо для разработчика приводить к нарушению правовых норм); недопущение противоправной манипуляции поведением человека. Одной из проблем в разработке ИИ-технологий считается то, что разработчик не всегда может предсказать, когда машинное обучение приведёт к нарушению норм. Дискриминация в процессе кадрового или банковского скоринга, алгоритмы, генерирующие оскорбительные шутки, и автопилоты автомобилей, выбирающие, кого сбить на дороге при неизбежности аварии, не исчерпывают возможных примеров.

В концепции описаны и принципы регулирования этой отрасли: в их основе должны быть поощрение конкуренции, импортозамещение, особое внимание к потенциальным рискам, наконец, «стимулирование как основа регулирования». Отмечается, что одной из главных проблем для развития ИИ в России является недоверие общества.

Вышеупомянутая проблема появляется в Концепции среди перечня сложностей регулирования ИИ во всём мире:

соблюдение баланса между требованиями по защите персональных данных и необходимостью их использования для обучения систем искусственного интеллекта; определение предмета и границ регулирования сферы использования систем искусственного интеллекта и робототехники; идентификация системы искусственного интеллекта при взаимодействии с человеком, включая его — информирование о взаимодействии с такой системой; правовое «делегирование» решений системам искусственного интеллекта и робототехники; ответственность за причинение вреда с использованием систем искусственного интеллекта и робототехники; правовой режим результатов интеллектуальной деятельности, созданных с использованием систем искусственного интеллекта; использование для принятия решений системами искусственного интеллекта вероятностных оценок и невозможность в ряде случаев полного объяснения принятого ими решения (проблема алгоритмической прозрачности систем искусственного интеллекта). В Концепции также предлагается расширить список технологий, которые будут изъяты из перечня тех, что могут использованы при создании вооружений и военной техники и в отношении которых осуществляется экспортный контроль. Это сделает проще экспорт технологий и работу российских разработчиков с зарубежными рынками.

Страховой отрасли предлагается научиться страховать клиентов от вреда, причинённого в результате применения роботов. Сам термин «робот», равно как «ИИ», «интеллектуальный агент» и прочие Концепция призывает уточнить и зафиксировать однозначное понимание. Но в законодательстве эти слова пока на всякий случай не определять.

В то же время с учетом прикладного характера применения этих технологий в самых разных областях может требоваться формулирование разных определений в зависимости от отрасли применения технологий искусственного интеллекта и робототехники. По этой причине в рассматриваемый в Концепции временной период предлагается по возможности избегать внедрения в законодательство Российской Федерации единого для всех отраслей нормативного определения указанных терминов. При этом крайне важно в этот период провести работу по построению и гармонизации онтологии предметной области силами экспертного сообщества и профильных технических комитетов при Федеральном агентстве по техническому регулированию и метрологии.

Ключевыми областями для внедрения ИИ и роботов Концепция считает здравоохранение, транспорт, государственное и муниципальное управление, градостроительство и умные города, финансы, промышленность и космос

https://ict.moscow/static/9a199dad-c2cc-5655-95f2-798ba8ef9023.pdf

Не могу найти где ущемили наши права и душат прогресс?

chenbr0 ()

Фантастики обчитались гуманисты фиговы, первое где будет этот ии это у военных, «приоритет благополучия и безопасности человека», ага. Ты, человечишко, не бойся, мы тебя не больно зарежем.

ilovewindows ★★★★★ ()

приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод

недопущение противоправной манипуляции поведением человека

Смело. Первый же робот с достаточно мощным ИИ пойдет и выпилит правительство.

goingUp ★★★★★ ()
Последнее исправление: goingUp (всего исправлений: 1)
Ответ на: комментарий от goingUp

Впервые в жизни захотелось поставить лайк какой-нибудь :)

С другой стороны, неясно, это они про всех людей или про какого-то конкретного человека, чьи имя и фамилия будут внесены в документ позже.

Stanson ★★★★★ ()
Последнее исправление: Stanson (всего исправлений: 2)
Ответ на: комментарий от anon1984

там ии был туповат) считал хорошо, а вот эмоционально как ребенок. Да еще позволял себя править :) не катит

Morin ★★★ ()

Ну если можно будет заменить роботами труд невольников-гастарбайтеров, то неплохо. Хотя, что неплохого? Лучше создать рабочие места для человека.

anon1984 ()
Ответ на: комментарий от anon1984

их кто-то заставляет ехать?

меня всегда угнетало, когда их называют невольниками, пусть дома у себя свою страну подымают

Morin ★★★ ()
Ответ на: комментарий от Morin

Они и госпланирование и управление собрались переложить на ии. «Что-то не нравится? Вон, вопросы к конплюктеру.»

anon1984 ()
Ответ на: комментарий от Morin

Сейчас кто-то заставляет носить маски, становиться придатком компьютера, выполнять абсурдные законы и смотреть рашкинское зоотв? Нет, но для диссидентов созданы невыносимые условия. Так и там, я думаю.

anon1984 ()
Последнее исправление: anon1984 (всего исправлений: 1)
Ответ на: комментарий от anon1984

никто ничего никуда не собрался, это петросянство

пока видно, что пытаются обыграть Азимова, но так чтоб оставить пространство для силовых решений.

хз, но наверное надо как-то этот вопрос регулировать, автоматизация потихоньку выходит на улицы, а не пребывает в закрытых зонах цехов

Morin ★★★ ()
Ответ на: комментарий от Morin

Куда уж яснее. Работает насос средняя азия - москва, регионы - москва. Градиент уровня жизни и всего такого. Объективно ли он сложился, нет - вопрос, но как объективная реальность наличествует.

anon1984 ()

и автопилоты автомобилей, выбирающие, кого сбить на дороге при неизбежности аварии

Когда дебилы начинают запрещать здравый смысл, ничего хорошего на выходе не получится в любом случае. И вместо отечественного ИИ-автопилота получится очередной «робот-федор» (условный).

Пускай уж сразу тогда автопилот самоуничтожаются вместе с транспортным средством в случае любой опасности. Р-Р-РАЗ… и в мини-черную дыру аннигилируется вместе с владельцем. И никаких следов, ничего не надо расследовать даже.

соблюдение баланса между требованиями по защите персональных данных и необходимостью их использования для обучения систем искусственного интеллекта;

Это даже не смешно уже. Мы живём во времена, когда персональные данные сливают даже госуслуги. О какой защите тут вообще может идти быть речь ?

проблема алгоритмической прозрачности систем искусственного интеллекта

Флаг им в руки. Хотел-бы я посмотреть как они будут требовать объяснение почему нейросеть приняла какое-то конкретное решение.

DawnCaster ★★ ()
Ответ на: комментарий от ilovewindows

Ну гибель от попадания снаряда не так страшна как гибель когда тебе выпустят кишки (простите)… Все верно

dem ★★ ()
Ответ на: комментарий от DawnCaster

Ну вот Каспаров же требовал и ему даже предоставляли.

ya-betmen ★★★★★ ()

Это все слова, а как на счет базового безусловного дахода?

voltmod ★★ ()
Ответ на: комментарий от cocucka

Да ладно, не читал. А откуда про штрафы догадался? За выход на работу без масленого или воздушного фильтра.

ilovewindows ★★★★★ ()

одной из главных проблем для развития ИИ в России является недоверие общества.

Как можно доверять или не доверять массовому нахождения экстремумов функций????
А вот не доверять тем, кто их использует, можно и нужно.

Shadow ★★★★★ ()
Ответ на: комментарий от BceM_IIpuBeT

Если будет скайнет, то на батарейки пойдёт вместе со всеми остальными.

peregrine ★★★★★ ()
Ответ на: комментарий от anon1984

Там ещё хуже. А полноценный переезд требует вложений, немалых.

thunar ★★★★★ ()
Последнее исправление: thunar (всего исправлений: 1)
Ответ на: комментарий от Shadow

Лол. Совсем заврались же. Насколько помню, по опросам РФ — самая технооптимистичная страна. Люди вполне себе не против заменить судейских, депутатских и ментовских на ИИ — просто в силу того что ИИ не имеет возможности развить паскудство и садизм до таких астрономических величин.

thunar ★★★★★ ()
Последнее исправление: thunar (всего исправлений: 1)
Ответ на: комментарий от DawnCaster

И вместо отечественного ИИ-автопилота получится очередной «робот-федор» (условный).

Не, ну частично, например, автоматизированное административное правосудие уже внедрено — те же камеры со штрафами, например — они,конечно, тоже ошибаются — но хотя бы делают это не злонамеренно.

thunar ★★★★★ ()
Последнее исправление: thunar (всего исправлений: 2)
Ответ на: комментарий от thunar

кхм, а ну загугли нарушение разметки :) у тебя бомбанет. Не камеры то не виноваты, но идиотизм либо сговор дорожных служб зашкаливает

Morin ★★★ ()
Ответ на: комментарий от thunar

Делают, пруфы правда в Краснодаре, там, говорят местные, камера стреляла неизбирательно в течении долгого периода.

anon1984 ()
Последнее исправление: anon1984 (всего исправлений: 1)
Ответ на: комментарий от anon1984

очередное бессмысленное :) я же говорю, научись излагать свои мысли, глядишь тебя слушать станут, а не посылать

зы: я в курсе перевода, но опять - зачем ты это написал? зачем? мы на русском общаемся, понимаешь?

Morin ★★★ ()
Ответ на: комментарий от Morin

Дрюк, у меня задачи подбирать к тебе ключ, тем более излагать мысли в понятной и приглядной лично тебе форме, пост адресован более широкой аудитории.

anon1984 ()
Последнее исправление: anon1984 (всего исправлений: 2)
Ответ на: комментарий от anon1984

а, ну ну, затянувшийся пубертат, натягивание никому ненужных масок для поднятия чсв :) продолжай, мне не жалко

Morin ★★★ ()
Ответ на: комментарий от Morin

Макском, срочно матановую капчу, этот автоматический какашкомет прорвал линию обороны.

anon1984 ()
Последнее исправление: anon1984 (всего исправлений: 1)
Ответ на: комментарий от thunar

судейских, депутатских и ментовских на ИИ — просто в силу того что ИИ не имеет возможности развить паскудство и садизм до таких астрономических величин.

зависит от того кто и на чем его будет обучать, в нынешних реалиях как раз сможет, и переплюнет их через какое то время

BLOBster ★★ ()

ну т.е. перечислили все косяки путина и сказали что это базовые правила для ии, которые нельзя делать?))))

Anoxemian ★★★★★ ()
Ответ на: комментарий от anon1984

Лучше создать рабочие места для человека.

На хрена? Тебе сильно хочется поработать? Мне нет. Как по мне, если большую часть неквалифицированных рабочих мест займут роботы я буду только рад.

AfterWork ()
Ответ на: комментарий от peregrine

Предлагаешь начать замес? Я за, не факт правда что мне висеть, и матчасть я получше знаю. Достаточно умелый пользователь ПК и прочих изделий. «Это вам не на гражданке, на какой-нибудь гражданке».

anon1984 ()
Последнее исправление: anon1984 (всего исправлений: 2)
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)