LINUX.ORG.RU
ФорумTalks

Законы робототехники от ГосДумы

 


0

1

Правительство утвердило Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года. Исполнительная власть и «Роскосмос» должны в ближайшие три месяца разработать предложения по её реализации.

В документе сформулированы «базовые этические нормы» для ИИ и роботов:

приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод (цель обеспечения благополучия и безопасности человека должна преобладать над иными целями разработки и применения систем искусственного интеллекта и робототехники); запрет на причинение вреда человеку по инициативе систем искусственного интеллекта и робототехники (по общему правилу следует ограничивать разработку, оборот и применение систем искусственного интеллекта и робототехники, способных по своей инициативе целенаправленно причинять вред человеку); подконтрольность человеку (в той мере, в которой это возможно с учетом требуемой степени автономности систем искусственного интеллекта и робототехники и иных обстоятельств); проектируемое соответствие закону, в том числе требованиям безопасности (применение систем искусственного интеллекта не должно заведомо для разработчика приводить к нарушению правовых норм); недопущение противоправной манипуляции поведением человека. Одной из проблем в разработке ИИ-технологий считается то, что разработчик не всегда может предсказать, когда машинное обучение приведёт к нарушению норм. Дискриминация в процессе кадрового или банковского скоринга, алгоритмы, генерирующие оскорбительные шутки, и автопилоты автомобилей, выбирающие, кого сбить на дороге при неизбежности аварии, не исчерпывают возможных примеров.

В концепции описаны и принципы регулирования этой отрасли: в их основе должны быть поощрение конкуренции, импортозамещение, особое внимание к потенциальным рискам, наконец, «стимулирование как основа регулирования». Отмечается, что одной из главных проблем для развития ИИ в России является недоверие общества.

Вышеупомянутая проблема появляется в Концепции среди перечня сложностей регулирования ИИ во всём мире:

соблюдение баланса между требованиями по защите персональных данных и необходимостью их использования для обучения систем искусственного интеллекта; определение предмета и границ регулирования сферы использования систем искусственного интеллекта и робототехники; идентификация системы искусственного интеллекта при взаимодействии с человеком, включая его — информирование о взаимодействии с такой системой; правовое «делегирование» решений системам искусственного интеллекта и робототехники; ответственность за причинение вреда с использованием систем искусственного интеллекта и робототехники; правовой режим результатов интеллектуальной деятельности, созданных с использованием систем искусственного интеллекта; использование для принятия решений системами искусственного интеллекта вероятностных оценок и невозможность в ряде случаев полного объяснения принятого ими решения (проблема алгоритмической прозрачности систем искусственного интеллекта). В Концепции также предлагается расширить список технологий, которые будут изъяты из перечня тех, что могут использованы при создании вооружений и военной техники и в отношении которых осуществляется экспортный контроль. Это сделает проще экспорт технологий и работу российских разработчиков с зарубежными рынками.

Страховой отрасли предлагается научиться страховать клиентов от вреда, причинённого в результате применения роботов. Сам термин «робот», равно как «ИИ», «интеллектуальный агент» и прочие Концепция призывает уточнить и зафиксировать однозначное понимание. Но в законодательстве эти слова пока на всякий случай не определять.

В то же время с учетом прикладного характера применения этих технологий в самых разных областях может требоваться формулирование разных определений в зависимости от отрасли применения технологий искусственного интеллекта и робототехники. По этой причине в рассматриваемый в Концепции временной период предлагается по возможности избегать внедрения в законодательство Российской Федерации единого для всех отраслей нормативного определения указанных терминов. При этом крайне важно в этот период провести работу по построению и гармонизации онтологии предметной области силами экспертного сообщества и профильных технических комитетов при Федеральном агентстве по техническому регулированию и метрологии.

Ключевыми областями для внедрения ИИ и роботов Концепция считает здравоохранение, транспорт, государственное и муниципальное управление, градостроительство и умные города, финансы, промышленность и космос

https://ict.moscow/static/9a199dad-c2cc-5655-95f2-798ba8ef9023.pdf

JO1, мне было лень читать все эти портянки текста, и я просто натравил твою простыню на однострочник:

| tr -d '[[:punct:]]' | tr '[[:space:]]' '\n' | tr -s '\n' | awk '{if (length($0) > 3) {print $0}}' | sort | uniq -c | sort -k1gb

получилось:

      3 безопасности
      3 вреда
      3 Концепции
      3 отрасли
      3 предлагается
      3 роботов
      3 человека
      3 человеку
      4 применения
      4 регулирования
      5 технологий
      9 робототехники
     10 систем
     15 интеллекта
     15 искусственного
и ещё
grep -e 'ь$'
      1 быть
      1 власть
      1 зафиксировать
      1 избегать
      1 контроль
      1 невозможность
      1 ограничивать
      1 определять
      1 ответственность
      1 подконтрольность
      1 предсказать
      1 преобладать
      1 приводить
      1 причинять
      1 промышленность
      1 разработать
      1 расширить
      1 сбить
      1 страховать
      1 уточнить
      1 цель
и
grep -e 'ся$'
      1 научиться
      1 осуществляется
      1 Отмечается
      1 появляется
      1 считается
      1 требоваться
      1 является
      3 предлагается

Посмотрев эту выжимку из текста, хочу задать пару вопросов.

(1) Ты чего ждёшь от этого неестественного интеллекта? Что по жизни тебе не хватает? Тут много глаголов, выражающих ожидание, становление, появление чего-либо.

(2) Также, много глаголов, выражающих страх, контроль, власть. Хочется власти за счёт неестественного интеллекта? Над кем?

И ещё. По-твоему, люди не сойдут с ума, если ими будет управлять машина, или какой-нибудь маньяк, руководствуясь советами машины?

pacify ★★★★★ ()
Ответ на: комментарий от pacify

Уйти от ответственности под фиговым листком ИИ, элементарно, Ватсон.

anon1984 ()
Ответ на: комментарий от anon1984

Не, предлагаю понять что проблема денег лежит немного в другой плоскости. Произошла техническая революция, общество перестроилось, убрали профессию пахаря, в которой было 90% населения занято ещё в 19 веке, общество перестроилось. Тут так же будет, никуда никто не денется, даже если очень захочется. Кстати, если посмотришь процент голодранцев, то скорее всего какой он был, такой он и остался.

peregrine ★★★★★ ()
Последнее исправление: peregrine (всего исправлений: 1)
Ответ на: комментарий от anon1984

Пахарь пропал, что же мы кушаем? Как? 90% народу сразу в какие-то другие отрасли ушли. Общество то оказывается резиновое. Просто цены на рынке перестроятся, вот и всё. Конечно в самый пик полихорадит рынок труда лет 5-10 и всё устаканится, но это не в первой.

peregrine ★★★★★ ()
Последнее исправление: peregrine (всего исправлений: 4)
Ответ на: комментарий от peregrine

В РФ значительная часть населения ушла в землю-матушку, потому как работы и перспектив нет ниуя. Давай, еще урежем рабочие места, пускай уже скорее въипет. Или ты думаешь, поток нефтедолларов вечен? Или войтишный пузырь не схлопнется? Ты очень смел и еще более наивен.

anon1984 ()
Последнее исправление: anon1984 (всего исправлений: 1)
Ответ на: комментарий от anon1984

В РФ значительная часть населения ушла в землю-матушку

Пахарь до РФ был, тогда ещё даже СССР не было.

потому как работы и перспектив нет ниуя

Станет их стильно больше, когда у всех в мире автоматизация вырастет, а у тебя ручной труд останется? Вообще страна обнищает, вот тогда точно кроме как нефтедоллары и надеяться не на что будет.

Или войтишный пузырь не схлопнется

Нет войтишного пузыря. Есть глобальная и локальная работа. Из-за отставания в техническом прогрессе и трудной логистике локальная оплачивается меньше. На западе айтишники не жируют, а живут посредственно (порой хуже сантехника). Ну или если мне не веришь, устройся не на глобальную компанию работать IT-шником, а на местечковую/госконтору и сразу осознаешь какой уровень у IT-шников в мире. Жирует только Москва и Питер и только при работе на иностранных заказчиков/регионы при работе на Москву/Питер. Более того бизнес не дурак и если твой уровень недостаточно велик/нет возможности уехать/работать на дядю из-за бугра если будут мало платить, то и ЗП у тебя будет на уровне ЗП сантехника. Исключения какие-то очень востребованные специалисты, которых днём с огнём не сыщешь. Дети малые, которые думают что в IT миллиарды получают начитались брехунов на ЛОР-е.

Или ты думаешь, поток нефтедолларов вечен?

Он уже значительно ослаб, но на нём где-то половина экономики, если считать не только нефтянку и газ, но и все остальные ресурсы.

peregrine ★★★★★ ()
Последнее исправление: peregrine (всего исправлений: 6)
Ответ на: комментарий от peregrine

Надеюсь дожить до времен, когда за россиянские энергоресурсы будут давать в табло, а не доллары, вот тогда, мой друг, правительству придется рожать предприятия в реальном секторе, а не бахвалиться, что интернет стал более лучше. За одно и ораву пенитенциарной системы разуплотнят, ибо тупо станет нечего жрат.

anon1984 ()
Последнее исправление: anon1984 (всего исправлений: 2)
Ответ на: комментарий от anon1984

Держу в курсе, как бы попа у тебя не горела, но тех предприятий которые есть хватит даже в отсутствие нужды в ресурсах.

peregrine ★★★★★ ()
Ответ на: комментарий от peregrine

Хватит или нет, здесь надо считать. Но я посмотрю, как процесс пойдет без живительной нефтеродицы. А переход на личности тебя не красит.

anon1984 ()
Последнее исправление: anon1984 (всего исправлений: 1)
Ответ на: комментарий от anon1984

правительству придется рожать предприятия в реальном секторе … За одно и ораву петитенциарной системы разуплотнят

Не по-государственному мыслишь. Можно ведь совместить.

Nervous ★★★★ ()
Ответ на: комментарий от Nervous

Тогда и народонаселение покажет кукиш, не только загнивающий запад.

anon1984 ()
Ответ на: комментарий от anon1984

Жить на что, епта? У меня велфера нет.

Так тебе жить на что-то или рабочее место? Ты уж определись. Или уже мозг не может отделить работу от получения средств на жизнь? Сочувствую.

AfterWork ()
Ответ на: комментарий от anon1984

Но я посмотрю, как процесс пойдет без живительной нефтеродицы.

Ну вот и посмотри. И сравни сколько этой самой живительной идет в РФ, на жизнь, а сколько уходит на лево во всякие фонды и лежит там грудой бумаги работая совсем не на РФ. Ну за последние лет 15 сравни. А то только и умеют что петь про нефтяную иглу которой уже давным давно нет и в помине.

И кстати, что-то ни кто не воет про то что Емираты сидят на нефтяной игле, о том что США прям визжит как хочет на эту нефтяную иглу сесть. Просто истерики устраивают лишь бы в европе их дрогой и демократический газ покупали. Может хватит уже?

AfterWork ()
Ответ на: комментарий от AfterWork

В Эмаратах гребаная пустыня и да нашего многообразия им далеко. Нашел с кем сравнивать, ну не повезло им. В эпоху без нефти там могли бы быть висячие сады и прочие чудеса света. А выть начнет т.н. сырьевой и финансовый сектор, когда вместо игр в фантики начнется совсем другая игра. Айти впрочем пойдет следом.

anon1984 ()
Последнее исправление: anon1984 (всего исправлений: 5)
Ответ на: комментарий от AfterWork

идет на жизнь

на жизнь в тоталитарной парашке и бытие придатком айфона или слесарем модного фреймворка (или окаменевшего корпоративного говнокода, лол)

anon1984 ()
Последнее исправление: anon1984 (всего исправлений: 2)
Ответ на: комментарий от anon1984

Нашел с кем сравнивать, ну не повезло им.

Это не для сравнения. Это для затыкания рта орущим про нефтяную иглу. Пусть орут что и РФ и Емираты и США сидят на нефтяной игле. Я не против. Но орут то только про РФ. Я за объективность.

А выть начнет т.н. сырьевой и финансовый сектор, когда вместо игр в фантики начнется совсем другая игра.

Это ты точно подметил. Сырьевой сектор и финансовый скоро попадут в такую ЖОПУ что про жирные годы будут вспоминать с придыханием. Впрочем финансовому туда и дорога. Ибо он не производящий. А сырьевой вернется к своей небольшой марже и дотациям со стороны государства на расширение инфраструктуры. Как собственно и должно быть.

Айти впрочем пойдет следом.

Маловероятно. Слишком перспективный. Но он по большому счету тоже дотационный по своей сути так как не самодостаточный.

А производственные сектора попрут вверх. И тут встанет вопрос у кого в стране больше производственных мощностей и кто быстрее сможет их развернуть. У РФ потенциал просто бешеный. Если здраво смотреть, а не орать на пустом месте про то что все умерло.

А вот у США жопа серьезная. Они на росте финсектора за последние 20 лет выдавили в азию львиную долю своих производств. И теперь им производство надо восстанавливать. А это время и деньги. А денег не будет, так как финсектор сдуется. Ко всему прочему из США сложная логистика. Причем как по экспорту так и по импорту.

Китай конечно потенциал имеет куда как более серьезный чем РФ, но это уже вопрос другого плана. У них почти нет своих энергоносителей. Они самый огромный в мире импортер нефти и газа. Так что диктовать условия РФ они не смогут. Правда у них есть огромный рынок ближнего востока и для РФ это проблема. Но с рынка ближнего востока в Китай сложная логистика.

Есть еще и Африка с огромным запасом энергоресурсов и дешевой рабсилы, но там есть серьезная проблема с отсутствием производств и специалистов как и в США.

Мир меняется. И чем раньше это станет понятно, тем больше шансов сделать все правильно.

AfterWork ()
Ответ на: комментарий от anon1984

на жизнь в тоталитарной парашке и бытие придатком айфона или слесарем модного фреймворка (или окаменевшего корпоративного говнокода, лол)

Считаешь лучше жить в помойной США и так-же быть придатком айфона или слесарем модного фреймворка (или окаменевшего корпоративного говнокода, лол)

Ну если тебе больше нравится тоталитарный режим США Европы или Китая, то и езжай туда. Тебе ни кто не мешает. А лично я считаю что уж лучше жить в РФ чем в США, Европе или Китае. Банально больше свободы. Причем я то могу выбрать где именно мне жить. И успел пожить во всех этих местах. Правда не долго, но вполне достаточно чтобы нюхнуть с лихвой местного колорита и понимать куда ситуация клонится.

AfterWork ()
Ответ на: комментарий от AfterWork

Чувак, Родина в движении, молодая и динамичная, и какая она будет - решать ее народу, в том числе и мне. Не нужно юродствовать и пенять на другие страны.

anon1984 ()
Ответ на: комментарий от anon1984

Чувак, Родина в движении, молодая и динамичная, и какая она будет - решать ее народу, в том числе и мне. Не нужно юродствовать и пенять на другие страны.

Я не юродствую и уж тем более не пеняю. если тебе так показалось, извини. Как тебе, так и мне решать какой она будет. И я хочу чтоб она была процветающей и развивающейся. И делаю все чтобы так и было. В том числе и затыкаю рот уродам которые её необоснованно хаят.

А так-же открыто говорю если мне что-то не нравится. Считаю что всегда лучше правда чем лесть.

AfterWork ()
Ответ на: комментарий от peregrine

Из-за отставания в техническом прогрессе и трудной логистике локальная оплачивается меньше.

Экий ты мечтатель. Ну, попробуй - оформи ЛПХ, фермерское хозяйство, и начни продавать молоко. Или посмотри разницу закупочных цен и розничных. Потом подумай, в информатизации дело, или в банальной городской мафии, которая «держит» рынок с 90-х.

pacify ★★★★★ ()
Ответ на: комментарий от pacify

Рынок везде держат. И в Европе и в Пиндостане. Не будь столь наивным и не верь что там рай на земле без мафии и коррупции. Проблема в том, что деньги держателям в РФ меньше светят, чем в Европе или Штатах. Если проще сказать наша мафия более бедная. А деньги все именно у мафии/элиты всегда были, есть и будут. Вроде как то что 1% населения контролирует 99% денег везде работает.

peregrine ★★★★★ ()
Последнее исправление: peregrine (всего исправлений: 3)
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)