Вывод бредогенераторов хотят обязать маркировать

Дык давно пора.

вообще канон и стандарт, в т.ч. и на лор.
первый шаг, метки - стандартный для мира и лора, тащемта, например.
Dimez, maxcom

Он сам и есть нейрослоп.

Комментарии тамошних экспертов это конечно даа

«Позиция «ИИ - это просто математика» была актуальна 5-10 лет назад, когда мы говорили о нейросетях, распознающих котиков. Сегодня все иначе. Математическая формула не может в одиночку отказать миллиону человек в кредите за одну секунду, а алгоритм ИИ - может. Скорость и масштаб применения ИИ-систем таковы, что последствия одной ошибки или заложенного в модель смещения могут быть катастрофическими и затрагивать целые социальные группы. При этом мы до сих пор не можем со 100% уверенностью сказать, почему та или иная модель в одном случае дает гениальный ответ, а в другом галлюцинирует. Непрозрачность принятия решений современными нейросетями - фундаментальное отличие от классической математики, если мы не понимаем логику, мы не можем гарантировать безопасность и предсказуемость», - сообщил Алексей Парфун.

То, что больше нейрослопа будет промаркировано как таковой — хорошо. То, что они всё никак не успокоются и всё сильнее и сильнее хотят всё зарегулировать (при том, что это «обязать» работать нормально в любом случае не будет, нет для этого технических средств) — плохо. В целом я эту новость вижу скорее в разрезе «опять закручивают гайки, задрали», нежели в разрезе «будет меньше нейрослопа».

Так и хочется добавить – а значит мы, депутаты, не можем управлять и вмешиваться, подкручивать в свою сторону.

И в чём он неправ, кроме чисто формально ложного утверждения «Математическая формула не может в одиночку отказать миллиону человек в кредите за одну секунду»? По сути то верно сказал — непрозрачность имеет значение.

Хотя, если там из сказанного следует «поэтому нам надо ещё сильнее закрутить гайки», то вот на этом этапе логика выходит из чата, да.

Он сам и есть нейрослоп.

В точку.

«поэтому нам надо ещё сильнее закрутить гайки»

Скорее позиция в том, чтобы принять законодательную базу под блокирование нейросетей из недружественных стран.

И в чём он неправ

В том, что он не понимает о чем говорит. То что он по случайности высказал здравую мысль, не означает что на основании этой мысли он может принять правильное решение. Прямо как ИИ.

А разве они не заблокированы?

Вот если бы он остановился на непрозрачности и стохастической природе ИИ алгоритмов это было бы ок. С другой стороны. Как принимает решение человек? Работа естественных нейросетей она как бы тоже черный ящик. В чем тогда различие? В том что с человека «в случае чего» хотя бы можно спросить. Хоть и с оговорками.

Откуда берется миллион кредитных заявок в секунду, в его примере? Нет таких объемов на практике. Зачем он тогда привел это пример?

Что он понимает под классической математикой? Функции с разрывами классическая математика вроде тоже изучает

Так они сами нас заблокировали. Так что врядли в данный момент это является причиной

Что он понимает под классической математикой?

Я так понимаю, ту, что решается аналитически или хотя бы принципиально объемлима мозгом одного человека. Хотя хрен его знает, что у него в голове, и что он на самом деле имеет в виду. Это у него надо спрашивать. А может он и сам не знает, просто для красного словца вставил, как и про миллион человек в секунду, жаждущих получить кредит.

Еще watermark пусть приделаю на эти гауно поделки

Ну приделай, умник.

Или под блокировку гор рандомных иностранных сайтов которые об этом требовании маркировки даже не узнают, не говоря уже о его исполнении. Сайты не обязательно умышленно-нейрослопные, может быть просто форум на котором один из участников нейрофлуд запостил.

Вот тоже об этом подумал. Сами-то нейросети из недружественных стран и так «заблокированы» или с одной или с другой стороны, закон для маркировки для этого не нужен. А вот иметь ещё один формальный повод заблокировать любой сайт, который не понравился — это вполне логично. Особенно учитывая, сколько всего сейчас генерится нейросетями. Нашёл на сайте картинку чисто для красоты или привлечения внимания к новости сгенерированную, но не промаркированную по правилам — заблокировал.

Оно, конечно, неплохо. Но скорее всего будет очередным поводом для блокировки неугодных ресурсов

Ещё один хороший вопрос: а как они будут отличать контент, сгенерированный нейросетями?

Ну вообще на нынешнем этапе развития нейросетей это несложно.

Как именно, я не знаю, конечно. Наверное будет «эксперт» в штате, который будет определять.

А может и определять будут тоже с помощью нейросетей, недавно вон про блокировки же была новость об этом. Это удобнее — всегда есть универсальная отмаза «так решил алгоритм» (в случае особо сильного залёта можно добавить в конце «проведём проверку»).

Специальный трищ майор и будет определять :)

А разве они не заблокированы?

Блокировка, как мы выяснили на примере твитора, ватсаппа и дискорда может быть разной. Бывает как ютуба для вида, а бывает как для ватсапа сейчас - максимум 16 кб всего обмен трафиком при попытке зайти.

Так они сами нас заблокировали. Так что врядли в данный момент это является причиной

Есть дипсик, есть грок, есть нейропоиск от гугла и они вполне себе работают.

Так они то как раз «промаркированы» были с самого начала.

Ютуб у меня, как ни странно, заработал. Что касается всяких дженимаев и пр. так они сами нас забанили.

Ютуб у меня, как ни странно, заработал. Что касается всяких дженимаев и пр. так они сами нас забанили.

Разблокировали злые модераторы хыы

органолептического)

Прочитав весь текст, а не выдернутую малозначащую фразу становится понятно, что разговор вообще не про маркировку. Фактически Правительство задумалось о последствиях использования результатов ИИ в чуствительных областях и ищет виноватых до того, пока что-то плохое не произошло. Приводятся наиболее чувствительные области - медицина, судопроизводство, образование, то есть те отрасли, где легче всего применить ограничения. При этом наука, например, не приводится, и коммерческое использование не планируется ограничивать.

Только вот проблемка. Что, если каждый медицинский прибор будет выдавать «результаты были обработаны системой искуственного интелекта, поэтому используйте их с осторожностью!». Типа «анализ глюкозы 92, но обработан ИИ, не верь!» Ну и какая цель достигнута? Или «Результат томографии обработан ИИ, используйте их с осторожностью, однако есть подозрение в областях, помеченных зелёным цветом.» А других приборов и нет. Что, кроме нервозности и подозрения к измерениям может это добавить? Или раз ИИ выдал результат, то его можно игнорировать или воспринимать не так серьёзно? Или всегда можно сказать - так зачем это лечить, это же ИИ написал, а он обычно бредит?

Потом, вот написал я этот текст с использованием ИИ и не пометил. Что будем со мной делать? Потом, если я не пометил текст как ИИ-генерация, то я несу полную отвественность за каждое слово. Хорошо, а если помечу то что, уже не несу? Что добавляет пометка кроме недоверия и подозрения? А раз ничего не добавляет - зачем помечать, тем более определить использование ИИ всё равно нельзя. Или можно?

Потом, что такое ИИ-генерированный текст? Что значит «текст написан с помощью ИИ?» Гуглом можно пользоваться для поиска информации? Уже ИИ. Ясен пень ни один человек не может использовать факты без проверки поисковых систем. Значит любое изложение фактов в тексте будет с использованием ИИ. Взял сгенерированный текст, два слова переставил - что теперь? А если параграфы подправил?

Вывод. Идея хорошая, но как всегда утопичная, непрактичная, и не ведущая к улучшению обменом информации и взимодействию с машиной.

хрен его знает, что у него в голове

Михал Евграфыч всё это давно и подробно разъяснил.

«несомненным остается только то, что оба градоначальника были самозванцы» (c)

интернет и так уже давно загажен устаревшими инструкциями и рекламой. пока ИИ не поглупел пользуйтесь.

Только вот проблемка. Что, если каждый медицинский прибор будет выдавать «результаты были обработаны системой искуственного интелекта, поэтому используйте их с осторожностью!». Типа «анализ глюкозы 92, но обработан ИИ, не верь!» Ну и какая цель достигнута? Или «Результат томографии обработан ИИ, используйте их с осторожностью, однако есть подозрение в областях, помеченных зелёным цветом.» А других приборов и нет. Что, кроме нервозности и подозрения к измерениям может это добавить? Или раз ИИ выдал результат, то его можно игнорировать или воспринимать не так серьёзно? Или всегда можно сказать - так зачем это лечить, это же ИИ написал, а он обычно бредит?

Эта проблема решается не сокрытием информации от пациента, а просвещением. Концепция информированного согласия не просто так существует.

Потом, вот написал я этот текст с использованием ИИ и не пометил. Что будем со мной делать? Потом, если я не пометил текст как ИИ-генерация, то я несу полную отвественность за каждое слово. Хорошо, а если помечу то что, уже не несу? Что добавляет пометка кроме недоверия и подозрения? А раз ничего не добавляет - зачем помечать, тем более определить использование ИИ всё равно нельзя. Или можно?

Всё просто. Если сам написал, то несёшь ответственность. Если не сам, то всё равно несёшь, но помимо этого тебя можно привлечь и за то, что просто не промаркировал. Даже если то, что ты написал, само по себе ответственности не предполагает, но при этом всё равно чем-то не понравилось. Просто ещё один рычаг давления.

Вывод. Идея хорошая

Плохой вывод.

но как всегда утопичная

что в ней утопичного?

непрактичная

Очень даже практичная. Просто ты не с того ракурса на практичность смотришь. Она практичная для кого надо практичная, как говорится.

и не ведущая к улучшению обменом информации и взимодействию с машиной

Было бы странно, если бы какая-то инициатива власть имущих в наше время была ведущей к этому… Особенно обмен информацией. Большинство решений как раз направлены на то, чтобы ему воспрепятствовать. Потому что нефиг информацией обмениваться — так получаются ячейки единомышлеников, у которых непонятно что на уме.

К любой функции в конце можно прикрутить рандом на вывод :)

Только вот проблемка. Что, если каждый медицинский прибор будет выдавать …

Эта проблема решается не сокрытием информации от пациента, а просвещением.

Эта проблема не решается просвещением. Если все решения проблемы содержат одно и то же решение, то проблема больше проблемой не является, независимо, нравится вам это или нет.

Приведу реальный пример из практики, больше понятный для местной аудитории. Мы составляем конкурс, хотим вставить требование - поддержка Фортрана. Nvidia нам сообщает - ну вы конечно можете поставить такое требование, вы уже знаете наш ответ - мы поддерживаем Фортран в виде cudaFortran, но по остаточному приинципу. AMD нам сообщает - ну вы конечно можете поставить такое требование, вы уже знаете наш ответ, мы поддерживаем HIP, это библиотека С++, можно или нет её использвать с Фортран мы не знаем и поддерживать не будем. Интел нам сообщает - ну вы конечно можете поставить такое требование, вы уже знаете наш ответ - мы поддерживаем SYCL, а это расширение С++. Ничего дополнительного мы делать не будем. Вот и всё - требование является непрактичным.

Так и здесь. Если все решения посроены на базе ИИ, маркировка или немаркировка роли не играет.

Эта проблема решается сертификацией. Не поддерживаешь условный Фортран — не можешь продавать.

Это плохой пример. Ваш конкурс не является чем-то, что напрямую связано с неотъемлимым правом гражданина и гарантируется государством. Причём участие в нём явно не является ни правом ни тем более обязанностью людей, а скорее является выбором и/или привилегией.

В случае с реализацией важнейших потребностей и прав граждан всё сложнее. У человека должно быть право знать, что и как с ним делают (с применением ИИ, или без, концепция информированного согласия сформирована задолго до), и соглашаться на это или нет.

По крайней мере в нормальном обществе, где человек является субъектом. Если ты за общество, где человек не является субъектом, а например находится в собственности у хозяина, то это другое дело. Тогда нам с тобой не по пути, но и спорить по поводу информированности индивида о том, что и как делают с ним самим, не имеет смысла.

Тогда просто не будет ни одного compliant bid - удачи с сертификацией.

Ну т.е. компании просто обидятся и закроют свой бизнес?

Отечественные нейронки до сих пор слабы и генерация видна без всяких меток за версту, так что это просто будет ещё один повод банить зарубежные сервисы, теперь за то что не проставляют сертифицированную российскую метку.

Формулы могли отказывать в кредите ещё задолго до появления первых версий GPT.

Нет. Просто они подадут заявку с теми словами, которые я наверху написал и требование становится бессмысленным, поскольку на практике невыполнимо.

Мне кажется вы не совсем понимаете смысл примера. Пропробую ещё раз сказать то же самое по другому.

Если требование невыполняется ни кем или выполняется всеми игроками рынка одинаково, то требование бессмысленное. Требование должно различать игроков рынка и давать преимущество тому игроку, который позволяет лучше достигать цели требования.

Если требование невыполняется ни кем или выполняется всеми игроками рынка одинаково, то требование бессмысленное. Требование должно различать игроков рынка и давать преимущество тому игроку, который позволяет лучше достигать цели требования.

Да, с этим я спорить не буду.

Только здравоохранение — это не просто рынок. Там есть рыночная часть, но оно этим не исчерпывается. Неинформирование (по сути обман) пациента допустимо, если он до этого согласился, что сам обманываться рад (например, пошёл в коммерческую клинику и отдался рынку по сути, хотя одно это не должно автоматически означать согласия, нужна подпись, что он это осознаёт, и она берётся).

В общем же случае, это не допустимо. Потому что достижение целей требования — это не всё. Это не допустимо ровно по той же причине, почему нельзя просто умерщвлять больных во время карантина, хотя обществу так лучше. Или почему сугубо обязательная вакцинация, хоть и является благом сама по себе с точки зрения медицины, не является благом с точки зрения политики. Необходимо именно добиться согласия и понимания, а не просто всех обязать.

Ну то есть они готовы уничтожить свой бизнес просто назло государству?

О том и речь. Где провести границу между формулами и ИИ?

Статья как-то так тонко обошла стороной вопрос транспорта. Вот сейчас проходят тестовую эксплуатацию беспилотные грузовики, беспилотное такси. Может ещё что беспилотное. И понятное дело там используется машинное зрение, которое тоже к ИИ относится. Этот беспилотный транспорт используется на дорогах общего пользования, то есть вот прямо сейчас может непосредственно угрожать безопасности многих граждан. Иии, господа в правительстве?

Нет, никто не собирается делать что-то назло.

Тогда сделают, выбора нет.

Нет, я уже написал, что будет в таком случае. Вы получите неработоспособное бессмысленное требование.

Вообще, есть один нюанс. На вход простых формул подашь один и тот же вход, получишь один и тот же выход. А в формулах используемых внутри ИИ есть в том числе генератор рандома. И ответы каждый раз разные. Это действительно может отличать принципиально ситуацию.

Если, например, банк даёт ипотеку по принципу «платеж не превышает треть дохода, а срок выхода на пенсию выше продолжительности кредита» (в реальности, конечно, критериев больше), то он всем даёт кто подходит и всем не даёт кто не подходит. А если банк использует те нейронки которые сейчас на слуху, то он может Васе со всеми одними и теми же параметрами видимыми банку кредит одобрить, а Пете нет. Это несправедливо.

Только маркировка тут не поможет. Тут помогает законодательное ограничение перечня по каким параметрам разрешён скоринг и требование чистой функции скоринга (на один и тот же запрос всегда должен выдаваться один и тот же ответ).