Замечания промышленников к регулированию ИИ

Эта тенденция происходит везде. Скоро локальные свободные ИИ будут приравниваться к терроризму. И тут нет простого решения. Ты же понимаешь, что пока ты вайбкодишь, или просишь на фотке прыщики удалить, или погоду спрашиваешь, нехорошие люди реально, прямо сейчас, пишут вирусы, строят вымогательные схемы, подделывают голоса для обмана людей и так далее. Это реально проблема.

С другой стороны разработчики ИИ (да и вообще всего) всегда хотят снять с себя всю ответственность. Майки свой Копайлот вдруг стали лицензировать как «для развлечения». Только чтобы убрать все вопросы вообще.

И наши с тобой голоса никого не будут интересовать ни в одной стране.

Пока есть смысл просто выкачивать доступные веса моделей и документацию на их запуск, даже если на их использование не хватает ресурсов. Не всех конечно, но например, полный Deepseek и Qwen точно надо выкачать. А также их локальные квантованные и дистиллированные, годящиеся для локального запуска.

Также учебными материалами и документацией обзаводиться пока можно.

Звучит как бред, но уже были случаи, что некоторые вещи исчезают из всякого оборота.

Например, вспомнилось, еще 20 лет назад был доступен большой на 20-30Гб текстовый архив российских газет с примерно 1990-го года по 2002-й. С возможностью поиска. Там были и малоизвестные газеты и центральные. Я его тогда даже скачал, но винт накрылся, сразу не восстановил, а потом - облом, как корова языком слизала, ни на одном трекере не нахожу. Но эта штука точно была и я ей даже пользовался.

Меня вот, в связи с твоим

Пока есть смысл просто выкачивать

беспокоит другой аспект. Вот если бесконтрольное хранение и использование всего этого запретят (не факт что это случится, но вдруг, и кстати это может случиться по всему миру несмотря на то что сейчас кажется предпосылки не демонстрируются), то им как-то придётся проверять исполнение этого запрета. И если сам по себе запрет лично меня будет волновать мало (я даже скорее за него чем против), то вот технические средства, необходимые для проверки его исполнения, меня уже весьма сильно будут беспокоить, т.к. они, очевидно, будут нарушать приватность и безопасность. Такой вот побочный эффект от этих ваших ИИ. В связи с чем я его ещё раз осуждаю.

Бгг, на проводе не открывается ссылка законопроекта.

И правда, regulation.gov.ru кажется не отвечает. А что, где-то в другом месте открывается?

OpenSource в полном смысле и просто свободно распространяемые модели в регулирование не впишутся, что называется by design

А я то думаю за что на лорчике @Obezyan забанили (шучу).

Меня за его поиски потёрли. А он мне нужен сильно. Эх. Куда делся? Хоть бы контакты знать.

нехорошие люди реально, прямо сейчас, пишут вирусы, строят вымогательные схемы, подделывают голоса для обмана людей и так далее. Это реально проблема.

Эта проблема решается через цепочку доверия (chain of trust) а не через запреты. Надо уже принять как неизбежную данность, что дипфейки может сделать любой и относиться к этому спокойнее.

Qwen хорошая, да. Но скоро её испортят. Там главный ушёл, потому что был за открытую разработку. А deepseek какой-то мутный. Не понял. Чего его качать? А есть какой-то российский загончик для открытых моделей? Или все на hugginface? Как-то жидковато. Была какая-то модификация qwen, T-чего-то, ничего так, но не оригинальная разработка. А больше не попадалось

Спокойнее? Да, как в девяностые, сидишь в кафе, десяточку просто на стол положи, всё равно отнимут. :)

Проблема существует, факт, но как решить - тут мой кисейный жилет пасует, снимаю соломенную шляпу, не представляю как регулировать. Все запреты приводят к тому, что преступники продолжают пользоваться, а остальным шиш. Или нарушать закон. Криминализация на ровном месте. А как правильно? Разрешить каждому держать у себя кусочек урана и если что взорвать всех нахрен?

А что такое «цепочка доверия»? Это как галочка в браузере «высылать сигнал ‘не следите за мной’»? Доверие кого кому?

Не думаю. Возложить это на программные зонды? Слишком долго будет идти сканирование, юзер озвереет и убьёт зонды. Вот, облака, да, будут зарегулированы.

Всё проще: совсем не зарегулируют. Ибо, чтобы этот запрет реализовать, им самим понадобятся нейросети, потому что кожаные мешки не потянут нужную производительность. А если нейросети будут у тов. майора, они утекут и к остальным тоже. А поскольку тов. майор будет пользоваться открытым мейнстримом, бо разработать свои нейросети не потянет то… нутыпонел. А если потянет - эти нейросети утекут от разработчика в народ.

Запретить нейросети - примерно то же самое, что запретить компьютеры. Инструмент распространился слишком широко.

пишут вирусы, строят вымогательные схемы, подделывают голоса для обмана людей и так далее

те кто этим занимается не остановятся из-за написанного закона

разработчики ИИ (да и вообще всего) всегда хотят снять с себя всю ответственность

программисты ни в чём не виноваты, пацаны к успеху идут

Да, как в девяностые, сидишь в кафе, десяточку просто на стол положи, всё равно отнимут. :)

Никакой ИИ или дип-фейки сами по себе у вас ничего не украдут. Так что сравнение некорректно.

Если кто-то сделает фейковые фото меня голого (и это не зависит от пола и возраста), то меня это вообще не должно беспокоить, от меня не убудет. Надо смириться с новой реальностью что с вашей фотографией могут сделать всё что угодно и относиться к этому спокойно. Наказывать надо наоборот тех, кто неспокойно к этому относится.

А что такое «цепочка доверия»?

Это когда при оценке достоверности информации принимается во внимание её источник. То есть если кто-то рандомный запостил видео или фото в чат/форум, то доверие к этой информации нулевое. А если запостил известный уважаемый человек, то доверять уже можно.

Вот я звоню тебе с налоговой. Номер определяется. И вообще всё совпадает. Напомнить как обманули разработчика пакета axios? Всё обустроили. И дедали это люди. Но теперь участие человека для этого становится вообще не нужно. Ты вообще за новостями следишь? Или у тебя ИИ это до сих пор штука которая в нарисованный кружочек вписывает морду слонокотолошади вперемешку с колёсами от телеги? :)

а не через запреты.

У нас (да и не только у нас) не умеют не через запреты. Это слишком сложно и нужно и думать и вообще иметь какие-то компетенции. а запретить или зарегулировать с мутными формулировками много мозгов не надо. так и живём. Спасает одно - запретов так много, что можно класть с пробором ни них всех, всё равно их все выполнять невозможно. :-)

Ты какой-то оптимист. Всё может быть намного, намного хуже и совсем не цифровыми методами.

Напомнить как обманули разработчика пакета axios?

А как? В инете только бесполезный флуд находится.

https://www.opennet.ru/opennews/art.shtml?num=65134

Вот я звоню тебе с налоговой. Номер определяется.

Перезвонить проверить.

Напомнить как обманули разработчика пакета axios?

Проверить наличие фирмы и позвонить/отправить e-mail, чтобы проверить, то фирма на самом деле с вами связалась. Не устанавливать сомнительный софт, если очень надо, то устанавливать в виртуальную машину.

Короче для любых сколь-нибудь важных процедур надо обязательно делать round trip проверку.

Доверчивый лох должен страдать, это закон эволюции и естественного отбора, от него не убежишь.

Или у тебя ИИ это до сих пор штука которая в нарисованный кружочек вписывает морду слонокотолошади вперемешку с колёсами от телеги? :)

Не имеет значения насколько идеальная подделка ИИ. Смотреть надо откуда приходит информация. Телефон и e-mail – не доверенные источники информации, там можно подделать адрес отправителя. Надо позвонить/отправить email обратно по публично верифицируему контакту для проверки. И об этом должны учить ещё в школе.

Доступные китайские модели опережают российские. Если закон вступит в силу они либо поглупеют либо уйдут с рынка. Это будет серьезный удар по информированности.

«Наши» модели Яндекса и сбера не совсем наши. Что ставит нас под серьезную угрозу. Но похоже так думать принимающим решения некогда.

1. Что-то запрещают, а «самокатчиков давить», так и не разрешили. Наверное про игру в хороший и плохой коп, все еще фильмы не смотрели.

2. Невозможно остановить или зарегулировать прогресс или научить маркетологов не преувеличивать. Маркетологу всегда дешевле выдать желаемое за действительное, заработать на этом и заплатить штраф, чем сказать как оно есть на самом деле.

Невозможно остановить или зарегулировать прогресс

Возможно и придётся — если уж начал стоить традиционное (аграрное) общество, то по-другому никак.

Мне страшно представить, что ты сам так живёшь. И не верится. Хотя несколько раз я сам перепроверял. Но так невозможно жить постоянно. Жена тебе позвонила и сказала «скинь мне на карту». Начальник похвонил иприслал документ наподпись, тебя заловят в том моменте где ты не ожидаешь. И именно поэтому. И считать варианты будет не человек, а ИИ. Твой профиль соберут вне зависимости от того как именно ты живёшь,Неуловимый Джо. Это нам с тобой надо время чтобы найти кого-то. Вот я обезьяна потерял и не знаю где искать. А ИИ будет шерстить форумы, сопоставлять манеры, слитые базы данных, российские базы вообще, забесплатно раздаются, векторы атаки и всё такое. Пока ты придумал очень сложную многоходовочку в крестики-нолики, ИИ уже в шахматы у гроссмейстеров всех повыигрывал.

Жена тебе позвонила и сказала «скинь мне на карту». Начальник похвонил иприслал документ наподпись, тебя заловят в том моменте где ты не ожидаешь.

Мне страшно представить, что есть люди, которые так поступают. Мне не разу в жизни не звонили легитимные люди чтобы «скикуть денег на карту» или «подписать документ». Это 100% скам.

Вы ещё скажите, что послушаетесь, если вам майор ФСБ позвонит чтобы банкомат поджечь. Детский сад какой-то.

Пока есть смысл просто выкачивать доступные веса моделей

praseodim

Выкачал и выбрал .gguf который сносно работает на моём железе. Но это пшик, пустяк. И это сжатые веса. Если всё мне отключат, оно конечно как то будет работать, пока есть железо. Так то всё может исчезнуть

Смотреть надо откуда приходит информация. Телефон и e-mail – не доверенные источники информации

Прямо глоток свежего воздухаина фоне повальных предложений запретить|отцензурироваьь (всё). Тоже придерживаюсь позиции, что надо учитывать контекст получения информации, оценивать степень достоверности источника.

лоток свежего воздухаина

Хорошо сказано!

Хорошо сказано!

Умнее сказать нечего, понимаю. Запретить!

Это реально проблема

А раньше они этого не делали? На эту проблему давно существует болт с обратной резьбой.

Вот я звоню тебе с налоговой

А тебе отвечает помощник Олег.