Основные куски хлама, которые есть у меня в голове:

1) x230 - бывают с IPS - это гуд. Официально T430 не бывают с IPS, хотя может кто-то их туда руками вхрячивает - это не рассматриваем для простоты (хотя может быть многое теряем, да!)

2) Островная клава не такая кошерная, как старые X220 и т.п. Говорят. Сам лет 10 юзаю только thinkpad-подобные «старые» клавы: на ноутах и на десктопе такую. В идеале пускай будет такая, но не знаю чем островная смертельно хуже, по тактильным ощущениям оно не может быть слишком сильно хуже, плюс привычка всё сгладит, маковские клавы островные вроде ничотак.

3) x230 vs x220 добавляет USB 3.0 и ещё какие-то быстрые коммуникации, дисплейпорты и т.п. Или это гон и всё это есть в X220? Чем тогда X230 с точки зрения железа ОЩУТИМО круче? Читал что в X230 встроенная графика ОЩУТИМО круче, а в x220 для получения USB3.0 надо core i7 искать или пихать плату расширения.

4) Юзкейсы - браузер, ютуб, кодинг, документы.

5) Бесит ли мелкость матрицы x220 (12"5) в сравнении с T420 (14" вроде) или 15". Глазами смотрел и туда и туда, показалось что привыкнуть можно к любой, а если совсем мало - воткнуть внешний моник на 20.

6) Насколько стоит гнаться за IPS? Являются ли TN-варианты этих ноутов совсем ущербными TN или нормальными TN? Разные же бывают среди TN, например у меня щас моник ASUS VW226TL, в котором цвета от разных углов меняются, но не сказать что меня аштрисёт, я уже этого не замечаю. Хотя много работал за IPS и понимаю что там будет поприятнее. Вопрос в том, совсем-копец-ущербна TN у сабжевых thinkpad-ов или там терпимая TN?

7) А чё насчёт 15" вариантов? Они катастрофически огромнее чем T430 по пузатости и угловатости? Разница между 14 и 15 прям ваще адски видна или похрен?

Спасибо. Чо надо брать? Бюджет - тыр до 19.

Дайте ссыль на максимально понятное объяснение back propagation с объяснением физических смыслов и приведением кучи аналогий на каждом шагу?

Вот чел претендует на очень понятное объяснение, но он тупо достаёт формулы из рукава и рвётся с ними сразу в бой. Это не называется понятным объяснением. https://www.youtube.com/watch?v=HA-F6cZPvrg

Есть понятнее?

P.S. Вот у этого чувака: https://www.youtube.com/watch?v=W2LshGngCNw я встретил крутую аналогию про «доверие советчикам». Последние нейроны решают насколько они недовольны каждым из своих советчиков, понижая их веса «и так далее до начала сети». Что-то в этом роде нужно, но хорошо разжёвывающее все попутные абстракции с частными производными (хотя я и понимаю что это) и т.п.

Тут с 8:58 гдето. Несколько секунд. Какая-то известная с измененным стилем.

https://youtu.be/VrlYsjAfJ5s

Подозреваю какойто жесточайший хеви метал в оригинале.

p.s. Нагуглил это https://youtu.be/aX2gvGVqNvA https://youtu.be/lZiNtbgm9oM

по звучащим там словам «before could look you in the eyes».

Сабжеваторство пятого порядка.

email: data.structures@yandex.ru

Хочется понять физический смысл того, что физически пошагово происходит, когда обученная CNN-нейросеть обрабатывает входные данные. Опишу своё понимание, просьба не что-то заново объяснять, а указать на неточности и на отдалённость моего описания от истины. Попутно будут вопросы (выделены жырным).

Во многом пост пишется чтобы выговориться, ибо в процессе этого всегда сам лучше понимаешь чё сказать-то хотел.

Вот нарисовал картинку: http://savepic.ru/15045931.png

Вход - 9 нейронов x1...x9, которые не нейроны, а скорее «сенсоры», хотя почему-то везде называются «нейроны входного слоя». Нейрон - это то, что делает какую-то операцию со входами, а тут на X1...x9 входов нет, они сами уже чисто «выход», выдают прямо значения пикселей картинки, значит это скорее как сенсоры в глазу, а не нейроны. x1...x9 — сенсоры. Меня сильно смущает понятие нейрона, я всегда начинаю думать - «суммирование каких взвешенных входов делают эти нейроны? Никаких? Почему это тогда нейроны?». Короче, сенсоры. Далее.

Наша входная обрабатываемая картинка пускай будет 32*32, канал - 1 (ч/б).

9 сенсоров смотрят на фрагмент 3*3 входной картинки, нейрон X10 таким образом выполняет свёртку и математически совокупность весов w1...w9 являются ядром свёртки, верно? Потому нейросеть называется свёрточной. В русской википедии про CNN-нейросети тынц совокупность весов w1...w9 называется матрица весов.

Сенсоры x1-x9 «подключены» к входной кратинке именно так: в единицу времени смотрят на её окрестность: значение каждого пикселя умножается на соответствующий W, получаем SUM(x * w). В англоязычных статьях-видосах эта операция называется Dot Product https://en.wikipedia.org/wiki/Dot_product или скаярное произведение по-нашему. Это и есть свёртка? Выход этой операции (свёртки): скаляр (число). Мы «свернули» 9 пикселей в один. Кстати, свёрткой могут называть как одну операцию над 9 пикселями так и целую результирующую картинку, состоящую из множества результатов свёртки над каждыми 9-пиксельными регионами, когда мы пробежим этим 9-пиксельным окном по всему входному изображению (читать далее).

У меня на картинке показан только 1 нейрон «скрытого слоя» - X10.

В куче статей и видосов сказано, что нейрончик X10 (который ядро свёртки) называется filter. почему такой термин? Почему не ядро свёртки?

Итак, физически происходит следующее (насколько это верно?): мы пробегаем нашим ядром свёртки (окном 3*3 - можно 5*5, тогда входных сенсоров будет 25) по входной картинке с шагом, например 1 (настраивается): то есть ставим наше «окно захвата» - «окно свёртки» 3*3 на все возможные позиции на картинке и снимаем для каждой такой позиции значение на выходе X10, рисуя для каждой отдельной позиции окна (3*3) пиксель на выходнуй картинке. У меня показано как стрелка из X10 тычет (записывает) пиксель выходной картинки для данного 3*3 окна. Смещая наше входное окно 3*3 на 1 пиксель вправо, получаем значение следующего справа пикселя выходной картинки. Вот GIF из википедии: https://upload.wikimedia.org/wikipedia/commons/thumb/4/4f/3D_Convolution_Anim...

Эта вторая картинка называется feature map?

Нейрон X10 (с его весами входов w1...w9), т.е. filter, т.е. ядро свёртки, бегающее по входной картинке, можно интерпретировать как «признак». Т.е. совокупность весов w1...w9 как-бы кодирует некую графическую микро-фичу, признак. Например кодирует маленькую наклонную линию (веса w1...w9 будут по какой-то диагонали большими, остальное будет 0, например). Выходная картинка (картинка, куда пишет X10) - это будет как «карта признаков», т.е. на какой позиции входной картинки этот признак (наклонная линия) встретился (результат свёртки будет иметь высокое значение выше нуля) или не встретился (ноль или ниже). Т.е. мы на выходе получаем такую карту, которая показывает где (в каком квадрате 3*3) эта наклонная линия есть на входном изображении.

И это всё только с 1 нейроном входного слоя X10. Одно-нейронный слой (такое вы видите впервые только на нашей картинке!), а уже сколько важного.

Эта недо-нейросеть уже имеет смысл: например если X10 кодировал наклонную линию «от нихнего левого до верхнего правого» (знак слеш) (т.е. маленькую фичу, которая вписывается в 3*3), то если мы нарисуем на входной картинке одну длинную такую диагональ, то на выходной нейросетевой картинке получим точки по этой диагонали - нейросеть нашла много раз этот признак вдоль нашей «большой» диагонали (по-сути диагональ составлена из множества маленьких). Если линия на входной картинке была жирная, то тогда имеет смысл сначала найти края (edges), потом уже натравливать нашу фичу. Но это другая история. Причём края может выделять та же самая нейросеть...

Если у нас появится второй нейрон скрытого слоя - X11, то он должен будет кодировать уже другую фичу (другой признак), например точку, пустоту, заливку, вертикальную линию и т.п. И этот нейрон X11 уже выделит другой признак. И сгенерит отдельную карту признаков.

Самый интересный вопрос

Теперь посмотрим на типичную схему нейросети, которая рисуется на каждом углу: https://i.stack.imgur.com/9jzpy.jpg

Три нейрона входного слоя. Они же три фильтра. Каждый из них описанным выше способом бегает по входной картинке и создаёт карту признаков (feature map). Получаются 3 независимых карты признаков. Далее стоит выходной нейрон, который берёт входы со всех 3 нейронов. Как он это делает? На входы последнего выходного нейрона подаются результаты работы фильтров (нейронов скрытого слоя) когда каждый из них КУДА смотрит? Обязательно в одну и ту же область картинки? Т.е. вспоминая про feature map (карта признаков, которых у нас тут три - каждая на выходе своего фильтра), входной нейрон берёт значения из разных карт признаков (ведь 3 синапса выходного нейрона подключены на РАЗНЫЕ нейроны скрытого слоя - значит смотрят на разные карты признаков)? Но из какой именно точки этих карт признаков? Из точки с одной и той же кооринатой? То есть выходной нейрон умеет видеть только информацию вида "в какой мере 3 признака (реализованные 3-мя фильтрами) присутствуют в одном и том же месте картинки"? Выходной нейрон никогда не «увидит» ситуации вида «признак 1 в центре, признак 2 в углу, признак 3 в другом углу»? Скажем, если бы мы захотели сделать свёртку свёртки, то есть иметь второй скрытый слой до выходного нейрона, то есть наложить ещё какой-то фильтр на карту фич первого фильтра, то я теряюсь как это можно показать на подобной примитивной схеме нейросети и используется ли это вообще где-либо и если да, то как изображается схематически?

Объява: вступлю в приватную переписку по сабжу: data.structures@yandex.ru

Смысл: чтоб я кнопку «Choose file» в HTML-форме нажал в браузере и рисовалка открылась. В рисовалке хочу нарисовать картинку, Нажать OK и чтобы результирующий .jpg с почеркушкой вставился в форму браузера.

Пока одно такое приложение (перебрав почти 100 штук других) нашёл - https://play.google.com/store/apps/details?id=com.barilab.katalksketch.google...

Оно прописывается на правах камеры.

Какие дерективы в AndroidManifest.xml приводят к тому, что приложение «прописывается» в менюшке «Choose an action» на правах камеры?

Т.е. когда я в chrome жму кнопку «Choose file» ( https://i.stack.imgur.com/mwQZd.png ) (для аттача файла в HTML-форму), открывается окно вида https://i.stack.imgur.com/Cmev1.png и там можно выбрать приложение, которое на лету изрыгнёт .JPG файл, который вставится в форму.

Вот такой кусок нашёл в AndroidManifest.xml у упомянутого Sketch Master. IMAGE_CAPTURE — это оно?

            <intent-filter>
                <action android:name="android.intent.action.MAIN"/>
                <category android:name="android.intent.category.LAUNCHER"/>
            </intent-filter>
            <intent-filter>
                <action android:name="android.media.action.IMAGE_CAPTURE"/>
                <category android:name="android.intent.category.DEFAULT"/>
            </intent-filter>
            <intent-filter>
                <action android:name="android.intent.action.GET_CONTENT"/>
                <category android:name="android.intent.category.DEFAULT"/>
                <data android:mimeType="image/*"/>
                <data android:host="*"/>
            </intent-filter>
            <intent-filter>
                <action android:name="android.intent.action.PICK"/>
                <category android:name="android.intent.category.DEFAULT"/>
                <data android:mimeType="image/*"/>
                <data android:host="*"/>
            </intent-filter>

Есть ещё прикольная пиложуха: https://play.google.com/store/apps/details?id=com.sonymobile.androidapp.audio... - (лучший диктофон на свете кстати, ибо умеет в стерео с 2 микрофонов чистый звук пейсать) и оно тоже себя наряду с камерой прописывает, только при тыкании в него пишет звук и приаттачивает .AMR файл, так там в AndroidManifest.xml написано такое:

            <intent-filter>
                <action android:name="android.intent.action.GET_CONTENT"/>
                <category android:name="android.intent.category.DEFAULT"/>
                <category android:name="android.intent.category.OPENABLE"/>
                <data android:mimeType="audio/raw"/>
                <data android:mimeType="audio/mp4a-latm"/>
                <data android:mimeType="audio/amr"/>
            </intent-filter>
            <intent-filter>
                <action android:name="android.intent.action.PICK"/>
                <category android:name="android.intent.category.DEFAULT"/>
                <data android:mimeType="vnd.android.cursor.dir/track"/>
                <data android:mimeType="vnd.android.cursor.dir/audio"/>
            </intent-filter>
            <intent-filter>
                <action android:name="android.provider.MediaStore.RECORD_SOUND"/>
                <category android:name="android.intent.category.DEFAULT"/>
            </intent-filter>

Что у них общего? Как они добавляются в выбиралку приаттачиваемых файлов в браузере?

Как сделать так, чтобы приложение установилось прикинувшись камерой и умело возвращать картинку?

Это нужно, чтобы из браузера нажать «choose file», выбрать это приложение (т.к. всякие камеры в этом меню таки появляются), в приложении сгенерить картинку и к форме приаттачится .jpg.

Или посоветуйте такую рисовалку, которая умеет прикидываться камерой и рекламу не крутит?

По choose file открывается файловый браузер, камера и диктофон. В диктофоне например можно сделать запись, нажать ок и к форме сразу приаттачивается .aac файлик с записью. В камере можно сделать фотку и сразу она приаттачена.

Хочется приложение, которое к этим троим в один ряд встанет и будет открывать рисовалку. Желательно даже хорошую, чтобы понимало s-pen самсунговских note. И к форме должно аттачиться результирующее почеркушечко в формате jpg. Пущай настраиваетсч размер холста.

V8 - js от гугла, там есть JIT. PyPy - реализация python - там есть JIT.

Они все делают каждый свой фирменный JIT? Нет, ясно что специфика языка добавляет свою логику, например если динамическая типизация, то там переменная - это структурка с полем «тип», а в статической такого может не быть и т.п.

Вопрос наверное больше про оптимизатор. Скажем, надо сгенерить машинный код для перебора элементов в цикле. Или надо перемножить 2 вектора. JIT вставит векторную инструкцию или будет перебирать? JIT сможет понять что вот эту функцию можно вообще не реализовывать, она никогда не вызывается и т.п.

Т.е. интересно, тот код, который пишет в память байтики машинного кода, он у всех свой домашний? Или юзаются какие-то LLVM-подобные штуки, которые для большинства JIT-компиляторов разных языков давно уже дают что-то одного типа?

Можно ли программно-драйверно добиваться физического мегасброса девайса?

Я так понимаю, если девайс воткнут физически в USB, то программно нельзя отобрать у него питание 5V. Т.е. если девайс решил намертво зависнуть и эту ошибку можно решить высовыванием-засовыванием, то программно это высовывание никак не сделать?

Скажем есть веб-камера. Воткнутая в USB она сразу получает питание и её микрокод начинает работать. Другое дело, что матрица может быть не запущена, не было соответствующей команды. Но микрокод может работать, скажем ждать команд, ловить пакеты в шине USB и т.п.

Скажем эта веб-камера зависла наглухо так, что перестала понимать даже нормальные системные USB-пакеты. Как программно её жесточайше ребутнуть? Почему в USB-шине не предусмотрено программное отрубалово питания? Если бы оно было, можно было бы буквально физически ребутнуть повисший девайс и увеличить безотказность какой-нибудь системы видеонаблюдения, построенной например из нескольких USB-вебкамер, одна из которых периодически жёстко морозится.

Хотя-бы с такой картинкой, можно конечно круче

https://www.youtube.com/watch?v=yKb6ZU_tqV8

P.S. Вопрос не в том, какие именно вы юзали, потому что так сложилось, а в том какие лучшие. Т.е. отвечающий должен был перебрать несколько, а не описать свою.

Э-э-э, в камментах какой-то неадекват пошёл.

Я прошу советовать модель матери, чипа, матрицы и т.п. Не надо кидать тынцы на выдачу алиэкспресса с красивыми картинками.

UPDATE: это муфта. Всем спасибо.

Как называется и где в Питере купить - такая мелкая дешёвая хрень, куда с 2 концов втыкается 2 ethernet-кабеля и получается удлинённый кабель.

Там внутри просто 2 ethernet-разъёма напрямую соединённых. Пластиковая пассивная такая фиговина.

Как называется и где покупать? Должна вёдрами на вес продаваться.

Не 2 отдельных разъёма, соединённых проводом, а единое устройство размером с колпачёк.

Не нужен рипитер/усилитель/помеходав для прокладки кабеля на миллиард гигакилометров, нужен соединятор двух пачкордов в один.

P.S.

Нагуглифицировал! Это называется «ethernet муфта», мать её за ногу!

Что ни пробовал, то всё какое-то косое и стабильно падает. kdenlive - падает, openshot - падает, остальное просто адово косое и тупое.

Потыкал в iMovie на новом макбук про - всё просто и хочется монтировать не переставая, куча удобных мелочей, типа поводил по видеофайлу в галерее клипов, а он прокручивается.

Это вообще какая-то адово нерешаяемая задача? Почему народ с увлечением клепает собственный ещё-один движок игры, но никто не хочет запилить реально офигенный, стабильный, удобный видеоредактор, жрущий предсказуемое число озу, понимающий все видеоформаты и не падающий в кору?

1. Кстати, забыл: blender не падает. Но не понимает моих 60fps видеофайлов с мобилы. Точнее, он их рисует, но полоски на тайм-панели показываются неадекватно.

2. А чё там внизу говорят про «видеоредактор без видеодров»?

3. Там внизу советуют Lightworks. Надо попробовать.

4. Прикалывают комментаторы про «это дорого» и «это работа на годы вперёд».

Есть такая таблица, например:

CREATE TABLE IF NOT EXISTS c2.CPA_DONT_CREATE_ME_PLEASE
(
    date Date,
    source_id UInt32,
    datetime DateTime,
    column UInt32
) ENGINE = MergeTree(date, (date, source_id));

Данные пишутся с временным «разрешением», например, минута. Т.е. datetime = «2017-07-05 15:12:00», например.

И вот я выбираю колонку, отсортированную по времени:

SELECT column FROM table ORDER BY datetime;

Хочется то же самое, только чтобы оно вернуло в каждой строке не оригинальную строку, а среднее значение column последовательных 10 строк. Размер выходных данных сократится в 10 раз, соответственно.

Как?

Параллельный вопрос в гуглогруппе: https://groups.google.com/forum/#!topic/clickhouse/qZazrZsklKQ

Читал-читал... Тензор - он всё. Базовый «пакет» данных, к операциями над которым сводятся любые востребованные в области ML вычисления?

Вектор, матрица и даже скаляр - частные случаи тензора.

А можно как-то более простыми словами для дегенератов объяснить, что это такое и в чём абстрактная красота и универсальность понятия?

Недаром ведь «поток тензоров» - TensorFlow...

У CNN есть фиксированное число входов, обычно на него подают фиксированный кусочек картинки скажем 64x64, сеть первым слоем делает свёртку (сумма взвешенных входов перцептрона - это в точности вот такая операция https://en.wikipedia.org/wiki/Kernel_(image_processing) ), ну т.е. нейросеть можно научить делать первым слоем много чего, например блюрить картинку.

В общих чертах я понимаю так.

Вопрос не в этом. Лицо на картинке может влезать в эти 64x64 точки, а может занимать весь кадр 1920x1080 например.

Как физически происходит «скармливание» большой картинки нейросети, которая должна найти там лицо на любой позиции в любом масштабе?

Что, делать перебор всех возможных местонахождений лица скармливая все возможные 64x64 куски картинки, потом уменьшаем картинку в 2 раза и всё по новой?

Как это физически устроено?

Ну как выглядит его рабочий день, что он делает. Не похоже на простого разраба.

https://spb.hh.ru/vacancy/20716079?query=C++ neural

Наиболее непонятны эти строки:

C-level to support engineer. External & internal.

You will present to clients during the bid process, obtain necessary information for POC during the bid process (from the client and internally), and have full ownership of the project through RFP, including integration with 3rd party data platforms;

This is not 9-5. Not only do we expect the following but, if you’re right for this company, you should need to hold yourself to a higher standard intrinsically.

Перемещено jollheef из job

Читаю википедию по всяким ML-разделам, дифф. анализу или как там его, Calculus...
Хочу задавать тупые вопросы.
Могу читать EN-вариант, (говорят он понятнее).
Кто хочет со мной чатик в jabber или скайпе?

https://ru.wikipedia.org/wiki/Градиентный_спуск

В первом параграфе «Оптимизация»: «Пусть целевая функция имеет вид».

У функции аргумент - вектор. Как это понимать? Я привык, что вектор - это типа кортеж скаляров. Ну типа std::vector<int>.

Какой физический смысл у той функции, что там приведена? Функция от нескольких переменных, которая «мапит» (отображает) переданный ей вектор (несколько чисел) в одно скалярное значение (число)?

В английской статье на этом месте стоит «multi-variable function», т.е. всё-таки русская функция от вектора - это функция нескольких аргументов? Ну т.е. речь про int function(int a, int b, int c) ?

Частная производная, дивергенция, дифуры, градиент - вот это всё. Кусками понимаю, но надо лучше. Логика работает неплохо, мне за C++ разрабство 10 лет платят деньги и не увольняют! Требуется некое переложение академического матанного языка на простой рабоче-крестьянский с массой аналогий и растолковываний. Может книгу какую посоветуете?

Цель - лучше понимать матан из машинного обучения.

Вот например такую статью из википедии я понимаю почти полностью: https://ru.wikipedia.org/wiki/Частная_производная

А тут уже не уверен:

https://ru.wikipedia.org/wiki/Дивергенция

Перемещено Klymedy из development

Сабжеваторство.