LINUX.ORG.RU

OpenVINO 2023.3

 , ,

OpenVINO 2023.3

0

2

24 января инженеры Intel выпустили крупное обновление ведущего набора инструментов для искусственного интеллекта с открытым исходным кодом OpenVINO 2023.3. Оно обеспечивает полную поддержку новых процессоров Emerald Rapids и Meteor Lake, а так же другие улучшения аппаратного обеспечения Intel для генеративного искусственного интеллекта (GenAI) и больших языковых моделей (LLM).

OpenVINO 2023.3 представляет репозиторий OpenVINO Gen AI для демонстрации собственных образцов конвейера C/C++ больших языковых моделей и проверкой дополнительных моделей, включая Mistral, Zephyr, ChatGLM3 и другие. Torch.compile теперь полностью интегрирован с OpenVINO.

Для расширения поддержки больших языковых моделей поддерживается формат модели сжатия INT4 на процессорах Intel Xeon, а также Intel Core и Intel iGPU. Улучшена производительность LLM на основе трансформеров как на центральных, так и на графических процессорах, упрощена оптимизация для моделей Hugging Face и многое другое.

Для справки: OpenVINO — это открытый бесплатный набор инструментов, который помогает разработчикам и аналитикам данных ускорить разработку высокопроизводительных решений для использования в различных видеосистемах. Данный комплексный набор инструментов поддерживает весь спектр решений для компьютерного зрения, оптимизирует развертывание глубокого обучения и обеспечивает простое исполнение на различных платформах Intel. Так же OpenVINO решает самые разнообразные задачи, включая детектирование лица, автоматическое распознавание объектов, текста и речи, обработку изображений и многое другое.

>>> Подробности на официальной странице проекта в gihub

★★★

Проверено: hobbit ()

Название намекает, что сегодня можно открыть некоторого рода напитки

kas501 ★★★
()
Ответ на: комментарий от thesis

«LLM на основе трансформаторов» тоже неплохо :)

Puzan ★★★★★
()
Ответ на: комментарий от ymn

Для чего?

Вот не пойму тендецию что все вертятся вокруг этого ИИ.

Как по мне все это есть зло которое на руку будет любым бизнесменам но сократит рабочие места, да и скиллы людей. Те же программисты которые будут на ИИ опираться уже не то. Как недавно тут было один человек посчитал что проанализировать выхлом S.M.A.R.T. жесткого диска это тяжело для него и подключал для этого ChatGPT, а потом еще и сюда полез т.к. ЧатГПТ не справился. Вот так же и дальше будет. Сначала программистов били по рукам за то что они кодили сами то что уже накожено и программирование сдеградировало до использования библиотек и только в крайнем случае писать самому - а теперь к этому еще добавиться в будущем писать самому только самый-самый минимум - исключительно то что по каким-то причинам не смог написать ИИ.

bonta ★★★★★
()
Ответ на: комментарий от bonta

Конечно, всем нужно вернуться на Фортран и перфокарты, чтобы программировать умели. Заодно отменить все достижения ИТ, включая смартфон с которого ты пишешь. Потому что он не работает на Фортране и перфокартах.

Clayman ★★
()
Ответ на: комментарий от bonta

Для инференса нейросетевых моделей машинного зрения на процессорах Intel.

ymn ★★★★★
()
Ответ на: комментарий от bonta

сократит рабочие места

Да штош вы все такие белки-истерички…

ИИ, если его можно так назвать, до полноценного инструмента не всегда дотягивает. О том, чтобы оно заменило человека можно не мечтать ещё очень-очень долго. На данный момент за ним нужно проверять, а нередко даже переделывать.

mord0d ★★★★★
()
Ответ на: комментарий от mord0d

Да почему, каких-нибудь тестировщиков, кассиров или другую легко формализуемую профессию может заменить в ближайшем будущем. Вот только это не проблема - профессии исчезают постоянно. Давно видел живого трубочиста, тапера или телефонистку?

Clayman ★★
()
Ответ на: комментарий от Clayman

В смартфоне с которого я пишу, ИИ не используется ровно так же как и Фортран с перфокартами.

И судя по коду, который я успел посмотреть, его делали люди которые умеют программировать.

bonta ★★★★★
()
Ответ на: комментарий от mord0d

Ну вот на месте художников, которые за деньги рисовали картины под заказ я бы уже напрягся.

Впрочем не только их. Но и на месте желающих потреблять качественный контент сечас:

У меня забавная история была я из Вконтакта отписался от одного местного (моего городского) новостного паблика, т.к. не мог смотреть тот результат работы нейронок которым снабжали почти каждую новость админы: они, очевидно используют бесплатные рисовалки а оттуда и качество. Не принимает моя психика такое, и пришлось отписаться.

bonta ★★★★★
()
Ответ на: комментарий от bonta

Смартфон это просто пример смехотворности тейка о том, что технические инновации снижают качество и отупляют людей. Если ты будешь в нем последователен, то придёшь к тому, что надо возвращаться в пещеры, ведь цивилизация - это тоже результат инноваций. Причем сразу на уровень ранних гоминид, которые ещё не умели эти самые инновации придумывать)

Clayman ★★
()
Ответ на: комментарий от Clayman

Да вполне.

Вы напомнили мне тех людей, которых граммар-наци зовут.

Если они видят что человек не грамотный - для них он автоматически глупый, и не может по определению передавать верную и хорошую мысль.

bonta ★★★★★
()
Ответ на: комментарий от bonta

Если они видят что человек не грамотный - для них он автоматически глупый, и не может по определению передавать верную и хорошую мысль

База.

ymn ★★★★★
()
Ответ на: комментарий от bonta

Да вполне

Ну да, в третьяковку быдло ходит, настоящее искусство лежит в районных говнопабликах, которые уничтожают нейросети. Всё логично.

Если они видят что человек не грамотный - для них он автоматически глупый

А он что, автоматически умный?

Clayman ★★
()
Ответ на: комментарий от Clayman

тестировщиков, кассиров или другую легко формализуемую профессию

тестировщиков

легко формализуемую профессию

Ну-ну.

Вообще, “AI” это чистой воды маркетинг, ничего реально ИИшного оно не умеет, и даже идеальный сет данных для тренировки и близко не гарантирует что оно не обосрётся. Причём обосрётся оно в самом неожиданном месте, потому что данные формирует человек, а человеческий фактор никто не отменял.

Вы, !@#$, айтишники, или насрано? Почему вы верите в ту чушь, которую несёт желтуха?! Технически ИИ даже не в зародышевом состоянии! Кампухтерам тоже обещали занять вместо реальных людей, алё! И это было уже больше полувека назад! ИИ создаст новые рабочие места, а не отнимет существующие. Уже создаёт.

mord0d ★★★★★
()
Ответ на: комментарий от bonta

Ну вот на месте художников, которые за деньги рисовали картины под заказ я бы уже напрягся.

А материал, на котором оно обучается, из libastral брать? Никуда художники не денутся. Просто будут не рисовать с нуля, а исправлять за ИИ. Волокиты не меньше, поверь.

Ну и вообще, я, как тыкающий Stable Diffusion, возражу:

  • Лишние/недостающие/отделённые/деформированные пальцы, ноги, руки и прочие конечности;
  • Кривые (очень кривые!) лица;
  • "Рваные" прямые линии (если горизонт разрывает силуэт, то горизонт не будет на одной прямой линии, а может даже не будет параллелен сам себе, лол);
  • Полный обосрамс в конкретных мелких деталях (я задолбаюсь перечислять в каких).

И это только малая часть проблем. Из пяти "поколений" более-менее жизнеспособны только два.

они, очевидно используют бесплатные рисовалки

Платные не сильно лучше. Явные проблемы оно просто хитро скрывает, а менее заметные старается сделать ещё менее заметными. DALL·E с Midjourney не идеальны, просто авторы грамотно скрывают их недостатки (ну и постепенно пытаются их исправить, но это справедливо и для открытого Stable Diffusion с бесплатными моделями), а так как ты не можешь посмотреть исходники, то и знать, какие именно проблемы оно имеет, не можешь.

они, очевидно используют бесплатные рисовалки

Скорее они не особо стараются отобрать более-менее пригодный контент, а постят первое что получилось, при этом не особо заморачиваются с запросом/негативом, оттуда и качество.

mord0d ★★★★★
()
Ответ на: комментарий от mord0d

Ну-ну.

Ну таперы наверное тоже ухмылялись, когда им говорили про фильмы со звуком.

Вообще, “AI” это чистой воды маркетинг

Расскажи это людям, которые в своей работе используют нейросети.

ничего реально ИИшного оно не умеет

А реальные роботы - это не искусственные люди как у Чапека. Кошмар, вокруг маркетинг. Слова меняют свои значения, представляешь?

Технически ИИ даже не в зародышевом состоянии!

А самолёт не сам летает. Проклятые маркетологи. Напиши петицию по переименованию в человеколёт.

Кампухтерам тоже обещали занять вместо реальных людей

Ну кассиров уже много где нет. Работников конвейера. Сборщиков на фабриках. Это плохо?

Clayman ★★
()
Ответ на: комментарий от yoghurt

В одном проекте напрямую, в другом через провайдер. Не знаю, чем обусловлен такой выбор. По историческим причинам, видимо.

ymn ★★★★★
()
Для того чтобы оставить комментарий войдите или зарегистрируйтесь.