LINUX.ORG.RU

Запуск ИИ без видеокарт

 ,


2

1

На странице
https://www.altlinux.org/AI

описывается как запустить ollama
(как запустить вторую я не понял из описания)

Вопрос:
а сколько и каких им надо ресурсов?
Какая модель самая маленькая, сколько надо остальным?

Кто пробовал - поделитесь, пожалуйста, личным опытом,
если вы, конечно, не фанат крутого железа.


Ответ на: комментарий от gffff

То есть таки не работает «на любом железе»

Еще раз, работает. Это во первых.

Во вторых, если для тебя так сложно общение, ты не понимаешь концепции контекста разговора или пытаешься придираться к словам, то прочитай мой пост еще внимательнее. Я писал что модели работают шустро, и акцент здесь на слове шустро в контексте треда запуска ллм на компьютераз без видео карты.

В третьих, если ты уж совсем не понял, то модель это не движок, джижок это llama.cpp или ollama, они собираются для современных процессоров с современными инструкциями, поэтому на твоем железе из музея готовый бинарь из инета может не заработать. И его надо компилировать из исходников. Впрочем, сомневаюсь, что на этих процах даже современный линукс запустится со свежим ядром.

На практике движок можно написать даже на minecraft, работать будет с соответсвующей скоростью, но все же работать

masa ★★★
()

ollama run lakomoor/vikhr-llama-3.2-1b-instruct:1b

779 mb

Гарри Поттер - это знаменитый серий книг в жанре детской фантастики. Каждая книга является частью большого сюжета, который развивается по мере чтения всех из них.

1. **Книгиserie «Серия Гарри Поттера»**: Начинается с книги «Гарри Поттер и Велосипед на лодке», которая представляет собой начало истории о молодом ученице, который входит в мир магических учителей.

2. **Периоды жизни Гарри**: После того как Гарри получает знак от егоteacher, Доннелла Пинкерс, он начинает жить в стране, где каждый человек имеет свою уникальную фамилию и имя. Это время для него - время для изучения магии.

3. **Взаимодействие Гарри с другими персонажами**: В каждой книге Garage Potter встречает новых друзей и врагов, таких как Рон Брэдшотт, Магма Филлипс, Лавлус Пинкерс и другие.

4. **События серии**: С течением времени Гарри сталкивается с множеством опасностей, включая врага - Владимога Гонзалес-Ранчисо, который стремится вернуть магию на мир.

5. **Ключевые моменты и сюжетные повороты**: Каждый год Гарри сталкивается с новыми угрозами и вызовами, которые требуют его умения и решимости. Важными моментами являются встречи с Доктором Золота и Бобом Сумер.

6. **Завершение серии**: К концу всех книгserie Гарри Поттер оказался на грани разрушения мира, что привело к его последнему столкновению с Владимогой Гонзалес-Ранчисо.

7. **Последние книги и их значение**: Последняя книга «Гарри Поттер и Конец вселенной» представляет собой конечный шаг Гарри в борьбе против магии, что приводит к его последнему столкновению с Владимогой Гонзалес-Ранчисо.

Этот серий книги был написан Джоном Роулингом и представлен на английском языке. Каждая книга в сериале является частью большого сюжета, который развивается по мере чтения всех из них.

.

удачи в освоении

alt-tab-let ★★★
()
Ответ на: комментарий от alt-tab-let

Город Владивосток находится на юго-восточном побережье России и является крупнейшим городом Кавказа. Он расположен в регионе, известном как «Кавказский бег» или «Берлинская стрела», что означает, что он находится прямо за Берлинской стенью на юге.

люблю её

alt-tab-let ★★★
()
Ответ на: комментарий от masa

Работает - это когда скачал - установить - далее - далее - запустить А не когда надо пердолиться

gffff
()
Для того чтобы оставить комментарий войдите или зарегистрируйтесь.