Блеск и нищета AI на примере LM Studio.

Скинь скриншот окна настроек в чат с ИИ и там же копипасту спеки своего компьютера и попроси подсказать оптимальные настройки :-)

Ну а вообще чтобы ИИ тебе что-то настроил, его ещё надо запустить. А не на всём железе не со всеми настройками оно пойдёт.

Когда оно будет настраивать само себя, ты уже будешь не нужен. Будут только сапоги самоходы

Ну а вообще чтобы ИИ тебе что-то настроил, его ещё надо запустить. А не на всём железе не со всеми настройками оно пойдёт.

Google Gemini как-то справляется. Идёт практически на любом тапке.

Gemini работает в облаке Google (и ей вообще никакие настройки не нужны, кроме API ключа и, в редких случаях, адрес прокси, если у тебя какое-то необычное подключение к Сети), а LM Studio запускает модели локально

Gemini работает в облаке Google (и ей вообще никакие настройки не нужны, кроме API ключа и, в редких случаях, адрес прокси, если у тебя какое-то необычное подключение к Сети), а LM Studio запускает модели локально

Ничто не мешает ей завести своё облако со своей AI-шечкой. Mozilla и Tecno (и многие другие) прекрасно с этой задачей справляются.

И да, LM Studio запускает модели откуда укажешь, из сети тоже умеет.

Ты просто пользуешься по старинке. Сейчас уже не кнопка «сделать хорошо», а промт «сделай хорошо».

или так, да.

Ты просто пользуешься по старинке. Сейчас уже не кнопка «сделать хорошо», а промт «сделай хорошо».

Уже давно просто статичная подпись «Сделано хорошо»

Большая часть этих настроек субъективна, может тебе надо запустить 20 моделей на одном компьютере, а может тебе достаточно одной и ты готов ждать сутки её ответа. Может ты собираешься задавать модели одиночные вопросы, а может ты будешь пытаться делать на её основе агента.

Большая часть этих настроек субъективна, может тебе надо запустить 20 моделей на одном компьютере, а может тебе достаточно одной и ты готов ждать сутки её ответа

А спросить юзера, что он хочет - у LM Studio язык отвалится?

Ну как она спросит если ты ещё ни одной модели не загрузил ☺️

Для совсем ленивых сделали jan и прочую лабуду, сейчас этих ИИ проектов наговновайбкоженых вагон и маленькая тележка, выбирай не хочу.

А так задача которую ты описываешь нетривиальна, нужна модель с tool calling, с поиском в интернете скорее всего, кто-то должен выдать ей нужные апихи и инструкции и надеяться что модель не достаточно слабая чтоб она не обосралась со всей это информацией. На говножелезе может и не взлететь такая задача.

Ну как она спросит если ты ещё ни одной модели не загрузил

из облака же и спросит.

А так задача которую ты описываешь нетривиальна, нужна модель с tool calling, с поиском в интернете скорее всего, кто-то должен выдать ей нужные апихи

разработчики LM Studio, не?

и надеяться что модель не достаточно слабая чтоб она не обосралась со всей это информацией.

Тут, да.

На говножелезе может и не взлететь такая задача.

Пусть в облаке исполняется.

из облака же и спросит.

Пусть в облаке исполняется.

За чей счёт банкет? :) Понтовая модель + веб-поиск может запросто на такую задачу сожрать несколько баксов. А вообще lm-studio про локальную работу, мало кому кто пользуется ей интересно заводить ещё несколько аккаунтов и что-то проплачивать только потому им лень подвигать слайдер влево-вправо самостоятельно.

За чей счёт банкет? :) Понтовая модель + веб-поиск может запросто на такую задачу сожрать несколько баксов.

А за чей счёт банкет мозиллы? А ведь у них халявная ИИ-шечка в облаке. Даже в России работает.

А вообще lm-studio про локальную работу, мало кому кто пользуется ей интересно заводить ещё несколько аккаунтов

дык, заведутся, руки не отсохнут

и что-то проплачивать

хватает и бесплатных облачных ИИ-шечек

А за чей счёт банкет мозиллы? А ведь у них халявная ИИ-шечка в облаке.

Вангую или за счёт донатов на разработку фуррифокса, или в обмен на данные из твоего браузера. Бесплатного ничего не бывает, а языковые модели так вообще очень дорогая штука.

На 1.5 нормальных моделях у которых есть бесплатный доступ обычно стоит рейт лимит который агентам не даст работать.

Вангую или за счёт донатов на разработку фуррифокса, или в обмен на данные из твоего браузера.

LM Studio тоже может личные данные тайком собирать. Все так делают. Как раз хватит на ИИ-шечку в облачке. Она ж узкоспециализированная будет, не общего пользования.