LINUX.ORG.RU

Посоветуйте ai chat bot

 , ,


1

2

Кто какими ai chat-bot сайтами пользуется?
Те что видел - с задержкой появления каждой буквы в ответе. Это для идиотов?

Хорошо бы если б оно помимо помощи в кодинге умело бы генерировать картинки и реалистичные видео.
В идеале безплатный.

Интересует не какя-то модель, а конечая реализация в виде какого-то конкретного сайта.

Перемещено CrX из science

Перемещено hobbit из talks

★★★★★

Последнее исправление: teod0r (всего исправлений: 1)

юзаю российские и китайские. другие не работают. китайские лучше. наши это алиса аи, гигачат. китайские это квен и дипсик.

для программирования ищу достойный доступный вариант. qwen-coder теперь только через браузер.

jura12 ★★★
()

Кто какими ai chat-bot сайтами пользуется?

купи колонку Аливы и спроси ее какими ИИ она пользуется). потом спроси какие есть в мире, и какие доступны бесплатно.

jura12 ★★★
()
Ответ на: комментарий от einhander

Qwencode никуда не делся, к нему можно прикрутить хоть локальную, хоть облачную модель.

да вот через openrouter заработал. попробую локальную подключить.

jura12 ★★★
()
Ответ на: комментарий от windows10

Он ещё не заразился, пока только планирует. Ещё не поздно предотвратить. Можешь ему подписку на какой-нить порносайт подарить, тогда он передумает этот бред делать.

firkax ★★★★★
()
Ответ на: комментарий от firkax

Он ещё не заразился, пока только планирует. Ещё не поздно предотвратить. Можешь ему подписку на какой-нить порносайт подарить, тогда он передумает этот бред делать.

Думаешь у него нет аккаунта в ВК? :)

windows10 ★★★★★
()
Ответ на: комментарий от windows10

Он писал что есть, но там видимо неудобно - слишком много разного, сложно вытащить из потока нужное. Нужна именно таргетированная подписка где будет отсортировано по его интересам.

firkax ★★★★★
()
Ответ на: комментарий от firkax

Парсер на перле и регулярке пусть пишет, чо не мужик что ли?

Обленились соевики совсем.

windows10 ★★★★★
()
Ответ на: комментарий от Overlabor5491

Вообще не спрашивает меня последний год гугл. А раньше чуть не каждый поиск

One ★★★★★
()
Ответ на: комментарий от CrX

меньше, чем полсекунды задержки (отставания от последнего сгенерированного токена), а экономия при этом десятки секунд.

/0

teod0r ★★★★★
() автор топика
Ответ на: комментарий от teod0r

Ну поищи на форуме , возможно js через тот noscript расширение браузера сможет убрать

pinachet ★★★★★
()

так и не нашёл ничего нормального. почти во всех анимация по буквам для идиотов. либо войдите через огуголь. либо платные, но ты же не знаешь, будет ли там анимация по буквам для идиотов.

teod0r ★★★★★
() автор топика
Ответ на: комментарий от anonymous

я не мы. я себя не считаю. зачем считать. я умный, я один здесь.

teod0r ★★★★★
() автор топика
Ответ на: удаленный комментарий

а если локально разворачивать такого ИИ бота, который может отвечать на технически сложные вопросы и генерировать реалистичные видео, какие ресурсы нужны? сотни гигов хранилища, сотни гогов памяти и очень мощный проц?

teod0r ★★★★★
() автор топика

Хорошо бы если б оно помимо помощи в кодинге умело бы генерировать картинки и реалистичные видео.

Я бы эти вещи разделил вообще. За помощью в кодинге можно обратиться к тому же DeepSeek (я недавно экспериментировал, в целом понравилось).

По генерации картинок и видео – тут надо «выбрать два из трёх». Если «конечая реализация в виде какого-то конкретного сайта», то оно будет либо сильно платным (и как правило, с оплатой из России у таких сайтов сильный геморрой), либо любезный тебе NSFW-контент будет жёстко фильтроваться. Так-то картинки много кто умеет генерировать, я развлекался с Кандинским от Сберовского Гигачата, некоторые сюжеты забавно получались. Если же «локально разворачивать такого ИИ бота» на своих средствах – сейчас принято советовать Stable Diffusion + AnimateDiff. Руководства по установке и настройке легко гуглятся. Сам не занимался таким, но кто тыкал, те говорят, там нужна хорошая видеокарта с CUDA и оперативки побольше.

P.S. «Бесплатный» пишется через «с». «Без» перед глухими согласными пишут либо неграмотные люди, либо псевдорелигиозные пропагандоны, эксплуатирующие чужое невежество (тот «бѣсъ», на которого они пытаются намекать, в дореволюционной орфографии писался через ять с ером и к приставке «бес» никакого отношения не имеет). Не надо уподобляться таким людям.

hobbit ★★★★★
()
Последнее исправление: hobbit (всего исправлений: 1)
Ответ на: комментарий от teod0r

Хранилище не особо нужно, потому что вся модель будет сидеть в памяти.

Основное бутылочное горлышко для локального запуска нейронок - это вовсе не проц (любого современного многоядерного хватит), а большой объём быстрой оперативки. Можешь сам посчитать. Возьми число параметров и умножь на число байтов под параметр (например FP16 - 2 байта), это как правило прямо в названии модели есть. Получишь размер модели. Плюс заложи дополнительный объём под контекст. Это сколько оперативки тебе понадобится.

Потом возьми пропускную способность оперативки и раздели на размер модели. Получишь теоретически максимальное число токенов в секунду, которое ты сможешь получить с данной моделью на данной системе.

Для локального запуска более-менее мощных моделей нужна либо мощная видеокарта (жифорс 5090 с 32 гигами сейчас стоит сотни тысяч, емнип), либо современный макбук в хорошей конфигурации (у них тоже очень быстрая оперативка).

Чтобы проверить, подойдёт ли тебе данная нейронка, можешь попробовать подключиться к онлайн-провайдеру вроде openrouter.ai. В России кстати тоже есть варианты с оплатой в рублях. Небольшие модели стоят дёшево, так что много денег ты на это не потратишь. Зато чётко поймёшь, нужно оно тебе или нет.

Lrrr ★★★★★
()
Последнее исправление: Lrrr (всего исправлений: 1)
Ответ на: комментарий от hobbit

qwen-code https://github.com/QwenLM/qwen-code был бесплатным. вход с гугл или гитхаб аккаунта. потом удалили руководителя этого направления в Алибаба и сделали вход через платные аккаунты.
поэтому я написал что возможно только в броузере бесплатно генерировать ПО. но появилась возможность подключать удаленные локальные скачанные модели. и мне удалось запустить в такой комбинации qwen-code - ollama - qwen3-coder . но работала она плохо. если раньше ИИ запускался несколько раз в случае неудачи и искал решение. теперь после первой неудачи сейчас он останавливается и ждет указаний. в чем дело мне не удалось выяснить. купить аккаунт на qwen studio не получилось хоть и пытался и нуждался.
все быстро развивается посже буду пробовать еще.

jura12 ★★★
()

В телеграме бесплатно работает джемини, и некоторые другие, какие получается найти нахаляву в боте https://t.me/kun4sun_bot

На сайтах лучшие по количеству халявы - https://gemini.google.com (https://aistudio.google.com) и https://copilot.microsoft.com/ Все они умеют рисовать, а джемини еще и редактировать и музыку писать, и файлы создавать (документы мс ворд, пдф итп).

Для джемини может понадобится дополнительное средство обхода блокировок, warp туннель например, но оно того стоит.

https://chatgpt.com/ - тут очень маленькие бесплатные лимиты но зато можно нарисовать или отредактировать несколько картинок в день очень высокого качества.

Китайцев много, в рф особенно популярен дипсик, хз почему. Некоторые из них умеют рисовать, но качество у всех такое себе, на большого любителя.

И есть еще алиса с гигачадом, они похуже чем даже китайцы, но под пиво потянет, без проблем помогут пропатчить кде под фрибсд.

theurs ★★
()
Последнее исправление: theurs (всего исправлений: 1)

Ну QWEN например, реализаций в интернетах масса, в том числе и бесплатных

Aurora
()
Ответ на: комментарий от theurs

как в тг залогиниться и сидеть без смрадфона? десктоп клиенты даже через локальный прокси не работают, крутится безконечно кружочек, не коннектится. через web-сайт не приходят СМС к кодом подтверждения для регистрации.

teod0r ★★★★★
() автор топика
Ответ на: комментарий от teod0r

Есть много способов на любой вкус. Локальный прокси это tg ws proxy?
Самый простой способ это пробраться на канал https://t.me/mtp4tg и набрать там себе проксей побольше. Это работает в десктопном клиенте и на телефонах.

theurs ★★
()
Последнее исправление: theurs (всего исправлений: 1)

Те что видел - с задержкой появления каждой буквы в ответе. Это для идиотов?

Это потому что нейросети медленные даже на мощных облачных видюхах и это реальная скорость выдачи текста (либо ты будешь пялиться на «генерация ответа» десятки секунд, либо постепенная выдача по мере генерации). Если хочешь быстро, то Mistral, но, как ты можешь догадаться, скорость идёт в ущерб качеству ответов.

Хорошо бы если б оно помимо помощи в кодинге умело бы генерировать картинки и реалистичные видео.

ChatGPT умеет генерировать картинки на Free плане.

KivApple ★★★★★
()
Ответ на: комментарий от teod0r

Такие вещи генерируют с помощью платного ПО или локальных моделей на топовых видюхах.

KivApple ★★★★★
()
Ответ на: комментарий от teod0r

Есть модели, которые выдают ответ очень быстро (например, Mistral), но они ощутимо тупее моделей, которые выдают ответ долго (разумеется, если мы рассматриваем свежие модели). Если бот выдаёт ответ быстро, значит разработчик просто выбрал в качестве бекэнда ИИ модель потупее.

KivApple ★★★★★
()
Ответ на: комментарий от teod0r

Ну попробуй читать по мере появления ответа - будет быстрее. Если другие могут читать по мере появления ответа, а ты не можешь, то, очевидно, тупее тут не те кто могут.

KivApple ★★★★★
()
Ответ на: комментарий от KivApple

Читать по мере поступления работает только с очень медленными моделями. Если скорость больше чем у черепахи то постоянно куда то убегает скачет и глючит. У всех примерно одинаково неудобно сделано.

theurs ★★
()
Ответ на: комментарий от LightDiver

Там скорее всего не слоги, а просто все последовательности латинских букв длинной от 1 до 4, например. Или не все, а только топ N самых популярных последовательностей построенный на миллионах текстов.

KivApple ★★★★★
()
Ответ на: комментарий от KivApple

Сделай user style, который отключает анимации. Они же CSS.

не знаю как.

teod0r ★★★★★
() автор топика
Ответ на: комментарий от KivApple

Это потому что нейросети медленные даже на мощных облачных видюхах и это реальная скорость выдачи текста

не верю.

teod0r ★★★★★
() автор топика
Ответ на: комментарий от teod0r

неправда. видел ботов без задержки перед буквами.

Я тоже. Эти боты называются «кремлеботы». Они из до-ИИ-шной эпохи, они ищут по ключевым словам и публикуют заранее заготовленные ответы.

Wapieth ★☆
()
  • Markdown
Пустая строка (два раза Enter) начинает новый абзац. Знак '>' в начале абзаца выделяет абзац курсивом цитирования.
Внимание: прочитайте описание разметки Markdown.
Используйте Ctrl-Enter для размещения комментария