История изменений
Исправление foror, (текущая версия) :
Вы вообще хоть немножко потребности и возможности HPC представляете?
Боюсь мы говорим о разных вещах. Я говорю о том, чтобы мне запустить инференс LLAMA локально на 407b нужно закупить gpu-ек на 20 000 USD. И это одна из простейших нейронок. Я не говорю о том, сколько нужно закупить железа, чтобы обучить нейронку. Но сейчас разрабатыавют asic-и и со временем придёт массовость в эту область. И вы первым побежите запрещать нейронки на экзаменах студентам, потому что они внезапно начнут отвечать на все ваши каверзные вопросы. Просто за счёт накопления опыта и повторяемости вопросов. Ваши (и не только) же студены будет накапливать для этих нейронок опыт и вопросы с ответами.
Исходная версия foror, :
Вы вообще хоть немножко потребности и возможности HPC представляете?
Боюсь мы говорим о разных вещах. Я говорю о том, чтобы мне запустить инференс LLAMA локально на 407b нужно закупить gpu-ек на 20 000 USD. И это одна из простейших нейронок. Я не говорю о том, сколько нужно закупить железа, чтобы обучить нейронку. Но сейчас разрабатыавют asic-и и со временем придёт массовость в эту область. И вы первым побежите запрещать нейронки на экзаменах студентам, потому что они внезапно начнут отвечать на все ваши каверзные вопросы. Просто за счёт накопления опыта и повторяемости вопросов.