Бобук
👤 PersonAppearances Over Time
Podcast Appearances
Давай-давай, отсыпай шансов. Возвращаемся обратно. Кроме того, что Зак красавчик, что там еще было?
Давай-давай, отсыпай шансов. Возвращаемся обратно. Кроме того, что Зак красавчик, что там еще было?
Не-не, ну это просто большой шаг вперед по двум причинам. Во-первых, не смотрите на то, что она называется просто 3.2, а перед этим, казалось бы, было 3.1. Там прирост в качестве прямо существенный. При этом, да, это мультимодальная модель, опенсорсных мультимодальных моделей очень немного. в принципе. А еще, что на самом деле... Хрен с мультимодельностью, это все ерунда.
Не-не, ну это просто большой шаг вперед по двум причинам. Во-первых, не смотрите на то, что она называется просто 3.2, а перед этим, казалось бы, было 3.1. Там прирост в качестве прямо существенный. При этом, да, это мультимодальная модель, опенсорсных мультимодальных моделей очень немного. в принципе. А еще, что на самом деле... Хрен с мультимодельностью, это все ерунда.
На самом деле, они очень интересно выложили... Сейчас сформулирую. Они выложили новые модели, и среди них есть прямо супермаленькие. У них есть вообще там типа трехбиллионная модель, которая... Есть биллионная и трехбиллионная. И они наудив... Трехмиллиардная, прошу прощения. И они, на удивление, неплохие. Но, в смысле, они вот свои задачи решают с сумасшедшей скоростью.
На самом деле, они очень интересно выложили... Сейчас сформулирую. Они выложили новые модели, и среди них есть прямо супермаленькие. У них есть вообще там типа трехбиллионная модель, которая... Есть биллионная и трехбиллионная. И они наудив... Трехмиллиардная, прошу прощения. И они, на удивление, неплохие. Но, в смысле, они вот свои задачи решают с сумасшедшей скоростью.
Ну, потому что это маленькая модель, которая легко влазит в память и легко процессится. И при этом, ну, типа, задачи какие-то простого уровня, они прям, ну, просто работают.
Ну, потому что это маленькая модель, которая легко влазит в память и легко процессится. И при этом, ну, типа, задачи какие-то простого уровня, они прям, ну, просто работают.
Да, ну, там, видишь, это не обязательно. Смотри, ты просто думаешь, что их очень легко запускать на армии, они там отдельно про это говорили, что, типа, очень легко запускается на нынешних армах и все такое. Ну, это да, это отдельно. На самом деле это ерунда. На самом деле использование такой одномиллиардной модели... Оно супер дешевое, и ты можешь это и на сервере делать.
Да, ну, там, видишь, это не обязательно. Смотри, ты просто думаешь, что их очень легко запускать на армии, они там отдельно про это говорили, что, типа, очень легко запускается на нынешних армах и все такое. Ну, это да, это отдельно. На самом деле это ерунда. На самом деле использование такой одномиллиардной модели... Оно супер дешевое, и ты можешь это и на сервере делать.
У тебя появляются теперь новые задачи, которые ты можешь супер дешево на своих железках решать с приемлемой производительностью. Это просто радикальное удешевление использования нейронок.
У тебя появляются теперь новые задачи, которые ты можешь супер дешево на своих железках решать с приемлемой производительностью. Это просто радикальное удешевление использования нейронок.
я к тому что типа у тебя количество токенов в секунду и так в минуту зависимости от того как ты считаешь просто ну типа просто сумасшедшие при том что для многих случаев этой этой от миллиардной задачи ладно хорошо 3 миллиардной задачи просто будет хватать за глаза До этого подобные попытки были с Fi3 у Microsoft, например, в смысле с аналогичными по качеству моделями.
я к тому что типа у тебя количество токенов в секунду и так в минуту зависимости от того как ты считаешь просто ну типа просто сумасшедшие при том что для многих случаев этой этой от миллиардной задачи ладно хорошо 3 миллиардной задачи просто будет хватать за глаза До этого подобные попытки были с Fi3 у Microsoft, например, в смысле с аналогичными по качеству моделями.
Но Lama 3.2 прямо сильно лучше. Если вы увлекаетесь тем, что пробуете постоянно новые модели, как это делаю я, попробуйте, пожалуйста, прям вот чистую 3.2 возьмите и попробуйте. Удивительное ощущение.
Но Lama 3.2 прямо сильно лучше. Если вы увлекаетесь тем, что пробуете постоянно новые модели, как это делаю я, попробуйте, пожалуйста, прям вот чистую 3.2 возьмите и попробуйте. Удивительное ощущение.
А ты пробовал голосовой интерфейс-то в нынешнем чате GPT?
А ты пробовал голосовой интерфейс-то в нынешнем чате GPT?