Умпутун

Чуть даже не слушал. Слушай, интересно, посмотрю. Просто правильный уровень абстракции. Меня вот что поразило. Я-то иду подходом противоположным к Cloud Code. У Cloud Code подход интересный. Мы как-то обсуждали, что достаточно дать агенту совсем мало тулзов, и он, ну, лишь бы они были дженерик. И с этими дженерик тулзами, там, с грепами, с райтами, с ридами, что там у него, пять было, по-моему, тулзов в начале, он чудеса может делать.

Мне все это, естественно, не подходит, поскольку как я ему дам right? Все, что я могу дать в случае вот в этом бизнес-кейсе, который у меня, он должен иметь такие же права, как обычный WebUI. То есть если пользователь в WebUI авторизирован, те же действия, что WebUI может делать JavaScript, и вот эта штука может делать.

То бишь мои все скиллы жутко специализированы. У меня строго противоположный подход. Скилл, который взять кейс по ID, скилл, который взять кейс по фильтру и так далее. И он здорово работает с большим количеством скиллов тоже. То есть с этими скиллами он такие штуки воротит, что прямо ух. Прямо смотришь на него. Хотя поначалу было похоже на Шарикова. Вот я ему когда дал там два скилла,

Он вообще ничего не соображал. Все, что мог, только данные взять. Он сразу начал своим дефолтным промптом системным. Там, кстати, системный промпт, Леха, можно задать. Начал делать вот эти выводы, как у Шарикова было, мировой глупости и мировой наглости. Ну, что-то в эту сторону. Сразу начал лепить. Да, это похоже на такое-то нарушение. Какое нарушение? Что ты несешь? Ты три цифры видишь.

Пришлось отучивать. Ну, вообще круто, круто. Боба, а догадайся, как я сделал со своим парамедальным мозгом, как я сделал, чтобы оно умело артефакты строить?

Ну как я это угадаю? Это же у тебя параноидальный мозг, не у меня. Ну вот какой бы... Я про это долго думал. Вот как это правильно сделать? То есть у меня есть заказчики, которые надо отчеты создавать. Например, Excel-отчет из данных, которые личные для заказчика. Ни в коем случае один Excel-отчет от одного заказчика не должен попасть другому заказчику, даже если он из этой компании. То бишь они должны быть строго изолированы. Ну, насколько строго, насколько можно.

Я это сделал при помощи поднятия одноразового докер-контейнера, в котором только питон с этими тулзами, которые ему нужны для построения отчетов, и динамического мэппинга директория, который по session id создается.

То бишь, вы понимаете, да, в чем цимес? Ага. Ни один питон, который бежит, даже если питон там с цепи сорвется, меня вот это волновало, питон с цепи сорвется, ну, тут Клод напишет, не Клод, а у меня Сонет, основная модель, Сонет напишет, что-то такое, что не туда пойдет. А некуда идти, некуда идти. Все, что замаучено, это вот только твоя сессия. Только в своей сессии сможешь загадить.

Так что любопытно. Любопытно получается. Любопытненько. Для меня это какой-то новый такой... Я про это много говорю, потому что для меня это какой-то глоток свежего воздуха по сравнению со всей бельбердой, что я обычно пишу. Вот это мне сильно понравилось. Писать своего агента под свою бизнес-логику прям очень любопытное и порой неожиданное занятие.

Вообще несложно. Я за неделю написал для 12 анализов 4 дополнительных модулей. И он умеет разговаривать уже с тобой. Я к нему клиента даже сейлаевского написал, чтобы самому пользоваться этим делом. Пока Гуи, чувак, не дописал свою часть. Мой сейлаевский клиент получился лучше, чем и его Гуевы.

Слушай, я смотрю сейчас на эту конверсию API, я реально не понимаю, что он делает. Он типа просто клиент к их моделям или что? Это не клиент. Это SDK. Это SDK. Так. Этот SDK тебе дает сущность, типа спроси вопрос, получи ответ. Ну, простой как бы враппер вокруг бедрока. Это одно. Но главное, что он тебе дает еще две вещи.

Он дает тебе из коробки подход к агентскому циклу. Он сам умеет агентский цикл сделать. Начало терна, конец терна, следующий терн. То есть программировать агента тебе в нем не надо.

Он тебе дает... А что ты не возьмешь любую агентский SDK и возьми, и там тебе тоже не надо будет? Вот уже есть агентский SDK, который уже готовый. Подожди, а это SDK, он который типа, условно, питоновский SDK? Потому что я смотрю только API, вот я у них вижу. Он SDK питоновский, гошный и джавовский, на все случаи жизни SDK.

Ну, а мне только с бедрок-моделями надо работать. А, я понял. То есть ты в бедроке живешь, да, с этими Nokia, и тогда да. Ну, я не могу сказать заказчику, что я пойду в OpenAI, ваши данные, и надейтесь на то, что они... Нет, я понимаю. В том смысле, что это агентский SDK для бедрока, в общем-то, конкретно. Он не бедрок, а ему задаешь практически endpoint, который, по сути, OpenAI-совместимый endpoint. Я не пробовал ему просто OpenAI дать туда endpoint.

Ну, не знаю. Я в процессе дискуссии с роботами обнаружил, что такая штука бывает. И оказалось, да. Оказалось, бывает. А гард-релесы, как у них круто сделаны. Но это не на уровне SDK, это на уровне бедрока самого сделано. Ты можешь ему всякие запретные вещи прописать прямо на уровне...

на сервер-сайте, на их стороне. Если вдруг ты хочешь сказать, вот тебе Монго и вот тебе пароль к ней, не говори. Такой файл для AI.

Ничего так. Ничего так все это вместе работает. Он и стриминг умеет делать, он и input-output умеет делать. Нет, вот guardrails у них прям хорошо сделаны. А, эта штука еще SSE из коробки тебе дает. То есть оно сервер-сайд-ивенты прям помогает тебе сделать, чтобы самому не возюкаться этим. Тебе же стримить надо все время.

У них вообще толком найти документацию, поэтому невозможно. Они все тебя посылают именно на API, которые конверс API. А вот именно SDK, его даже найти-то сложно. Я бы не нашел без железного друга, я уверен. Я даже когда на страничку его нашел, почитать, что она умеет делать, я не понял вообще, куда коней запрягать. Там с документацией прям полный швах.

Так я и сейчас не привязан. То есть из бедрока мне уходить некуда по-любому. А этот меня сразу зацепил тем, что прям все, что мне надо есть. Вот регистры у них из коробки есть. Как прописывать тулзы у них из коробки есть. Как инжектить на лету, как это называется, ну типа как скиллсы, только не скиллсы. То есть знания связанные с тем или иным промпотом у них из коробки есть. Как анлот делать этого знания я пока не научился.

У них даже есть трекинг твоих размер окна, и вот это все они тоже тебе дают. Ты все это тоже можешь знать от них. Ты самого читать не надо. Хороший такой, правильного уровня SDK. Мне понравился. Он делает именно то, что мне надо, и ничего больше. Скинь ссылку, мне даже интересно. Я смотрю, потому что все, что я нахожу, это скорее просто какие-то обертки над их API-ами.