RUBICON: Как сжечь мосты в покере, построить ИИ-сервис и шагнуть к AG

А на счет спу серверов, а разве кто-то сегодня для ии на спу инфиренс хотя-бы проводит? Мне кажется, что сервер теперь по дефолту оснащается гпу!) Если речь про ии

ии разный бывает. Подключил по апи open ai и фронт повесил на дешевый сервак - вот тебе и сервис ии.

а ты где бекэнд держать хочешь, на своем локальном компе?)

Доброе утро!. Да я вот только закончил своего бота. Сейчас планировал сюда кое-какой пост выложить.Да, возможно, они так и делают, но а мне какая разница? Мне даже лучше. От OpenAI Виспера не могут использовать, ну, только тот, который им OpenAI предоставит. Ещё и платно. Короче, то шляпа, если по-человечески. А бэкэнд я держу, да, всё полностью на своём локальном компе.И на самом деле это вообще не так страшно, как кажется. Ну, я, наверное, просто еще не показывал свой комп. Но здесь с надежностью все более чем достойно.Но на будущее надо будет решить проблему с электропитанием. Ибо да, ну и железо, конечно, не бесконечные объемы обеспечит. Это понятно, с ростом пользователей надо будет увеличивать и мощности. Но на первых несколько тысяч человек вот этого за глаза.С питанием надо решить, а то сегодня, допустим, вот где-то в 12 ночи вырубили свет из-за урагана, к нам, видимо, с Ростова пришел. И часа 2 или 3 я не мог ничего делать. И если бы мой бот уже был в продакшене, то это была бы проблема.

Ну, короче, сейчас кое-что интересное покажу. Мне надо пройтись, прогуляться.

Короче, если кратко: мой бот, встречает пользователя минималистичным дизайном (всего 3 кнопки)

умеренно-пафосное (но не оторванное от реальности) описание. Сила в простоте: у конкурентов (которых я видел) тупо каша из кнопок, мой бот сам отчищает все на ходу (но все помнит)

1е RUBICON AI- это местный админ. Поясняет всем всю внутрянку, делает ПРИБЛИЗИТЕЛЬНЫЕ расчеты стоимости, но держит связь со мной (если персональное предложение или большие обьемы (их по другой цене и условиям обробатываем) пересылает мне контакты и чё хотят)

стиль умеренно-строгий, серьезный! Полный смысл его наличия скажу в конце.

2е кнопка транскрибация. 

по сути, окно, где ты выбираешь нужный тебе формат выходных документов и допы (основные в минимал стиле, но основная фитча в лич кабинете) Кидаешь прям в чат ссылку, голосовое (если надиктовать че переводить надо) аудио или видео (если у тебя свое), встроенным калькулятором (с моим прайсом) бот считает и ставит тебе прайс, оплатил и понеслась!

3е личка

здесь самый сок!

киллер-фитча: агент Рубик😊😊😊 - твой личный ассистент с топовой ллм от сбера (сбер тупенький, но ультра модель достаточна для ресерча доков (уровень квенов на 200b-300b параметров), НО, не попадает под закон фз 152 (улет данных на зарубеж сервера (отсылка к сообщению человека выше, чем плоха схема с опенаи), дешевая и вроде славится знанием русского (но на деле не заметил разницы с другими), в общем годится!), но фишка в другом, агент общается с другими агентами и примитивной векторной базой (пока хромадб поднял и эмбендер примитивный), другие ллм создают для него систему из системных промптов, которые пошагово, как спеки у курсор, ему подаются, на основе намерений пользователя! Пример: человек транскрибировал совещание и говорит ,,Рубик, расскажи че там было?". Рубику другие модели пишут промпты (паралельно 3я ллм извлекает сущности из дока и пишет в структурированный джейсон - ему подает, другая - пишет промт : аля ты бизнес-аналитик...... ну и остальную банальщину, иная модель роутит их всех, решая в какой последоват. все подавать в самую умную модель, а иная чистит транскрипты, либо переводит на Русский (все-же сбер) и тд, всего нейросетей учавствуют 7 (если учесть и не ллм модели (диаризация, транскрибац. и тд) думаю еще демикус для разделения вокал/инструментал добавить (без музыки вроде чище транскрипты)! И в итоге этот ии ассистент делает любую работу по работе с текстами: от составь поздравление на свадьбу из моей голосовухи до выдели ключевые проблемы из нашего бизнес - сходняка!

И, внутри этой системы есть своя экономика! Местная валюта: рубикоин. Я не хочу, чтоб в моих сервисах были подписки! Я считаю неправильно заставлять человека платить лишнее. У меня, робот накидывает к стоимости ТОЛЬКО то, что человеку нужно (если у тебя 5 минут в месяц обьемы, зачем тебе подписка на 300 минут (тем более на срок в месяц)? Закинь мне 100р я тебе кину сто этих рубиконов и они будут висеть у тебя до конца жизни! Оплатишь ими столько - сколько тебе реально надо, а если не надо, ты можешь отправить их другу (если он в системе)

И здесь вишенка на торте: это сейчас рубикон арк просто транскрибатор! Завтра по образу и подобию выйдет рубикон тревел какой нибудь, потом рубикон маркетплейс и тд и тп, у них тоже будет аналогичная политика и единая экосистема со своей экономикой, переводы мгновенны (быстрее сбера и иных), нет волокиты (вероятно я прийду к блокчейн системе) все честно, прозрачно и для людей (все сервисы)

Но у бота еще много чё допиливать (я думал сегодня с ним закончу хоть на базовом уровне, а нет) Сперва надо его базовый функционал допилить до идеала и продвинуть! Потом иные добавлять (функции и новых ботов) В итоге боты рубикон со своими внутренними ии агентами обьеденятся в сеть и будут друг друга продвигать, рассказывая сами о себе разным людям, но управляясь одним человеком)

Рубика забыл

он типа более дружелюбный как личность будет, эдакий персональный друг (у каждого свой)

Fedya777 @ 27.07.26 

НО, не попадает под закон фз 152 (улет данных на зарубеж сервера (отсылка к сообщению человека выше, чем плоха схема с опенаи)

а ничего что что твой бот через сервера телеги с твоей локалкой взаимодействует?

ничего что твой сервер вряд ли имеет какие-то сертификаты безопасности и потенциально может сливать данные куда угодно?

Fedya777 @ 24.07.26 

Я бы рад был бы с ними посотрудничать даже за меньшую цену. Я бы мог обрабатывать эти транскрипты за цену, скажем, в 50% от тех, что они берут, но под их брендом. На первое время, пока я не развился. Им было бы выгодно.

Чтобы это было им выгодно - у них себестоимость непосредственно транскрибации должна быть как минимум выше 50% от цены, которую платит потребитель, что выглядит маловероятным.

 bubipik, а где-то заявленно, что данные ВОБЩЕ не покидают локальный контур компании??????????? И, я ведь написал, данные не улетают ЗА РУБЕЖ! Что там в тихую может улетать от чего-то о чем я не знаю, так а ты уверен, что прямо сейчас, нашу переписку никуда не сливает никто??? В плане соответствия фз 152, эта схема явно круче, чем прикрученный апи от гпт и виспер от него-же!(имеется ввиду виспер на их серверах) Ну и компании, у которых сильно чувствительные данные, вероятно, попросят создать им такую систему внутри своего железа, а не гонять данные через сервисы и ботов! Этот бот это и бот для простых людей и бот- реклама моих услуг. Не этот бот мой продукт, сам по себе

 Дизель, Я пока не силен в понимании рынка, я этого пока не знаю) НО, сегодня не знаю, а завтра узнаю, в общем тема с ботом огонь! Делаю, а по ходу деля осваиваю механику рынка и все эти тонкости, сегодня допиливаю остаточные баги бота, и делаю рилс по всем канонам ,,рилсостроения", я плохие рилсы с ходу собрал, они не вирусятся!

Плюс, я ведь не обязательно только это умею делать. Я умею делать, в принципе, всё. Ну, как умею? С разной степенью успешности, ну, в принципе, да. Я думаю, так можно говорить, потому что я не знаю, что я не смогу собрать принципиально.Ну, вероятно, конечно, есть такие задачи. Есть задачи, которые я смогу собрать, но это будет такой примитивный вариант. Но кто сказал, что речь идет о сборке ежесекундно, здесь и сейчас, и с концами? Сегодня не могу, завтра уже могу, послезавтра могу прям на уровне. Я это все говорю к тому, что чисто статистически, если продолжать вот это все без остановки делать каждый день, без конца,
я бы не начал задротить в покер. Я же тоже не правил, не знал нихуя, я просто задротил без остановки. Ну да, топ игроком не стал, да и даже не закрепился там на НЛ-400, но все же относительно успешно. Я думаю, меня сгубило другое. Эта сфера, по ощущениям, мне подходит явно лучше. Так что продолжаю, делаю, все вы здесь будете видеть, весь ход, точнее весь путь.
Так другой робот, не другой, так третий, не третий, так девятый. Кому-то что-то понадобится, где-то кому-то что-то сделать. Ну и своего клиента я найду.Ну и потом, кто знает, чем эта схема обернется. Также мы не держим в голове то условие, что АДДА развивается каждый день и как быстро. Хотя, если честно, сейчас ее развитие я поставил на паузу. Ну потому что это все же экспериментальная история. Мне сейчас лучше сделать упор на что-то практически полезное. Адда это, скажем так, журавль в небе. Ну да, мне бы не стоило об этом говорить, но я и не могу об этом не сказать. Потому что это факт. Я понятия не имею, на что она будет способна завтра. Представьте ланграф боты, но только на ультрамаксималках.
Боты, которые умеют думать и имеют четкую мотивацию, имеют эмоции, и самое главное ЖЕЛАНИЕ добиваться целей. Кто знает, что будет завтра с АДДА и не применю ли я подобную технологию к этим ботам. Которые, допустим, еще будут оснащены инструментами наподобие OpenClav. Да, сам инструмент жидкий, но это хороший конструктор. Я его тестил.
Я не знаю, как это передать, эти мысли. Но это все похоже на снежный ком. Сейчас я делаю, слабо осознавая, что я делаю. Делаю, делаю, делаю. Оно все быстрее, все больше будет накатывать, все мощнее. Да, быть может структурированно писать я не умею. Хотя я сейчас ничего и не пишу. Но надеюсь, я свои мысли передал 
доходчиво)

Так что всё заебись будет, всё оно стрельнет)

 Fedya777, Ты сам написал что под закон не попадает. А я отметил дыры где по этому закону есть несоответствия у твоего бота. 
 

Fedya777 @ 27.07.26 

В плане соответствия фз 152, эта схема явно круче, чем прикрученный апи от гпт и виспер от него-же!

а это как понимать - нарушаю закон но не так сильно как мог бы?)))

Fedya777 @ 27.07.26  

Плюс, я ведь не обязательно только это умею делать. Я умею делать, в принципе, всё.

У меня есть две задачи.

1. По фото аверса и реверса значка (или монеты или несколько фото обложки книги) делать ему текстовое Описание: что изображено, форма, тип заколки… и куча других характеристик которые сможет увидеть

2. По таким же фото и полученным характеристикам уметь в базе находить дубли быстро. Допустим у меня в базе 30000 значков, я отправляю в модель новые Аверс и реверс - получаю характеристики и несколько вариантов предложений по дублям этого значка. А в идеале 99% единственный вариант если он в базе есть. Перебор всей базы не подойдет.

Сможешь запилить такое под Винду с видюхой +- как у тебя? Я бы купил,  если выгодно будет. Или сейчас open ai мне такое продает по 3 цента за итерацию. Можешь мне продавать за 50% от их цены))

 bubipik, Если честно, я перечитал несколько раз твоё сообщение и вообще не могу его осознать. Какой закон мы нарушаем? Может быть я плохо знаю фз-152, но в нашей системе данные на зарубежные сервера не уходят вообще. А фз-152 предполагает, насколько я понимаю, не запрет на передачу данных в принципе с какой бы то ни было системы,
а передачу данных российских компаний именно на ЗАРУБЕЖНЫЕ сервера!. В моём сервисе вся железная часть по транскрибации и диаризации делается на моём ПК, а вся часть по LLM-моделям на сервера Сбербанка. Всё крутится, я имею в виду бэкэнд всего проекта, на моём личном ПК. Где именно здесь идёт утечка на зарубежные?

 bubipik, Я могу этим заняться. Но сперва я доделаю вот этого бота. Доделаю рилс. И налажу себе определенную, скажем так, ТЗ-план по рекламе. Чтобы я уже мог просто тупо прокликивая его рекламировать. Ориентировочно это займет где-то ближайшие 3 дня. Просто мелких багов очень много. Я сегодня всю ночь и вот все утро допиливаю эти баги.
Походу я до вечера буду этим заниматься. Но надо это доделать и сделать реально крутой рилс. Чтобы он уже сам начал себя продвигать. Ну а потом еще добавить живых обзвонов. Короче, подготовить бота и подготовить кое-какие рекламные материалы. С которыми, с этим пакетом я уже могу обращаться к людям еще и напрямую. Как только я с этим закончу, я тебе напишу.

Слушай, важный вопрос. Первое, что именно у тебя за видеокарта? Ты говоришь плюс-минус, как у меня, но что ты имеешь в виду? У тебя AMD или Nvidia? Это важно, если ты хочешь софт, который будет у тебя локально крутиться. Какой там объем памяти? Потом, какая именно у тебя версия Windows?  Давай так, я позже тебе подготовлю, кое-какие команды для тебя. Ты, согласно этим командам, проведешь подробную диагностику своей системы.И при написании такого софта я буду использовать эту информацию.
 Но в первую очередь, понятно, это производитель твоей видеокарты, чтобы мы понимали, у тебя там CUDA или нужен будет ROCm. Ну а второе,  чтобы я понимал, что именно за версия Windows у тебя есть. Дело в том, что даже на Windows 10 или 11, на одной и той же  винде, но на разных ее версиях, одни и те же библиотеки могут где-то работать, а где-то нет. Поэтому мне желательно знать всю информацию о твоей системе.
И по железу, и по софту.Но, как я уже сказал, это позже. Но, в принципе, собрать и сохранить в текстовый файл можешь уже сейчас. Можешь даже по-простому. Просто у чата GPT спроси команды для сбора всей диагностики твоей системы через Shell терминал, например. Он тебе просто пропишет команду, копируй ее, вставляй, и получишь инфу детальную обо всей твоей системе.

 Fedya777, статья 12  - трансграничная передача данных. Когда я тыкаю в твоего бота в телеге и передаю ему данные - они первым делом на сервера телеги попадают а не тебе. Где эти сервера, в каких странах - неизвестно.

Но если забежать вперед, то это относительно нетрудная задача. Ну, относительно, разумеется. Так-то без труда не вытянешь рыбку из пруда, и все требует времени и усилий. Но я уже в голове представляю, как это будет выглядеть. Если я правильно понял твою задачу, то у тебя есть очень много фотографий, каких-то нумизматических... Короче, ты нумизмат.
...что-то там коллекционируешь, есть фото этих обьектов в разных профилях. И ты, как я понял, по одному кидаешь их чату GPT, чтобы она сравнивала как-то их между собой. Или я что-то не так понял. И у тебя есть аж 30 тысяч этих значков. Разумеется, через GPT это крайне неудобно, ну и вообще это неэффективный метод.  У меня в голове сразу сложилась картинка.
Векторная база (FAISS, Qdrant или ChromaDB) И, скорее всего, какая-то маленькая дообученная YOLO-модель для зрения и ллм (Можно сделать дешево и сердито, используя мультимодальную ЛЛМ-ку со зрением. Тогда YOLO не надо). Не, ну, тут от тебя зависит, в каком исполнении оно тебе надо. Дешево и сердито или прям круто. Если прям круто, то эта YOLO-модель обучается на датасете из твоих фотографий. Она будет за милисекунды все определять. Моментально в векторной базе находить вектора. И сравнивать между собой эти самые монеты.

 Ладно, давай знаешь еще как сделаем потом. Просто в телеге спишемся и обсудим уже по-человечески. А то вот это текстами раз в сутки обмениваться, это неэффективно. Нужную информацию от тебя я соберу, проведя с тобой интервью. Я обычно так и делаю. А его лучше проводить в телеграмме.Еще туда можно прикрутить поиск в интернете, если, как я понимаю, ты там ищешь на Авито и прочих площадках какие-то монеты. Можно подключить, и этот агент будет искать эти самые монеты. Но надо понимать, что чем больше мы этого всего добавляем, тем, во-первых, дольше это делается, а во-вторых, дороже выйдет в итоге. Так что еще раз, все зависит от того, чего ты ожидаешь.