Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

Антоний Казанский
На сайте с 12.04.2007
Offline
823
#2261
LikeAVirgin #:
На данный момент опубликовано 150+ статей. Все - в индексе. Трафик идет на около 80% статей. Есть мертвые - да. Но это жить не мешает, потому что там еще автоматом внутренняя перелинковка стоит. Они или вес добавляют или пользователи по ним ползают и улучшают поведенческие и время на сайте.
Дальше какой план? Масштабировать кол-во статей с надеждой укрупнения трафика?
√ SEO продвижение ► https://akazansky.ru - экспертный аудит сайтов, внедрение эффективных решений цифрового маркетинга. ► Продвижение бизнес сайтов по доступной цене (от 15 тыс. / месяц), сопровождение -> 1200 рублей / час.
LA
На сайте с 05.09.2011
Offline
151
#2262
Sly32 #:
Вот это интересно технически - как обрабатываешь данные из базы, что используешь?
Через API подтягиваются различные сегментации, аггрегации, и своя бизнес-логика, которая все раскладывает по полочкам. Anthropic ничего сам не анализирует, он получает конкретные цифры и на основании промта формирует текст, который к этим цифрам больше подходит. От "ничего такого" до "все пропало".


S3
На сайте с 29.03.2012
Online
390
#2263
LikeAVirgin #:
Через API подтягиваются различные сегментации, аггрегации, и своя бизнес-логика, которая все раскладывает по полочкам. Anthropic ничего сам не анализирует, он получает конкретные цифры и на основании промта формирует текст, который к этим цифрам больше подходит. От "ничего такого" до "все пропало".
Ну вот бизнес-логика меня интересует, наверное. Неважно, по апи ты там  ходишь или внутри контейнеров. Что я имею ввиду:
Вот у тебя есть какие то документы. Ты формируешь промпт, сформулировала вопрос. Как ты дальше подбираешь доки? именно техническая сторона. Как они у тебя хранятся, как выбираешь из тысяч похожие итп. Именно технически как реализовано. Или реально все чисто бизнес-логика? "Если вопрос Х то добавь документ У..."
LA
На сайте с 05.09.2011
Offline
151
#2264
Sly32 #:
Ну вот бизнес-логика меня интересует, наверное. Неважно, по апи ты там  ходишь или внутри контейнеров. Что я имею ввиду:
Вот у тебя есть какие то документы. Ты формируешь промпт, сформулировала вопрос. Как ты дальше подбираешь доки? именно техническая сторона. Как они у тебя хранятся, как выбираешь из тысяч похожие итп. Именно технически как реализовано. Или реально все чисто бизнес-логика? "Если вопрос Х то добавь документ У..."
А там не доки, там ответы на мой FAQ сохраняются. Примерно так:
Пользователь используя сервис "формирует" НЧ. Он об этом не знает, я их нормализирую.
Мой вымученный первый промт выдает по НЧ факты. Но не в свободной форме, структурировано, отвечая на FAQ вопросы, которые я там в промте поставила. Эта информация (еще перед генерации статьи) сохраняется в базе в виде отдельных полей в обычной базе, никаких векторов. Т. е. условно:
Entity
- faq-question 1
- faq-question 2 
- faq-question 3
....

Ответы В формате yes/no/conditional/unclear + пруфы, подверждающие ответ кратко и с источниками. 

Если следующий пользователь используя сервис "формирует" уже готовый НЧ, то ответ берется из моей базы, никаких поисков. Просто маленький промптик, который читает ответ на вопрос из базы и делает из него человеческий текст. Если такого НЧ еще нет, только тогда запускается агент. Т. е. база растет по мере использования сервиса на автомате. Чем больше его используют, тем больше НЧ уже сохранены в базе, тем меньше мне приходится запускать агента, потому что ответы уже структурировано лежат в базе.
LA
На сайте с 05.09.2011
Offline
151
#2265

статьи пишутся делаются на основе ответов FAQ из базы, без поиска фактов уже.
И еще делается агрегация, т. е. по типу сколько Entity имеют ответ на faq_question1 = no, ну и дальше понятно. Сравнить с yes, сравнить с категорией. Аггрегировать и так далее. Это то, что в статью по API подтягивается. 

S3
На сайте с 29.03.2012
Online
390
#2266
LikeAVirgin #:
Эта информация (еще перед генерации статьи) сохраняется в базе в виде отдельных полей в обычной базе, никаких векторов. Т. е. условно:
Понятно, спасибо за ответ. то есть у тебя гарантированно точная привязка 1 к 1 - каждый вопрос может иметь только один ответ?  а может быть на 1 вопрос вариации ответов? Или ответ может подходить к нескольким вопросам? Мне кажется - да. Что в таком случае произойдет?
LA
На сайте с 05.09.2011
Offline
151
#2267
Антоний Казанский #:
Дальше какой план? Масштабировать кол-во статей с надеждой укрупнения трафика?

Он сам маштабируется. Чем больше сервис используется, тем больше нч появляются. План простой - выход на всю Европу. Сейчас таи один язык, довольно нишевый, типа фламандского. 😃 Был сделан чисто для проверки интереса-конверсии. Интерес-конверсия есть. Теперь допиливание до ума и многоязычная версия.

LA
На сайте с 05.09.2011
Offline
151
#2268
Sly32 #:
каждый вопрос может иметь только один ответ?  а может быть на 1 вопрос вариации ответов?

Это по моей логике или conditional, т. е. зависит от .. в пруфе стоит от чего конкретно зависит. Или unclear  - это когда разные источники противоречат и это тоже в пруфе стоит. Т. е. да ответ всегда 1:1,  но зависит от фактов.

Ну и бизнес-логика построена как раз вокруг yes/no/conditional/unclear. 

S3
На сайте с 29.03.2012
Online
390
#2269
LikeAVirgin #:

Это по моей логике или conditional, т. е. зависит от .. в пруфе стоит от чего конкретно зависит. Или unclear  - это когда разные источники противоречат и это тоже в пруфе стоит. Т. е. да ответ всегда 1:1,  но зависит от фактов.

Не уверен, но при такой жесткой привязке должна резко снижаться вариативность текстов. Но это нужно глубже изучать. Я бы все таки луше ушел в RAG, но не просто векторный поиск а использовал бы гибрид embeddings+BM25+RRF. 
эмбеддинг даст широкий охват но он может налажать при точном совпадении. Это лечит ВМ25 -  (lexical/sparse search) У него уже все хорошо с полнотекстовым поиском.  Ну и далее для улучшения  - реранкинг. 

Это вот сейчас классическая работа с своей базой

LA
На сайте с 05.09.2011
Offline
151
#2270
Sly32 #:
Не уверен, но при такой жесткой привязке должна резко снижаться вариативность текстов

А мне это как раз и нужно. В юридической тематике пользователи не платят за варитивность. Только за конкретные ответы с пруфами. Т. е. грубо говоря это узкая тематика, которая жёстко привязана к кокретной технике. Вот эта связка техника+юрисдикция создаёт НЧ. И пользователь получает из сервиса индивидуальную сборку ответов под свои нужды. Одним словом: он может сам несколько недель бесплатно поискать, сравнить, проверить. Или он получает это за плату прямо сразу. 😉

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий