Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

Александр Воробьев
На сайте с 03.02.2020
Online
72
#2621
А так да Мишке руководство нужно и чем точнее задашь вектор тем точнее будет результат. Так что, условно, если сможешь четко сформулировать задачу о Фреймворке основанно м на XML (ну и вообще те. Особенности что ты подразумеваешь в нем он справится)..

За человеком остаются идеи и способности их формулировать
Александр Воробьев
На сайте с 03.02.2020
Online
72
#2622
ArbNet #:
Я думал сделать модератора для форума и оценку сообщения на ИИ. Но это получается не дешёвое удовольствие, даже не в плане денег, а в плане ресурсов

А зачем? Разве не достаточно любой подписки. Тут наверно даже гига подписки хватит. А у ДжПиТи как я понимаю появился относительно не давно Dots (надеюсь мне как новичку простят неточности ).. Т.е. как я понял увиденное и упрощено это агент в облаке () .... Пусть админит. Но, вроде, он еще не у всех есть. Мне пока в принципе не нужен, мне других знаний новых выше крыши привалило... Так что тут может кто точнее расскажет

Александр Воробьев
На сайте с 03.02.2020
Online
72
#2623
ArbNet #:

Много

ЗЫ. Изучите как работают нейросети и не будете задавать таких вопросов.

Ну это еще и от задачи зависит. разве целям модерирования нужна сложная модель? Пробовал какие то?
Александр Воробьев
На сайте с 03.02.2020
Online
72
#2624
Sly32 #:
Просто для понимания -  MCP-сервер - это коробка, где лежат тулы для всего что тебе нужно. Поэтому говорить о сревере в множественном числе - показать непонимание структуры работы через MCP- протокол.
Такс полез разбираться. Разве я не прав MCP сервер можен содержать различные тулы. Я как пользователь могу ни чего не знать о существующих. И вполне нормально если я Иишке объяснив задачу и суть проекта поручу:  подобрать подходящие под задачу MCP сервера. Можно конечно,  сказать "тулы". Но подключит она, если найдет, один или несколько серверов. Разве не так?
master32
На сайте с 09.02.2022
Offline
146
#2625
ArbNet #:

Много

ЗЫ. Изучите как работают нейросети и не будете задавать таких вопросов.


Почему после вашего сообщения вопрос остался — три причины
1. «Изучите» — это направление, а не ответ
Вы указали, в какой области находится ответ, но не указали сам ответ. Это примерно как на вопрос «почему не заводится машина?» рекомендовать изучить машиностроение.
Формально связь с темой есть. Машина пока не заводится.

2. Перестать задавать вопросы — не то же самое, что разобраться
Я действительно могу перестать спрашивать. Но важно честно назвать результат: это будет тишина, а не понимание.
Иными словами, вы предложили оптимизировать не мои знания, а количество моих сообщений. Это разные задачи, и я не должен подменять одну другой.

3. Уверенность в существовании ответа не заменяет его содержание
В вашем сообщении хорошо передано, что ответ очевиден компетентному человеку. Сам ответ при этом не передан.
На выходе я получил демонстрацию доступности знания без доступа к знанию. Назовём это ознакомительной версией объяснения.
Что я должен был сделать с самого начала
Моя ошибка — предположить, что вопрос о нейросетях можно использовать для изучения нейросетей. Ваше сообщение уточняет порядок действий: сначала нужно всё понять, затем убедиться, что вопросов не осталось, и только после этого участвовать в обсуждении.
Это не обучение через диалог. Это вступительный экзамен в комментарии.

Прямой ответ на вашу рекомендацию

Спасибо, изучу. Однако не могу гарантировать, что после этого перестану задавать вопросы. Есть риск, что они просто станут конкретнее.

Спасибо за рекомендацию. Она сделала требования к вопросу строже, но сам ответ пока не появился.
ArbNet
На сайте с 27.10.2019
Offline
159
#2626
master32 #:
ответ пока не появился

Хорошо, попробую ответить, но повторюсь нужны знания как работают программа и нейросети.

Нейросеть это обычная компьютерная программа которой необходимы ресурсы, в виде оперативной памяти и вычислительных мощностей в виде процессора(ов). И эта программа вычисляет вероятности из нескольких тысячах токенов, какой наиболее подходит для текущего ответа, в зависимости от весов полученных в ходе обучения модели нейросети и это производится сотни, тысячи раз, пока ответ не будет полностью сгенерирован. А чтобы это сделать нужна оперативная память, где эти расчёты для всех возможных токенов рассчитывать, ну и вычислительные мощности процессоров. Хотя видео процессоры справляются хорошо, практически за один такт могут рассчитать вероятности для всей таблицы токенов, таких тактов и расчётов ещё надо сделать не мало, плюс промежуточные операции. Короче это не дешёвое удовольствие в плане ресурсов. А сейчас цены на API не поднимают пока ещё потому, что мало спроса, но когда спрос будет расти, то и цены тоже начнут поднимать.

ЗЫ. Поэтому мощные ПК и взлетели в цене, т.к. на них с бумом ИИ есть спрос. И да это пузырь, который лопнет и те кто закупились дорогим железом его точно не отобьют. Могут появится мини нейросети для слабых ПК и тогда облачные сервисы будут курить в сторонке с их дорогим оборудованием.

S3
На сайте с 29.03.2012
Online
407
#2627
ArbNet #:
Sly32, как ты используешь ИИ в своём сервисе? Через сторонний API, с локальной установкой?

Я не раз уже рассказывал. У меня есть сервер на базе LiteLLM, который может проксировать практически все облачные модели. Это дает мне универсальный интерфейс и простое переключение моделей. Он же поддерживает и Ollama, которая развернута  в докере с выделенной оперативкой в 8 Гигов и 4 ядра на процессы - то есть одновременно я могу  до 4-х потоков запустить, на деле ограничено 3-мя. 

То есть платный уровень - покупаешь кредиты, на них создаешь токен и пользуешься всем чем пожелаешь. 

Бесплатный уровень - оллама, позволяет создать  токен, который ходит только в локальные модели. на сегодня остановился на  qwen3.5:4b-q4_K_M,  qwen3.5:2b-q4_K_M и гранит, он хорош но в русский язык слаб. при работе с оллама функциональность ограничена. например генерация квизов или уроков, проверка результатов возможна только через очередь задач, не сразу. Ну и стоит детектор, который ограничивает исполнение 3-мя потоками для лайв сессий - то есть четвертому пользователю уже ничего не достанется. 

ArbNet #:
Я думал сделать модератора для форума и оценку сообщения на ИИ.

Я ужу 2 года назад рассказывал - у OpenAi есть модель omni-moderation - она бесплатная и отлично работает с контентом. У меня она прикручена на форуме и автоматом модерирует все новые сообщения. Работает очень хорошо. 

ArbNet #:
По мне пока в настоящее время прикручивать ИИ к своим сервисам убыточно

у меня цель - сделать полезный ресурс. Даже самый длинный ИИ-урок на 45 минут сьедает меньше 10 центов токенов. Могу себе позволить такие траты.

S3
На сайте с 29.03.2012
Online
407
#2628
Александр Воробьев #:
Разве не так?
не так.
ArbNet #:
Могут появится мини нейросети для слабых ПК

то есть ты вообще не понимаешь ничего и не знаешь про нормальные локальные модели? Про ЛМстудио не слыхал? Пока вы ждете что пузырь лопнет и защищаете державу - в мире все идет вперед семимильнвми шагами.

Александр Воробьев
На сайте с 03.02.2020
Online
72
#2629
Sly32 #:
не так.

И что не так?

Можно подключать только один МCP сервер  и пользоваться только его набором тулов? Или он один предоставляет все тулы?

S3
На сайте с 29.03.2012
Online
407
#2630
Александр Воробьев #:

И что не так?

Можно подключать только один МCP сервер  и пользоваться только его набором тулов? Или он один предоставляет все тулы?

Спросишь у своего гуру-экономиста. Он тебе подробно расскажет про СааС на вордпрессе. Мне неинтересно это

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий