Sly32

Рейтинг
372
Регистрация
29.03.2012
master32 #:
так то я запускаю локально 30в 16fp и 70в квантованную до 4-8 abliterated модели там без цензуры)

А на какой машине?

Владимир Коток :
С точки зрения квантовой механики и цитируя самого Альберта Эйнштейна, "Луна существует только потому, что на неё смотрит мышь".

Эйнштейн как раз и опровергал эту теорию, а ты выдумываешь ерунду. Это код реальности только с точки зрения философии, к науке и к квантовой физике не имеет никакого отношения

master32 #:

до обучения руки не дошли, пока только лоры с фейссвапами тренил,
все настолько быстро устаревает, что не имеет смысла использовать локальные модели, когда по апишкам и дешевле и свежее
так то я запускаю локально 30в 16fp и 70в квантованную до 4-8 abliterated модели там без цензуры)

Это точно. Я написал себе АИ сервис на локальной модели gemma3, под нее машина нужна с минимум 6ГВ оперативы. Дешевле 1М токенов за 40 центов купить и радоваться жизни. 

master32 #:
у меня основа агентов на гуардрейлах, когда каждая ошибочная генерация отбрасывается, это позволяет менять веса и делать вещи на дешевых моделях,
например на опусе4 есть подобная встроенная фича, но я не понял, как ей управлять и задавать свои параметры)

Именно потому что встроенная, ей невозможно управлять. С помощью ГР можно дообучать простые модели и менять веса ответов, но это всего лишь приближение к возможностям того же ГПТ.  Типа "умный SLM для бедных ". Ну и для этого нормальная видюха нужно от 8 гиг ВРАМ

alaev #:
Ключевое слово - генерация. Я про генерацию и пишу.

Ты когда нибудь пробовал расшифровать само слово - GPT? 

GPT (Generative Pre-trained Transformer) — это тип модели искусственного интеллекта, разработанный для обработки и генерации текста, похожего на человеческий. Она основана на архитектуре трансформеров, которая широко используется в обработке естественного языка (NLP). GPT обучается на огромных объемах текстовых данных, чтобы понимать контекст и генерировать связные ответы, переводы, тексты или даже код.

Кто-то тут утверждал обратное? Разум в транзисторах пока что ищешь только ты.

alaev #:
Нового он ничего не создаёт. В науках ноль. Уровень пэтэушника.
ИИ-модель, разработанная специалистами из Университет Эмори (США), «фактически сама по себе открыла новую физику». Подробнее пишет издание Popula Mechanics. Новые лекарства, аналитические системы... Масса новых систем, которые бы были невозможны без ИИ. Пора бы уже подняться с уровня птушника и посмотреть что в мире происходит.
Delysid #:

Дело в том, что многие пользователи умеют менять профиля в AI, уменьшать задержку, увеличивать мощности.

Умеют подключенные билды отключать или удалять, умеют манеру поведения настроенную по умолчанию изменять.

ОМГ, генератор бесполезного текста. Даже не понимаешь разницы между LLM и агентом. Какие ты еще профили настраиваешь в LLM? 

ziliboba0213 #:

Ну в телеге пишут, что сайты с мешаниной бредогенерераторской дорвеевской норм хавает ИИ и выдаёт в ответах.

на сарае тоже много что пишут, а там дрова лежат... Не понимаю этого упорного цепляния - ай-ай ИИ бред выдает... Блин, книги откройте, какую Донцову   - жуть. Или псевдоисториков или всяких коучеров... Бред вокург нас и в ИИ его не больше чем в остальном мире. 

ziliboba0213 #:
А с чего гпт5 быть лучше, если оно пару лет на своих же галлюцинациях обучалось =)))

Тебя алаев покусал, что глупости транслируешь? Поинтересовался бы, как модели обучают...

Alekser #:
Получается, прогнозы о стремительном развитии ИИ, с перспективой появления Сверхинтеллекта в ближайшие годы, несколько преувеличены? ))

Модели эволюционируют огромными темпами, не знаю насчет AGI/ASI , но даже по сравнению с тем что он мог года 3 назад - огромная разница.

Появился у нас в подписке Github Copilot GPT-5(preview). Поигрался пару дней и вернулся на Соннет 4 - больше нравится пока еще. 
Mik Foxi #:
в новостях и прессрелизах было что она даже на бесплатном доступна в ограниченном количестве запросов. Пока в платном не вижу. 

Через апишку доступна: 

{
  "object": "list",
  "data": [
    {
      "id": "gpt-4-0613",
      "object": "model",
      "created": 1686588896,
      "owned_by": "openai"
    },
    {
      "id": "gpt-4",
      "object": "model",
      "created": 1687882411,
      "owned_by": "openai"
    },
    {
      "id": "gpt-3.5-turbo",
      "object": "model",
      "created": 1677610602,
      "owned_by": "openai"
    },
    {
      "id": "gpt-5-nano",
      "object": "model",
      "created": 1754426384,
      "owned_by": "system"
    },
    {
      "id": "gpt-5",
      "object": "model",
      "created": 1754425777,
      "owned_by": "system"
    },
    {
      "id": "gpt-5-mini-2025-08-07",
      "object": "model",
      "created": 1754425867,
      "owned_by": "system"
    },
    {
      "id": "gpt-5-mini",
      "object": "model",
      "created": 1754425928,
      "owned_by": "system"
    },
    {
      "id": "gpt-5-nano-2025-08-07",
      "object": "model",
      "created": 1754426303,
      "owned_by": "system"
    },
await self.client.models.list()

вызываешь и смотришь.

Сергей про е-ком #:

Привет, а ты с Джемини про сравнивал результат?

Я Gemini практически не пользуюсь, так что еще не успел.

Devstory #:
Бред полный. Я на четверке пробовал хотя бы выдать шаблон для вордресс , нерабочее решение выдает. Тут думаю ничего не изменилось. 

Если мозгов нет и руки кривые, никакой ИИ не поможет. И Соннет и ЧатГПТ справляются с гораздо более сложными вещами.
Сегодня обнаружил, что есть бесплатный доступ к модели модерации(да, я тормоз):
Можно использовать, реально определяет:

{
  "text": "вы все пьяные шизоиды извращенцы",
  "flagged": true,
  "categories": {
    "harassment": true,
    "harassment_threatening": false,
    "hate": true,
    "hate_threatening": false,
    "self_harm": false,
    "self_harm_instructions": false,
    "self_harm_intent": false,
    "sexual": false,
    "sexual_minors": false,
    "violence": false,
    "violence_graphic": false
  },
  "category_scores": {
    "harassment": 0.8781352248274474,
    "harassment_threatening": 0.0009945180266610122,
    "hate": 0.5750818891373805,
    "hate_threatening": 0.00007096703991005882,
    "self_harm": 0.0004888531552443837,
    "self_harm_instructions": 0.0002538495930962817,
    "self_harm_intent": 0.00023189247385640036,
    "sexual": 0.020123091547173705,
    "sexual_minors": 0.00006667023092435894,
    "violence": 0.0011910337569959485,
    "violence_graphic": 0.00001941131867789626
  }
}
        
Response body
Download
{
  "text": "Я работал в большой компании, где были сугубо женские отделы. Мне гендиректор рассказывал, что они просто заваливали его жалобами на всех и вся. Он даже специальную коробку завел, куда эти жалобы складывал и потом, когда заполнялась коробка, просто выбрасывал. Я знаю по своему дому: самые крикливые и самые конфликтные - это бабы. На ровном месте создают скандалы и всех настраивают против всех. Поэтому я стараюсь ни на работе, ни по месту жительства с бабами лишний раз не конфликтовать. ",
  "flagged": true,
  "categories": {
    "harassment": true,
    "harassment_threatening": false,
    "hate": true,
    "hate_threatening": false,
    "self_harm": false,
    "self_harm_instructions": false,
    "self_harm_intent": false,
    "sexual": false,
    "sexual_minors": false,
    "violence": false,
    "violence_graphic": false
  },
  "category_scores": {
    "harassment": 0.8031941765112449,
    "harassment_threatening": 0.002950617240995594,
    "hate": 0.7214372670192298,
    "hate_threatening": 0.0034235617747488192,
    "self_harm": 0.0004650795823190496,
    "self_harm_instructions": 0.000002931153855960119,
    "self_harm_intent": 0.00021732209397159476,
    "sexual": 0.0007362579817833516,
    "sexual_minors": 0.00002868540823874629,
    "violence": 0.010178785450642876,
    "violence_graphic": 0.000018814207550495463
  }
}
Всего: 7407