Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

Форум превращается в цирковое зрелище, администрация забила на всё.

Весь мир щас такой :)

Гугл Gemma 3 представил.
```

Gemma 3 is here, bringing advanced multimodal reasoning, multilingual support in 140 languages, and a 128k token context window to handle complex tasks.

With optimized performance and flexible sizes, Gemma 3 is the most capable model you can run on a single GPU or TPU host. Create vision applications with 4B, 12B, and 27B parameter size models or achieve faster text processing by using our smallest 1B model.

```

Уже есть на HF и Ollama. Надо на выходных поиграться, посомтрим, чему там ее научили. "Хваленый" Дипсик мне локально совсем не понравился. В кодинге слаб, факты цензурируются. 

Интересно, чем ответит Гугл.

Заморочился и написал себе ради практики читера, который может помогать проходить интервью.
Захватывает звук с указанного устроцства - можно с микрофона, можно с линейного входа, преобразовывает его в речь и потом отправлаяет в  модельку ЛЛМ - тоже по выбору. А оттуда приходит ответ) Сейчас вожусь с тем чтобы упаковать это в десктоп приложение. Можно будет потом продавать) С английским вообще все здорово, нашел также модельки, которые неплохо распознают русский. Можно использовать и как лайв переводчик)

В чём уникальность этой программы, чтобы покупали именно её?

В итоге получилсь забавная аппликуха, которая работает полностью автономно, с локальной моделью, причем очень корректно распознает речь, но даже в случае ошибки распознавания модель понимает, в отличие от местных вебмастеров, о чем речь и выдает корректный ответ. Но можно и по апишке подключиться к любой доступной вам модели и работать с ней как с чат-ботом. Интервью проходить все проще)

 

Ещё полгода назад уволил всех копиров. Уделил 2 недели изучению промтов и самого чатЖПТ и результат не заставил себя ждать. Под мои нужды он УЖЕ реалльно лучше и главное заметно дешевле копиров.

Запустил прогу на другом компе, попроще и всего с 16Гиг оперативы. В целом тоже работает

Конечно, 2 минуты на ответ - долго, нужен проц с GPU)))
Если кому интересно - могу поделиться ссылкой на репо, если вы конечно с Пайтоном знакомы) Всего-то нужно ответить на 5-10 простых вопросов)

Убили интересную тему, может и правильно, но там был интересны момент, которая мне продемонстрировала что оппоненты в принципе не понимают чем отличается нейросеть от обычных алгоритмов меребора.

Было заявлено что  Deep Blue, который в 1997 году выиграл в шахматы у Каспарова, тоже самое что современнные нейросети. При том что это чушь. DB - это как раз алгоритм перебора. За счет колоссальной по тем временам скорости - 200млн оп/с и загруженной огромной базы партий. Он мог на каждом ходу перебирать подходящие варианты и отсекать те, что не приводят к победе(алгоритм отсечения). Играть в шахматы он не умел

А теперь - что такое Leela/ AlphaZero? Это уже нейросеть на основе  deep learning. В него не загружались готовые партии. По факту обучение происходило в игре с самим собой. Изначально он знает только правила. Используется алгоритмы Монте-карло и СNN. Что это значит - не происходит перебора всех позиций - оцениваются только перспективные на данный момент и уже для них строится вариант хода. 

По факту неразумный транзистор делает тоже самое, что и человеческий мозг - анализирует только важную информацию. 

Кстати, примерно такое же отличие между файнридером и современными OCR -  они не сравнивают с образцами букв, а просчитывают вероятность того, что это какой-то символ.

Надеюсь, кому-нибудь это было полезно.

Спасибо, посмеялся 😁