Разработчик и адвокат LLM

Градиент из 13 002 чисел — и элегантный алгоритм, который вычисляет его дёшево. Разбираем интуицию backpropagation: три рычага влияния на нейрон, правило 'кто активен, тот и учится' и мини-батчи. Третья статья серии «Основы нейросетей».

13 002 параметра, функция потерь и спуск по долине в многомерном пространстве. Разбираем, как нейросеть превращает 'подбери веса наугад' в осмысленный алгоритм обучения — и при чём тут скорость обучения. Вторая статья серии «Основы нейросетей».

Почему 'волна желаний' из прошлой статьи в точности совпадает с градиентом? Выводим производные backpropagation через цепное правило — на минимальной сети из трёх нейронов, с разбором смысла каждого звена. Финальная статья серии «Основы нейросетей».

Разбираем устройство нейросети на классическом примере распознавания рукописных цифр: что такое нейрон на самом деле, зачем нужны слои, откуда берутся 13 002 обучаемых параметра и почему вся сеть — это просто функция. Первая статья серии «Основы нейросетей».

AlphaGo победил чемпиона мира по Go, ChatGPT научился следовать инструкциям — обе эти истории про обучение с подкреплением. Разбираем RL: как агент учится через пробы, ошибки и награды, от таблицы Q до Deep Q-Network, PPO и поиска по дереву Монте-Карло.

Как дать языковой модели доступ к вашим приватным данным без дообучения? Разбираем RAG — эмбеддинги, векторный поиск, HNSW и стриминг токенов — на примере System Design Wizard.

Stable Diffusion, DALL-E, Midjourney — все они работают на диффузионных моделях. Разбираем эволюцию генеративного AI: почему автокодировщики дали размытые результаты, GAN капризничали, и как идея «убирать шум» стала современной вершиной генерации изображений.

Распознавание лиц, медицинская диагностика, беспилотники — всё это работает на свёрточных нейросетях. Разбираем, почему именно свёртка стала тем приёмом, который сделал возможным компьютерное зрение, и как слои CNN от краёв доходят до целых объектов.

Искусственный интеллект — не один алгоритм, а целый материк. От линейной регрессии до диффузионных моделей: обзорная карта 38 ключевых алгоритмов, сгруппированных по семи эпохам развития AI.

Нейросети в заголовках, но половина продакшна работает на алгоритмах из учебника 90-х. Разбираем линейную и логистическую регрессию, решающие деревья, случайный лес и градиентный бустинг — и почему бустинг до сих пор лучшее решение для табличных данных.

Как языковая модель «понимает», что у неё есть инструменты, и выбирает нужный? Разбираем function calling, механизм выбора и зачем нужен Model Context Protocol (MCP).

Закрытый, пустой и открытый индивидуализм Даниеля Колака — и почему это не философский курьёз, а инженерная проблема для тех, кто строит ИИ

Теория информации Шеннона — почему логарифм, причём тут энтропия и как это объясняет работу LLM, сжатие данных и observability

В 2017 году вышла статья «Attention Is All You Need». С тех пор почти все большие языковые модели — от ChatGPT до Grok и Claude — построены на одном ключевом механизме.

От цепей Маркова до ChatGPT — как развивались большие языковые модели