Словарь AI-терминов

Текстовый запрос, который вы отправляете нейросети. Чем точнее промпт, тем лучше результат.

Единица измерения текста для AI. Примерно 1 токен = 4 символа на английском или 1-2 символа на русском.

Вся информация, которую AI "помнит" в рамках диалога. Ограничен контекстным окном.

Максимальный объём текста, который модель может обработать за раз (ваш запрос + её ответ).

Параметр "креативности" AI. 0 = строго по фактам, 1 = максимум творчества.

Большая языковая модель — нейросеть, обученная на огромном количестве текстов.

Дообучение готовой модели на специфических данных для улучшения в конкретной области.

Когда AI уверенно выдаёт неправильную или выдуманную информацию.

Технология, когда AI сначала ищет информацию в базе данных, а потом отвечает на её основе.

Способ подключить AI к своему приложению или автоматизации программно.

Способность AI работать с разными типами данных: текст, изображения, аудио, видео.

Скрытая инструкция для AI, которая задаёт его "роль" и правила поведения.

Техника, когда просишь AI рассуждать пошагово перед ответом. Улучшает качество.

Zero-shot: запрос без примеров. Few-shot: запрос с несколькими примерами желаемого результата.

Числовое представление текста, позволяющее AI понимать смысл и сравнивать похожесть.

Процесс генерации ответа моделью. За inference платят при использовании API.

Режим, когда AI "думает" дольше перед ответом, улучшая качество для сложных задач.

AI, который может выполнять цепочку действий: искать информацию, запускать код, управлять приложениями.

Архитектура нейросети, на которой основаны все современные LLM. Использует механизм внимания (attention) для обработки текста.

Механизм, позволяющий модели "фокусироваться" на важных частях текста при генерации ответа.

Архитектура, где модель состоит из нескольких "экспертов", и для каждого запроса активируется только часть из них.

Процесс обучения маленькой модели на ответах большой модели. Позволяет получить компактную, но умную модель.

Сжатие модели путём уменьшения точности чисел (с 32 до 8 или 4 бит). Модель меньше, работает быстрее.

Reinforcement Learning from Human Feedback — обучение с подкреплением на основе человеческой обратной связи.

Искусство составления эффективных промптов для получения лучших результатов от AI.

Попытка обойти ограничения AI с помощью специальных промптов. Обычно нарушает правила сервиса.

Техника, когда AI присваивается определённая роль для улучшения качества ответов.

Продвинутая техника, когда AI рассматривает несколько путей решения и выбирает лучший.

Фреймворк "Reasoning + Acting" — AI чередует рассуждения с действиями (поиск, вычисления).

AI-системы, способные автономно выполнять сложные задачи, принимать решения и использовать инструменты.

Способность AI использовать внешние инструменты: поиск, калькулятор, API, браузер.

Возможность AI вызывать заданные функции/API с правильными параметрами.

Режим, когда AI возвращает ответ в строгом формате (JSON, XML) вместо свободного текста.

Режим, когда ответ AI приходит по частям в реальном времени, а не целиком в конце.

Процесс настройки AI, чтобы его цели и поведение соответствовали человеческим ценностям.

Процесс намеренного поиска уязвимостей и проблем в AI-системе.

Ограничения и фильтры, встроенные в AI для предотвращения нежелательного поведения.

Невидимая метка в контенте, сгенерированном AI, для определения его происхождения.

Tokens Per Minute / Requests Per Minute — лимиты на количество токенов или запросов в минуту.

Гарантированный уровень доступности и качества сервиса, зафиксированный в договоре.

Модель или сервис, развёрнутый на собственных серверах, а не в облаке провайдера.

Развёртывание AI в инфраструктуре клиента (его дата-центр), а не в облаке.

Модель оплаты, где платишь за количество обработанных токенов (input + output).

Максимальное количество токенов (вход + выход), которое модель может обработать за один запрос.

Задержка между отправкой запроса и получением ответа от AI.

Количество токенов, которое модель генерирует в секунду.

Атака, когда злоумышленник внедряет инструкции в данные, обрабатываемые AI.

Привязка ответов AI к реальным данным/источникам для снижения галлюцинаций.

Данные, сгенерированные AI для обучения других моделей.

AI-модель, способная понимать и анализировать изображения.