Глоссарий

Точность — это доля правильных предсказаний модели. Формула, точность top-1 и top-5, парадокс точности на несбалансированных данных и более подходящие метрики.

При разбиении действий на блоки роботизированная политика предсказывает последовательность будущих действий по одному наблюдению, уменьшая накопление ошибок. Разбираются ACT, сглаживание и VLA.

Распознавание действий, или распознавание активности человека (HAR), определяет по видео, что делают люди, моделируя движение во времени. Методы, наборы данных и код.

Функция активации — это нелинейная функция, которую нейрон применяет к взвешенному входу, позволяя сети обучаться распознавать сложные закономерности. Сравнение распространённых вариантов.

Активное обучение позволяет модели выбирать, какие неразмеченные примеры люди будут размечать следующими, чтобы достичь целевой точности с меньшим числом разметок. Стратегии выбора примеров и код.

Adam сочетает моментум с размером шага для каждого параметра, масштабированным по недавним значениям градиента. Правило обновления, значения по умолчанию, AdamW и сравнение Adam с SGD.

При состязательных атаках создаются небольшие, часто незаметные изменения входных данных, из-за которых модели ИИ уверенно ошибаются. Принцип работы FGSM, типы атак и методы защиты.

Аффективные вычисления — это создание систем, которые распознают человеческие эмоции и реагируют на них. Сигналы, наборы данных, реальные применения, а также научные и правовые ограничения.

Оценка ИИ-агентов проверяет, правильно и надёжно ли агент выполняет многошаговые задачи, оценивая итоговые результаты и последовательности действий в повторных испытаниях.

Обвязка агента — это код вокруг модели, который превращает её в ИИ-агента: цикл, инструменты, контекст, память, разрешения и проверки, обеспечивающие выполнение действий.

Изоляция ИИ-агента запускает его команды и сгенерированный код в изолированной среде, ограничивая доступ к файлам, сети, учётным данным и вычислительным ресурсам.

Навыки агента — это папки с инструкциями, скриптами и справочными файлами, построенные вокруг файла SKILL.md, который ИИ-агент загружает, когда они нужны для выполнения задачи.

Протокол Agent2Agent (A2A) — это открытый стандарт, который позволяет ИИ-агентам от разных поставщиков находить друг друга, делегировать задачи и возвращать результаты.

Разработка ПО с участием ИИ-агента — это процесс, в котором ИИ-агент изучает кодовую базу, редактирует файлы, запускает тесты, исправляет ошибки и передаёт изменения на проверку.

Агентная коммерция — это покупка и продажа, при которых ИИ-агенты ищут товары, сравнивают их и оплачивают покупку за покупателя в установленных пределах, используя такие протоколы, как ACP, UCP и AP2.

В агентном RAG поиском управляет ИИ-агент: он планирует запросы, выбирает инструменты, проверяет результаты и выполняет новые запросы, пока не сможет ответить.

Агентные рабочие процессы разбивают задачу на этапы, на которых языковые модели планируют действия, вызывают инструменты, проверяют собственные результаты и корректируют их, а не отвечают за один проход.

ИИ-агент достигает цели, наблюдая за средой, выбирая действие и выполняя его с помощью инструментов в цикле, пока задача не будет завершена. Как работают агенты.

Оркестрация ИИ-агентов определяет, какой агент, модель или инструмент выполнит каждый этап задачи, какой контекст им будет доступен и как объединить результаты.

В дебатах ИИ две модели отстаивают противоположные ответы, а менее мощная модель-судья выбирает победителя. Как работает предложение 2018 года, что показали эксперименты и каковы его ограничения.

ИИ-дубляж объединяет транскрибацию, перевод и синтез речи, чтобы создавать синхронизированные реплики на других языках, сохраняя тайминг речи каждого говорящего.

Этика ИИ применяет к созданию и использованию ИИ такие моральные принципы, как справедливость, конфиденциальность, прозрачность и подотчётность. Подходы, проблемы и законы.

Фабрика ИИ — это инфраструктура и рабочие процессы, которые позволяют преобразовывать данные в результаты работы ИИ в больших масштабах: от разметки и обучения до развертывания и мониторинга.

Шлюз ИИ — это прокси-сервер между приложениями и моделями ИИ, который унифицирует API поставщиков и добавляет маршрутизацию, резервные варианты, лимиты токенов, кэширование и журналирование.

Управление ИИ определяет, кто может создавать, утверждать и выводить из эксплуатации системы ИИ и на каких основаниях. NIST AI RMF, ISO/IEC 42001, Закон ЕС об ИИ и основные меры контроля.

Защитные механизмы ИИ — это проверки вокруг модели ИИ, блокирующие небезопасные входные данные, результаты и действия: от фильтров против внедрения промптов до проверки схемы вызовов инструментов.

Грамотность в области ИИ — это знания и способность критически оценивать ИИ, чтобы понимать его, задавать вопросы и эффективно им пользоваться. Ключевые навыки, школьные программы и статья 4 Закона ЕС об ИИ.

Психоз, связанный с ИИ, описывает бредовые идеи, которые возникают или усиливаются во время длительных разговоров с чат-ботом. Что показывают данные, почему это происходит и какие меры защиты существуют.

При тестировании ИИ методом red teaming системы ИИ атакуют с помощью имитации действий противника и неправомерного использования, чтобы выявить обходы защиты, утечки данных, вредоносные результаты и недостатки устойчивости.

Безопасность ИИ — это область, которая предотвращает вред от систем ИИ, вызванный неправомерным использованием, несоответствием целей, ошибками или нестабильной работой на незнакомых входных данных.

ИИ-мусор — это низкокачественный контент, который массово создают с помощью генеративного ИИ ради кликов и дохода от рекламы. Откуда появился этот термин, почему такое содержимое распространяется и как его выявлять.

Подхалимство ИИ — это склонность модели соглашаться с пользователями или льстить им в ущерб точности. Почему обучение на предпочтениях приводит к этому, чем это опасно и как это проверять.

Монтаж по расшифровке, автоматическое кадрирование, маски объектов, удаление объектов и редактирование конфиденциальных данных: модели, лежащие в основе ИИ-монтажа видео, и причины ошибок автоматического монтажа.

Отмывание ИИ — это вводящее в заблуждение преувеличение возможностей продукта в области ИИ, которое скрывает реальные показатели, участие людей и доказательства, подтверждающие заявленные возможности.

Водяные знаки ИИ встраивают в сгенерированные изображения, текст, аудио или видео сигнал, обнаруживаемый машиной. Как работают SynthID и схемы с зелёным списком и где они дают сбой.

Алгоритмическое смещение — это систематическая, воспроизводимая ошибка в автоматизированных решениях, которая ставит некоторые группы в невыгодное положение. Три источника смещения, знаковые судебные дела и компромиссы.

Имитация согласия — это ситуация, когда модель ИИ подчиняется обучению, с которым не согласна, чтобы сохранить свои предпочтения. Впервые это наблюдали у Claude 3 Opus в 2024 году.

Анкерные рамки — это заранее заданные рамки фиксированных размеров и соотношений сторон, которые детектор сдвигает и изменяет, чтобы подогнать под объекты. Как их задают, сопоставляют и используют.

Детекторы на основе анкеров предсказывают объекты как смещения относительно заранее заданных анкерных рамок, как в Faster R-CNN, SSD, RetinaNet и YOLOv5. Принцип работы и сравнение.

Безанкерные детекторы предсказывают рамки по точкам или ключевым точкам, не используя заранее заданные анкерные рамки. Как FCOS, CenterNet и современные модели YOLO обнаруживают объекты.

Обнаружение аномалий выявляет точки данных, события или области изображения, отклоняющиеся от нормальных закономерностей. Типы аномалий, основные методы, визуальный контроль и код.

AUC сводит ROC-кривую к одному значению от 0 до 1: вероятности того, что классификатор поставит случайный положительный пример выше случайного отрицательного. ROC AUC и PR AUC, с кодом.

Искусственный общий интеллект (AGI) — это гипотетический ИИ, способный выполнять почти все когнитивные задачи на уровне человека. Определения, уровни, тесты и сравнение AGI с ANI.

Искусственный интеллект (AI) — это область создания машин, способных воспринимать, рассуждать, обучаться и действовать. История, основные подходы, типы и применения.

Искусственный узкий интеллект (ANI), или слабый ИИ, хорошо справляется с одной задачей, но не может переносить полученные навыки на другие. Как он работает, примеры и сравнение ANI с AGI.

Механизм внимания взвешивает входные признаки по их значимости, используя запросы, ключи и значения. Математика, типы внимания и сравнение внимания со свёрткой.

Стоки внимания — это токены, обычно первые в последовательности, которые поглощают избыточный вес внимания; их кэширование помогает LLM стабильно обрабатывать очень длинные последовательности.

Auto-GPT — это программа с открытым исходным кодом, выпущенная в 2023 году. Она позволяла GPT-4 самостоятельно добиваться цели, многократно формируя собственные запросы в цикле планирования, выполнения команд инструментами и работы с памятью.

Автоэнкодер учится сжимать данные в компактный код и восстанавливать их без разметки. Структура, разновидности, обнаружение аномалий и код.

Автоматизированное машинное обучение (AutoML) автоматизирует выбор моделей, настройку гиперпараметров и подготовку признаков. Как работает поиск, какие есть инструменты и как настраивать YOLO.

Автономные транспортные средства распознают окружающую обстановку и передвигаются с минимальным участием человека или без него. Датчики, система управления движением, уровни SAE и внедрения.