AI Washing

Отмывание ИИ — это практика преувеличения или искажения того, насколько широко продукт, услуга или компания используют искусственный интеллект и на что способны эти технологии. Из-за этого возникает разрыв между заявленными возможностями и фактической работой: клиенты и инвесторы ожидают от системы интеллекта, автономности или производительности, которых она на самом деле не обеспечивает.

Термин заимствован у понятия гринвошинг, обозначающего вводящие в заблуждение заявления об экологичности. Аналитик Gartner Джим Хэйр употребил выражение «отмывание ИИ» в своём анализе от 6 июля 2017 года, посвящённом поставщикам корпоративного ПО, использующим ажиотаж вокруг ИИ, и описал компании, которые без разбора навешивали на продукты ярлык ИИ.

Как работает отмывание ИИ#

Отмывание ИИ превращает техническую сложность в маркетинговое преимущество. Покупатели сталкиваются с такими терминами, как искусственный интеллект, машинное обучение и «автономный», но не получают достаточно информации, чтобы понять, как эти описания соотносятся с функциями продукта. Искажение может касаться наличия самой технологии, её вклада в рабочий процесс или достоверности результатов.

К распространённым примерам относятся:

• Преувеличение возможностей: Реклама системы как инструмента для выполнения задач на экспертном уровне, хотя её результаты не подтверждают это заявление.
• Сокрытие участия людей: Представление услуги как автономной, хотя люди выполняют значительную часть заявленной работы.
• Преувеличение результатов: Перенос результатов, полученных в выбранных условиях, на более широкую аудиторию или задачи, которые не охватывались оценкой.
• Ускорение сроков: Представление запланированных функций ИИ как уже существующих возможностей продукта.

Эти практики влияют на решения о покупках, инвестициях и найме. Они также скрывают операционные требования: клиенты должны понимать, какие результаты требуют проверки, какие задачи выполняет система и как ошибки влияют на последующие решения.

Отмывание ИИ и смежные понятия#

Роботизированная автоматизация процессов автоматизирует повторяющиеся рабочие процессы, часто с помощью заранее заданных правил. Машинное обучение выявляет закономерности в данных, а символический ИИ использует явные знания и правила логического вывода. Точные описания продукта указывают механизм и его роль. Называть систему, основанную на правилах, ИИ — значит вводить в заблуждение, если сопутствующие заявления обещают способность к обучению или адаптации, которой у системы нет.

Рабочие процессы с участием человека возлагают на людей конкретные обязанности по проверке результатов или принятию решений. Прозрачные описания показывают этот вклад. Например, Ultralytics Platform использует ИИ для аннотирования данных: её функция интеллектуальной аннотации YOLO формирует черновые метки на основе предсказаний модели, которые аннотаторы могут проверить, скорректировать или удалить. Так становится понятно, какая задача автоматизирована и какова роль человека.

Галлюцинация — это создание моделью неверного или не подтверждённого фактами содержания. Отмывание ИИ касается заявлений о системе. Объяснимый ИИ помогает интерпретировать поведение модели, а прозрачность в сфере ИИ позволяет сообщать о возможностях, условиях оценки и распределении ответственности. И то и другое помогает давать основанные на доказательствах описания продуктов с ИИ.

Примеры из реальной жизни и последствия#

Регуляторы стали использовать этот термин в рамках правоприменительной деятельности. В декабре 2023 года председатель SEC Гэри Генслер предостерёг компании от «отмывания ИИ», а в сентябре 2024 года FTC в рамках операции AI Comply провела масштабную проверку заявлений об ИИ, вводящих в заблуждение, и возбудила описанное ниже дело DoNotPay.

Инвестиционный консультант Delphia заявлял, что данные клиентов повышают точность инвестиционных прогнозов на основе ИИ. SEC установила, что с 2019 по 2023 год у компании не было заявленных возможностей в области ИИ и машинного обучения. В рамках урегулирования от 18 марта 2024 года Delphia согласилась выплатить гражданский штраф в размере 225 000 долларов. Отдельно Global Predictions согласилась выплатить штраф в размере 175 000 долларов за вводящие в заблуждение заявления, включая утверждения о прогнозах на основе ИИ и о том, что компания первой получила статус регулируемого финансового консультанта, использующего ИИ.

DoNotPay рекламировала сервис ИИ как «первого в мире робота-юриста», заявляя, что его возможности позволяют заменить профессиональные знания юриста. Урегулирование дела о мерах принудительного воздействия в отношении DoNotPay предусматривало выплату 193 000 долларов и уведомление подписчиков, имеющих на это право. В январе 2025 года FTC утвердила предписание, ограничивающее неподтверждённые заявления о возможности заменить профессиональные услуги.

Доказательства в поддержку заявлений об ИИ#

Обоснованное заявление связывает конкретную функцию с её входными и выходными данными, оценкой и условиями эксплуатации. В карточке модели фиксируются предполагаемое применение, сведения о разработке и измеренные ограничения. Происхождение данных позволяет установить, откуда взяты материалы для оценки, а независимые тестовые данные помогают проверить результаты не только на примерах, использованных при разработке.

В компьютерном зрении доказательства в поддержку заявления должны относиться к самой заявленной задаче. Результаты обнаружения объектов могут включать точность, полноту и среднюю точность, а также сведения о составе набора данных и результаты для каждого класса. Для заявлений о скорости необходимо указывать оборудование, размер изображения, размер пакета и область измерений.

Управление ИИ связывает эти записи с согласованием продукта и проверкой маркетинговых материалов, чтобы каждое опубликованное заявление можно было проследить до карточки модели, оценки или документально зафиксированной роли человека.