Strong AI

У понятия сильного ИИ два значения. В философии сознания так Джон Серл называл утверждение, что правильно запрограммированный компьютер буквально обладал бы разумом и понимал обрабатываемую информацию; свой аргумент «Китайская комната», опубликованный в 1980 году, он сформулировал именно для опровержения этой позиции. В современной технической речи сильный ИИ — синоним общего искусственного интеллекта (AGI): гипотетической системы, способной соперничать с людьми почти во всех когнитивных задачах. Противоположный термин — слабый ИИ — теперь обычно означает применяемый сегодня узкоспециализированный искусственный интеллект (AI). Ни одну существующую систему не признают сильным ИИ ни в одном из этих значений.

Гипотеза Серла о сильном ИИ#

Серл ввёл оба термина в работе «Сознание, мозг и программы», опубликованной в журнале Behavioral and Brain Sciences. В его трактовке слабый ИИ означает, что компьютеры — мощные инструменты для моделирования и изучения разума. Сильный ИИ утверждает больше: «правильно запрограммированный компьютер действительно является разумом, в том смысле, что компьютеры с подходящими программами буквально можно считать понимающими и обладающими другими когнитивными состояниями». Эта гипотеза следует из вычислительного подхода к сознанию, согласно которому мышление — это вычисления, а значит, любая машина с нужной программой будет мыслить независимо от своего устройства.

Аргумент «Китайская комната»#

Аргумент Серла «Китайская комната» описывает человека, не знающего китайского и запертого в комнате с написанной по-английски книгой правил. Через отверстие поступают вопросы на китайском. Человек сопоставляет иероглифы с правилами и выписывает указанные в них иероглифы. Ответы убеждают носителей китайского языка снаружи, что в комнате кто-то понимает по-китайски. Сам человек ничего не понимает. Серл утверждал, что компьютер, выполняющий программу, находится в таком же положении: он манипулирует символами, опираясь на их форму, а одного синтаксиса недостаточно для понимания смысла. Критики выдвинули возражения, на которые Серл ответил:

• Возражение о системе: человек — лишь часть системы, включающей книгу правил и черновик, а понимает китайский вся система целиком. Серл ответил, что человек мог бы запомнить правила и выполнять всё в уме, но всё равно не понимал бы китайского.
• Возражение о роботе: поместить программу в робота с камерами и моторами, чтобы её символы связывались с предметами реального мира. Серл ответил, что данные датчиков поступают в программу в виде новых символов для обработки. Когда в поле зрения робота попадает человек, детектор Ultralytics YOLO26 передаёт ему индекс класса 0, оценку уверенности и координаты рамки. С точки зрения Серла, это добавляет данные, но не понимание. Позднее Стеван Харнад сформулировал лежащий в основе вопрос как проблему заземления символов: как символы могут приобретать смысл через собственное восприятие системой мира и её действия в нём.
• Возражение о симуляции мозга: пусть программа симулирует срабатывание каждого нейрона в мозге человека, говорящего по-китайски. Серл ответил примером человека, управляющего огромной системой водопроводных труб и клапанов, которая воспроизводит активность этих нейронов. Такая система понимала бы не больше, чем сам человек, поскольку симуляция мозга — это не мозг.
• Возражение о других сознаниях: люди судят о понимании друг друга только по поведению, поэтому те же свидетельства должны быть достаточными и для компьютеров. Серл ответил, что вопрос состоит в том, что такое понимание, а не в том, как мы узнаём о его наличии у кого-либо.

Сильный ИИ и AGI, тест Тьюринга и сознание#

• AGI: вопрос о возможностях системы, оцениваемых по тому, что она умеет делать. Сильный ИИ в понимании Серла — это вопрос о внутреннем понимании. Согласно его взглядам, машина может пройти любые поведенческие тесты и при этом ничего не понимать. Футурологи, например Рэй Курцвейл, используют термин «сильный ИИ» в значении AGI человеческого уровня. Именно это значение сегодня принято в большинстве технических текстов, включая обсуждения возможных применений и сложностей сильного ИИ.
• Тест Тьюринга: в 1950 году Алан Тьюринг предложил заменить вопрос «Могут ли машины мыслить?» игрой в имитацию, оцениваемой только по беседе. Аргумент «Китайская комната» направлен именно против перехода от успешного прохождения такого теста к подлинному пониманию.
• Сознание: сильный ИИ в понимании Серла подразумевает наличие психических состояний, которые многие философы связывают с субъективным опытом. В докладе 2023 года, подготовленном 19 исследователями, системы ИИ проверили на соответствие индикаторным свойствам, полученным из нейробиологических теорий сознания. Авторы заключили, что «ни одна современная система ИИ не обладает сознанием», но «очевидных технических препятствий» для создания систем, отвечающих этим критериям, нет.

Сильный ИИ и языковые модели#

Большие языковые модели (LLM) вновь разожгли дискуссию, поскольку они свободно общаются на китайском и многих других языках, во многом подобно человеку из «Китайской комнаты». Эмили Бендер и Александр Коллер в статье 2020 года утверждали, что система, обученная только на языковой форме, не может усвоить значение, тогда как другие указывают на свидетельства наличия внутренних моделей мира. В работе «Возникающие представления о мире» (ICLR 2023) исследователи обучали модель GPT только на последовательностях допустимых ходов в Отелло. Они выяснили, что с помощью проб по активациям модели можно определить текущее состояние доски, а также показали, что изменение этого внутреннего состояния доски меняет предсказанные моделью ходы.