Гэри Маркус является одной из наиболее значимых и спорных фигур в области искусственного интеллекта. Его научные взгляды и критика существующих методов построения ИИ вызывают множество дискуссий не только среди специалистов, но и в более широких кругах, интересующихся будущим технологий. Защита позиций Гэри Маркуса требует глубокого понимания его основных аргументов, которые касаются фундаментальных вопросов, связанных с природой интеллекта и способностью машин к настоящему пониманию и символической обработке информации. Одним из ключевых моментов, который не дает покоя Маркусу, является разрыв между поверхностным сопоставлением паттернов и истинным символическим мышлением. Современные системы, основанные на больших нейронных сетях, демонстрируют поразительные способности к обработке огромных массивов данных, однако Маркус указывает на то, что такие системы зачастую не обладают внутренним представлением о структуре информации.
Они обучаются на основе способности распознавать закономерности, но не способны манипулировать символами и абстрактными понятиями так, как это делает человек. Диалог между Маркусом и условным изобретателем Самом, описанный в ряде публичных выступлений и публикаций, иллюстрирует этот фундаментальный разрыв. Сам демонстрирует машину «Addomatic», способную складывать числа путем адаптации множества электронных элементов методом постепенной настройки параметров на основе обратной связи. Маркус же выражает скептицизм по поводу того, что такая система действительно понимает процесс сложения чисел, а не просто имитирует его, подгоняя результат под ожидаемый ответ с помощью статистических методов. Данная дискуссия знаменательна тем, что поднимает вопросы о критериях научного доказательства способности системы выполнять определённые функции осмысленно.
Если машина может корректно складывать трехзначные числа, возможно ли утверждать, что она умеет складывать все числа бесконечной длины? Здесь встает вопрос об универсальности алгоритмов и о том, должен ли искусственный интеллект обладать проверяемыми методами работы, чтобы считаться интеллектуальным. Маркус аргументирует, что для настоящего интеллекта необходимым является способность символической обработки — осмысленное манипулирование символами согласно строгим алгоритмам, которые гарантируют правильность результата в любой ситуации. Он подчеркивает, что случайное обучение на основе огромных объемов данных, даже если оно приводит к успешно выполненным задачам, не доказывает внутреннего понимания системы или ее способности к обобщению вне обучающей выборки. Еще одной важной темой является различие между алгоритмическими методами и методами поверхностного соответствия. Когда человек складывает числа, он опирается на понимание структуры чисел и алгоритмов действия с ними, в то время как нейросеть, обученная на миллионах примеров, может просто оценивать наиболее вероятный результат, не имея четкого представления о механизме сложения.
По словам Маркуса, именно эта неспособность к реальному символическому мышлению ставит под сомнение достижение искусственного общего интеллекта (AGI) современными методами. Стоит отметить, что оппоненты Маркуса, опирающиеся на эмпирические успехи глубокого обучения, указывают на то, что многие свойства интеллекта могут возникать в сложных системах самостоятельно, без явного программирования символов и правил. Они считают, что подобные системы могут постепенно развить внутренние представления через масштабирование и оптимизацию. Однако Маркус настаивает на том, что такие представления не равнозначны истинному символическому мышлению и что нежелательный переход от более примитивного сопоставления к истинному пониманию не гарантирован. Важным аспектом критики Маркуса является принцип фальсифицируемости — возможность четко определить, когда система действительно отличается от простой статистической модели или заранее заданного набора правил.
Если машина обучается исключительно на результатах, без объяснимой структуры и алгоритмов, то невозможно отделить ее от продвинутой имитации, что затрудняет оценку ее интеллекта и прогнозирование возможностей в новых ситуациях. Несмотря на свою критическую позицию, Гэри Маркус предлагает перспективные направления для развития ИИ, акцентируя внимание на гибридных подходах, сочетающих силу нейросетевых методов с традиционными символическими системами. Он считает, что только такая кооперация позволит преодолеть текущие ограничения и приблизиться к действительно универсальному интеллекту. Его скептицизм — не отказ от прогресса, а призыв к внимательному и осмысленному подходу к разработке искусственного интеллекта. Он повторяет, что технологии развиваются быстро, но важно не забывать о фундаментальных принципах, которые делают интеллект устойчивым и способным к настоящему пониманию мира.
