Почему ИИ не станет «человеком»: критика искусственного интеллекта в изложении Хьюберта Дрейфуса

Какие скрытые предположения лежат в основе современных теорий искусственного интеллекта? Хьюберт Дрейфус критикует распространённые взгляды на ИИ, указывая на четыре ключевых ложных допущения, которые формируют современную научную парадигму в области искусственного интеллекта. Эти допущения касаются рациональности, символизма, алгоритмичности и возможности создания «человеческого» разума.

Дрейфус, один из ведущих критиков логико-математического подхода в исследованиях ИИ, раскрывает, почему полное воспроизведение человеческой когнитивной деятельности с помощью машин остаётся невозможным. Статья будет полезна тем, кто интересуется философией технологий и критическим анализом научных парадигм.

***

Несмотря на серьезные трудности, исследователи, работающие в области моделирования процесса познания и создания «‎искусственного интеллекта», не пали духом. Более того, они настроены на редкость оптимистично. Их оптимизм основан на убеждении, что у человека переработка информации, вне всякого сомнения, носит дискретный характер, подобно тому как это происходит в цифровой машине. Коль скоро природа, основываясь на этом принципе, уже реализовала разумное поведение, то, составив соответствующую программу, мы имеем возможность наделить такой же способностью и вычислительные машины. При этом мы можем идти по пути имитации природы, либо программирования ее внешних проявлений.  [...]

Это предположение, однако, не столь невинно и очевидно, как представляется на первый взгляд. [...] Вся информация, с которой работают эти ЦВМ, должна быть выражена в терминах дискретных элементов. Для современных цифровых машин информация представляется в двоичной форме, то есть в виде последовательностей сигналов «‎да» и «‎нет» либо «‎включено» и «‎выключено». Машина должна обрабатывать строчки определенных элементов конечной длины как последовательности объектов, отношения между которыми задаются строгими правилами. Таким образом, предположение, согласно которому человек действует подобно устройству для символьной обработки информации, связано со следующими допущениями:  

1. Биологическое допущение: на некотором уровне — обычно полагают, что на уровне нейронов, — операции по переработке информации носят дискретный характер и происходят на основе некоторого биологического эквивалента переключательных схем.  

2. Психологическое допущение: мышление можно рассматривать как переработку информации, заданной в бинарном (двоичном) коде, причем переработка происходит в соответствии с некоторыми формальными правилами. Таким образом, в психологии вычислительная машина служит в качестве модели рассудка, каким его представляли эмпирики, такие, например, как Д. Юм (в этом случае информационным «‎битам» соответствуют атомарные впечатления), или идеалисты вроде И.Канта (в этом случае программа реализует правила мыслительного процесса). Они подготовили почву для модельного представления мышления в виде процесса переработки информации — безличного процесса, в котором «‎процессор» не играет существенной роли.  

3. Эпистемологическое допущение: все знания могут быть формализованы, то есть все, что может быть понято, может быть выражено в терминах логических отношений, точнее, в терминах булевых функций — логического исчисления, задающего правила обращения с информацией, заданной в двоичном коде.  

4. Наконец, поскольку вся информация, которая вводится в машину, должна быть представлена в двоичной форме — в битах,— машинная модель мышления предполагает, что все сведения о мире, все, что составляет основу разумного поведения, должно в принципе допускать анализ в терминах множества элементов, безразличных к ситуациям. Таково онтологическое допущение: все, происходящее в мире, можно представить в виде множества фактов, каждый из которых логически не зависит от остальных. [...]

БИОЛОГИЧЕСКОЕ ДОПУЩЕНИЕ

[...] ...точка зрения, согласно которой мозг как универсальная система переработки символьной информации работает подобно цифровой машине, является эмпирической гипотезой, время которой уже прошло. Современные экспериментальные данные о работе мозга не дают никаких аргументов в пользу возможности создания «‎искусственного интеллекта». В действительности мы отчетливо видим различие между организацией мозга, основанной на «‎сильном взаимодействии» его элементов, и структурой машины, лишенной такого взаимодействия. Если признать биологические данные существенными, то это различие свидетельствует против возможности создания интеллекта на базе цифровых ЭВМ. [...]

ПСИХОЛОГИЧЕСКОЕ ДОПУЩЕНИЕ  

[...] Обычно в пользу этой новой догмы о том, что человек — это система переработки информации, действующая подобно эвристически запрограммированному «‎компьютеру», не приводится никаких аргументов. Создается впечатление, что это утверждение — безусловная аксиома, так как в противном случае оно требовало бы тщательного и критического анализа. Поскольку мозг физически реален и, образно выражаясь, «‎перерабатывает информацию», постольку существует известный соблазн предположить, что должен существовать некоторый уровень «‎информационных процессов» — некая динамическая операциональная структура, в терминах которой может быть описана информационная активность мозга. Однако, как мы видели в главе 3, именно потому, что мозг материален и производит переработку информации, биологи не видят никаких оснований считать, что он работает подобно цифровой вычислительной машине. Это верно и для психологического уровня. Хотя психологи и описывают функцию мозга, называемую разумом, как «‎процесс переработки информации» это совсем не значит, что мозг действительно перерабатывает информацию в принятом в современной литературе смысле этого выражения или что мозг работает как цифровая машина, то есть обладает некоторой программой. [...]

На определенном уровне это априорное допущение имеет смысл. Человек — это реальный объект. Успехи в области естественных наук убедили нас в том, что полное описание поведения всякого реального объекта может быть выражено с помощью точных законов. Такое описание в свою очередь может послужить созданию программ для вычислительных машин, которые, по крайней мере в принципе, в состоянии моделировать соответствующее поведение. Так родилась идея нейрофизиологического описания поведения человека в терминах '"входов" (потоков энергии, физико-химических процессов мозга) и «‎выходов» (движений физических тел),— описания, которое в принципе допускает моделирование на цифровой вычислительной машине.  

Такой уровень описания имеет смысл, по крайней мере в первом приближении. Соответствующая идея со времен Р.Декарта составляет часть общей физической картины вселенной. Безусловно, мозг — это орган, преобразующий энергию. Он улавливает входные сигналы, например изменение интенсивности освещения и связанные с ним изменения текстурных градиентов. Но, к великому сожалению психологов, физическое описание ни в коей мере не дает психологического объяснения, поскольку в нем отсутствуют какие бы то ни было психологические понятия. На этом уровне нельзя достаточно квалифицированно судить о таких сугубо человеческих факторах, как разум, мотивация, восприятие, память и даже цветовые и звуковые ощущения, в том плане, как это хотелось бы психологам. Энергия принимается и преобразуется — вот и весь сказ. [...]

ЭПИСТЕМОЛОГИЧЕСКОЕ ДОПУЩЕНИЕ

[...] ...для оптимизма еще сохраняется одно основание: хотя действия человека не могут быть объяснены на основе предположения, что люди на самом деле следуют эвристическим правилам, неосознанно выполняя некоторую последовательность операций, разумное поведение может быть тем не менее формализовано в терминах такого рода правил и благодаря этому воспроизведено на машине. В этом состоит эпистемологическое допущение. [...] 

Сторонники эпистемологического допущения понимают, что их формальный аппарат, рассматриваемый в качестве теории компетенции, не обязан быть теорией человеческой деятельности. Однако их зависимость от платоновских идей не позволяет им осознать, что любая теория компетенции не может служить адекватной теорией также и машинного функционирования. Таким образом, эпистемологическое допущение основано на двух утверждениях: а) всякое непроизвольное поведение может быть формализовано и б) для воспроизведения интересующего нас поведения может быть использован формальный метод. [...] 

...общие законы «‎лингвистической компетенции» не могут прямо применяться к моделированию языкового поведения. Чтобы от лингвистического формализма перейти к конкретному употреблению языка, следует учитывать тот факт, что говорящий понимает ситуацию, в которой находится. Если теория использования языка возможна как самостоятельная теория, то это должна быть теория совсем иного рода — теория ситуативного контекста, полностью описывающая его в универсально значимых, но не в физических терминах. Однако ни физика, ни лингвистика не предложили ни одного подхода к созданию подобной теории и, более того, не подали никакой надежды на то, что такая теория когда-либо появится. [...] 

Главное состоит в том, могут ли существовать правила, описывающие то, что говорящий делает в действительности. Чтобы иметь полную теорию того, что может делать носитель языка, нужно располагать не только грамматическими и семантическими правилами, но и правилами, которые дали бы возможность человеку или машине распознавать контекст, в котором правила должны применяться. Так, должны существовать правила для распознавания ситуации, намерений говорящего и т.д. Но если теория требует дальнейших правил для объяснения того, каким образом осуществляется применение этих правил, то, рассуждая чисто логически, мы впадаем в бесконечное сведение одних правил к другим. И то что мы, несмотря на это, ухитряемся применять язык, означает, что такая редукция не представляет проблемы для человека. Если «‎искусственный интеллект» возможен, то сведение, редукция правил не должна быть проблемой и для машин. [...]

Для тех, кто имеет дело с вычислительными машинами, редукция также прекращается вместе с интерпретацией, которая самоочевидна, однако эта интерпретация не имеет ничего общего с требованиями ситуации. И не может иметь, поскольку вычислительная машина не человек, и не находится «‎в ситуации». Она не порождает какого-либо ситуативного контекста. Для специалиста в области вычислительной математики и техники решение проблемы состоит в том, чтобы создать машину, способную реагировать в конечном счете на кванты свободных от контекста, полностью детерминированных данных, понимание которых не требует дальнейшей интерпретации. Как только данные введены в машину, дальнейшая их обработка должна производиться по правилам. Но считывание данных есть непосредственное отражение детерминированности признаков машинной среды, таких, как, например, дырочки на перфокартах или мозаика телевизионной камеры; поэтому на этом самом низком уровне машине не нужны правила для применения ее правил. [...]

ОНТОЛОГИЧЕСКОЕ ДОПУЩЕНИЕ

[...] ...данные, которыми вынуждена оперировать вычислительная машина для того, чтобы воспринимать окружающий мир, говорить на естественном языке и вообще проявлять разумное поведение, должны быть дискретными, явными и четко определенными; в противном случае они не будут иметь тот вид, при котором информация может быть введена в машину для обработки по тем или иным правилам. Ведь нет ни малейшего основания считать, что такого рода данные о мире человека могут быть сделаны доступными для вычислительной машины; напротив, можно указать сразу несколько причин, на основании которых можно утверждать, что таких данных не может быть. [...] 

Допустим, в качестве предположения, что любого рода человеческие знания могут быть представлены в виде списка объектов и сведений о фактах, касающихся этих объектов. В связи с проведенным Минским анализом возникает проблема занесения всей этой огромной массы фактов в память машины и организации доступа к этой информации. Каким образом нужно структурировать эти данные — сто тысяч дискретных элементов,— чтобы можно было за разумный промежуток времени отыскать среди них требуемую информацию? Если предположить, что наше знание о мире представляет собой знание миллионов дискретных фактов, то проблема возможности искусственного интеллекта сводится к проблеме организации хранения огромной базы данных и доступа к ней? [...] 

Отнюдь не доказано, что, для того, чтобы стать разумным, человек тем или иным способом решил или должен был решить проблему большой базы данных. Вполне возможно, что сама эта проблема возникла как «‎артефакт», связанный с тем, что вычислительная машина вынуждена оперировать дискретными элементами. Человеческие знания, по-видимому, нельзя разложить на простые категории, как этого хотелось бы М. Минскому. Ту или иную ошибку, столкновение мнений, деликатное положение и т.д. никак не назовешь объектами или фактами, касающимися объектов. Даже обыкновенный стул невозможно представить себе в терминах какого бы то ни было множества фактов или «‎элементов знания». Отнести какой-нибудь объект к разряду стульев — значит понять, как он соотносится с другими объектами и человеком. При этом оказывается затронутым весь контекст человеческой деятельности, в котором форма нашего тела, возникновение потребности в мебели, явление усталости человека и т.п. составляют лишь небольшую часть. А эти факторы в свою очередь не легче выделить в чистом виде, чем просто стул. Любой из них приобретает смысл только в контексте человеческой деятельности, в которую он входит как составная часть.

Как правило, имплицитно понимая человеческую ситуацию, создающую данный контекст, и сталкиваясь в этом контексте с конкретными фактами, мы не находим для них эксплицитного выражения. Нет оснований — кроме навязываемых онтологическим допущением — предполагать, что все факты, касающиеся данной ситуации, которые мы в состоянии выразить в явном виде, подсознательно уже выражены в какой-то «‎модельной структуре», причем выражены эксплицитно, или что мы вообще в состоянии представить ситуацию в абсолютно явной и четкой форме, если очень постараемся.

ЧТО ТАКОЕ БАЗА ЗНАНИЙ?

Концентрированная книга издательства LIVREZON складывается из сотен и тысяч проанализированных источников литературы и масс-медиа. Авторы скрупулёзно изучают книги, статьи, видео, интервью и делятся полезными материалами, формируя коллективную Базу знаний. 

Пример – это фактурная единица информации: небанальное воспроизводимое преобразование, которое используется в исследовании. Увы, найти его непросто. С 2017 года наш Клуб авторов собрал более 80 тысяч примеров. Часть из них мы ежедневно публикуем здесь. 

Каждый фрагмент Базы знаний относится к одной или нескольким категориям и обладает точной ссылкой на первоисточник. Продолжите читать материалы по теме или найдите книгу, чтобы изучить её самостоятельно.  

📎 База знаний издательства LIVREZON – только полезные материалы.