Мы уже разобрали два уровня интеллекта — уровень животного и уровень человека. Наметили пути к созданию алгоритма, способного обеспечить их моделирование. Напомню специфику интеллекта человека. Он управляет мышцами и через них — средой по критериям, исходящим от тела, от самого разума, от семьи и от общества. По своему алгоритму разум был «рассчитан» природой так, чтобы обеспечить оптимальную деятельность в изменчивой внешней среде умеренной сложности через короткие ФА. Этим определились его недостатки, ограничившие его же объективную ценность. Первый недостаток — меняющаяся субъективность оценок, связанная с переменной активностью критериев-чувств. Второй недостаток — неоднородность и неравномерность моделей среды: область центрального зрения представлена подробно, периферия — неясно. Проблема центра и фона объясняется рядом причин: спецификой зрительного восприятия и механизмом сознания, выделяющего одну модель в каждый момент, а также изменчивостью чувств, усиливающих одни модели в ущерб другим.

Модели в коре мозга можно рассматривать как действующие, поскольку они воспроизводят динамику среды, но отражают ее крайне неравномерно: для центральной фигуры улавливаются подробности движения, периферия представлена обобщенно и фрагментарно.

Кроме субъективности и ограниченности моделирования, мозгу присуща еще и увлекаемость, то есть способность к повышенной тренировке некоторых моделей в результате их повторного привлечения в сознание. При этом они сами становятся фактором, направляющим движение активности по моделям. Такой процесс и является основой самоорганизации. Она полезна для приспособления, но только в некоторых пределах, и сама может стать источником искажения действительности.

Наконец, речь как искусственный код моделей, удобный для их передачи вовне и хранения, далеко не полностью соответствует образам. Во-первых, речь отражает только сознание, во-вторых, она «беднее» образов, в-третьих, статична и медленна. И уж конечно, очень субъективна: при передаче моделей от одного лица к другому истина заметно искажается. Отсюда следует недостаточность словесной информации для описания сложных систем. По ней нельзя построить действующие модели большой сложности. Математика и графика частично исправляют эти недостатки речи, но лишь частично, поскольку все внешние модели действуют только через разум, а его недостатки — субъективность, увлекаемость и ограниченность — непреодолимы.

Длительная память человека несколько исправила недостатки «алгоритма» разума, но тоже не полностью. В частности, он оказался малопригоден для моделирования сложных систем в целях науки.

Специфику сложных систем «типа живых» я уже описывал, но, наверное, стоит повторить основные пункты. Эти системы сложны, так как состоят из множества элементов, по-разному комбинирующихся друг с другом в различных количествах. Они имеют рабочие подсистемы, в которых осуществляются главные энергетические и вещественные взаимоотношения с внешней средой, и управляющие, в которых представлены модели, взаимодействующие друг с другом сигналами. Все сложные системы построены по иерархическому принципу, причем на каждом уровне есть свои коды моделей и сигналов. Подсистемы управления имеют еще собственную иерархию моделей. «Вертикальные» и «горизонтальные», прямые и обратные связи объединяют систему в одно целое. Прочность этих связей различна, чем определяется степень системности целого или, иными словами, степень автономности частей, их «жизнеспособности» вне целого. Наконец, существует самоорганизация как способность изменять свои функции и структуры под влиянием внешней среды и собственной деятельности для удовлетворения главного критерия системы — выживаемости. Можно было бы продолжить перечень качеств сложных систем, но и эти я повторил лишь для того, чтобы перейти к вопросу о требованиях, предъявляемых к интеллекту, нужному для их познания.

Как уже говорилось, познание — это моделирование, создание моделей. Для этого недостаточно простого восприятия, нужны исследования, то есть активные воздействия на объект по плану, составленному на основе гипотезы. Тут познание смыкается с управлением. Интеллект, работающий по типу животного или даже человеческого разума, мало приспособлен как для познания, так и для управления сложными системами, поскольку он не в состоянии объективно и точно отразить их сложность в своих моделях.

Выше говорилось, что для эффективного управления объектом нужны его разные модели: обобщенные — для выбора «стратегии», то есть для планирования ФА, охватывающих длительные процессы, частные — для управления в ограниченных пределах и полные (с разной степенью полноты) — для создания материальной копии и для улучшения системы по избранным критериям.

Разум человека не приспособлен для создания таких полных моделей. Более или менее простые объекты удалось смоделировать, благодаря совершенствованию «внешних» моделей — математических, графических и описательных. Однако все они статичны и «для оживления» должны восприниматься разумом. Кроме того, графики, формулы и слова пригодны лишь для представления простых моделей, потому что при усложнении они быстро становятся необозримыми. Именно по этой причине до сих пор ни одна теория сложных систем «типа живых» не доведена до такой полноты и строгости, как теория физических явлений. Можно предположить, что при существующих возможностях человеческого разума и средствах внешнего моделирования (речь, математика, графика) есть «барьер познаваемости» сложности. Я не рискую категорически утверждать, что он непреодолим, но кажется, что это так. Коллективное мышление здесь не поможет. Разделив сложную систему на множество частей и сделав каждую из них порознь объектом специального изучения, можно уменьшить количественное несоответствие между уровнями сложности объекта и разума. Но это не решает проблемы, потому что в сложных системах поведение части зависит от целого вследствие наличия прямых и обратных «вертикальных» связей между иерархическими уровнями структуры. Следовательно, для познания такой системы нужен синтез.

Вывод отсюда только один: нужны действующие модели большой сложности, то есть принципиально новый код внешних моделей. Математика предлагает аппарат для такого кода, но она статична, и хотя формулы могут отразить динамику объекта, но ручные расчеты по ним весьма ограничивают пределы сложности.

Электроника и ее воплощение в компьютерах предоставляют нам принципиально новые средства создания сложных действующих моделей. Во-первых, они усиливают традиционную математику, поскольку ускоряют счет. Во-вторых, они дают новые возможности для коллективного творчества в виде объединения моделей в единое действующее целое, которое, в пределе, может стать недоступным для полного понимания каждым из участников создания моделей. И наконец, появилась возможность самоорганизации и саморасширения моделей, когда они из средств выражения человеческого разума сами приобретают его качества — способность создания новых моделей.

Действующие модели сложных систем — новый и высший этап оптимального управления этими системами. До тех пор, пока их модели представлены в книгах и «оживают» только в мозге человека, управление остается ограниченным и будет сопровождаться ошибками.

К сожалению, построение таких моделей сопряжено с исключительными трудностями. Дело в том, что они должны быть количественными, как это имеет место в реальных объектах. Существующие ныне науки о сложных системах «типа живых» являются в основном описательными. Они даже не имеют непротиворечивых гипотез по самым основным вопросам функций, не говоря уже о крайней скудости количественных сведений. Первое связано со вторым: для доказательства гипотезы нужно много сопряженных количественных данных, а для их сопоставления, сопряжения необходима модель, то есть обобщенная гипотеза.

Становление любой науки можно представить в такой последовательности:

а) наблюдения объекта органами чувств и словесное описание его структуры и функции;

б) измерения функций и уточнение структур — сбор разрозненной количественной информации;

в) синтез «полной» модели объекта, представляющей его теорию с различной степенью обобщенности. Я называю эту модель реальной.

Все науки о живых системах находятся приблизительно между второй и третьей фазами: сведений уже много, а полные модели только начинают создаваться. Процесс этот оказался очень трудным. По существу, еще нет ни одной полной модели. Мне кажется, что нужен новый подход к этой проблеме. Мы предлагаем его в виде метода эвристического моделирования.

Принцип метода состоит в том, что создается математическая модель объекта на основании описательной гипотезы о его структуре и функциях с использованием имеющихся в литературе количественных данных и добавлением недостающих путем предположений, построенных исходя из гипотезы и качественных сведений. Естественно спросить: зачем нужна такая модель и чем она лучше словесного описания. Конечно, она не является реальной моделью. Однако создание ее имеет смысл и представляется мне неизбежным этапом на пути построения реальной модели. Значение эвристической модели в следующем :

а) она требует формулирования более или менее непротиворечивой гипотезы. Противоречия неизбежно вскрываются, когда при построении модели слова приходится заменять цифрами, а также при дальнейшем исследовании готовой модели. Важно, чтобы она вела себя адекватно объекту по возможности в широком диапазоне режимов;

б) создается язык будущей реальной модели;

в) модель четко формулирует задачи для экспериментов: нужно получить определенную количественную информацию для уточнения наиболее спорных мест;

г) по мере получения новых экспериментальных данных гипотетическая модель приближается к реальной;

д) модель можно исследовать вместо объекта, и она позволяет предположить его новые свойства;

е) наконец, ее можно использовать для управления объектом в тех пределах ее деятельности, где она достаточно точно совпадает с объектом.

Конечно, значимость отдельных пунктов меняется в зависимости от объекта.

Для создания эвристической модели предлагается типовой план:

1. Формирование цели работы или назначения модели: например, как этап в изучении объекта, как инструмент управления, для отработки языка, для проектирования экспериментов и пр. От цели зависит все последующее.

2. Выбор уровня модели. Все сложные системы построены по иерархическому принципу. Степень обобщенности модели определяется тем нижним структурным уровнем, начиная с которого модель должна воспроизводить объект. Уровень определяется назначением модели, наличной информацией и возможностями ее переработки. Для управления достаточны высокие уровни, для создания новой системы и ее изучения желательны, по возможности, низкие уровни. Пример: для понимания механизмов рака нужно моделировать организм с уровня макромолекул, а для управления кровообращением достаточно начинать с уровня органов.

3. Формирование качественной гипотезы о структуре и функциях объекта в пределах, ограниченных целями. Обычно приходится выбирать между несколькими противоречащими друг другу гипотезами. Первый выбор определяется общей точкой зрения авторов. В последующей работе гипотеза подвергается изменениям, если возникают непримиримые противоречия.

4. Построение блок-схемы объекта. Элементы, подсистемы и связи определяются гипотезой и выбранным нижним уровнем структур.

5. Выбор значимых переменных (ограничение числа связей). Сначала определяются все известные переменные для каждого из элементов, потом выбираются, согласно гипотезе, значимые с учетом поставленной задачи. Таким образом, уточняются связи и строится структурная схема объекта, которая становится основой модели.

6. Установление по тем же принципам внешних «входов» системы — сначала определяются все внешние воздействия, потом из них выбираются значимые для сформулированных целей. Устанавливаются граничные условия.

7. Установление характеристик элементов, то есть зависимостей «входы» — «выходы» и «время». Это наиболее произвольный и сложный этап работы, так как данные литературы либо противоречивы, либо недостаточны, либо вообще отсутствуют. Статические и динамические характеристики каждого элемента могут быть выражены графиками, алгебраическими или дифференциальными уравнениями, их системами.

8. Отладка модели. Задаются начальные внешние условия, исходное состояние элементов и производится «увязка» всех характеристик. При этом производится согласование «входов» и «выходов» как целой системы, так и ее элементов. В ходе такой работы обнаруживается противоречивость характеристик некоторых элементов при крайних режимах, требующая коррекций. Иногда возникает и полная невозможность сбалансировать модель, указывающая на непригодность принятой гипотезы. Отладка производится для нескольких граничных условий. Для сложной системы «типа живых» принципиально невозможно создать идеальную модель, так как нельзя повторить все ее низшие уровни.

9. Исследование модели, то есть просчитывание многочисленных статических и динамических режимов, что осуществимо только при использовании вычислительных машин. Сначала нужно создать и отладить программу, что обычно требует некоторых коррекций в самой модели, прежде всего исправления характеристик элементов (например, приведения их к линейным). Само исследование уже позволяет получить новую информацию об объекте, предположить неизвестные дотоле качества.

10. Верификация модели — сравнение характеристики модели и объекта при одинаковых условиях, с целью определения достоверности модели и особенно границы ее применимости.

В отделе биокибернетики Института кибернетики АН УССР за последние годы была проделана большая работа по созданию эвристических моделей. Описание каждой из них потребовало бы специальной главы; сведения о них опубликованы, поэтому я ограничусь лишь перечислением. Наиболее значительными были модели искусственного интеллекта, но об этом уже шла речь.

Следующей работой является «Модель личности», призванная воспроизвести поведение человека в самом обобщенном виде, что необходимо для создания моделей социальных систем. «Выходы» модели состоят из двух разделов:

а) напряжение и продолжительность основных видов деятельности или распределение труда и времени — на работу, дом, общение, развлечения, информацию, отдых;

б) высказывания и поступки «за» и «против» по отношению к семье, коллективу, обществу, своей и другим социальным группам.

«Входы» представлены воздействиями общества в виде различного рода шкал «платы» со знаком « + » или «—», направленными на удовлетворение основных биологических и социальных потребностей личности. Стимулами деятельности являются чувства — производные удовлетворения потребностей, которые в свою очередь представляют собой функцию интенсивности труда и шкалы «платы» за него. В зависимости от врожденной и воспитанной активности потребностейчувств, шкал «платы» и труда частные чувства изменяются в пределах некоторых величин от НПр до Пр. Сумма чувств составляет вместе уровень душевного комфорта, который и является главным показателем субъективного состояния. Таким образом, модель личности связывает общество с его моральными и материальными шкалами «платы» за деятельность, с психикой человека и его трудом. В свою очередь сами шкалы являются функцией труда граждан, уровня развития техники и совершенства общественного устройства, основанного на определенной идеологии.

Модели обобщенных личностей социальных групп могут служить базой для построения «Модели общества». Эта работа начинается в отделе биокибернетики Института кибернетики АН УССР.

Нами использован принцип эвристического моделирования и в сфере физиологии, при создании «Модели внутренней сферы» организма, воспроизводящей взаимоотношение органов между собой, с нервными и эндокринными регуляторами. Практически это означало моделирование кровообращения, дыхания, водного, солевого и энергетического обмена и терморегуляции. В первую очередь модель отрабатывала норму — физические нагрузки разной интенсивности при неодинаковой внешней температуре. Эта работа проделана, и получены удовлетворительные совпадения с опытом. Главной целью остается моделирование патологических состояний с тем, чтобы в практике использовать модель для управления лечением больных с острыми расстройствами в результате травм, операций, инфарктов и пр. Такая модель представит высший этап медицинской кибернетики, воспроизводящей не статистику болезней, как делается до сих пор, а физиологические механизмы нормальных и патологических процессов. Она может претендовать на определенный уровень теории физиологии. В качестве низшего уровня структур приняты органы, а клеточные механизмы учтены в обобщенном виде в характеристиках органов. Конечно, такая модель пригодна только для описания органной физиологии и не может объяснить, например, механизмы рака или склероза.

Я не буду подробно обсуждать математические проблемы эвристических моделей и ограничусь лишь кратким перечислением условий, связанных с их спецификой.

1. Много переменных. Количество их определяется назначением модели и наличием данных. Так, для физиологических моделей, больше других претендующих на приближение к реальным, количество переменных составляет несколько сотен, поскольку для дальнейшего увеличения их числа просто нет достоверной информации (например, чтобы «спуститься» с уровня органов на молекулярный). Модели интеллекта не рассчитаны на воспроизведение процессов в мозге, но количество «слов», которыми необходимо манипулировать доказательно, чтобы смоделировать мышление человека, видимо, должно исчисляться многими тысячами. Напротив, модель личности можно ограничить сотнями переменных, так как она по своему назначению предполагает высокую обобщенность и связана с ограниченными возможностями лабораторной оценки психики. Другое дело — общественные системы. Их объем, видимо, должен быть весьма велик.

2. Сложные системы иерархичны по своей структуре, содержат множество «горизонтальных» связей в пределах уровня и «вертикальных» — между ними. Переменные на разных уровнях имеют разную специфику и временные характеристики. Все это должно быть представлено в модели, иногда при помощи и дополнительных переменных, отражающих качество основных.

3. Как правило, характеристики элементов нелинейны. Степени их нелинейности крайне различны, и некоторые точки кривых целесообразно выражать «скачками» (или логическими переключениями), отражающими дискретность в деятельности систем. Примером является переключение СУТ.

4. Необходимость обобщать переменные, то есть заменять несколько конкретных переменных одной обобщенной (условной), является неизбежной при моделировании. Нужны специальные правила, описывающие, что можно, а что нельзя объединять. По всей вероятности, они должны основываться на корреляциях показателей.

5. В эвристических моделях нет необходимости в точности вычислений, поскольку ее нет в экспериментальных науках, изучающих моделируемые объекты. Это очень важное условие, так как оно позволяет отказаться от сложных математических описаний. Так, например, можно отказаться в ряде случаев от дифференциальных уравнений в пользу алгебраических и динамику систем рассчитывать по временным тактам. Нелинейные характеристики можно заменять кусочно-линейными.

6. Модели должны предусматривать вероятностные расчеты. Поскольку в системах-объектах очень много неизвестного, то неизбежно несколько вариантов допущений, существенно влияющих на поведение системы. Так, например, в модели внутренней сферы, призванной воспроизводить динамику развития болезни, подобные варианты совершенно необходимы. То же касается моделей общества. Иное дело — искусственный интеллект, который можно создать строго детерминированным.

7. Специфика метода эвристического моделирования предъявляет свои условия к программированию моделей на ЦВМ. Программы должны быть гибкими, блочными, позволять произвольно изменять любую величину, любую характеристику. Это необходимо для процесса создания самой модели. Задача разработчика программы не ограничивается воспроизведением заданных формул и цифр, часто приходится их заново создавать и вносить поправки в ходе отладки модели, с тем чтобы получить некоторые предполагаемые по гипотезе конечные «выходы».

Создание эвристических моделей — творческая работа коллектива специалистов в данной области науки и математиков. Те и другие должны проникнуться общими идеями и достигнуть полного взаимопонимания. Роль ведущего в группе определяется не специальностью, а способностью широко охватить предмет и создавать гипотезы. Конечно, нужны также работникиэрудиты, хорошо ориентирующиеся в массе имеющихся фактических данных, программисты, кропотливо отлаживающие сложные программы и готовые в любой момент переделывать их заново в связи с изменением гипотезы.

Эвристические модели приближают нас к теории систем «типа живых», позволяя прогнозировать их поведение, исследовать возможности управления и даже реконструкции. Более того, эвристические модели обещают совершенно новый аппарат познания. Такие модели систем «типа живых» составляют основу для построения в будущем реальных моделей, призванных заменить традиционные книжные модели нашей науки. Разработка эвристических моделей интересна сама по себе, поскольку удовлетворяет чувство любознательности. В самом деле, что может быть заманчивее, чем попытаться заглянуть в механизм работы клетки, целого организма или понаблюдать поведение человека с заданными генами.

Разумеется, реальные модели систем «типа живых» такой сложности, чтобы по ним можно было создавать новые объекты и даже реконструировать их,— дело далекого будущего. Однако искусственный интеллект выше человеческого разума отстоит во времени, пожалуй, еще дальше.

Мне представляется, что для сложных объектов будет целая система действующих моделей — полных, разной степени обобщенности, и частных, в которых воспроизведены детали. Модели эти отразят разные уровни структурной иерархии. Например, можно представить себе действующую модель организма как целого — с его «входами» извне и «выходами» в виде поступков. Наша обобщенная модель личности примерно соответствует этому понятию. Мыслима действующая модель организма на уровне органов — это наша модель внутренней сферы в самом первом приближении. Конечно, в биологии главной должна быть действующая модель клетки как самого низкого структурного уровня, на котором и осуществляются все биологические процессы. Они еще недоступны.

Как бы ни были сложны модели, они никогда не могут стать копией живой клетки или организма, даже если для копирования будут использованы гены данного живого существа. Поэтому модели будут всегда лишь вероятностными. Для того чтобы использовать такие модели в целях управления, придется их «привязывать» или «настраивать» на объект, но и в этом случае возможно лишь вероятностное управление с коррекцией эффекта обратными связями. Это примерно то же, что делает человеческий разум в процессе любого функционального акта. Разница лишь в степени сложности управляемых объектов и в вероятности эффекта управления.

Действующие модели — аппарат внешней памяти будущего. Они должны заменить библиотеки книг. Однако это не имеет прямого отношения к проблеме интеллекта.

Каким можно представить себе такой искусственный интеллект.

Уже говорилось, что мыслимы различные интеллекты — неодинаковой «мощности» и направленности. Направленность я представляю как градации от универсального к специализированному интеллекту. Разница выражается прежде всего в критериях. Универсальный интеллект создается по типу человеческого: он отражает потребности «тела», разума, среды, в том числе среды социальной — общества, при значительной самоорганизации в смысле возможности самовоспитания. Специализированный направлен на оптимальное управление определенной сложной системой, и его главные критерии диктуются именно ею. «Личные» качества нужно ограничить, так же как и «воспитуемость». Подобный интеллект наиболее приближается к традиционному понятию робота. Например, он сможет присматривать за маленьким ребенком. Искусственный интеллект такого направления при высоком уровне сознания должен быть личностью, поскольку ему придется общаться с людьми. Однако требование преимущества главной потребности — стремления к «благу» управляемого сложного объекта — должно оставаться непреложным. Здесь вступает в силу главный «закон робототехники»: не вредить людям. Сомнительно лишь, возможно ли его соблюсти, поскольку высокий уровень ИИ предусматривает творчество и способность к перевоплощению, Он должен уметь создавать новые методы управления в связи с изменением объекта и обстановки. Не придумает ли он и новые убеждения. Можно ли найти ограничители, способные удержать его в положении специалиста-служаки, живущего одними только интересами дела.

Универсальный интеллект высокого уровня подобен очень умному человеку. Думаю, что у него должен быть тот же принцип действия: сознание, подсознание через СУТ, обобщение моделей разного уровня, ФА. Реализация всего этого зависит от технологии. От того, будет ли это чисто алгоритмический интеллект или в него заложат элементы сетевого интеллекта на физических элементах, зависит многое.

Важнейший вопрос — выбор потребностей (критериев, чувств); видимо, нужен такой же набор их, как и у человека. Вся трудность — в выборе характеристик, значимости, в определении возможности ограничений и воспитуемости. При высоком уровне сознания убеждения приобретают главенствующее значение, однако «врожденные» потребности в большой степени их направляют. Сразу возникает сомнение: а не будет ли ИИ способен регулировать характеристики этих «врожденных» потребностей. Человек не может этого делать, и воспитуемость его в зрелом возрасте весьма ограничена. Но у ИИ будут другие возможности! Этот вопрос об ограничителях, иными словами, та же модифицированная «робототехника» остается самым важным.

Не буду останавливаться на «характере» ИИ, он связан с теми же проблемами характеристик.

Речь у ИИ, разумеется, будет представлена, причем в нескольких вариантах: одна — для общения с людьми и книгами, другая — для связей с подобными себе. Эта последняя система знаков может быть более совершенной и «технологической».

Творчество — вот главная цель создания искусственного интеллекта уровня выше человеческого разума. Как было сказано, простые программы создания новых моделей представляют собой перебор моделей низшего уровня по обобщенным моделям, которыми выражена задача. Успех такого «конструкторского» творчества определяется эрудицией — набором имеющихся в памяти моделей-деталей для обобщенных моделей. Для творчества высокого порядка характерно наличие только самых общих моделей, описывающих объект — будущую машину, которую нужно изобрести, или сложную систему, работу которой, например, нужно объяснить. Для этого приходится привлекать данные из других областей науки, с тем чтобы заполнять предположениями большие пробелы между «островками» отдельных фактов. Можно полагать, что ИИ высокого уровня в этом отношении превзойдет человеческий разум, поскольку у него будет больше знаний и совершенная система подпрограмм подсознательного поиска данных в разных областях науки. Я совсем не преуменьшаю трудности такого поиска даже при очень совершенной организации памяти, особенно если нужно собрать целую цепь моделей для создания гипотезы, объясняющей работу сложной системы. Тем не менее они преодолимы. При поиске нового человеку трудно выйти из узкого круга привычных истин просто потому, что это не позволяют хорошо натренированные модели и связи, которые и представляют собой данную область науки. Даже подсознательный поиск не помогает — за редким исключением гениев. Искусственный интеллект может себе позволить «раскованное мышление», и его творчество будет более эффективным. Впрочем, в этом таятся свои опасности, но не станем снова вдаваться в фантастику. Еще очень далеко до такого интеллекта!