Формализация понятия алгоритма

Для глубокого, строгого изучения свойств алгоритма и его организации необходима формализация, хотя бы для того, чтобы иметь возможность делать доказательные утверждения о свойствах алгоритма. Подчеркнем, что цель математического уточнения понятия Алгоритма - изучение его свойств, а не создание практического инструмента для построения алгоритмов.

Один из возможных путей формализации состоит в том, чтобы подобрать понятия, уже известные в математике, и для которых уже разработан формализм. Одним из таких понятий-претендентов является функция. Действительно, на первый взгляд между функцией и алгоритмом есть много общего. У функции есть область определения, у алгоритма есть область применимости; у функции есть область допустимых значений, у алгоритма есть определенное множество результатов.

Рассмотрим взаимосвязь между функцией и алгоритмом. Сразу отметим, что основные свойства этой взаимосвязи мы будем здесь приводить без доказательства. Тому есть как минимум две причины. Первая - у читателя не предполагается знания необходимого математического аппарата; вторая - это увело бы нас в сторону от основной цели - формализации понятия алгоритма.

Определение 2.1. Говорят, что алгоритм А вычисляет функцию f(x), если:

Существует взаимно однозначное соответствие j между областью определения f(х) и областью применимости А;

Для любого х из области определения f верно: f(x)= А(j(x))

В этом случае функция f(x) называется вычислимой функцией.

Определение 2.2. Говорят, что Алгоритм А разрешает множество М относительно множества Х, где МÌХ, если:

Для любого х из множества М верно, что А(х) = “истина”;

Для любого у из Х, но у не принадлежит М, А(у) =“ложь”.

В этом случае говорят, что множество М разрешимое.

Примеры разрешающих алгоритмов - признаки делимости на 2, на 3, на 5. Эти алгоритмы разрешают множество натуральных чисел, кратных 2 (соответственно 3 либо 5), относительно всего множества натуральных чисел.

Определение 2.3. Говорят, что алгоритм А перечисляет множество В если область применимости А есть множество натуральных чисел N, а совокупность результатов есть множество В.

В этом случае В называется перечислимым множеством. Другими словами, в перечислимом множестве все элементы занумерованы целыми числами. Любой элемент в перечислимом множестве может быть найден по его номеру.

Изучение свойств вычислимой функции, а стало быть и алгоритма, показало, что:

Область применимости любого алгоритма - перечислимое множество; Следствие: алгоритмы не могут работать на множестве вещественных чисел.

Функция f(x) вычислима тогда и только тогда, когда перечислим ее график, т.е. множество {(x, f(x))} перечислимо.

Множество MÌX разрешимо относительно множества X, когда M и XM перечислимы.

Отсюда видно, что понятие алгоритма не сводимо к понятию функции. Множество функций мощнее множества алгоритмов.

Самое важное различие между этими понятиями для нас состоит в том, что алгоритм определяет некоторый процесс, который мы называем вычислительным. Понятие функции не предполагает и не определяет никакого процесса. Функция представляется в виде “черного ящика”, на вход которого подали аргументы и на выходе получили результат. Как этот результат был получен - умалчивается. Понятие алгоритма наоборот прежде всего сфокусировано на процессе вычисления результата. Алгоритм определяет именно то, как по аргументам вычислить результат. Итак, понятие функции, как оно есть в математике, нам не подходит, нужно строить формализацию, специально для алгоритма.

Всякое уточнение понятия алгоритма характеризуется следующими семью параметрами:

Совокупность возможных исходных данных (алфавит исходных данных).

Совокупность возможных результатов (алфавит результатов)

Совокупность возможных промежуточных результатов (алфавит  промежуточных результатов).

Множество действий.

Правило начала.

Правило окончания.

Правило определения расположения результата.

Здесь в качестве примеров уточнения понятия алгоритма мы рассмотрим Машину Тьюринга и Нормальные алгоритмы Маркова.

Машина Тьюринга.

Машиной Тьюринга называется формализм, предложенный для понятия алгоритма, английским математиком Аланом Тьюрингом. В 30-х годах нашего столетия Тьюринг занимался исследованием свойств вычислимых функций и объектом его внимания был вычислительный процесс.

В качестве исполнителя алгоритмов им был предложен автомат, состоящий из:

бесконечной ленты, разбитой на ячейки;

каретки, способной передвигаться над лентой, от ячейки к ячейке, считывать символы, записанные на ленте, записывать символы в ячейки.

В каждой ячейке ленты может быть записан только один из определенного множества символов, называемого алфавитом. За одно срабатывание каретка способна выполнить следующие действия:

считать символ из ячейки, над которой она находится;

записать символ в ячейку, над которой она находится;

переместиться либо влево, либо вправо на следующую ячейку, либо остаться на месте.

изменять свое внутреннее состояние.

Поясним последний пункт. Предполагается, что каретка может находиться в одном из состояний, из определенного множества состояний. Одним из ее действий, на ряду с перечисленными выше, является переход из одного состояния в другое.

В терминах, упомянутых выше семи параметров машину Тьюринга можно определить следующим образом.

Совокупность возможных исходных данных - алфавит D;

Совокупность возможных результатов - алфавит D;

Совокупность возможных промежуточных результатов - алфавит D;

Множество действий:

множество правил вида ap®bqw, где a,bÎ D;  p,qÎ Q;  wÎ {Л, П, Н}.

D - алфавит символов, которые могут появляться на ленте;

Q - множество символов, обозначающих состояния каретки.

Л, П, Н - символы, обозначающие передвижение каретки налево, направо или наместе соответственно.

Смысл правила  ap®bqw  состоит в следующем. Если каретка находится над ячейкой, в которой записан символ а, и каретка находится в состоянии p, то каретка должна:

записать в эту ячейку символ b (символ а при этом стирается),

из состояния p перейти в состояние q,

переместиться на следующую ячейку влево если w=Л, - вправо если w=П или остаться на месте если w=Н.

Правило начала: каретка всегда размещается над последним, считая слева направо, символом слова на ленте и находится в специальном начальном состоянии qo;

Правило окончания: есть специальное состояние, мы его будем обозначать символом ! из алфавита Q. Как только каретка переходит в состояние ! , она останавливается.

Например, если правило имеет вид  ap®b!w , то после его выполнения вычисление считается законченным.

Правило расположения результата: справа от каретки до первого символа пустоты.

Дело в том, что пустота - это тоже символ, который мы будем обозначать символом L.

Пример 1. Построить Машину Тьюринга, вычисляющую функцию

U(n)=n+1  , где  nÎ {0,1,2,3,4,5,6,7.8.9}.

Машина Тьюринга с алфавитом D={0,1,2,3,4,5,6,7.8.9} и Q={qo, qs, !},

где qo  - начальное состояние, а  ! - конечное.

Нижеприведенная последовательность команд, реализует требуемую функцию.

№ команды

a

b

1

0qo®1qsH

0qs®0qsЛ

2

1qo®2qsH

1qs®1qsЛ

3

2qo®3qsH

2qs®2qsЛ

4

3qo®4qsH

3qs®3qsЛ

5

4qo®5qsH

4qs®4qsЛ

6

5qo®6qsH

5qs®5qsЛ

7

6qo®7qsH

6qs®6qsЛ

8

7qo®8qsH

7qs®7qsЛ

9

8qo®9qsH

8qs®8qsЛ

10

9qo®0qoЛ

9qs®9qsЛ

11

Lqo®1!Л

Lqs® L!H

Рис.1.

Рассмотрим таблицу на рисунке 1. Часть а) реализует увеличение цифры в текущей клетке на 1. Команда 9qo®0qoЛ учитывает возникновение единицы переноса в старший разряд. Обратите внимание, что состояние qo сохраняется. Именно в этом состоянии мы увеличиваем цифру, в очередной клетке на единицу. Команда 11 в столбце а) - L qo®1!Л учитывает тот случай, когда в результате переноса разрядность числа возрастает на единицу. Последовательность команд в столбце b) обеспечивает соблюдение правила расположения результата. А именно, надо позаботиться, чтобы после увеличения числа на единицу, вся запись числа на ленте оказалась справа от каретки, согласно правилу размещения результата.

Нетрудно заметить, что пара: символ на ленте под кареткой и текущее состояние каретки однозначно определяет ту команду, которую надо применять. Действительно, среди записанных команд нет двух с одинаковыми левыми частями. Именно благодаря этому свойству Машина Тьюинга обеспечивает свойство детерминированности алгоритма. Таким образом, каретка всякий раз однозначно определяет ту команду, которую надо выполнить. Заметим, что проверку последовательности команд Машины Тьюринга на детерминированность осуществить очень просто. Достаточно сравнить левые части всех команд и убедиться, что они все разные.

Теперь, когда мы немного освоились с работой Машины Тьюринга и ее устройством, сделаем одно замечание по поводу записи последовательности команд, которую мы будем называть программой Машины Тьюринга. Один способ записи показан на рисунке 1. Другой способ основан на том, что пара - (текущий символ, текущее состояние каретки) однозначно определяет правую часть любой команды.

Действительно, возьмем таблицу размером p×(m-1), где p=|D| - число символов алфавита, m=|Q| - число состояний каретки. В размерности указано (m-1) потому, что состояние ! не может встретиться в левых частях команд. Столбцы этой таблицы поименуем символами из D, а строки - символами из Q. Тогда в соответствующих полях таблицы надо будет записать лишь тройку из правых частей команд.

На рис. 2 показана табличная запись программы с рисунка 1.

№

0

1

2

3

4

5

6

7

8

9

L

qo

1qSЛ

2qSЛ

3qSЛ

4qSЛ

5qSЛ

6qSЛ

7qSЛ

8qSЛ

9qSЛ

0qoЛ

1!Л

qs

0qsЛ

1qsЛ

2qsЛ

3qsЛ

4qsЛ

5qsЛ

6qsЛ

7qsЛ

8qsЛ

9qsЛ

L!Н

Рис.2.

Рассмотрим в качестве примера работу только что построенной Машины Тьюринга U1 для случая n=231. Первой выполненной командой будет команда 1a): 1qo®2qsH; после этой последуют команды 4b): 3qs®3qsЛ и 2b): 2qs®2qsЛ и наконец, 11b): Lqs®L!H. Таким образом, сложность этого вычислительного процесса будет равна 4.

В общем случае сложность этого алгоритма будет равна k+1, где k - число десятичных цифр в записи числа. Докажем это утверждение. Для k=1 истинность этого утверждения очевидна. Пусть это утверждение верно для k=l. Докажем, что оно сохранит истинность и для k=l+1. Появление очередной цифры в старшем разряде числа потребует от нас вместо исполнения команды Lqs® L!H или команды Lqo®1!Л либо увеличить эту цифру на 1, т.е. выполнить одну из команд в столбце а), либо “перескочить” через эту цифру, выполнив одну из команд группы b), после чего остановиться, выполнив команду 11 b). Таким образом, после обработки k цифр наша Машина Тьюринга выполнит k команд, обработка последней цифры потребует 2-х команд. Тем самым, общее количество выполненных команд будет равно l+2=(l+1)+1, что и требовалось доказать.

Обратите внимание, что вместе с оценкой сложности мы фактически доказали свойство конечности нашего алгоритма, т.е., что он обязательно остановится.

Пример 2. Построить Машину Тьюринга, вычисляющую

U((n)1)=(n-1)1 ,

где n>0 и (n)1 означает запись числа n в унарной форме, т.е. в виде . Другими словами, эта Машина Тьюринга с алфавитом D={ L, | }должна стирать одну палочку в записи числа. На рисунке 3 показана программа для этой машины.

|

L

qo

LqsЛ

|qoЛ

qs

|qsЛ

L!H

Рис.3

Обратите внимание, что если по ошибке в вход этой машине будет подано “пустое” слово, то она “зациклится”, т.е. будет бесконечно долго писать | . Действительно, единственно некоректной конфигурацией в начале работы будет сочетание qoL. По условию n>0. Поэтому в этом “неправильном” случае машина будет зацикливаться. Нетрудно подсчитать, что сложность этого алгоритма равна n+1.

Пример 3. Построить Машину Тьюринга

U((n)1)=(n)10 ,

где n>0 и (n)10 - запись числа n в десятичной системе. Другими словами эта Машина Тьюринга приводит запись числа n из унарной формы в десятичную. Работу этой машины организуем следующим образом.

Изначально на ленте находится слово из одних | символов и каретка находится над крайне правым | символом. Сотрем один символ |, а перед словом из символов | поставим цифру 1. Затем опять сотрем крайне правый символ | , а затем увеличим цифровую запись слева от слова из | на 1 и т.д. Обратим внимание, что стирать палочки  мы умеем, это делает Машина U2((n)1)=(n-1)1 и увеличивать десятичную запись числа на 1 тоже умеем, это делает машина U1((n)10)=(n+1)10. Программа для этой машины показана на рисунке 4.

L

|

1

2

3

4

5

6

7

8

9

0

Нач. состояние

Сти

раем палочку

(крайнеправый сим

вол |)

qo

LqerH

LqeH

1qerH

2qerH

3qerH

4qerH

5qerH

6qerH

7qerH

8qerH

9qerH

0qerH

ql

1qrП

|qlЛ

1qerH

2qerH

3qerH

4qerH

5qerH

6qerH

7qerH

8qerH

9qerH

0qerH

Про

дви-жение вправо до пер

вой | , либо если нет | , то пе

реход в q2l

qr

Lq2lЛ

|q2rH

1qrП

2qrП

3qrП

4qrП

5qrП

6qrП

7qrП

8qrП

9qrП

0qrП

Движе-ние влево до на

чала слова из цифр и стоп

q2l

L!H

|qerH

1q2lЛ

2q2lЛ

3q2lЛ

4q2lЛ

5q2lЛ

6q2lЛ

7q2lЛ

8q2lЛ

9q2lЛ

0q2lЛ

Движение вправо на | до пер

вой пусто-ты

q2r

Lq3lЛ

|q2rП

1qerH

2qerH

3qerH

4qerH

5qerH

6qerH

7qerH

8qerH

9qerH

0qerH

Сти

раем палочку.

Дви

жемся до пер

вой

циф

ры и увели

чива

ем ее на единицу

q3l

LqerH

LqdЛ

1qerH

2qerH

3qerH

4qerH

5qerH

6qerH

7qerH

8qrH

9q3lЛ

0q2lЛ

qd

1qrH

|qdЛ

2qrH

3qrH

4qrH

5qrH

6qrH

7qrH

8qrH

9qrH

0qrЛ

1qrЛ

Рис.4. Машина Тьюринга для U((n)1)=(n)10

Оценим сложность этого алгоритма. В начале работы каретка пройдет (n-1) символ при движении влево и (n-1) символ при движении обратно, т.е. 2(n-1). На втором проходе - 2(n-2) и т.д. Отсюда число пройденных палочек, а следовательно и выполненных команд будет равно n(n-1). Машина n раз выполнит команду, увеличения текущей цифры на 1. Количество просмотров цифр будет равно ([log10n]+1)([log10n]).Таким образом, получаем

n(n-1)+n+[log10n]× ([log10n]+1) @ n2+[log10n(log10n+1)]

Пример 4. Построить машину Тьюринга, для сравнения двух чисел a и b, заданных в унарной форме.

  если 

Пусть на ленте числа a и b заданы в унарной форме. Каретка располагается над лентой так, как показано на рисунке 5,

 

Рис.5.

т.е. над крайне правым символом | числа a . Cравнивать числа a и b будем, стирая попарно одну палочку в записи a и одну палочку в записи b. Если останутся палочки только в записи a, то значит a>b, если только в записи b, то a TD width=106 style='width:79.85pt;border-left:none;border-top:none;border-right:solid windowtext .75pt;border-bottom:solid windowtext .75pt' P style='margin-top:6.0pt'FONT style='font-size:10.0PT'FONT style='color:black;font-size:12.0pt'|qSUBa>bH

xqCHLЛ

qCHR

Lq’a=bЛ

|qab

Lq’a>bЛ

|qa>bП

xqa>bП

q’a>b

1!H

|qa>bЛ

Lq’a>bЛ

qa