Вероятностные методы в обработке информации

Введение

На сегодняшний день известен тот факт что для получения вероятности вычислительных операций, произведения вычислительных операций, основывающихся на определенной информации, необходимо располагать формализованным строгим алгоритмом последовательных, систематизированных, обоснованных действий. Иначе, результаты буду довольно тривиальными, начиная от несостоятельности подобного вычислительного механизма, и заканчивая наименее критичным из всех возможных результатов, увеличением погрешности исследования.
Современные информационные технологии оперируют большим объемом данных. При этом процесс создания, обработки, передачи и хранения информации требует в определенных случаях проведения ее анализа.
На данном этапе развития системной аналитики, существует достаточное количество методов, связанных с вероятностью. Тем не менее, на сегодняшний день известны модели, сосредотачивающие в себе специфику области, в которой они применяются, при этом многие, не являются ими.
Значительная часть методов является оптимальной, то есть мета научной, так как используется в большом количестве отраслей и сфер. В данной работе будут рассмотрены такие методы, как:
– Метод канонического корреляционного анализа;
– Метод наименьших квадратов;
– Метод нейронных сетей;
– Метод экспоненциального сглаживания.


1. Метод канонического корреляционного анализа

Канонический корреляционный анализ - один из вероятностных методов многомерного анализа данных [1]. Это наиболее обобщенная форма анализа корреляций, которая позволяет исследовать взаимосвязь между двумя множествами переменных, в отличие от факторного анализа, который применяют для установления связей внутри одного множества переменных.
Метод канонического корреляционного анализа относительно молодой. Впервые его идея была опубликована американским экономистом Гарольдом Хотеллингом (H.Hotelling) в журнале Биометрика в 1936 [2]. Однако активно теория канонического анализа разрабатывалась уже в 70-е гг. ХХ в. с развитием соответствующего программного обеспечения.
На сегодняшний день канонический анализ используется в маркетинговых, экономических, естественных, медицинских исследованиях, однако остается еще в определенной степени малоиспользуемым методом, о чем свидетельствует почти полное отсутствие посвященной ему литературы.
При этом интерес исследователей к каноническому анализу как к вероятностному методу обработки информации возрастает, поскольку реализация его в известных статистических пакетах, в частности в пакете Statistica, который позволяет пользоваться инструментарием канонического корреляционного анализа, не заботясь о вычислительной сложности метода.
Как известно, если рассматривается зависимость между одним результативным признаком Y и одним фактором Х, то речь идет о парной корреляции. Если необходимо определить зависимость между одним результативным признаком и множеством факторов Х, то применяется множественный регрессионный анализ. Каноническая корреляция - это применение парной регрессии в случае, когда необходимо измерить связь между несколькими или множеством зависимых переменных Y и множеством факторов X, при условии, что среди многочисленных возможных взаимосвязей определяются те, которые являются тесными (имеется наибольший коэффициент корреляции).
Например, пусть множество зависимых переменных В включает систему показателей эффективности предприятия, таких как: производительность труда, фондоотдача основных фондов, прибыль, рентабельность. В качестве факторов, влияющих на эти показатели эффективности, можно рассматривать: численность работающих, стоимость основных фондов, оборачиваемость оборотных средств, удельный вес потерь от брака, трудоемкость единицы продукции и т. д., которые входят во множество объяснительных переменных Х. Метод канонических корреляций позволяет одновременно проанализировать взаимосвязи между показателями обеих систем и определить те, которые являются тесными (имеют наибольшее значение коэффициента корреляции).
Алгоритм канонических корреляций строится таким образом, когда выходные переменные заменяются их линейными комбинациями. При этом обеспечивается высокий уровень оценки связи между линейными комбинациями зависимых переменных (результативными показателями) и линейными комбинациями объяснительными переменными (факторами).
Основная цель применения канонических корреляций для измерения связей заключается, прежде всего, в поиске максимальных корреляционно-регрессионных связей между группами выходных переменных: зависимых и объяснительных. Кроме этого, метод канонических корреляций позволяет сократить объем исходной информации за счет отсеивания незначительных факторов, которые мало влияют на зависимые переменные, то есть с помощью канонических корреляций можно избежать ошибок спецификации эконометрической модели.
Входные данные для канонического анализа можно схематично представить как два массива с одинаковым количеством строк N (объектов исследования) и разным (в общем случае, но не менее двух для каждого множества) количеством столбцов-переменных (рис

. 1).
В терминах математики задача состоит в поиске линейной комбинации p переменных и линейной комбинации q переменных таким образом, чтобы их корреляция была максимальной.
Значимость канонической корреляции определяют по критерию Бартлетта. Природа этой корреляции зависит от вида (модели) ассоциации между двумя множествами данных и внутри каждого множества. Эти связи можно выразить, объединив множества данных и вычислив коэффициенты корреляции (product moment correlation coefficients) для каждой пары переменных.
N
строк
Множество X
p переменных

Множество Y
q переменных

Рис. 1 Визуализация входных данных для канонического анализа
Вторым шагом является составление канонического уравнения: для поиска общих моделей или канонических корреляций сначала следует найти латентные корни канонического уравнения:
M-λI=0
После определения числа значимых канонических корней возникает вопрос об интерпретации каждого значимого корня. Одним из способов толкования значения каждого канонического корня является исследование весовых коэффициентов, соответствующих каждому множеству данных. Их также называют каноническими весами.
Канонические веса (обозначим их А и В) - показывают вклад каждой переменной в каждую общую модель. При анализе, как правило, пользуются тем, что чем больше приписан вес (то есть абсолютное значении веса), тем больший вклад соответствующей переменной. Для проведения более детального сравнительного анализа, как правило, рассматриваются стандартизированные переменные, то есть z-преобразованные переменные с нулевым средним и единичным стандартным отклонением.


2. Метод наименьших квадратов

Одним из наиболее мощных вероятностных методов обработки информации является разработанный в 1795-1805 гг. французским математиком Андриеном М. Лежандром (1752-1833) и немецким математиком Карлом Фридрихом Гауссом (1777-1855) метод регрессионного анализа, или, как часто его называют, метод наименьших квадратов (МНК).
Отметим, что применение МНК при обработке информации, которому около 200 лет, замедлялось через трудности, связанные со значительными объемами вычислений, и только в середине XX века этот метод получил широкое распространение в связи с появлением ЭВМ.
Одной из главных задач эконометрии в рыночной экономике является тщательное изучение количественных связей между показателями для лучшего понимания экономических явлений и процессов, что в свою очередь позволяет более обоснованно сформулировать управленческие решения и дать прогнозы на будущее. Для решения этой задачи требуется построение эконометрической модели. Те из моделей, которые основаны на методе наименьших квадратов при оценке их параметров, называются классическими и изучаются в классической эконометрии.
Как известно, применить метод наименьших квадратов для оценки параметров эконометрической модели можно только в случае выполнения определенных условий, которые далеко не всегда выполняются на практике для исходной экономической информации. Если эти условия нарушаются, приходится применять другие методы оценки параметров эконометрической модели.
Метод наименьших квадратов (МНК), благодаря широкой сфере применения, занимает исключительное место среди вероятностных методов. Задачей МНК является оценка закономерностей, наблюдаемых на фоне случайных колебаний, и ее использование для дальнейших расчетов, в частности, для прогнозов.
Особую роль играют МНК в геофизике, определяя концепцию и методологию решения обратной задачи геофизики.
На сегодня существует достаточно много различных программных продуктов, которые предоставляют возможность реализовать на ЭВМ этот метод. Поэтому их применение столь разнообразно: статистика, эконометрия, оценка погрешностей измерений и тому подобное.
В основе метода наименьших квадратов лежит минимизация суммы квадратов отклонений некоторых функций от переменных, которые ищутся.
Задача МНК решается путем параметрической оценки функции регрессии, которая описывает зависимость одной величины Y, значение которой (yi) наблюдают со случайными погрешностями (θi), от группы не случайных величин X1, X2,X3,…,Xk.
Функция регрессии - это функция k переменных, которая является математическим ожиданием величины Y при X1=x1, X2=x2,X3=x3,…,Xk=xk.
Из недостатков исследуемого метода, можно выделить необходимость структурирования информации и создания системы уравнений, что на практике не всегда осуществимо, в связи со спецификой некоторых областей, где применяются вероятностные методы, которые базируются на исходных данных конкретных областей, исследование которых проводится аналитиком [5].


3. Метод нейронных сетей

Одним из самых популярных вероятностных методов обработки информации в последнее время являются нейронные сети. Данный метод применяется в основном при размытой автоматической классификации.
История развития нейронных сетей составляет не одно десятилетие и берет начало в 1943 году из статьи нейрофизиолога Уоррена Маккалоха и математика Уолтера Питтса, в которой они описали работу искусственных нейронов и представления модели нейронной сети на электрических схемах