Трансцендентная регрессия

From

Evgenij Masherov (2:5020/175.2)

To

Aleksey V. Vaneev

Date

2002-06-29T21:05:44Z

Area

RU.ALGORITHMS

From: "Evgenij Masherov" <EMasherow@nsi.ru>

Fri Jun 28 2002 19:03, Aleksey V. Vaneev wrote to All:


 AM>> для полинома:
 AM>>   y = a0 + g1*у(arg1) + g2*z(arg2) + ...
 AM>> Если устраивает такой вариант можно в NETMAIL

 AVV> Меня натолкнуло это уравнение на еще один вопрос, который меня
 AVV> интересует
 AVV> (это никак не связано с предыдущим вопросом).

 AVV> В общем, есть уравнение ТР:

 AVV> ^
 AVV> y = b0 + b1x1 + b2x2 + ... + bkxk

 AVV> Метод нахождения коэффициентов b "в теории" имеется. Хотя я бы не
 AVV> отказался от готового исходника.

 AVV> Также существует другой метод - уравнение МР (множественной регрессии).
 AVV> Метод Брандона. Мне он, в общем-то больше нравится, потому как допускает
 AVV> использование любых приближающих уравнений.

Задача линейная. Поскольку линейность важна по коэффициентам, а не по
регрессорам. Так что алгоритмы линейной регрессии работают. Вот если и
коэффициенты входят нелинейно - то тоже можно, скажем,
Левенбергом-Марквардтом.

 AVV> Еще вопрос - достаточно ли сравнивать суммы абсолютных отклонений
 AVV> значений выборки от функции, чтобы выяснить какое приближающее уравнение
 AVV> лучше (линейное, квадратичное, или полиномиальное)?

Обычно работают с квадратами, они удобнее математически, но более уязвимы к
грубым ошибкам.
Лично мне нравится скользящий экзамен.

 AVV> Если не сложно, укажите, пожалуйста, URL, где можно найти методику
 AVV> вычисления полинома любого порядка для данной выборки (метод наименьших
 AVV> квадратов для линии и параболы у меня уже имеется). Еще очень интересует
 AVV> задача оптимизации полученного уравнения. В случае ТР это линейная
 AVV> задача (наверное, подойдет симплекс-метод). А вот в случае метода
 AVV> Брандона получается нелинейное уравнение. Как его решать - не знаю
 AVV> (кроме применения генетических алгортимов). Но в случае с ГА остается
 AVV> нерешенной задача доказательства оптимальности (хотя для проведения
 AVV> фактических опытов и сойдет).

Если ЛЮБЫЕ входящие в модель функции, связанные с откликом модели линейно
(т.е. y=a1*F1(x)+a2*F2(x)+...)
собраны в матрицу Х, столбцы которой - значения соответствующих функций для
разных значений аргумента, у - вектор наблюденных значений отклика,
то оценка
a=inv(trX*X)*tr(X)*y
имеет многие преимущества.

Евгений Машеров АКА СанитарЖеня

--- ifmail v.2.15dev5
 * Origin: FidoNet Online - http://www.fido-online.com (2:5020/175.2)