Трансцендентная регрессия

From

Evgenij Masherov (2:5020/175.2)

To

Aleksey V. Vaneev

Date

2002-06-30T20:09:48Z

Area

RU.ALGORITHMS

From: "Evgenij Masherov" <EMasherow@nsi.ru>

Sun Jun 30 2002 08:51, Aleksey V. Vaneev wrote to Evgenij Masherov:



 AVV>>> Также существует другой метод - уравнение МР (множественной 
 AVV>>> регрессии). Метод Брандона. Мне он, в общем-то больше нравится,
 AVV>>> потому как допускает использование любых приближающих уравнений.
 EM>> Задача линейная. Поскольку линейность важна по коэффициентам, а не по
 EM>> регрессорам. Так что алгоритмы линейной регрессии работают. Вот если и
 EM>> коэффициенты входят нелинейно - то тоже можно, скажем,
 EM>> Левенбергом-Марквардтом.

 AVV> Это некий метод построения регрессионного уравнения? А URL есть в
 AVV> интернете, дабы почитать о нем?

Не уверен. 
Основная идея проста - найдя приближение к параметрам, разлагаем нелинейную
функцию в ряд Тейлора в окрестностях приближения, ограничиваясь первым
порядком. Получаем линейную регрессию, где зависимая переменная - ошибки
прогноза У при данном приближении, независимые - производные функции по
параметрам модели, а коэффициенты - поправки к параметрам (при этом матрица
может быть вырожденной, и мы, для надежности вычислений, прибавляем константу
к ея диагонали). Так получаем лучшее приближение - и втираем до полнаго
удовлетворения...

 EM>> Если ЛЮБЫЕ входящие в модель функции, связанные с откликом модели 
 EM>> линейно (т.е. y=a1*F1(x)+a2*F2(x)+...)

 AVV> Там, наверное, x1, x2,... нужно, а не один x для всех функций. Ко всему
 AVV> прочему, в методе Брандона используется другая функция:
 AVV> y=a*f1(x1)*f2(x2)*f3(x3)*f4(x4)...

1. Вовсе не обязательно разный. Отчего же?
2. А логарифмировать карма не позволяет? :)

 AVV> Никак не пойму, чего с ним делать. :) Как его оптимизировать, как
 AVV> находить корреляцию между различными параметрами, между параметрами и y?
 AVV> У меня есть немного теории для трансцендентной регрессии (в т.ч.
 AVV> множественная корреляция), а вот для множественной регрессии ничего
 AVV> дополнительно не описывается - только сам метод Брандона.

Е.З. Демиденко. Линейная и нелинейная регрессии.

 EM>> a=inv(trX*X)*tr(X)*y имеет многие преимущества.

 AVV> А как это расшифровать? И что дает a?

Да забыл я, как транспонирование и обращение матрицы обозначать... 
inv - обращение
tr - транспонирование
Обычная матричная запись линейной регрессии...

Евгений Машеров АКА СанитарЖеня

--- ifmail v.2.15dev5
 * Origin: FidoNet Online - http://www.fido-online.com (2:5020/175.2)