Метод найменших квадратів у випадку інтегральної і дискретної норми Гаусса
1. Постановка завдання
При вирішенні багатьох задач фізики та інших прикладних наук виникає необхідність замість функції, розглядати функцію, представляє функцію як можна В«добреВ».
Наприклад: може бути, у Зокрема, і безперервною функцією на, а відповідна - алгебраїчним або тригонометричним многочленом, який В«досить добреВ» наближає функцію.
Наприклад: всяку функцію з можна представити наближено відповідним многочленом ступеня за допомогою формули Тейлора:
(1)
тобто
; (2)
де, - многочлен ступеня, наближує функцію, - залишковий член. Ясно, що
(3)
тобто - характеризує абсолютну похибка наближення функції многочленом в точці.
Відомо також, що можна наблизити за допомогою тригонометричного багаточлена - відрізка ряду Фур'є.
В твердження, що функція добре наближає функцію на компакті, може бути вкладений різний зміст. Наприклад:
а) можна зажадати, щоб наближає функція збігалася з в точках проміжку, тобто виконувалися умови, для.
Якщо - многочлен ступеня, то аналізований процес наближення називається параболічним інтерполяцією або процесом побудови інтерполяційного многочлена (Приватним прикладом є многочлен Лагранжа, тобто);
б) функцію можна вибрати так, щоб норма - відхилення нев'язки - досягала мінімального значення, причому норма може бути визначена по-різному, і різним нормам відповідають різні ступені наближення.
В функціональному просторі Гільберта, нормі нев'язки має вигляд (Інтегральна норма Гаусса):
(4)
<p> часто, в як норми розглядають Чебишевскую норму (Т - перша літера прізвища Чебишева німецькою мовою):
(5)
При використанні норми (5) говорять про рівномірний наближенні функції, функцією.
Докладна теорія Т-наближень була розвинена в роботах німецького математика Л. Коллатца.
На практиці, для оцінки характеру наближення, часто застосовують метод найменших квадратів, при якому нев'язка обчислюється за дискретною нормі Гауса:
(6)
Ясно, що метод найменших квадратів (6) - є дискретним аналогом функції Гаусса (4).
Принципову можливість наближення будь неперервної функції многочленом дає теорема Вейєрштрасса: Якщо, тоді, - многочлен, що має місце нерівність:
(7)
2. Метод найменших квадратів у випадку наближення функції
Ми раніше розглядали задачу апроксимації результатів неточного експерименту лінійною функцією. Зараз розглянемо загальний випадок, коли функція наближається деякою системою лінійно незалежних функцій.
Як відомо, для лінійної незалежності системи функцій необхідно і достатньо, щоб визначник Грама цієї системи був відмінний від нуля, тобто
(8)
де означають скалярні твори. Тоді для наближення (апроксимації) функції застосовується лінійна комбінація системи базисних функцій, тобто
(9)
В наближає функції, невідомими є коефіцієнти розкладу, які підбираються з умови мінімуму нев'язки, підраховується по відповідній нормі. Взагалі кажучи, є елементом лінійної оболонки, натягнутої на систему базисних функцій.
2.1 Квадратичне наближення таблично заданої функції з дискретної нормі Гаусса
Розглянемо задачу наближення функції у випадку використання нев'язки в формі (6). Тобто використовуємо дискретну норму Гауса:
(10)
де невідома функція апроксимується функцією з (9). Для відомі лише значення в різних точках, тобто , Де . Таким чином, для визначення маємо задачу: знайти точку мінімуму - нев'язки функції Гаусса - для таблично заданої функції, якщо
, (де). (11)
Очевидно, що умови мінімуму дискретної функції нев'язки Гауса - мають вигляд:
, (12)
Ці умови для (11) перетворюються до вигляду:
, (13)
Розкриваючи систему (13) отримуємо систему рівнянь для визначення коефіцієнтів розкладання в вигляді:
(14)
Неважко побачити, що вводячи скалярні твори у відповідному функціональному просторі в вигляді:
(15)
систему (14) можна переписати в нормальному вигляді Гауса:
(16)
Ясно, що ця система має єдине рішення, тому що визначник системи (16) збігається з визначником
Грама для базисних функцій - яка відмінна від нуля внаслідок лінійної незалежності базисних функцій.
Знайшовши з системи (16) і підставляючи в (9) ми отримуємо функцію:
(17)
яка є наближенням до функції в сенсі мінімуму квадратичного відхилення Гауса (10) за нормою індукованої скалярним твором (15), дійсно:
(18)
а дискретна норма Гауса нев'язки має вигляд:
(19)
2.2 Інтегральне наближення функції заданої аналітично
У попередньому параграфі ми розглядали наближення функції методом найменших квадратів, припускаючи, що значення функції задані таблично, тому ми користувалися дискретної нормою Гаусса.
Розглянемо тепер випадок, коли аналітично задану, на інтервалі, функцію - треба апроксимувати узагальненим многочленом:
(20)
так, щоб мінімізувалася інтегральна норма нев'язки Гауса:
(21)
інакше кажучи, нам потрібно мінімізувати інтеграл
(22)
Для вирішення цього завдання підставимо (20) в (22), тоді функціонал (22) перетвориться у функцію багатьох змінних, тобто . Умови ж мінімуму функції багатьох змінних мають вигляд:
, (23)
Ці умови набувають вид:
(24)
тобто
(25)
Визначник цієї системи являє собою визначник Грама для функцій, в, тому система (25) має єдине рішення. Підставляючи ці значення в розкладання (20) маємо наближення для. Характер наближення оцінюється відповідною нормою нев'язки.
Задача апроксимації функції заданої аналітично часто застосовується для обчислення інтегралів.
2.3 Числові приклади на застосування методу найменших квадратів Гауса для наближення функцій заданих таблично або аналітично
а) Розглянемо приклад у разі табличного завдання функції:
Приклад 1: нехай функція задана таблично:
0.5
1.0
1.5
2.0
2.5
3.0
0.31
0.82
1.29
1.85
2.51
3.02
за допомогою методу найменших квадратів апроксимувати цю функцію в класі лінійних функцій. Тобто допускаємо, що. Для знаходження коефіцієнтів, складаємо невязку з дискретної нормі Гауса:
(26)
Необхідні умови мінімуму для мають вигляд:
(27)
З (27) - отримуємо нормальні рівняння Гаусса:
(28)
Рішення має вид:
(29)
тобто
(30)
б) Тепер, розглянемо приклад в разі наближення складних аналітично заданих функцій, Болле простими функціями.
Приклад 2: Функцію, задану на інтервалі апроксимувати лінійною функцією, визначивши параметри і по методу Гауса (використовуємо інтегральну норму нев'язки Гауса).
Рішення: інтегральна норма нев'язки для даної функції має вигляд:
(31)
Необхідні умови мінімуму для - мають вигляд:
(32)
тобто
(33)
(34)
З рівнянь (33) і (34) знаходимо
(35)
апроксимує многочлен має вигляд:
(36)
або
(37)
Для більш глибокого вивчення теорії наближення, необхідне знання чисельних методів обчислення інтегралів і методів рішення систем рівняння, тому на наступній лекції ми тимчасово перервемо виклад теорії апроксимації та перейдемо на підготовчу роботу.
Література
1). К. Ректоріс. Варіаційні методи в математичній фізиці і механіці. Світ, М., 1995
2). С.Г. Михлин. Чисельна реалізація варіаційних методів, М., Наука, 1996
3). Л.А. Кальницький, Д.А. Добротін, В.Ф. Жевердеев. Спеціальний курс вищої математики для втузів. М., "Вища математика", 1996
4). Т. Шуп. Рішення інженерних задач на ЕОМ. Світ, М., 1982
5). Л. Коллатц. Функціональний аналіз і обчислювальна математика. Світ, М., 1999
6). Р. Варга. Функціональний аналіз і теорія апроксимації в чисельному аналізі. Світ, М., 1994
7). Л. Коллатц, Ю. Альбрехт. Завдання з прикладної математики. Світ, М., 1998.