Метод мінімальної площі, вирішені вправи і що він служить

Метод найменших квадратів є одним з найважливіших додатків в апроксимації функцій. Ідея полягає в тому, щоб знайти таку криву, що з урахуванням набору впорядкованих пар ця функція краще апроксимує дані. Функція може бути лінією, квадратичною кривою, кубічною кривою і т.д..

Ідея методу полягає в мінімізації суми квадратів відмінностей ординат (компонента Y), між точками, що генеруються вибраною функцією, та точками, що належать до набору даних.

Індекс

• 1 метод найменших квадратів
• 2 Вправи вирішені
  • 2.1 Вправа 1
  • 2.2 Вправа 2
• 3 Для чого це??
• 4 Посилання

Метод найменших квадратів

Перш ніж дати метод, ми повинні спочатку чітко визначити, що означає "кращий підхід". Припустимо, що шукаємо пряму y = b + mx, яка найкраще являє собою безліч n точок, а саме (x1, y1), (x2, y2) ..., (xn, yn).

Як показано на попередньому малюнку, якщо змінні x і y були пов'язані лінією y = b + mx, то для x = x1 відповідне значення y буде b + mx1. Однак це значення відрізняється від справжнього значення y, яке є y = y1.

Нагадаємо, що в площині відстань між двома точками задається наступною формулою:

Маючи це на увазі, щоб визначити, як вибрати лінію y = b + mx, яка найкраще наближає дані, має сенс використовувати вибір лінії, яка мінімізує суму квадратів відстаней між точками як критерії. і прямий.

Оскільки відстань між точками (x1, y1) і (x1, b + mx1) є y1- (b + mx1), то наша задача зводиться до знаходження чисел m і b таким, що наступна сума мінімальна:

Лінія, що відповідає цій умові, відома як "наближення лінії найменших квадратів до точок (x1, y1), (x2, y2), ..., (xn, yn)".

Після вирішення задачі потрібно просто вибрати метод для знаходження апроксимації найменших квадратів. Якщо точки (x1, y1), (x2, y2), ..., (xn, yn) знаходяться на прямій y = mx + b, то ми повинні бути колінеарними і:

У цьому виразі:

Нарешті, якщо точки не колінеарні, то y-Au = 0, і проблема може бути переведена у знаходження вектора або такого, що евклідова норма мінімальна.

Пошук мінімізуючого вектора не є таким складним, як ви думаєте. Оскільки A - матриця nx2 і u - матриця 2 × 1, то маємо, що вектор Au є вектором у Rⁿ і вона належить до образу A, який є підпростір Rⁿ з розміром не більше двох.

Будемо вважати, що n = 3, щоб показати, яка процедура, яку слід дотримуватися. Якщо n = 3, то зображення A буде площиною або лінією, яка проходить через початок.

Нехай v є мінімізуючим вектором. На малюнку ми спостерігаємо, що y-Au мінімізується, коли вона ортогональна зображенню A. Тобто, якщо v є мінімізуючим вектором, то відбувається так, що:

Тоді ми можемо висловити це вище:

Це може відбутися, лише якщо:

Нарешті, очистивши v, потрібно:

Це можна зробити з часу A^tA є зворотним до тих пір, поки n точок, наведених як дані, не колінеарні.

Тепер, якщо замість пошуку рядка ми хочемо знайти параболу (вираз буде мати вигляд y = a + bx + cx)²), що було кращим наближенням до n точок даних, процедура була б, як описано нижче.

Якщо б n точок даних були в згаданій параболі, воно повинно було б:

Тоді:

Аналогічним чином можна записати y = Au. Якщо всі точки не знаходяться в параболі, то маємо, що y-Au відрізняється від нуля для будь-якого вектора u, і наша задача знову: знайти вектор u в R3 так, що його норма || y-Au || бути якомога менше.

Повторюючи попередню процедуру, ми можемо прийти до вектора, який шукається:

Вирішені вправи

Вправа 1

Знайдіть лінію, яка найкраще відповідає точкам (1,4), (-2,5), (3, -1) і (4,1).

Рішення

Ми повинні:

Тоді:

Отже, ми робимо висновок, що лінія, яка найкраще відповідає точкам, наводиться:

Вправа 2

Припустимо, що об'єкт падає з висоти 200 м. При падінні вживаються наступні заходи:

Відомо, що висота зазначеного об'єкта, пройшовши час t, задається:

Якщо ми хочемо отримати значення g, то можна знайти параболу, яка є кращою апроксимацією до п'яти точок, наведених у таблиці, і таким чином ми будемо мати коефіцієнт, що супроводжує t \ t² це буде розумним наближенням до (-1/2) g, якщо вимірювання є точними.

Ми повинні:

А потім:

Таким чином, точки даних регулюються наступним квадратичним виразом:

Потім потрібно:

Це значення, яке досить близьке до правильного, g = 9,81 м / с². Для того, щоб отримати більш точну апроксимацію g, необхідно було б почати з більш точних спостережень.

Для чого це??

У проблемах, що виникають у природничих або соціальних науках, зручно писати відносини, які відбуваються між різними змінними за допомогою якогось математичного виразу..

Наприклад, ми можемо пов'язувати вартість (C), дохід (I) і прибуток (U) в економіці за допомогою простої формули:

У фізиці ми можемо пов'язувати прискорення, викликане гравітацією, час падіння об'єкта і висоту об'єкта за законом:

У попередньому виразі s_o - початкова висота цього об'єкта і v_o - це ваша початкова швидкість.

Однак пошук таких формул не є простим завданням; як правило, обов'язок професіонала працювати з багатьма даними і неодноразово виконувати кілька експериментів (для того, щоб перевірити, що отримані результати є постійними), щоб знайти зв'язки між різними даними.

Найпоширенішим способом досягнення цього є представлення даних, отриманих у площині, як точок, і пошук безперервної функції, яка оптимально підходить до цих точок.

Одним із шляхів пошуку функції, яка «найкраще апроксимує» дані, є метод найменших квадратів.

Крім того, як ми бачили також у вправі, завдяки цьому методу можна отримати наближення, досить близьке до фізичних констант.

Список літератури

1. Лінійна алгебра Чарльза Ш. Кертіса. Springer-Velarg
2. Кай Лай Чун Елементарна теорія доступності з стохастичними процесами. Springer-Verlag New York Inc
3. Richar L Burden & J. Douglas Faires. Чисельний аналіз (7ed). Навчання Томпсона.
4. Stanley I. Grossman. Застосування лінійної алгебри. MCGRAW-HILL / INTERAMERICANA DE MEXICO
5. Stanley I. Grossman. Лінійна алгебра MCGRAW-HILL / INTERAMERICANA DE MEXICO