Метод минимальных квадратов, решенные упражнения и что они служат



Метод наименьших квадратов является одним из наиболее важных приложений в приближении функций. Идея состоит в том, чтобы найти такую ​​кривую, чтобы при заданном наборе упорядоченных пар эта функция лучше аппроксимировала данные. Функция может быть линией, квадратичной кривой, кубической кривой и т. Д..

Идея метода состоит в том, чтобы минимизировать сумму квадратов разностей ординат (компонент Y) между точками, сгенерированными выбранной функцией, и точками, принадлежащими к набору данных..

индекс

  • 1 метод наименьших квадратов
  • 2 упражнения решены
    • 2.1 Упражнение 1
    • 2.2 Упражнение 2
  • 3 Для чего это нужно??
  • 4 Ссылки

Метод наименьших квадратов

Прежде чем дать метод, мы должны сначала понять, что означает «лучший подход». Предположим, что мы ищем линию y = b + mx, которая лучше всего представляет набор из n точек, а именно (x1, y1), (x2, y2) ..., (xn, yn).

Как показано на предыдущем рисунке, если переменные x и y связаны линией y = b + mx, то для x = x1 соответствующее значение y будет равно b + mx1. Однако это значение отличается от истинного значения y, которое равно y = y1.

Напомним, что в плоскости расстояние между двумя точками определяется по следующей формуле:

Имея это в виду, чтобы определить, как выбрать линию y = b + mx, которая наилучшим образом аппроксимирует данные, имеет смысл использовать в качестве критерия выбор линии, которая минимизирует сумму квадратов расстояний между точками. и прямой.

Поскольку расстояние между точками (x1, y1) и (x1, b + mx1) равно y1- (b + mx1), наша задача сводится к тому, чтобы найти такие числа m и b, чтобы следующая сумма была минимальной:

Линия, которая удовлетворяет этому условию, называется «приближением линии наименьших квадратов к точкам (x1, y1), (x2, y2), ..., (xn, yn)».

Как только проблема решена, нам просто нужно выбрать метод, чтобы найти приближение наименьших квадратов. Если все точки (x1, y1), (x2, y2), ..., (xn, yn) находятся на прямой y = mx + b, мы должны быть коллинеарны и:

В этом выражении:

Наконец, если точки не коллинеарны, то y-Au = 0 и задачу можно перевести в нахождение вектора или такого, что евклидова норма минимальна.

Найти минимизирующий вектор не так сложно, как вы думаете. Поскольку A является матрицей nx2 и u является матрицей 2 × 1, мы имеем, что вектор Au является вектором в RN и он принадлежит образу A, который является подпространством RN с размером не более двух.

Мы будем предполагать, что n = 3, чтобы показать, какой процедуре следует следовать. Если n = 3, изображение A будет плоскостью или линией, проходящей через начало координат.

Пусть v - минимизирующий вектор. На рисунке мы видим, что y-Au минимизируется, когда оно ортогонально изображению A. То есть, если v является минимизирующим вектором, то случается, что:

Затем мы можем выразить вышеизложенное следующим образом:

Это может произойти, только если:

Наконец, очистив v, мы должны:

Это возможно сделать, так как АTA является обратимым, если n точек, указанных в качестве данных, не являются коллинеарными.

Теперь, если вместо поиска строки мы хотим найти параболу (выражение которой будет иметь вид y = a + bx + cx2), что было лучшим приближением к n точкам данных, процедура будет такой, как описано ниже.

Если бы n точек данных находились в указанной параболе, она должна была бы:

то:

Аналогичным образом мы можем написать y = Au. Если все точки не находятся в параболе, мы имеем, что y-Au отличается от нуля для любого вектора u, и наша задача снова: найти вектор u в R3 такой, что его норма || y-Au || быть как можно меньше.

Повторяя предыдущую процедуру, мы можем получить вектор, который ищем:

Решенные упражнения

Упражнение 1

Найдите линию, которая наилучшим образом соответствует точкам (1,4), (-2,5), (3, -1) и (4,1).

решение

Мы должны:

то:

Поэтому мы приходим к выводу, что линия, которая наилучшим образом соответствует точкам, определяется как:

Упражнение 2

Предположим, что предмет сброшен с высоты 200 метров. При падении принимаются следующие меры:

Мы знаем, что высота указанного объекта после прохождения времени t определяется как:

Если мы хотим получить значение g, мы можем найти параболу, которая является лучшим приближением к пяти точкам, приведенным в таблице, и, таким образом, у нас будет коэффициент, который сопровождает2 будет разумным приближением к (-1/2) г, если измерения точны.

Мы должны:

А потом:

Таким образом, точки данных корректируются следующим квадратным выражением:

Затем вы должны:

Это значение достаточно близко к правильному, то есть g = 9,81 м / с.2. Чтобы получить более точное приближение g, необходимо начать с более точных наблюдений..

Для чего это??

В задачах, возникающих в естественных или социальных науках, удобно записывать отношения, возникающие между различными переменными, с помощью некоторого математического выражения..

Например, мы можем соотнести стоимость (C), доход (I) и прибыль (U) в экономике с помощью простой формулы:

В физике мы можем соотнести ускорение, вызванное гравитацией, временем падения объекта и высотой объекта по закону:

В предыдущем выражении сили это начальная высота этого объекта и Vили ваша начальная скорость.

Однако найти такие формулы не так просто; обычно дежурный специалист должен работать со многими данными и многократно выполнять несколько экспериментов (чтобы убедиться, что полученные результаты постоянны), чтобы найти взаимосвязи между различными данными.

Распространенным способом достижения этого является представление данных, полученных на плоскости, в виде точек и поиск непрерывной функции, оптимально приближающейся к этим точкам..

Одним из способов найти функцию, которая «наилучшим образом аппроксимирует» данные, является метод наименьших квадратов..

Кроме того, как мы видели в упражнении, благодаря этому методу мы можем получить приближения, достаточно близкие к физическим константам..

ссылки

  1. Чарльз Кертис Линейная алгебра. Springer-Velarg
  2. Кай Лай Чунг Элементарная теория вероятностей со случайными процессами. Springer-Verlag New York Inc
  3. Ричар Л. Бурден и Дж. Дуглас Фэйрс. Численный анализ (7ед). Томпсон Лирнинг.
  4. Стэнли И. Гроссман. Приложения линейной алгебры. MCGRAW-HILL / INTERAMERICANA DE MEXICO
  5. Стэнли И. Гроссман. Линейная алгебра MCGRAW-HILL / INTERAMERICANA DE MEXICO