Когда вы думаете о простой линейной регрессии, подумайте о прогнозах. Основная цель этого алгоритма машинного обучения — использовать исторические отношения между независимой и зависимой переменной для прогнозирования будущих значений зависимой переменной. Это называется простой линейной регрессией, когда при построении прогнозной модели используется только одна независимая переменная. Когда используется больше независимых переменных, это называется множественная регрессия, но мы поговорим об этом подробнее в другой статье.

Кроме того, регрессионные модели могут быть как линейными, так и нелинейными. Линейная модель имеет место, когда отношения между переменными представляют собой прямолинейные отношения, тогда как нелинейная модель означает, что отношения между переменными представлены кривыми линиями.

Предприятия используют регрессию для прогнозирования таких вещей, как:

  • будущие продажи
  • цены на акции
  • курсы обмена валюты
  • повышение производительности в результате программы обучения.

В чем разница между зависимыми и независимыми переменными в регрессионном анализе?

Независимые переменные – это характеристики, которые можно измерить напрямую (например, площадь дома). Их также называют предикторными, независимыми или регрессорными переменными.

Зависимая переменная – это характеристика, значение которой зависит от значений независимых переменных. Зависимая переменная также называется переменной результата, цели или критерия.

Пример зависимых и независимых переменных в линейной регрессии:

Цена продажи = 40 000 + 100 (кв. футов) + 20 000 (#ванн)

В приведенном выше примере цена продажи является зависимой переменной, поскольку ее результат основан на переменных-регрессорах, таких как:

  • постоянный срок или фиксированная цена дома (40.000)
  • коэффициент кв.м. (100) изменение цены продажи дополнительного квадратного фута;
  • количество ванн (#Ванны)

Выбор независимых переменных: диаграммы рассеяния

Точечные диаграммы используются для визуализации взаимосвязи между любыми двумя переменными. Эту связь можно математически выразить с помощью коэффициента корреляции, который обычно называют корреляцией. Корреляции — это показатели силы взаимосвязи между двумя переменными, и они могут принимать любое значение от -1 до +1.

Линия регрессии — это линия с наименьшим возможным набором расстояний между собой и каждой точкой данных.

Нетронутые точки данных на линии регрессии называются терминами ошибки.

Ресурсы:

  1. Статистическая выборка и регрессия: простая линейная регрессия
  2. [PPT] Регрессионный анализ: оценка взаимосвязей
  3. Линейный регрессионный анализ с использованием Stata

Первоначально опубликовано на https://bitesizedknowledge.blogspot.com.