🎥فيديو 45 min3 / 8

Linear Regression من الصفر

Linear Regression هي أبسط وأهم خوارزمية في تعلم الآلة. فهمها بعمق يفتح لك الباب لفهم كل خوارزميات ML الأخرى.

الفكرة الأساسية

Linear Regression تجد أفضل خط مستقيم يصف العلاقة بين المتغيرات.

المعادلة الأساسية:

y = mx + b

أو بلغة ML:

y_hat = w₁x₁ + w₂x₂ + ... + wₙxₙ + b

y_hat: القيمة المتنبأ بها
w (weights): الأوزان (ما يتعلمه النموذج)
x: الميزات (المدخلات)
b (bias): ثابت الانحياز

كيف يتعلم النموذج؟

الهدف: إيجاد قيم w و b التي تُقلل الخطأ بين التنبؤات والقيم الحقيقية.

دالة الخطأ (Loss Function) — MSE:

MSE = (1/n) × Σ(y_actual - y_predicted)²

Gradient Descent — خوارزمية التعلم:

الفكرة: تخيّل أنك تقف على تل وتريد النزول للقاع بأسرع وقت. Gradient Descent تخبرك في أي اتجاه تخطو.

w = w - α × (∂MSE/∂w)

α (learning rate): حجم الخطوة (صغير جداً = بطيء، كبير جداً = يقفز فوق القاع)

Linear Regression مع Scikit-Learn

from sklearn.linear_model import LinearRegression

model = LinearRegression()
model.fit(X_train, y_train)
y_pred = model.predict(X_test)

print(model.coef_)      # الأوزان w
print(model.intercept_) # الثابت b

مقاييس التقييم

MAE (Mean Absolute Error): متوسط الخطأ المطلق

MAE = (1/n) × Σ|y_actual - y_predicted|

MSE (Mean Squared Error): متوسط مربع الخطأ — يُعاقب الأخطاء الكبيرة أشد.

RMSE: الجذر التربيعي لـ MSE — بنفس وحدة المتغير الأصلي.

R² Score (معامل التحديد): نسبة التباين التي يفسرها النموذج.

R² = 1.0 → النموذج مثالي
R² = 0.0 → لا يفسر شيئاً
R² < 0 → أسوأ من تخمين المتوسط

متى لا تعمل Linear Regression؟

| المشكلة | الحل | |---------|------| | العلاقة غير خطية | Polynomial Regression أو Decision Trees | | Outliers شديدة | تنظيف البيانات أو Ridge/Lasso | | ميزات مترابطة | PCA أو Ridge Regression |

أنواع Linear Regression

Simple Linear Regression: ميزة واحدة (x واحد)

Multiple Linear Regression: ميزات متعددة (x₁, x₂, ..., xₙ) — الأكثر استخداماً في الواقع

Polynomial Regression: يُضاف x², x³ للتعامل مع العلاقات المنحنية

python

import numpy as np
import pandas as pd
from sklearn.linear_model import LinearRegression
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_absolute_error, mean_squared_error, r2_score
from sklearn.preprocessing import StandardScaler

print("=" * 55)
print("Linear Regression: التنبؤ بأسعار المنازل")
print("=" * 55)

# ─────────────────────────────────────────
# بيانات مصطنعة تحاكي سوق العقارات
# ─────────────────────────────────────────
np.random.seed(42)
n = 500

# ميزات
area      = np.random.normal(150, 50, n)   # المساحة (م²)
rooms     = np.random.randint(2, 7, n)     # عدد الغرف
age       = np.random.randint(1, 40, n)    # عمر البيت
proximity = np.random.uniform(0, 20, n)   # المسافة عن المركز (كم)

# السعر = دالة خطية + ضجيج
price = (area * 2000 + rooms * 15000 - age * 500
         - proximity * 3000 + np.random.normal(0, 20000, n))

df = pd.DataFrame({
    "area": area, "rooms": rooms,
    "age": age, "proximity_km": proximity,
    "price": price
})

print(f"\nعدد المنازل في البيانات: {len(df)}")
print(f"متوسط السعر: {df['price'].mean():,.0f} ريال")
print(df.head())

# ─────────────────────────────────────────
# تحضير البيانات
# ─────────────────────────────────────────
features = ["area", "rooms", "age", "proximity_km"]
X = df[features]
y = df["price"]

X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.2, random_state=42
)

# Scaling — مهم لـ Gradient Descent
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled  = scaler.transform(X_test)

# ─────────────────────────────────────────
# بناء وتدريب النموذج
# ─────────────────────────────────────────
model = LinearRegression()
model.fit(X_train_scaled, y_train)

print("\n" + "=" * 55)
print("معاملات النموذج:")
for feat, coef in zip(features, model.coef_):
    print(f"  {feat:15s}: {coef:+10,.0f} ريال لكل وحدة (بعد scaling)")
print(f"  {'bias':15s}: {model.intercept_:+10,.0f}")

# ─────────────────────────────────────────
# تقييم النموذج
# ─────────────────────────────────────────
y_pred = model.predict(X_test_scaled)

mae  = mean_absolute_error(y_test, y_pred)
rmse = np.sqrt(mean_squared_error(y_test, y_pred))
r2   = r2_score(y_test, y_pred)

print("\n" + "=" * 55)
print("نتائج التقييم على بيانات الاختبار:")
print(f"  MAE  = {mae:>12,.0f} ريال (متوسط خطأ مطلق)")
print(f"  RMSE = {rmse:>12,.0f} ريال")
print(f"  R²   = {r2:>12.3f}   (1.0 = مثالي)")

# ─────────────────────────────────────────
# تنبؤ ببيت جديد
# ─────────────────────────────────────────
new_house = pd.DataFrame([{
    "area": 180, "rooms": 4, "age": 10, "proximity_km": 5
}])
new_house_scaled = scaler.transform(new_house)
predicted = model.predict(new_house_scaled)[0]

print("\n" + "=" * 55)
print("تنبؤ لبيت جديد:")
print(f"  المساحة: 180م², الغرف: 4, العمر: 10 سنوات, المسافة: 5كم")
print(f"  السعر المتوقع: {predicted:,.0f} ريال")

السابقالتالي