Bàn về hàm mất mát và kỹ thuật xuống dốc

Dưới đây là hàm mất mát mà chúng ta lập ra ở bài viết trước.

Chúng ta đã sử dụng kỹ thuật xuống dốc để tìm điểm cực tiểu của hàm mất mát này. Tuy nhiên, hàm mất mát như trên không phải là hàm lồi (convex function, hàm có đạo hàm bậc hai luôn dương) trong miền xác định. Vì thế kỹ thuật xuống dốc có thể sẽ rơi vào cực tiểu nội bộ. Đó là lý do vì sao trong bài viết trước có lúc ta nhận được kết quả tốt, có lúc ta nhận được kết quả xấu. Tất cả phụ thuộc vào điểm khởi đầu khi ta thực hiện việc xuống dốc.

Điều tôi muốn nhấn mạnh ở đây là hàm mất mát chúng ta đã lập ra trong bài viết trước hoàn toàn hợp lý, không có gì sai sót cả. Vấn đề là ở việc tìm điểm cực tiểu của hàm đó.

Thiết lập hàm mất mát theo ý nghĩa xác suất

Để việc tìm điểm cực tiểu của hàm mất mát dễ hơn với kỹ thuật xuống dốc, chúng ta sẽ cần thiết lập một hàm mất mát phù hợp hơn.

Cài đặt với hàm mất mát mới

# encoding: utf-8
import math
import random

def sigmoid(x):
    return 1.0 / (1.0 + math.exp(-x))

def dot(x, theta):
    return sum(x_i * theta_i for x_i, theta_i in zip(x, theta))

def f_prime(theta, x, y):
    return [(sigmoid(dot(x, theta)) - y) * x_i for x_i in x]

def loss(theta, xs, ys):
    s = 0.0
    for i in range(len(ys)):
        x = xs[i]
        y = ys[i]
        y_hat = sigmoid(dot(x, theta))
        s -= y * math.log(y_hat) + (1 - y) * math.log(1 - y_hat)
    return s

# Bảng đầu vào.
xs = (
    (1, 0, 0),
    (1, 0, 1),
    (1, 1, 0),
    (1, 1, 1),
)
ys = (0, 0, 0, 1)
# Khởi tạo theta ngẫu nhiên.
theta = [random.random() * 2 - 1 for _ in range(len(xs[0]))]
# Định tốc độ học.
alpha = 0.5

# Lặp xuống dốc.
for _ in range(10000):
    # Đạo hàm riêng đối với mỗi dòng đầu vào.
    grad = [f_prime(theta, x, y) for x, y in zip(xs, ys)]
    # Lấy tổng các đạo hàm riêng lại với nhau.
    grad = [sum(g[c] for g in grad) for c in range(len(xs[0]))]
    # Cập nhật theta.
    theta = [theta_i - alpha * grad_i for theta_i, grad_i in zip(theta, grad)]

# In kết quả.
print('Theta', theta)
print('Loss', loss(theta, xs, ys))
for x in xs:
    print(x[1:], 1 if sigmoid(dot(theta, x)) > 0.5 else 0)

Khi thực thi đoạn mã này nhiều lần, chúng ta đều nhận được kết quả tương tự như sau:

('Theta', [-20.37171666579356, 13.468848927513633, 13.46884892751371])
('Loss', 0.003415244070062777)
((0, 0), 0)
((0, 1), 0)
((1, 0), 0)
((1, 1), 1)

Điều này cho thấy rằng kỹ thuật xuống dốc với hàm mất mát mới đã có thể hội tụ tốt hơn so với hàm mất mát trong bài viết trước.

Tuy nhiên, nếu chúng ta thay đổi số bước xuống dốc, chúng ta thấy rằng tham số mô hình vẫn trở nên lớn hơn khi số bước xuống dốc tăng lên.

Tóm tắt

Bài viết kỳ này giải thích tại sao hàm mất mát đã lập trong bài viết trước không hội tụ tốt. Từ đó, bài viết này giới thiệu tới bạn đọc một hàm mất mát khác phù hợp hơn với kỹ thuật xuống dốc. Đau lòng mà nói, việc xác lập nên hàm mất mát hiệu quả phụ thuộc rất nhiều vào trực giác tinh tế, kinh nghiệm phong phú, và sức sáng tạo cao của người làm việc. Có bao nhiêu người nghĩ đến việc thiết lập hàm mất mát trong ngữ cảnh của xác suất? Trong bài viết kỳ sau, chúng ta sẽ khảo sát sự ảnh hưởng của dữ liệu đầu vào \(y \in \{ 1, -1 \}\) (thay vì \(y \in \{ 0, 1 \}\)) đến hàm mất mát như là một ví dụ khác về các tố chất đã nêu.

Tài liệu đọc thêm

1. Tài liệu giảng trong môn CS229 Machine Learning do Dan Boneh và Andrew Ng dạy ở đại học Stanford.
2. Bài 10: Logistic Regression ở trang mạng Machine Learning cơ bản của Vũ Hữu Tiệp ở Đại học bang Pennsylvania (Pennsylvania State University), Hoa Kỳ.