Thứ Sáu, 7 tháng 1, 2022

Chain rule

1. Giới thiệu

Xin chào các bạn hôm nay mình xin giới thiệu cho các bạn một phương pháp tính đạo hàm, đây cũng là xương sống của thuật toán backpropagation trong neural network mà mình sẽ giới thiệu trong các bài sau

Nội dung

  • Phương pháp
  • Ví dụ

2. Phương pháp

Chain rule là một phương pháp tính đạo hàm của hàm hợp theo một biến nào đó dưới dạng công thức như sau: Ví dụ chúng ta có hàm số như sau: y = f(g(x)). Trong đó f, g là các hàm số. x là biến

Khi đó: \frac{\partial y}{\partial x} = \frac{\partial y}{\partial f} * \frac{\partial f}{\partial g} * \frac{\partial g}{\partial x}

Bạn có thể nhìn hình dưới đây để hiểu rõ hơn (Nhìn như một sợi dây xích đúng không nào).

3. Ví dụ

3.1. Tính \frac{\partial f(x)}{\partial x} của hàm số y = sin^{2}(x)

Kết quả cuối cùng: \frac{\partial f(x)}{\partial x} = 2sin(x)cos(x)

3.2. Tính \frac{\partial f(x)}{\partial x} của hàm số y = \sqrt{x^2 + 3x + 5}

Kết quả cuối cùng: \frac{\partial f(x)}{\partial x} = \frac{2x + 3}{2 \sqrt{x^2 + 2x + 3}}

3.3. Tính \frac{\partial f(x)}{\partial x} của hàm số y = \frac{1}{1 + e^{-x}}

Các bạn thấy hàm này quen chứ. Đây chính là hàm sigmoid trong thuật toán Logistic Regression

Kết quả cuối cùng: \frac{\partial f(x)}{\partial x} = \frac{e^{-x}}{(1 + e^{-x})^2}

Trên đây mình đã giới thiệu về phương pháp tính đạo hàm của hàm hợp. Nếu có thắc mắc gì vui lòng để lại comment bên dưới. Xin cảm ơn

Related Posts:

  • Neural Network1. Giới thiệu Xin chào các bạn hôm nay mình xin giới thiệu tới các bạn Neural Network là nền tảng của Deep Learning. Nội dung Logistic là một Neura… Read More
  • Các Loss Function thường gặp1. Giới thiệu Từ các bài học trước các bạn đã biết Loss Function là gì, đây cũng là khái niệm quan trọng bậc nhất trong Machine Learning cụ thể trong … Read More
  • Deep Neural Network trong bài toán nhiều lớp1. Giới thiệu Ở bài trước mình đã trình bày về Deep Neural Network trong bài toán binary classification. Hôm nay mình sẽ trình bày về Deep Neural Netw… Read More
  • Gradient descent1. Giới thiệu Gradient descent là một kĩ thuật tối ưu rất quan trọng trong Machine Learning cũng như Deep Learning mà bạn cần phải biết. Mục đích… Read More
  • Deep Neural Network1. Giới thiệu Trong bài viết này mình sẽ giới thiệu cải tiến của Neural Network mà chúng ta đã tìm hiểu ở bài viết trước được gọi là Deep Neural Netwo… Read More

0 nhận xét:

Đăng nhận xét