Neural Network

1. Giới thiệu

Xin chào các bạn hôm nay mình xin giới thiệu tới các bạn Neural Network là nền tảng của Deep Learning.

Nội dung

• Logistic là một Neural network cơ bản
• Feed forward
• Backpropagation

2. Logistic là một Neural network cơ bản

Các bạn còn nhớ Logistic Regression được sử dụng trong các bài toán Binary Classification, bản chất ở đây là tìm đường boundary để phân tách dữ liêu, các bạn có thể xem lại tại đây

Quan sát hình dưới đây:

Từ hình trên bạn quan sát thấy

• Chỉ cần 1 boundary để phân chia được dữ liệu một cách rõ ràng.
• Logistic là một Neural Network cơ bản nhất với một Neural
• Các bạn để ý cái ký tự ở phía trong neural đó chính là hàm Sigmoid, hàm Sigmoid này thường được gọi là hàm giả thuyết. Nhưng trong Neural network thường được gọi là Activation function. Mình vẽ dưới dạng neural nhìn lạ vậy thôi chứ về cách hoạt động thì nó là Logistic Regression mà.

3. Feed forward

Feed forward đơn giản là tìm $\hat{y}$ ứng với bộ parameters $w$. Các bạn nhớ lại bài Gradient Descent chúng ta tìm $\hat{y}$ tại vị trí $w_t$ sau đó tìm Loss Function đúng không nào. Feed Forward chỉ là một tên gọi thôi

Tóm lại Feed forward là tìm giá trị dự đoán $\hat{y}$ và Loss function $L$

4. Backpropagation

Backpropagation thực ra chỉ là quá trình update parameters $w$ sử dụng Gradient Descent mà thôi. Với Feed forward chúng ta tìm được $\hat{y}$ và $L$. Sau đó chỉ cần áp dụng Gradient Descent với các giá trị này là xong. Quá trình Feed Forward và Backpropagation được thực hiện một cách tuần tự lặp đi lặp lại nhiều lần cho đến khi hội tụ

Sau mỗi epoch thì ta lại được bộ parameters $w$. Rồi lại tiếp tục Feed forward rồi lại Backproparagion

Bài viết này mình chỉ giới thiệu một Neural Network cơ bản thôi. Bản chất nó là Gradient Descent và Logistic Regression mình đã trình bày. Nó khác ở chỗ dùng Neural Network để giải thích. Ở bài viết khác mình sẽ trình bày Deep Neural Network. Có nhiều thứ hay ho hơn để nói. Nếu có thắc mắc gì vui lòng để lại comment. Xin cảm ơn