MỤC LỤC

LỜI MỞ ĐẦU . . 3

CHƯƠNG I: GIỚI THIỆU CHUNG VỀ MẠNG NEURAL . . 4

1.1 Tổng quan về mạng neural sinh học . 4

1.1.1 Cấu trúc mạng neural sinh học . . 4

1.1.2 Khả năng của mạng neural sinh học (bộ não) . . 5

1.1.3 Quá trình học của bộ não . . 5

1.2 Neural nhân tạo . . 6

1.2.1 Định nghĩa . . 6

1.2.2 Mô hình neural . 6

1.2.2.1 Neural một đầu vào . . 7

1.2.2.2 Neural nhiều đầu vào . . 9

1.3 Mạng neural nhân tạo . . 10

1.3.1 Định nghĩa . . 10

1.3.2 Một số chức năng của mạng neural nhân tạo . 11

1.3.2.1 Chức năng phân loại mẫu . . 11

1.3.2.2 Học và tổng quát hóa . 11

1.3.3 Lịch sử phát triển của mạng neural nhân tạo . . 11

1.4 Kiến trúc mạng neural . . 13

1.4.1 Lớp của các neural . . 13

1.4.2 Mạng neural nhiều lớp (Multiple Layers of Neurons) . . 14

1.5 Phân loại mạng neural . . 16

1.6 Hoạt động của mạng neural nhân tạo . . 17

1.6.1 Hoạt động của mạng neural . . 17

1.6.2 Luật học của mạng neural . . 17

CHƯƠNG II: MẠNG PERCEPTRON ĐA LỚP VỚI LUẬT HỌC LAN TRUYỀN

NGƯỢC SAI SỐ . . 20

2.1 Mạng neural nhiều lớp lan truyền ngược sai số . . 20

2.1.1 Tổng quan về mạng neural truyền thẳng nhiều lớp . 20

2.1.2 Kiến trúc mạng . . 21

2.1.3 Cơ chế huấn luyện của mạng neural lan truyền ngược sai số . . 21

2.2 Các nhân tố của quá trình học lan truyền ngược sai số . . 28

2.2.1 Khởi tạo các trọng số . . 28

2.2.2 Hằng số học α (Anpha) . 29

2.2.3 Tập mẫu học và dự báo . 30

2.3 Cấu trúc mạng . . 31

2.4 Sự hội tụ của thuật toán huấn luyện mạng . . 32

CHƯƠNG III: KỸ THUẬT NHẬN DẠNG BẢN RÕ TIẾNG ANH . . 33

3.1 Bài toán . . 33

3.2 Thuật toán . 33

3.2.1 Phần off-line . . 33

3.2.2 Phần on-line . . 39

3.2.3 Một số ví dụ . . 41

CHƯƠNG IV: CÀI ĐẶT VÀ THỰC NGHIỆM . . 45

4.1 Kết quả đạt được . . 45

4.2 Mã nguồn của chương trình . . 46

4.2.1 Thủ tục tính tần số bộ đôi với độ dài k . 46

4.2.2 Hàm tính tổng của 2 ma trận . 47

4.2.3 Hàm nhận biết ngôn ngữ . 47

KẾT LUẬN . 48

TÀI LIỆU THAM KHẢO . . 49

2

LỜI MỞ ĐẦU

Kỹ thuật nhận dạng đang là một vấn đề rất được quan tâm hiện nay, đặc

biệt trong an ninh quốc phòng: như nhận dạng chữ ký, nhận dạng mẫu tóc, nhận

dạng hình ảnh, nhận dạng vân lòng bàn tay, nhận dạng chữ viết, nhận dạng ngôn

ngữ, nhận dạng sinh trắc học,v.v

Ngày nay, do sự phát triển nhanh chóng của khoa học công nghệ, đặc biệt

là CNTT, ngoài hai kỹ thuật nhận dạng truyền thống là nhận dạng dựa vào các

tham số của đối tượng và nhận dạng theo cấu trúc, một hướng mới đang được

quan tâm nghiên cứu là nhận dạng dựa vào kỹ thuật mạng neural. Kỹ thuật này

bước đầu đang được ứng dụng và đã cho những kết quả quan trọng. Điều này

nói lên tính cấp thiết của khoa học về mạng neural trong việc giải quyết nhiều

bài toán trong thực tiễn. Khả năng ứng dụng của mạng neural hiện nay không

còn nằm trong các phòng thí nghiệm nữa mà đã xuất hiện ứng dụng vào trong

các lĩnh vực thương mại.

Xuất phát từ lý do đó nên em mạnh dạn chọn đề tài: Tìm hiểu mạng

neural và ứng dụng của nó, làm đồ án tốt nghiệp của mình.

Do đây là một đề tài khó và mới đối với em nên trong quá trình nghiên cứu

chắc chắn em sẽ gặp nhiều khó khăn. Do vậy em rất mong được các thầy, cô

thông cảm và cho em những chỉ bảo, em xin chân thành cảm ơn