Fine tune là gì

Part I. Cơ sở cho Transfer Learning.

Bạn đang xem: Fine tune là gì

Mục lục:

Các định nghĩa Model Source Tasks và Target Tasks Transfer Learning Cơ sở Featuriser Fine-tuning Lợi ích và hạn chế Lợi ích Hạn chế? Mở đầuCác định nghĩa Model Source Tasks và Target Tasks Transfer Learning Cơ sở Featuriser Fine-tuning Lợi ích và hạn chế Lợi ích Hạn chế ? Mở đầuBạn quá lười khi phải train lại network từ đầu ?Bạn quá căng thẳng mệt mỏi với việc tạo ra một end-to-end network mới để thực thi một task gồm có nhiều phần khác nhau ?

Bạn không có một bộ GPU mạnh và không muốn đăng ký AWS hay dùng Google Cloud?Hay bạn không có một bộ dataset lớn trong task mà mình phải thực hiện?

Well, đã đến lúc bạn hướng tới sự trợ giúp của Transfer Learning, một kỹ thuật đưa đến những network đủ tốt chỉ với lượng dataset nhỏ trên cơ sở những network có sẵn .Để tận dụng được những pretrained network này là một thẩm mỹ và nghệ thuật được điều tra và nghiên cứu từ thập niên 90. Khi Lorien Pratt thực nghiệm lần đầu năm 1993 và sau đó viết lại nó dưới dạng một triết lý toán học ( formal analysis ) năm 1998 .Đây sẽ là bài thứ nhất của Transfer Learning, giúp cho những bạn có một cái nhìn tổng quan về những mặt của Transfer Learning trước khi đi vào thực hành thực tế ở bài viết sau đó ; )Prerequisite – Trước khi học về Transfer Learning, mình khuyến khích các bạn hiểu về: Prerequisite – Trước khi học về Transfer Learning, mình khuyến khích những bạn hiểu về :Neural Network cơ bản. Dataset và những bước tạo ra một Mã Sản Phẩm.

1. Giới thiệu

Ngày xửa thời xưa, khi nền văn minh của loài người chưa tăng trưởng, những nhóm người nhỏ sinh sống trong những hang hốc. Khi con người biết trồng trọt, họ chuyển ra những đồng bằng sinh sống và tại đó, họ gặp những bộ tộc khác. Việc hiểu được nhau trở nên khó khăn vất vả khi số người ngày càng tăng .Và thế là tất cả chúng ta ý tưởng ra ngôn từ, một cách để truyền đạt ý nghĩ của mình cho người xung quanh .

Việc nghiên cứu khoa học, đưa ra những ý tưởng mới thì quan trọng nhất là không làm lại những gì đã được làm rồi mà không làm tốt hơn được vì thời gian sẽ không cho phép sự lãng phí như vậy xảy ra. Đặc biệt là trong Deep Learning, một ngành phát triển nhanh đến chóng mặt hiện nay, những ý tưởng mình nghĩ ra chắc gì đã chưa có ai làm? Deep Learing lan tỏa đến mọi lĩnh vực, vì thế cái quan trọng là sử dụng những prior works sẵn có để tạo nên một model mới tốt hơn, vì chính việc này đã rất khó khăn và tốn thời gian rồi chứ không nói đến nghiên cứu lại từ đầu mọi thứ.

2. Các định nghĩa

1. Model1. Model

Chắc hẳn, nhiều bạn cũng đã biết về các model nổi tiếng, được train trên các dataset lớn (MNIST, CIFAR-100, ImageNet, …) và source code cũng như Weights của model được public cho cộng đồng (chủ yếu là trên thienmaonline.vn).Chúng ta gọi những Model đi kèm Weights như vậy là một Pretrained Model.

Model mới sử dụng một phần hay toàn bộ pretrained model như một phần của nó để học một tasks mới được gọi là Transfered Model.

2. Source Tasks và Target Tasks2. Source Tasks và Target Tasks

Những Pretrained Model như vậy thường được train trên một hoặc một vài bộ datasets nhất định, tương thích và cho accuracy cao với một task hoặc nhiều tasks (multi-task deep learning) nào đó mà nó được train. Chúng ta gọi các tasks mà pretrained model đó được train để thực hiện là source tasks.

Nhiệm vụ của chúng ta là tạo ra một model mới để thực hiện một hoặc nhiều tasks nào đó. Những tasks cần được thực hiện của model này có thể trùng hoặc không trùng với tasks mà pretrained model được train (thường thì sẽ không trùng), chúng ta gọi tasks này là target tasks.

3. Transfer Learning3. Transfer LearningTransfer Learning cũng chính là cách để những Mã Sản Phẩm truyền đạt cho nhau năng lực mà mỗi Model hoàn toàn có thể làm được. Một Mã Sản Phẩm hoàn toàn có thể học trên source tasks nào đó và rồi pretrained Model này được sử dụng cho Mã Sản Phẩm khác để Mã Sản Phẩm mới đó học trên target tasks nhanh hơn .

Cụ thể, Transfer Learning trong Deep Learning là một kỹ thuật mà trong đó:

Một pretrained model đã được train trên source tasks cụ thể nào đó, khi đó một phần hay toàn bộ pretrained model có thể được tái sử dụng phụ thuộc vào nhiệm vụ của mỗi layer trong model đó. Một model mới sử dụng một phần hay toàn bộ pretrained model để học một target tasks và tùy vào nhiệm vụ của mỗi layer mà model mới có thể thêm các layer khác dựa trên pretrained model sẵn có.Một pretrained Model đã được train trên source tasks đơn cử nào đó, khi đó một phần hay hàng loạt pretrained Mã Sản Phẩm hoàn toàn có thể được tái sử dụng nhờ vào vào trách nhiệm của mỗi layer trong Mã Sản Phẩm đó. Một Model mới sử dụng một phần hay hàng loạt pretrained Model để học một target tasks và tùy vào trách nhiệm của mỗi layer mà Mã Sản Phẩm mới hoàn toàn có thể thêm những layer khác dựa trên pretrained Model sẵn có .

Việc sử dụng pretrained model là một bước tiến lớn để những người đi sau tiếp bước những thành quả của các bậc tiền bối, tận dụng những pretrained model sẵn có để tạo ra những model mới phục vụ cho các target tasks cụ thể hơn, mang tính ứng dụng thực tiễn hơn.

Xem thêm: Sửa Lỗi Update Win 10 – Sửa Lỗi Windows Update

Đó không phải là sự sao chép ý tưởng sáng tạo, bản thân người tạo ra pretrained Model đó public thành công xuất sắc của họ là vì kỳ vọng những người theo sau hoàn toàn có thể tìm được những ích lợi từ những Mã Sản Phẩm đó, hay tối thiểu là dùng nó để xử lý những việc làm của họ .

3. Cơ sở

1. Featuriser1. FeaturiserTrước năm 2012, hầu hết mọi Model AI đều được tạo thành bởi 2 stages độc lập với nhau : Feature Engineering: là quá trình dựa trên những hiểu biết của con người về vấn đề cần giải quyết (domain knowledge) để từ đó rút ra những đặc trưng (features) của dataset mà có thể giúp ích cho việc giải quyết vấn đề đó. Do đó các features này được gọi là hand-crafted features (nôm na là làm thủ công). Feature extractor là một phần của model dùng để trích xuất ra features nói chung. Classifier/Regressor: dùng các thuật toán Machine Learning để học và dự đoán các kết quả từ những features được tạo ra ở bước trên.Feature Engineering : là quy trình dựa trên những hiểu biết của con người về yếu tố cần xử lý ( domain knowledge ) để từ đó rút ra những đặc trưng ( features ) của dataset mà hoàn toàn có thể giúp ích cho việc xử lý yếu tố đó. Do đó những features này được gọi là hand-crafted features ( nôm na là làm thủ công bằng tay ). Feature extractor là một phần của Mã Sản Phẩm dùng để trích xuất ra features nói chung. Classifier / Regressor : dùng những thuật toán Machine Learning để học và Dự kiến những tác dụng từ những features được tạo ra ở bước trên .So sánh chiêu thức Featuriser của những hình thức cổ xưa và Deep Learning văn minhCác Model Deep Learning tự nó đã tích hợp 2 stages này lại, những layer ở phần đầu của Model được gọi là Feature Extractor và phần còn lại là để Classify / Regress những features từ phần Feature Extractor để tạo ra tác dụng. Do đó phần Feature Extractor này hoàn toàn có thể lấy ra được những features từ trong dataset một cách tự động hóa trong qua trình học mà không cần con người định nghĩa những features như trong chiêu thức Feature Engineering .Có nhiều nguyên do khiến cho những Deep Networks văn minh hiệu suất cao hơn những chiêu thức cổ xưa như trên ( không kể đến những nguyên do chung như lượng dataset lớn hay năng lực giám sát song song, … ), gồm có : Deep Network là end-to-end trainable model: điều này cho phép các Feature Layers tự điều chỉnh những features mà nó cần trích xuất để phù hợp với tasks tương ứng (do kết quả backpropagation từ các Classifier/Regressor cho phép Extractor thích ứng theo yêu cầu của chúng), trong khi các cách cổ điển chỉ trích xuất features theo ý nghĩ của con người, một cách cố định. Khả năng mã hóa: Các bạn nào học Autoencoder cũng đã biết, các Layers đầu sẽ mã hóa dataset thành một tập latent variables và điều này có được là do Feature Layers đã lọc ra những features cần thiết và mã hóa nó (nói ngắn gọn là nén nó) thành một tập dữ liệu nhỏ hơn mà chỉ Decoder Layers của cùng Network mới giải được. Tương tự cho các Feature Extractor khác, nó có nhiệm vụ mã hóa input thành một mẫu phù hợp cho các layers tiếp theo, khi cần thiết nó sẽ thay đổi để đảm bảo những layers kế sẽ nhận input tốt nhất. Đặc trưng: Mỗi loại Deep Networks riêng đều có một nền tảng lý thuyết cụ thể lý giải tại sao loại Networks đó là Feature Extractor tốt trên loại dataset nào đó. Chi tiết cụ thể của điều này xin nhường lại những bài riêng.

Deep Network là end-to-end trainable model: điều này cho phép các Feature Layers tự điều chỉnh những features mà nó cần trích xuất để phù hợp với tasks tương ứng (do kết quả backpropagation từ các Classifier/Regressor cho phép Extractor thích ứng theo yêu cầu của chúng), trong khi các cách cổ điển chỉ trích xuất features theo ý nghĩ của con người, một cách cố định. Khả năng mã hóa: Các bạn nào học Autoencoder cũng đã biết, các Layers đầu sẽ mã hóa dataset thành một tập latent variables và điều này có được là do Feature Layers đã lọc ra những features cần thiết và mã hóa nó (nói ngắn gọn là nén nó) thành một tập dữ liệu nhỏ hơn mà chỉ Decoder Layers của cùng Network mới giải được. Tương tự cho các Feature Extractor khác, nó có nhiệm vụ mã hóa input thành một mẫu phù hợp cho các layers tiếp theo, khi cần thiết nó sẽ thay đổi để đảm bảo những layers kế sẽ nhận input tốt nhất. Đặc trưng: Mỗi loại Deep Networks riêng đều có một nền tảng lý thuyết cụ thể lý giải tại sao loại Networks đó là Feature Extractor tốt trên loại dataset nào đó. Chi tiết cụ thể của điều này xin nhường lại những bài riêng.

Đây là nền tảng của Transfer Learning : tất cả chúng ta hoàn toàn có thể sử dụng Feature Extractor đã được train để trích xuất những features cho Mã Sản Phẩm của tất cả chúng ta thay vì phải tạo ra một Feature Extractor mới và train lại từ đầu. Có thể nói là thay vì chạy bộ từ đầu đến cuối đường, tất cả chúng ta bắt taxi đến đoạn mà taxi không hề đi được thì tất cả chúng ta tự đi tiếp. Hãy tưởng tượng sẽ ra sao nếu đoạn đường taxi đi được là gần hết quãng đường mà tất cả chúng ta cần đi ? :)2. Fine-tuning2. Fine-tuningĐể sử dụng pretrained Model một cách hiệu suất cao, tất cả chúng ta cần phải có 2 điều sau : Thêm các layer phù hợp với target tasks của chúng ta, loại bỏ các layer của pretrained model mà chúng ta không dùng đến (việc này chắc các bạn cũng đã biết rồi), những phải khiến cho model trở nên hiệu quả hơn, đây là một vấn đề khó (rất rất khó) cần phải có những nghiên cứu chuyên sâu về từng layer và mục đích của chúng. Có chiến lược train thật tốt, điều này cũng không phải là dễ, vì nếu các bạn train không tốt thì sẽ làm mất đi tính hiệu quả của pretrained model và do đó giảm khả năng của model mà chúng ta đang train, thậm chí còn tệ hơn là train hết lại từ đầu.Thêm những layer tương thích với target tasks của tất cả chúng ta, vô hiệu những layer của pretrained Mã Sản Phẩm mà tất cả chúng ta không dùng đến ( việc này chắc những bạn cũng đã biết rồi ), những phải khiến cho Model, đây là một yếu tố khó ( rất rất khó ) cần phải có những điều tra và nghiên cứu nâng cao về từng layer và mục tiêu của chúng. Có kế hoạch train thật tốt, điều này cũng không phải là dễ, vì nếu những bạn train không tốt thì sẽ làm mất đi tính hiệu suất cao của pretrained Model và do đó giảm năng lực của Mã Sản Phẩm mà tất cả chúng ta đang train, thậm chí còn còn tệ hơn là train hết lại từ đầu .

Do đó, fine-tuning ra đời để giúp cho các bạn có chiến lược train hiệu quả trên transfered model của mình (điều đầu tiên theo như mình biết thì chưa tổng quát hóa được để tạo ra một kỹ thuật).

Fine-tuning không phải chỉ giúp cho các bạn điều chỉnh weights của transfered model cho phù hợp với target tasks. Nó không phải chỉ là tinh chỉnh như dịch nghĩa của fine-tuning mà xa hơn đó, nó đưa ra cách tối ưu để train cả phần pretrained model và phần mới trong transfered model nhằm đạt được accuracy cao trên target tasks, khiến cho 2 phần fit với nhau hoàn chỉnh thành một model mới.

Tóm lại, fine-tuning là việc train một transfered model nhằm mục đích tối ưu hóa accuracy của model này trên target tasks. Dưới đây là các chiến lược thường dùng:

lớn và tương tự với dataset cho source tasks: đây là trường hợp lý tưởng, khi bạn có thể dùng weights của pretrained model để khởi tạo cho phần pretrained, sau đó train cả transfered model hay chỉ với phần được thêm vào, tùy bạn. Khi dataset cho target tasks nhỏ và tương tự với dataset cho source tasks: vì dataset là nhỏ, nếu train lại phần pretrained sẽ dẫn đến overfitting, do đó chúng ta chỉ train những layer được thêm vào với weights khởi tạo cho pretrained như trên. Khi dataset cho target tasks lớn và khác biệt với dataset cho source tasks: bởi vì dataset của chúng ta có sự khác biệt nên khi dùng weights từ pretrained model sẽ làm giảm accuracy vì sự khác biệt trong tasks và dataset, nhưng cũng chính vì dataset lớn nên việc train toàn bộ transfered model từ đầu là hiệu quả nhất, giúp cho model thích nghi tốt hơn với dataset này. Khi dataset cho target tasks nhỏ và khác biệt với dataset cho source tasks: đây là trường hợp khó khăn nhất, điều mà bạn nên làm có thể là: Can thiệp vào pretrained model, thay thế những pretrained layer xa input để thích nghi với dataset mới (những high-level features sẽ thay đổi vào các low-level features đã được lấy từ các layer trước đó) nhưng không được train các layer gần input của pretrained vì dataset nhỏ sẽ không thể train được các layer này hiệu quả và các layer này chỉ trích xuất các features tổng quát từ dataset, sẽ không ảnh hưởng đến target task. Tham khảo ý kiến chuyên gia hay tiền bối để biết thêm phương pháp.

4. Lợi ích và hạn chế

1. Lợi ích Phân loại kế hoạch Fine-tuning Khi dataset cho target tasksvới dataset cho source tasks : đây là trường hợp lý tưởng, khi bạn hoàn toàn có thể dùng weights của pretrained Model để khởi tạo cho phần pretrained, sau đó train cả transfered Mã Sản Phẩm hay chỉ với phần được thêm vào, tùy bạn. Khi dataset cho target tasksvới dataset cho source tasks : vì dataset là nhỏ, nếu train lại phần pretrained sẽ dẫn đến overfitting, do đó tất cả chúng ta chỉ train những layer được thêm vào với weights khởi tạo cho pretrained như trên. Khi dataset cho target tasksvới dataset cho source tasks : chính do dataset của tất cả chúng ta có sự độc lạ nên khi dùng weights từ pretrained Mã Sản Phẩm sẽ làm giảm accuracy vì sự độc lạ trong tasks và dataset, nhưng cũng chính vì dataset lớn nên việc train hàng loạt transfered Mã Sản Phẩm từ đầu là hiệu suất cao nhất, giúp cho Model thích nghi tốt hơn với dataset này. Khi dataset cho target tasksvới dataset cho source tasks : đây là trường hợp khó khăn vất vả nhất, điều mà bạn nên làm hoàn toàn có thể là : Can thiệp vào pretrained Model, sửa chữa thay thế những pretrained layer xa input để thích nghi với dataset mới ( những high-level features sẽ đổi khác vào những low-level features đã được lấy từ những layer trước đó ) nhưngvì dataset nhỏ sẽ không hề train được những layer này hiệu suất cao và những layer này chỉ trích xuất những features tổng quát từ dataset, sẽ không tác động ảnh hưởng đến target task. Tham khảo quan điểm chuyên viên hay tiền bối để biết thêm chiêu thức. 1. Lợi ícha. Thời gian Việc sử dụng Pretrained Model bản thân nó không chỉ giúp giảm thời hạn vào việc tạo ra một Mã Sản Phẩm mới để triển khai một target tasks mà dựa trên một source tasks sẵn có, mà còn giảm thời hạn train một Model từ đầu vì Weights của phần source tasks đã có sẵn. b. Hiệu quả Bạn nghĩ mình hoàn toàn có thể tạo ra một Mã Sản Phẩm mới tốt hơn pretrained Model trên cùng source tasks không ? Bạn có muốn tạo một Model mới cùng source tasks mà phải có accuracy cao hơn những pretrained state-of-the-art không ? Nếu bạn quá lười để làm điều đó, pretrained Model đã phân phối cho bạn một accuracy cao ngay từ đầu, do đó khi train trên target tasks thì transfered Model của bạn sẽ liên tục tăng accuracy này thay vì phải khởi đầu từ điểm có accuracy thấp hơn. So sánh tương quan hiệu quả của Model train từ đầu và transfered model2. Hạn chế ?

Transfer Learning không phải một kỹ thuật dễ sử dụng, nếu bạn sai sót trong quá trình transfer architecture của pretrained hay thêm/bớt không đúng layer thì khi train, accuracy sẽ thấp không tưởng tượng được, khi đó bạn sẽ phải kiểm tra lại quá trình sửa các layer hoặc làm lại từ đấu. Lưu ý: khi bạn đạt accuracy thấp như vậy, chúng ta không gọi quá trình train là fine-tuning vì nó không phù hợp với định nghĩa.

Bạn chỉ hoàn toàn có thể dùng Transfer Learning khi mà có pretrained Model tương quan trực tiếp đến target tasks của bạn thôi, không phải pretrained Model nào cũng hoàn toàn có thể dùng để transfer vào target tasks mà bạn mong ước được. Ví dụ bạn không nên dùng pretrained Mã Sản Phẩm cho hình ảnh màu để fine-tuning cho việc nhận diện chữ viết tay .Trước khi dùng Transfer Learning, cũng như bao nhiêu hướng đi khác khi học tập cũng như nghiên cứu và điều tra, bạn phải xác lập rằng : Liệu có cần thiết phải transfer learning không? Chọn pretrained model nào là tốt nhất? Chọn dataset như vậy có phù hợp với pretrained model không? Chọn cách fine-tune nào là hiệu quả nhất? Liệu sau khi train thì model có accuracy cao hơn bình thường không? Vâng Vâng và Mây Mây …Liệu có thiết yếu phải transfer learning không ? Chọn pretrained Model nào là tốt nhất ? Chọn dataset như vậy có tương thích với pretrained Mã Sản Phẩm không ? Chọn cách fine-tune nào là hiệu suất cao nhất ? Liệu sau khi train thì Model có accuracy cao hơn thông thường không ? Vâng Vâng và Mây Mây …Như những bạn có thấy, rất nhiều thứ để tâm lý trước khi transfer learning vì nhiều nguyên do khác nhau ( Không phải source code nào cũng chạy được hay cho ra accuracy như trong paper ? Source code thì public, nhưng bạn phải train để có pretrained Model, vậy mục tiêu của transfer learning đang ở nơi nào ? Reposistory cung ứng không thiếu source code, pretrained nhưng bạn phải install ngôn từ mới để chạy và khi transfer learning thì bạn phải code trên ngôn từ đó, thế cho nên phải học ngôn từ mới ? … đủ thứ yếu tố bủa vậy bạn khi bạn định dùng pretrained Mã Sản Phẩm ). Vậy nên là chúc những bạn tìm được pretrained Model như ý nhé ; )

5. Kết bài

Transfer Learning mang đến những model mới với độ chính xác cao trong thời gian ngắn, hầu hết các model dùng transfer learning được sử dụng trong các nghiên cứu về Computer Vision (CV), chú trọng vào việc trích xuất các features từ ảnh hoặc video một cách hiệu quả như một cách thay thế cho các phương pháp cũ (AKAZE, ORB, BRISK, …) và kết hợp những ý tưởng mới để tận dụng các features này (Object Detection, Object Recognition, Human Pose Estimation, …).

Xem thêm: Usability Là Gì – Tìm Hiểu Về Usability

Transfer Learning cũng được sử dụng rất nhiều trong Natural Language Processing ( NLP ). Trên thực tiễn thì : nếu CV dùng Convolutional Network để trích xuất những features từ ảnh thì NLP dùng Word Embeddings như một cách để trích xuất những features từ những từ thành những vectors. Hiệu quả thực tiễn của Word Embeddings cao hơn hẳn one-hot encodings về năng lực trình diễn thông tin .References :A Gentle Introduction to Transfer Learning for Deep LearningTransfer learning và The art of using Pre-trained Models in Deep Learning

Transfer Learning: Leverage Insights from Big Data

WikipediaPart II sẽ là một bài thực hành thực tế về Transfer Learning mê hoặc đang chờ những bạn, hãy cùng đón xem nhé ; )
Chuyên mục: Chuyên mục : Hỏi Đáp

Source: https://mindovermetal.org
Category: Wiki là gì