<!- New HTML Content 2 -><div class="parse-text content-editable text"><p>Bài viết này rất chi tiết và có đầu tư. Mình đọc trên cuốn Deep Learning for Computer vision with Python của Adrian Rosebrock thì ông ta gọi RELU là thuật toán hay dùng nhất của lớp Activation. Ngoài ra, cũng như bài viết của bạn, Adrian cũng khuyên bỏ hẳn lớp Pooling mà sử dụng kết hợp lớp Convolutional và Activation nhưng không nói rõ lý do là để không bị mất mát thông tin nghiêm trọng như bạn đề cập.<br> Cảm ơn về công sức mà bạn đã bỏ ra.</p></div><!––>

<div class="text"><p>Bài viết này rất chi tiết và có đầu tư. Mình đọc trên cuốn Deep Learning for Computer vision with Python của Adrian Rosebrock thì ông ta gọi RELU là thuật toán hay dùng nhất...</p></div>

Là trí thông minh được vận hành bởi máy móc và phần mềm, một nhánh của ngành khoa học máy tính, do con người lập trình để máy tính có thể tự động hóa các hành vi thông minh như con người.

Trí tuệ nhân tạo

<p>Cập nhật series này tại:</p> 
<p>Với sự phát triển phần cứng mạnh mẽ cho phép tính toán song song hàng tỉ phép tính, tạo tiền đề cho <strong>Mạng nơ-ron tích chập </strong>trở nên phổ biến và đóng...</p>

Chia sẻ về Mạng nơ-ron tích chập (Convolutional Neural Networks or ConvNEts)

<p>Bản thân mình cũng áp dụng cách lập trình xe tự lái tương tự như thế này, và đang thấy nó còn khá là thủ công, rule-based.</p><p>Không biết có phương pháp nào giúp cho xe có thể tự học được từ các lỗi của mình trong quá trình chạy không nhỉ?</p>

<p>Bản thân mình cũng áp dụng cách lập trình xe tự lái tương tự như thế này, và đang thấy nó còn khá là thủ công, rule-based.</p><p>Không biết có phương pháp nào giúp cho xe có...</p>

<p><strong>Đôi nét về Xe tự hành</strong></p> 
<p>Chắc hẳn những cụm từ như “Xe tự hành” (hay “Xe tự lái”) đã không còn xa lạ đối với những người quan tâm tới công nghệ trong suốt thời gian qua....</p>

Mình đã lập trình một chiếc “Xe tự hành” đơn giản như thế nào?

<p>Cơ hội mình thấy nhiều đó chứ, Các trợ lý ảo trên di động như Apple Siri, Microsoft Cortana, Google Now... đã được nhiều người biết đến tuy nhiên ít người dùng VN sử dụng những trợ lý ảo này bởi ít nhất 2 lí do:</p><p>- Thứ nhất, các TLA này chưa thực sự hiểu ngôn ngữ Việt.</p><p>- Thứ hai, TLA này chưa tối ưu về mặt thông tin và tính địa phương hóa cho người dùng Việt. Rất nhiều tính năng, thông tin người dùng Việt cần nhưng chưa được hỗ trợ. </p><p>Nên mình thấy các Trợ lý ảo thuần việt sẽ hứa hẹn đc đón nhận nhiều.</p>

<p>Cơ hội mình thấy nhiều đó chứ, Các trợ lý ảo trên di động như Apple Siri, Microsoft Cortana, Google Now... đã được nhiều người biết đến tuy nhiên ít người dùng VN sử dụng...</p>

<p>Mình bổ sung thêm về dự án này tại:</p><p>Có thể nói những năm gần đây, Trợ lý ảo đã dần trở thành xu hướng công nghệ được đón đầu. Các “ông lớn” làng công nghệ thế giới đã cho ra...</p>

Trợ lý ảo có phải là cơ hội mới cho lập trình viên?

<p>Microsoft cũng có thư viện CNTK, mình check thử thì có vẻ nó hỗ trợ C#</p><p><a href="https://docs.microsoft.com/en-us/cognitive-toolkit/using-cntk-with-csharp" class="linkified" target="_blank">https://docs.microsoft.com/en-us/cognitive-toolkit/using-cntk-with-csharp</a></p><p>Hơi lạ là Microsoft làm ra C# mà chỉ mới gần đây mới hỗ trợ ngôn ngữ này cho thư viện ML của chính mình :P</p>

Ai giao lưu SC2 không :D

<p>Microsoft cũng có thư viện CNTK, mình check thử thì có vẻ nó hỗ trợ C#</p><p><a href="https://docs.microsoft.com/en-us/cognitive-toolkit/using-cntk-with-csharp" class="linkified" target="_blank">https://docs.microsoft.com/en-us/cognitive-toolkit/using-cntk-with-csharp</a></p><p>Hơi lạ là Microsoft làm ra C#...</p>

<!- New HTML Content 2 -><div class="parse-text content-editable text"><p>Xin chào mọi người, khi học về Machine Learning thì mình hay sử dụng python, vì nó hỗ trợ rất nhiều thư viện và tiết kiệm thời gian implement.</p><p>Tuy nhiên khi đi vào thực tế, cần làm các ứng dụng liên quan tới người dùng thì mình phải sử dụng ngôn ngữ như C# và Java.</p><p>Mọi người có thể giới thiệu giúp mình vài thư viện về học máy trên các ngôn ngữ này không?</p></div><!––>

<div class="text"><p>Xin chào mọi người, khi học về Machine Learning thì mình hay sử dụng python, vì nó hỗ trợ rất nhiều thư viện và tiết kiệm thời gian implement.</p><p>Tuy nhiên khi đi vào thực tế,...</p></div>

Thư viện học máy trên C#?

<p>Mình thường khởi tạo theo phân phấn phối chuẩn</p>

Machine Learning Engineer

<p>Ít người chú ý tới vấn đề này khi giải quyết các bài toán Machine Learning, cả mình cũng vậy, thông thường để các giá trị này bằng 0 tại thời điểm ban đầu.</p> 
<p>Sau quá trình làm...</p>

Mọi người khởi tạo weights như thế nào?

<p>Trong sách nói là nó để "prevent over-fitting" bởi vì khi mà full-connected sẽ có nhiều params, nhiều functions,... --&gt; f(X) tìm được quá phức tạp. (dẫn đến khả năng over fitting cao).</p><p>Ngoài ra, có một vài kinh nghiệm khi làm khi mà có drop-out</p><p>1. Dropout giúp tìm ra được nhiều features quan trọng.</p><p>2. Thông thường, Dropout sẽ double số lượng iterations để converge nhưng giảm thời gian training.</p><p>Có thể tham khảo paper này thử:</p><p><a href="http://jmlr.org/papers/volume15/srivastava14a.old/srivastava14a.pdf" class="linkified" target="_blank">http://jmlr.org/papers/volume15/srivastava14a.old/srivastava14a.pdf</a></p><p>Trong đây có 1 đoạn khá vui trong phần motivation:</p><p>A motivation for dropout comes from a theory of the role of sex in evolution (Livnat et al., 2010). Sexual reproduction involves taking half the genes of one parent and half of the other, adding a very small amount of random mutation, and combining them to produce an offspring. The asexual alternative is to create an offspring with a slightly mutated copy of the parent’s genes. It seems plausible that asexual reproduction should be a better way to optimize individual fitness because a good set of genes that have come to work well together can be passed on directly to the offspring. On the other hand, sexual reproduction is likely to break up these co-adapted sets of genes, especially if these sets are large and, intuitively, this should decrease the fitness of organisms that have already evolved complicated coadaptations. However, sexual reproduction is the way most advanced organisms evolved"</p>

<p>Trong sách nói là nó để "prevent over-fitting" bởi vì khi mà full-connected sẽ có nhiều params, nhiều functions,... --&gt; f(X) tìm được quá phức tạp. (dẫn đến khả năng over...</p>

<!- New HTML Content 2 -><div class="parse-text content-editable text"><p>Mình thắc mắc về khái niệm dropout trong neural network, tại sao nên dropout các node ở mỗi layer? trong khi không phải nếu giữ nguyên các node thì sẽ có thể phủ được nhiều hơn dataset sao?</p></div><!––>

<div class="text"><p>Mình thắc mắc về khái niệm dropout trong neural network, tại sao nên dropout các node ở mỗi layer? trong khi không phải nếu giữ nguyên các node thì sẽ có thể phủ được nhiều...</p></div>

Khái niệm drop-out?

<p>Mình nghĩ để tối ưu cho một Smart Home thì việc giải các bài toán về tiết kiệm sẽ là bền vững nhất:</p><ul><li>Như là Đèn sẽ điều chỉnh chế độ sáng sao cho phù hợp với không gian và ánh sáng tự nhiên (như màn hình điện thoại các Smart Phone hiện nay).</li><li>Về lâu dài thì các giải phát về tiết kiệm nước, như là các cảm biến có thể tự nhận ra nhu cầu của con người mà điều tiết lưu lượng nước, hoặc nghe được câu lệnh, như "Tao muốn rửa tay" - vòi sẽ điều chỉnh lưu lưu lượng nước phun ra khoảng 5 centimet khối / giây (cái này là con số ví dụ thôi nhé).</li><li>Ngoài ra thì mình cũng cần 1 căn phòng thông minh như kiểu, mình đang dùng máy tính, khi có ai vào bất ngờ thì toàn bộ màn hình duyệt web sẽ chuyển sang chế độ Ctrl + Shift + N (kèm theo là clear hết history &amp; cache chẳng hạn)</li></ul>

Nhân viên Marketing

<p>Mình nghĩ để tối ưu cho một Smart Home thì việc giải các bài toán về tiết kiệm sẽ là bền vững nhất:</p><ul><li>Như là Đèn sẽ điều chỉnh chế độ sáng sao cho phù hợp với không gian và ánh...</li></ul>

<p>Mình đang nghiên cứu thị trường Smart Home tại Việt Nam, và tự hỏi nếu muốn hiện đại hóa ngôi nhà của mình và ứng dụng trí thông minh vào nó thì mọi người sẽ mong muốn những...</p>

Nếu được ứng dụng AI vào căn nhà của mình, bạn mong muốn nó có thể hỗ trợ những tính năng gì?

<p>May mắn là dữ liệu báo chí khá chính thức, ít sai, ít viết tắt, đầy đủ thông tin, ngôn ngữ phổ thông.</p><p>Mình chia sẻ 4 thứ:</p><ol><li>So sánh sự trùng khớp về ký tự/từ/cụm từ - N-Gram. Bạn Vector hóa từng câu, dùng một số như OneHotEncoding,TF-IDF, CF,... Bạn Áp dụng một số giải thuật so sánh độ tương tự của 2 vector như COSIN simility chẳng hạn, Hoặc JACCARD simility.</li><li>Mình nhớ là trên facebook có nhóm NLP hay Machine Learning gì đó. Nhóm nào đó có chia sẻ Word2Vec, Doc2Vec. Bạn dùng thư viện này để tạo Vector hoặc tự Crawl dữ liệu về để Build Word2Vec. Thế là bạn có 1 Vector đặc trưng cho từng câu. Dùng một số phép đo khoảng cách của 2 vector đó (Cosine chẳng hạn). Bạn kết hợp thêm từ bước 1 để có chất lượng tốt chẳng hạn.</li><li>Yêu cầu độ dài tối thiểu và tối đa của 1 câu là bao nhiêu để cho dễ làm. Cái này bạn cần Heuristic một chút để chọn ngưỡng tham số.</li><li>Để chuẩn nữa. Bạn dùng 1 số NLP toolkit của thầy phuonglh . Có cái POS Tagging. Thử tách ngữ pháp để tạo Vector đặc trưng cho câu đó. Rồi dùng các phép đo xem sao.</li></ol>

CNTT

<p>May mắn là dữ liệu báo chí khá chính thức, ít sai, ít viết tắt, đầy đủ thông tin, ngôn ngữ phổ thông.</p><p>Mình chia sẻ 4 thứ:</p><ol><li>So sánh sự trùng khớp về ký tự/từ/cụm từ - N-Gram....</li></ol>

<!- New HTML Content 2 -><div class="parse-text content-editable text"><p>Hiện tại mình đang gặp một bài toán yêu cầu xác định độ tương đồng về ngữ nghĩa giữa 2 câu nói trong tiếng việt. Dữ liệu có là tập từ điển Việt Nam và bộ các câu văn thu thập được từ báo chí.</p><p>Ngoài hạn chế về dữ liệu ra, bài toán còn khó ở việc các câu có thể có độ dài khác nhau, hiện tại mình đang chưa có hướng giải quyết, hi vọng mọi người giúp mình.</p></div><!––>

<div class="text"><p>Hiện tại mình đang gặp một bài toán yêu cầu xác định độ tương đồng về ngữ nghĩa giữa 2 câu nói trong tiếng việt. Dữ liệu có là tập từ điển Việt Nam và bộ các câu văn thu thập...</p></div>

Có cách nào kiểm tra sự tương đồng về nội dung của 2 câu bất kỳ dựa vào học máy?

<p>Mình thấy quora trả lời khá rõ cho câu hỏi của bạn. </p><p><a href="https://www.quora.com/Why-is-xgboost-given-so-much-less-attention-than-deep-learning-despite-its-ubiquity-in-winning-Kaggle-solutions" class="linkified" target="_blank">https://www.quora.com/Why-is-xgboost-given-so-much-less-attention-than-deep-learning-despite-its-ubiquity-in-winning-Kaggle-solutions</a></p><p>Xgboost được dùng để boost các weak learners để trở thành strong ones. (weak learners có thể là nhiều ML algo khác nhau.)</p><p>Mình đồng ý với quan điểm sau:</p><p>- Do trên Kaggle dữ liệu chưa được nhiều và dữ liệu thường là tabular (bảng cột,...)</p><p>- Và việc design a network in deep learning là một vấn đề. Do có thể phải design cái deep architecture khác cho từng bài toán khác nhau để tối ưu và việc đó quá tốn công sức. </p><p>Mình vẫn chưa trả lời xgboost step by step như thế nào. </p>

<p>Mình thấy quora trả lời khá rõ cho câu hỏi của bạn. </p><p><a href="https://www.quora.com/Why-is-xgboost-given-so-much-less-attention-than-deep-learning-despite-its-ubiquity-in-winning-Kaggle-solutions" class="linkified" target="_blank">https://www.quora.com/Why-is-xgboost-given-so-much-less-attention-than-deep-learning-despite-its-ubiquity-in-winning-Kaggle-solutions...</a></p>

<div class="content-editable"><div class="parse-text content-editable text" data-type="paragraph_node" data-align=""><p class="">Mình nhận thấy trong các bài toán trên Kaggle, đa số đều được giải quyết bởi XGBoost, trong khi đó các mạng neural tuy hiện đại nhưng lại không hiệu quả bằng.</p></div><div class="parse-text content-editable text" data-type="paragraph_node" data-align=""><p class="">Mình có tham khảo một số tài liệu nước ngoài nhưng vẫn chưa hiểu rõ lắm về XGBoost, Mọi người có thể giải thích và so sánh giúp mình được không?</p></div></div>

<div><div class="text" data-type="paragraph_node" data-align=""><p class="">Mình nhận thấy trong các bài toán trên Kaggle, đa số đều được giải quyết bởi XGBoost, trong khi đó các mạng neural tuy hiện đại nhưng lại không hiệu quả bằng.</p></div><div class="text" data-type="paragraph_node" data-align=""><p class="">Mình có tham...</p></div></div>

Nguyễn Hoàng Nam