部落格文章

什麼是叢集模型？

叢集模型是一種將資料自動分組的技術，是機器學習中常見的應用之一，目的是讓相似的資料點被歸類到同一組，稱為「叢集」（cluster），而特徵點相差較大的資料點則被分到不同叢集。透過叢集分析，使用者能夠分析每筆資料間的關聯性，並在處理大數據時提供方便的統計工具。

監督式和非監督式學習

機器學習大致上可以分為兩種類別，監督式和非監督式學習。在這裡，所謂「監督」是指訓練者在模型訓練過程中是否有對資料進行標註。

機器學習的流程可以簡單地敘述成 輸入學習資料→生成模型→比對結果和學習資料→調整模型 ，並透過不斷地循環優化模型功能。而能訓練出一個好的模型很大程度取決於擁...

注意力機制基本概念

注意力模型是深度學習中經常使用的一項技術。如同他的名字一般，注意力模型會學習資料中關鍵的部分，並加強其學習權重。這能讓在訓練多層數模型時，梯度穩定且提升模型的性能，針對翻譯、圖像或是語音處理都有良好的效果。

在基本的注意力模型架構中，主要有三個關鍵的要素：Query、Key 和 Value。

Query（Q） 可以被視為模型的「提問」，是紀錄了目前模型對於資料和解答間關聯性強弱的向量。

Key (K) 是和訓練資料相關的向量，比如詞語或圖像中的特徵。在模型訓練中的第一步便是將Query和Key向量進行相似度計算，可能透過加法或是內積，並得到兩...