隨機梯度下降每次更新執(zhí)行的計算量少于批梯度下降。

最大似然估計的一個缺點是，在某些情況下（例如，多項式分布），它可能會返回零的概率估計。

通過統(tǒng)計學可以推測擲兩個撒子同時選中3點的幾率。

使用偏差較小的模型總是比偏差較大的模型更好。

完整性，一致性，時效性，唯一性，有效性，準確性是衡量數據質量的六個維度指標。

數據索引是保證數據處理高性能的軟件角度的一種手段，不做數據索引的數據訪問是線性訪問，但是做了索引的數據訪問會成倍的降低訪問時間。

數據復制或者備份均是為了從提高數據并發(fā)這個角度來設計和實現的。

根據數據科學家與數據工程師對于問題的理解并相互討論，然后確定需要收集數據的范圍以及種類，然后數據工程師使用數據收集工具，架構，甚至編程的形式來進行數據收集的工作，然后并把數據收集的數據放置到對應的存儲系統(tǒng)。

通常，當試圖從大量觀察中學習具有少量狀態(tài)的HMM時，我們幾乎總是可以通過允許更多隱藏狀態(tài)來增加訓練數據的可能性。

當MAP中使用的先驗是參數空間上的統(tǒng)一先驗時，MAP估計等于ML估計。