TOPS數字越高並不一定就有更高的處理量,尤其是在樣本大小(batch size)為1的邊緣應用中;
而諸如資料中心等應用,可透過以較大的樣本平行處理多個輸入來提高處理量(因為就會有多餘的TOPS),但這通常並不適合邊緣裝置。

Tate比較了Flex Logix的InferX X1元件以及市場上的某款領導級GPU,
雖然後者的處理量是3~4倍,TOPS是10倍,但需要用到8倍的DRAM;相較之下Flex Logix的元件架構能節省很多資源。

像是物件偵測等複雜影像處理任務的表現性能,會更適合用來比較現在的高階AI加速器。

對於那些在資訊於處理器核心與記憶體之間傳遞時會遭遇匯流排競爭(bus contention)的系統,
長尾延遲(long tail latencies)是一個典型的問題。

雖然目前有很多裝置都使用了高頻寬記憶體介面,但因為競爭可能發生,仍然會有一個理論上的尾延遲。

巴菲特(Warren Buffett)的名言:「當潮水退去,你就會看到是誰在裸泳。


#人工智慧
#巴菲特名言
Warren Buffett Quotes



arrow
arrow
    全站熱搜
    創作者介紹
    創作者 《行銷人-國偉》 的頭像
    《行銷人-國偉》

    行銷人5.3-國偉

    《行銷人-國偉》 發表在 痞客邦 留言(0) 人氣()