在分析之前，我們先看一下ASIC（Application Specific Integrated Circuit），中文全稱是“專用集成電路”。這里特別強(qiáng)調(diào)“專用”，“專用”意味著針對(duì)單一項(xiàng)目來說會(huì)更加有競爭力。相對(duì)比，GPU（顯卡）是通用計(jì)算處理芯片，所以在單一項(xiàng)目上來說“專用”肯定比“通用”更有競爭力。

證明生成的過程中，約有60%的時(shí)間花在MSM上，其余時(shí)間由NTT/FTT主導(dǎo)。MSM和NTT都存在性能挑戰(zhàn)，通常的解決辦法：

●MSM可以在多線程上執(zhí)行，從而支持并行處理。然而，當(dāng)處理大型數(shù)據(jù)向量時(shí)，例如6700萬個(gè)參數(shù)，乘法運(yùn)算可能仍然很慢，并且需要大量的內(nèi)存資源。此外，MSM存在可擴(kuò)展性方面的挑戰(zhàn)，即使在廣泛并行化的情況下也可能保持緩慢。

●在算法過程中頻繁的數(shù)據(jù)混洗使得NTT難以在計(jì)算集群中分布，無法并行計(jì)算，并且由于需要從大型數(shù)據(jù)集中加載和卸載數(shù)據(jù)，在硬件上運(yùn)行時(shí)需要大量帶寬。即使硬件操作很快，這可能也會(huì)導(dǎo)致速度變慢。例如，如果硬件芯片的內(nèi)存為16GB或更少，那么在100GB的數(shù)據(jù)集上運(yùn)行NTT將需要通過網(wǎng)絡(luò)加載和卸載數(shù)據(jù)，這可能會(huì)大大降低操作速度。

為了打破英偉達(dá)一家獨(dú)大的局面，前任全球芯片老大英特爾和多年老對(duì)手AMD對(duì)標(biāo)CUDA都分別推出了OneAPI和ROCm，Linux基金會(huì)更是聯(lián)合英特爾、谷歌、高通、ARM、三星等公司聯(lián)合成立了民間號(hào)稱“反CUDA聯(lián)盟”的UXL基金會(huì)，以開發(fā)全新的開源軟件套件，讓AI開發(fā)者能夠在基金會(huì)成員的任何芯片上進(jìn)行編程，試圖讓其取代CUDA，成為AI開發(fā)者的開發(fā)平臺(tái)。