通過軟硬體協同設計平衡更好的效能
當研究ai晶元時，很明顯乙個晶元和另乙個不同。晶元需要小得多才能在低成本、低功耗、小尺寸的邊緣人工智慧市場上發揮作用。
隨著5g的開始出現，更加清晰的是，不可能將原始資料傳送到雲端隨時進行處理。邊緣必須有一定數量的情報，可以解決99.9%的情況，而資料中心實際上只需要用於極端情況。乙個完美的例子就是安全攝像頭。邊緣人工智慧需要能夠找出是否有任何可疑的活動發生，如果周圍有人。然後，如果有任何有趣的發現，這些部分可以傳送到資料中心進行進一步處理。然而，傳送到資料中心的資料實際上只是整個推斷的一小部分。邊緣推理人工智慧通常意味著要滿足很多約束條件，有時如果你想執行非常大的複雜模型，你實際上只需要在一小部分資料上執行這些模型。
早期邊緣人工智慧推理設計中的另乙個誤解是，一刀切的方法就足夠了。這也被證明是錯誤的，因為專業化晶元的出現顯示了它們的優勢和能力。關鍵是真正圍繞演算法構建晶元，因為如果它真的能磨練演算法，你可以獲得更好的效能。正確的平衡實際上是獲得最有效的計算，就像乙個特殊的硬體，但在編譯時可程式設計性。
可程式設計性是關鍵
這個行業真的處在人工智慧發展的風口浪尖上。未來幾十年，我們將在這一領域看到的創新將是驚人的。就像任何長壽的市場一樣，你可以期待變化。這就是為什麼不為某些客戶型號設計超級專用的晶元變得至關重要的原因。如果我們今天這麼做，兩年後當晶元在客戶手中時，型號可能已經發生了實質性的變化——客戶的要求也會發生變化。這就是我們不斷聽到有關公司最終獲得人工智慧推理晶元的故事的主要原因——然後發現他們的表現並不像他們需要的那樣。如果在晶元結構中內建可程式設計性，那麼這個問題就很容易解決。
在任何邊緣人工智慧處理器中，人工智慧的靈活性和可程式設計性是最重要的。客戶的演算法會定期更改，系統設計也會更改。隨著邊緣人工智慧能力在主流市場的推廣，晶元設計師需要能夠適應和改變客戶的模型，而不是根據他們「認為」的模型來選擇。我們一次又一次地看到這一點，這就是為什麼編譯器如此重要。編譯器中有很多技術是對終端使用者隱藏的，這些技術都是圍繞著分配資源來確保以最少的能量高效地完成所有事情。
另乙個被密切關注的關鍵特性是吞吐量。好的推斷晶元現在正在設計中，這樣他們就可以很快地在晶元中移動資料，這意味著他們必須很快地處理資料，並且很快地將資料移入和移出記憶體。晶元真正重要的是推斷引擎在模型、影象大小、批量大小、過程和pvt(過程/電壓/溫度)條件下能提供多少吞吐量。這是衡量其效能的首要標準，但令人驚訝的是，很少有**商提供這一標準。
邊緣ai向前移動
如今，許多客戶都急需吞吐量，他們正在尋找解決方案，以獲得更高的吞吐量和更大的影象尺寸，同時還可以獲得與當前相同的功率或**。當他們得到它時，他們的解決方案將比競爭對手的解決方案更加準確和可靠，然後他們的市場採用和擴張將加速。因此，儘管今天的應用程式有數千或上萬個單位，但我們預計隨著提供越來越多吞吐量和瓦特的推理的可用性，這種應用程式將迅速增長。
邊緣人工智慧市場增長迅速，晶元**商也在爭奪這個市場的地位。事實上，據**，到2023年代中期，人工智慧的銷售額將迅速增長到數百億美元，其中大部分增長將來自邊緣人工智慧。沒有人能夠**未來的模型，這就是為什麼在設計時考慮到靈活性和可程式設計性更為重要的原因。
人工智慧 產生式推理
通常人們把利用產生式知識表示方法所進行的推理稱為產生式推理，把由此所產生的系統稱為產生式系統。按照推理的控制方向，產生式推理可分為正向 逆向和混合三種方式。步驟 1 推理開始前，把使用者提供的初始證據放入綜合資料庫。2 推理開始後，檢查綜合資料庫中是否包含了問題的解，若已包含，則求解結束，並成功退出...
人工智慧 語義網路推理
通常人們把利用語義網路知識表示方法所進行的推理稱為語義網路推理。語義網路的推理過程主要有兩種，一種是繼承，另一種是匹配。步驟一 繼承 建立乙個結點表，用來存放待求解結點和所有以isa，ako等繼承弧與此結點相連的那些結點。在初始情況下，表中只有待求解結點。檢查表中的第乙個結點是否有繼承弧。如果有，就...
人工智慧 自然演繹推理
從一組已知為真的事實出發，直接運用經典邏輯中的推理規則推出結論的過程稱為自然演繹推理。自然演繹推理所給予的邏輯基礎主要包含等價式 永真蘊含式 置換 合一 永真蘊含式 置換合成 合一自然演繹推理的方法 設p和d是d上的兩個謂詞公式，若對d上的任意解釋，p與q都有相同的真值，則稱p與q在d上是等價的。如...