6月26日消息,Etched 公司宣布完成 1.2 億美元(當前約 8.73 億元人民幣) A 輪融資,將用于開發(fā)和銷售全球首款 Transformer 專用集成電路(ASIC)芯片 Sohu。
查詢公開資料,Etched 公司由兩名哈佛大學輟學生加文?烏伯蒂(Gavin Uberti)和克里斯?朱(Chris Zhu)創(chuàng)立,成立時間不到 2 年。
Sohu 芯片最大的亮點在于直接把 Transformer 架構蝕刻到芯片中,烏伯蒂稱 Sohu 采用臺積電的 4 納米工藝制造,推理性能大大優(yōu)于 GPU 和其他通用人工智能芯片,同時能耗更低。
在 Llama 70B 吞吐量中,Sohu 每秒可處理超過 50萬個 tokens,讓用戶可以構建 GPU 無法實現(xiàn)的產品。
Sohu 能夠實現(xiàn)實時語音代理、毫秒級處理數千字文本、更強大的代碼樹搜索、并行比較數百個響應、多播推測解碼以及實時生成新內容等功能,為未來萬億級參數模型的運行提供了可能。
分享到微信 ×
打開微信,點擊底部的“發(fā)現(xiàn)”,
使用“掃一掃”即可將網頁分享至朋友圈。