ckloop

AI 根本就唔關CPU事，AI電腦靠CPU 係吹出來
kenken33 發表於 2024-10-9 17:04

CPU 果少少算力
想要的AI佢行不到
行得到既AI又太簡單

s84292

AI 根本就唔關CPU事，AI電腦靠CPU 係吹出來
kenken33 發表於 2024-10-9 09:04

AI PC賣點係粒NPU同GPU

pc又唔係得粒CPU

kenken33

AI PC賣點係粒NPU同GPU

pc又唔係得粒CPU
s84292 發表於 10-10-2024 09:00

咪就係吹水營銷既賣點,本地模型冇真正 N記GPU又行唔到,其他野chatgpt類又係連線上，手機粒NPU都話係有節能作用減少經常調用SOC其餘晶片運算去節能，影相即時算法去背等有用,又或者即時翻譯等，PC有幾可AI 應用到只需要用到PC CPU粒NPU。

usei

Desktop 版的 NPU / GPU 好似同 notebook 唔同

ppkkkp

Desktop 版的 NPU / GPU 好似同 notebook 唔同
usei 發表於 2024-10-10 12:55

desktop npu/igpu既ai性能唔好有咩期望，ram既bandwidth限制左

ppkkkp

intel搞左兩代chiplet睇到就係為chiplet而chiplet都唔知為咩，cpu die用TSMC都理解，但SOC tile同I/O tile又分兩個chip都唔知為咩，又唔係同mobile U共用，amd係為左server同desktop同一個設計去減輕個成本，desktop要谷多核就直接用2個chip。

s84292

咪就係吹水營銷既賣點,本地模型冇真正 N記GPU又行唔到,其他野chatgpt類又係連線上，手機粒NPU都話係有節 ...
kenken33 發表於 2024-10-10 04:02

如果單靠CPU, WINDOWS 11 做即時語音字幕,我7950X3D + 4090 要額外多35W電
但我拎部有NPU的電腦做, 佢食NPU只要4W,

視像會議TEAMS AI去背如果冇NPU,佢拎4090 做,食左我2GB VRAM同10%GPU,大約多25W功耗
而且會影響到我打機個陣的性能
換返MACBOOK PRO TEAMS開返NPU 就幾乎冇乜點食到電,2W以內, CPU+GPU就要10W+

專門電路始終效率會高唔少,正如我睇8K AV1用CPU 軟解都唔係唔得,只不過交返比HEVC硬解只要6-10W, CPU硬食要80W以上仲要DROP

佢INTEL呢粒12tops fp16比桌面機用我覺得都係有用, 微軟好多本地小型模型根本唔洗食咩高性能npu
有就得, 效果就可以好好, 反而amd 日日吹ai pc, 但桌面又唔加我就覺得....
佢唔怪得人地點解隻隻app都唔支持佢個npu
(windows 11、teams咁好多apps有npu支持)

kenken33

如果單靠CPU, WINDOWS 11 做即時語音字幕,我7950X3D + 4090 要額外多35W電
但我拎部有NPU的電腦做, 佢食N ...
s84292 發表於 19-10-2024 17:18

NOTEBOOK 就話有啲用姐，桌面機計果幾W電，當你計到盡用最食電既4090來比用少31W 一個鐘一日8小時365日部機一直係度做即時語音字幕一年先省果1百蚊電費，實際咩會議 語音字幕 使用時數會更少於一日會用足8小時。

rfdingo

NOTEBOOK 就話有啲用姐，桌面機計果幾W電，當你計到盡用最食電既4090來比用少31W 一個鐘一日8小時365日部 ...
kenken33 發表於 2024-10-20 00:24

    -.-
其實應該話  個算力唔值高價/貴
正如你計一樣，加少少錢 多左ai算力幫補下我覺得可以

但借d e賣高價就滾吧....
*電費如果本身期期都偏貴既 累進計唔講得少，省個少少電都有用....

ppkkkp

如果單靠CPU, WINDOWS 11 做即時語音字幕,我7950X3D + 4090 要額外多35W電
但我拎部有NPU的電腦做, 佢食N ...
s84292 發表於 2024-10-19 17:18

9950x同7950x用同一個iod，所以未有NPU，不過講app支持邊個夠N記黎