用AI來解答疑難雜症~ ZOTAC GAMING RTX4080 SUPER Trinity開箱及測試
本帖最後由 a740828 於 2024-3-27 12:46 編輯顯示卡不只玩遊戲，還能用AI來解答疑難雜症~ ZOTAC GAMING RTX4080 SUPER Trinity開箱及測試
平時桌上型電腦都要一機多用，玩遊戲、辦公通通都用同一部，而且遊戲畫質對硬體的要求越來約高，自己又不願意降低畫質...
只好升級顯示卡，爬了很多測試文、效能測試影片，就想直接升級到RTX 4080 Super系列。
現在nVidia還推出“Chat With RTX”的AI軟體，類似ChatGPT，不過屬於“單機”型AI，程式安裝在自己的電腦中。
相信還是有不少網友正在使用INTEL第11代的CPU，小弟想藉此篇開箱分享相關效能測試提供各位參考，
畢竟現在零組件也不便宜，如果就平台能繼續用，就能先把預算拿來升級顯卡，CPU/主機板/DDR5記憶體可以等下次再升級~
Intel Core i9-11900F支援AVX 2、AVX-512指令集，對於AI的支援性充足，搭配顯示卡跑“Chat With RTX”也沒問題。
電腦規格：
處理器：Intel Core i9-11900F @4.6G
主機板：ASUS ROG Maximus XIII Hero (BIOS 2203)
記憶體：海盜船 VENGEANCE PRO DDR4-3600 32G (16G*2)
系統碟：三星990 PRO 4TB SSD (PCI-E Gen 4)
原顯示卡：ASUS TUF Gaming GeForce RTX 3070Ti 8GB
新顯示卡：ZOTAC GAMING RTX4080 SUPER Trinity 16GB (Driver v551.86)
螢幕：ASUS TUF Gaming VG27AQL1A (1440P 144Hz HDR/相容NVIDIA G-SYNC)
PSU：海盜船 RM850x (850W)
作業系統：Windows 11 Pro 23H2
機殼：CoolerMaster COSMOS C700P 黑化版
機殼風扇：ASUS ROG STRIX XF120 (上方3個、後方1個)
[圖1]先來看一下RTX3070 Ti與RTX4080 SUPER的規格對比
https://attach.mobile01.com/attach/202403/mobile01-8db2680c1c472ca91af700d417e64c4a.png
【開 箱 及 安 裝】
[圖2]包裝內有顯示卡本體、2本說明書(還有一個很有科技感的外袋)、3個8pin轉12VHPWR電源線、顯卡支架；特色立牌1個。
https://attach.mobile01.com/attach/202403/mobile01-b04a63fc9653896d67324d124c3d9e4b.jpg
[圖3]ZOTAC GAMING RTX4080 SUPER Trinity 16GB的原廠規格
https://attach.mobile01.com/attach/202403/mobile01-b597c34be232935b6c95d8b3e3ce427e.png
[圖4]ZOTAC GAMING RTX4080 SUPER Trinity 16GB的前側邊，用12VHPWR電源供電。
https://attach.mobile01.com/attach/202403/mobile01-6b77d4d40242a1e1a18fca159a356163.jpg
https://attach.mobile01.com/attach/202403/mobile01-ce95801954421acb0953d158bd3ab91c.jpg
[圖5]ZOTAC GAMING RTX4080 SUPER Trinity 16GB的後側邊。
https://attach.mobile01.com/attach/202403/mobile01-91c8386bc7d38a55f4b3742ea044f17a.jpg
[圖6]ZOTAC GAMING RTX4080 SUPER Trinity 16GB的5支導熱管。
https://attach.mobile01.com/attach/202403/mobile01-e038597995a98cd6f151c3208fbb4fa2.jpg
[圖7]對比一下原本的ASUS TUF Gaming GeForce RTX 3070Ti
長度大約都是30公分，ZOTAC接近31公分。
https://attach.mobile01.com/attach/202403/mobile01-2771aff2ec03ded126a0ca9c25712694.jpg
[圖8]2張顯示卡的厚度也差不多。只是原本RTX3070Ti用8pin*2，4080 SUPER用12VHPWR/8pin*3電源。
畢竟原本功耗是270W，現在是320W！
https://attach.mobile01.com/attach/202403/mobile01-3a6eadb892e96628112e6fff4f1f0ffd.jpg
[圖9]2張顯示卡也都有的強化背板，相較之下，ZOTAC比較有設計感。
https://attach.mobile01.com/attach/202403/mobile01-c0e6c76092f46475cfe62d1a8e70eada.jpg
[圖10]裝上主機板！
https://attach.mobile01.com/attach/202403/mobile01-80851a7a14406dad8641cf1611ef7c30.jpg
[圖11]由於ZOTAC GAMING 4080 SUPER Trinity的外觀是"曲線"，原本使用ASUS ROG Herculx顯卡支架就沒辦法支撐；
不過ZOTAC有附GPU支架，直接用原廠的即可。
https://attach.mobile01.com/attach/202403/mobile01-0344d6b3a4e97f602448abb59cfa77f9.jpg
[圖12]我用InWin D5機殼來示範顯卡直立安裝。
目前CoolerMaster COSMOS C700P上面還有安裝華碩 STRIX RAID DLX音效卡，沒辦法翻轉。
https://attach.mobile01.com/attach/202403/mobile01-b2666217ed5fb1e3f2d1651e316ff3e0.jpg
https://attach.mobile01.com/attach/202403/mobile01-43bdd9999c57fdb91421706daf50bf09.jpg
https://attach.mobile01.com/attach/202403/mobile01-e79a09ede8590c77bbd53bc081c3e615.jpg
[圖13]像InWin D5機殼附的顯卡支架也沒辦法支撐橫置GPU，建議還是用原廠的即可。
https://attach.mobile01.com/attach/202403/mobile01-2cc64fbfaab861b28410fef3d76e8d65.jpg
[圖14]目前用的海盜船 RM850x沒有辦法支援12VHPWR，故使用8pin、3條電源線。
https://attach.mobile01.com/attach/202403/mobile01-3ef803bed2a11eeebdfc604f9b0c2f96.jpg
[圖15]裝好之後就開機；原本使用ASUS ROG Herculx顯卡支架沒辦法，放旁邊當裝飾吧...
“ZOTAC GAMING”擁有RGB燈效，顯色範圍比原本的TUF大很多。
https://attach.mobile01.com/attach/202403/mobile01-aab412380e1e7be93424ad9f68d15555.jpg
https://attach.mobile01.com/attach/202403/mobile01-9db48ac2282f992e712bca0d19925af9.jpg
[圖16]硬體安裝完，就要安裝軟體了；裝上ZOTAC專屬的FIRESTORM微調程式。
核心時脈2550 MHz、記憶體時脈23 Gbps
https://attach.mobile01.com/attach/202403/mobile01-18335fa32e0f3a5d0207ef94c6713463.png
https://attach.mobile01.com/attach/202403/mobile01-9d36c22d25d78827bccd415953f888a2.png
[圖17]可監看風散轉速
https://attach.mobile01.com/attach/202403/mobile01-ee48a85fbf30d69c9bdfb0760540d2bd.png
[圖18]可微調核心時脈、記憶體時脈、微調電壓
https://attach.mobile01.com/attach/202403/mobile01-13342aeacd0901cc9478c24ffbbbc05f.png
[圖19]可調整“ZOTAC GAMING”RGB燈效
https://attach.mobile01.com/attach/202403/mobile01-f31ec477eb65b2f008b38cbeb3b8db6f.png
【Chat With RTX 測 試】
什麼是 ChatRTX？
ChatRTX 是一款展示應用程式，可讓您客製GPT 大語言模型 (LLM)並連接到您自己的內容（包含文件、筆記或其他數據）。 利用檢索增強生成技術 (RAG), TensorRT-LLM 和 RTX 加速，您可以查詢自訂聊天機器人以快速獲得上下文相關的答案。由於它全部在您的 Windows RTX PC 或工作站本地端運行，因此您將獲得快速、安全的結果。
詳情可看官網介紹，並下載“Chat With RTX”程式
https://www.nvidia.com/zh-tw/ai-on-rtx/chatrtx/
硬體需求，至少是nVidia RTX30系、顯卡記憶體8G以上的顯卡；Win 11作業系統。
[圖20]下載“Chat With RTX”程式約35.1GB，解壓縮後約為38.8GB。
點選"SETUP"安裝
https://attach.mobile01.com/attach/202403/mobile01-7abe0bfdc79610cdaced32c91f39354c.png
[圖21]安裝介面為"英文"，沒有中文！
目前是0.2版
https://attach.mobile01.com/attach/202403/mobile01-85bc3ead009f0f1384c60b153a9b833f.png
[圖22]安裝3款程式；Chat With RTX核心、Llama2 13B INT4、Mistral 7B INT4
包含下載的檔案、解壓縮、安裝程式，其實所需要的硬碟空間也不小！
https://attach.mobile01.com/attach/202403/mobile01-a2d8040d7391d350962779a5df128a7a.png
[圖23]安裝程式時的安裝路徑不要變更！
不然可能會出現未知的錯誤！
https://attach.mobile01.com/attach/202403/mobile01-c2f1f67077fc989ad7b2fcc317369de0.png
[圖24]安裝程式時，會安裝CUDA核心，並從網路下載其他組件！
所以請記得要有網路連線的安裝環境。
https://attach.mobile01.com/attach/202403/mobile01-eaba66d9b4c84b3eba33a69c20dc84e0.png
https://attach.mobile01.com/attach/202403/mobile01-bf137a9cf075116876a6d8248efaab38.png
https://attach.mobile01.com/attach/202403/mobile01-a18aa4a67ff8c01a4e3930ef65f850d2.png
[圖25]依序安裝Llama2 13B INT4、Mistral 7B INT4...等
https://attach.mobile01.com/attach/202403/mobile01-221b04b3161421610f57ee50e8507ed2.png
https://attach.mobile01.com/attach/202403/mobile01-6e36aa7b404443eb4f4e94b26ac0a007.png
https://attach.mobile01.com/attach/202403/mobile01-413dcb72666b34d6468c03f360a0dca8.png
[圖26]上面的安裝程序完成後開啟程式，其實也不完全安裝完成，還要再下載一部分組件。
https://attach.mobile01.com/attach/202403/mobile01-0bd62fff549652d7e09d516856107d09.png
https://attach.mobile01.com/attach/202403/mobile01-168983dd9ddd376e1862ee521f16fc71.png
[圖27]正式啟動後，可以選擇想執行的AI模組。
Llama2 13B INT4或Mistral 7B INT4；其中，13B/7B表示AI模組的"大小"，越大相對越"聰明"！
https://attach.mobile01.com/attach/202403/mobile01-76d7f1d0dea332dbfe1312463213991c.png
[圖28]啟動後也可以看到Chat With RTX對於系統的佔用率，光VRAM就用了9.9G，系統RAM也會用到9G以上。
所以官方建議配備顯卡記憶體8G以上、系統16G以上，真的不是開玩笑...
https://attach.mobile01.com/attach/202403/mobile01-39e3d9dacd13009f113ec9f709bd1618.png
[圖29]終於完成全部安裝...
先來問問AI，看要如何“寫開箱”；沒想到AI還真會回答寫開箱文所需要的“要素”
https://attach.mobile01.com/attach/202403/mobile01-7b556eaf6607f2dd71bf68fc8f451832.png
https://attach.mobile01.com/attach/202403/mobile01-007d4597802c2dad128ee702b5d0f33f.png
https://attach.mobile01.com/attach/202403/mobile01-29d3e38b72892acb4ca10318a6b92008.png
[圖30]如果換個方式問AI，看要如何寫開箱文？
AI給出內文的要點...
https://attach.mobile01.com/attach/202403/mobile01-f974aa1ed176056f02620e8437e01653.png
https://attach.mobile01.com/attach/202403/mobile01-287a7c3a429d0fbb129ac5e9c184aeee.png
顯然問的方式，確實會影響AI的回覆；問得越精準，答案也越精準！
[圖31]相同的問題，Mistral 7B INT4給的答案也不同；看來確實是Llama2 13B比較厲害~
https://attach.mobile01.com/attach/202403/mobile01-76bb815eb7425650c0f681d85a56aef0.png
[圖32]Chat With RTX也支援中文！只是並不完整...
不過，升級顯卡的"流程"也一樣難不倒AI
https://attach.mobile01.com/attach/202403/mobile01-7a895e14ce45cab9f374d0facf4c226e.png
[圖33]地理題：台北101在哪裡？
連如何搭捷運都知道...
https://attach.mobile01.com/attach/202403/mobile01-f32b28173f1ea2eacb439d197ae9c63f.png
[圖34]歷史題：台灣歷史
與中國的關係，AI也知道...
https://attach.mobile01.com/attach/202403/mobile01-80851ae5e2d32ef14b5e0fb808b6484d.png
https://attach.mobile01.com/attach/202403/mobile01-21da8ab2de0148de707a320f180db5ed.png
[圖35]歷史題：馬來西亞歷史
https://attach.mobile01.com/attach/202403/mobile01-ad89c95ea831da21ef1b31781954b9eb.png
[圖36]影劇題：電影“獅子王”中有多少動物？
沒想到除了能寫出各類動物，還知道每隻動物的角色名稱喔~
https://attach.mobile01.com/attach/202403/mobile01-4435888c1f4dd03d96c8684fe84827b0.png
[圖37]影劇題：湯姆·克魯斯(Tom Course)的電影有哪些？
能寫出最經典的10部電影
https://attach.mobile01.com/attach/202403/mobile01-3bea62822cdb2fc99131e618cb6f3374.png
https://attach.mobile01.com/attach/202403/mobile01-f61cbc26c0a6e8f24f76548722fb481a.png
[圖38]購物篇：請AI推薦“賽道日”用輪胎；輸入想用的品牌，還真的會推薦。
https://attach.mobile01.com/attach/202403/mobile01-183c5491a8998a23cb3af9aad45b00b8.png
[圖39]購物篇：要如何購買空中巴士A350飛機？
提供的購買方式、管道，還不少...
https://attach.mobile01.com/attach/202403/mobile01-bf21deeef15aeb41d90a1804e640ddef.png
[圖40]操作篇：要如何飛波音787飛機？
AI表示“現實”難達成的話，還可以玩模擬飛行...
https://attach.mobile01.com/attach/202403/mobile01-7153022eaa7ed98e61408d579915b8fb.png
[圖41]天文篇：有多少人造衛星環繞著地球？
會依照"衛星"的定義回答
https://attach.mobile01.com/attach/202403/mobile01-4b57172acc3b66ca776d11d3531d982a.png
[圖42]如何使用"Chat with RTX"？
Mistral 7B模組把RTX認為是"Real-Time Translation"即時翻譯，而非這裡指的"RTX"
https://attach.mobile01.com/attach/202403/mobile01-ce1d8a1cb00fd98bd3e0ca448be55e82.png
[圖43]改了一下問題描述，如何使用nVidia的"Chat with RTX"？
Mistral 7B
https://attach.mobile01.com/attach/202403/mobile01-2a38f385ba74925420ee5dbac9370763.png
Llama2 13B
https://attach.mobile01.com/attach/202403/mobile01-02953ab9c43f5aef143676372aef94b3.png
依照AI回答的細緻度看來，還是Llama2 13B比較好！
Chat With RTX也支援".txt"、".pdf"、".doc"等文字檔案，小弟有一個資料夾，裡面全部是“馬來西亞第二家園”相關的英文文獻，
包含".pdf"、".doc"等文字檔案，共53個；剛好用來測試Chat With RTX~
[圖44]問：何謂"MM2H"？
AI可以從裡面的其中一個檔案，找出答案
https://attach.mobile01.com/attach/202403/mobile01-4fd563b975b135c7059b1b6315dad7b0.png
[圖45]要如何申請"MM2H"？
AI從裡面的其中一個檔案，找出答案
https://attach.mobile01.com/attach/202403/mobile01-06b5f14af7bfd5a5fff32f9386247964.png
[圖46]有什麼好處？
AI會給相對客觀的結論，不是主觀的...
https://attach.mobile01.com/attach/202403/mobile01-84d0f961ad71e2ee7bbc2d09cb8bff41.png
[圖47]問AI，你覺得MM2H如何？
AI也不會給主觀的意見...
https://attach.mobile01.com/attach/202403/mobile01-a2076cbe29d27af3729ae2330c601f8f.png
[圖48]AI也會統整重點，但個人覺得這部分有待加強...
https://attach.mobile01.com/attach/202403/mobile01-ec0b1a08084cea97f960f6556d708d37.png
[圖49]如果用"線上"模式，回答“要如何申請"MM2H"？”會比較完整；
如果用文獻資料，因為資料內容有限，AI的答案也相對有限
https://attach.mobile01.com/attach/202403/mobile01-fc9a887224f7b912421019ec5b78971a.png
[圖49-1]要結束Chat With RTX，不要直接關閉視窗，視窗內有一個"電源鈕"，按下後會關閉系統，才會釋出VRAM、RAM的占用！
https://attach.mobile01.com/attach/202403/mobile01-925d22713f6d4ecc4245d651888f891c.png
【遊 戲 效 能 測 試】
★極限競速 Forza Motorsport
[圖50]首先先來看ASUS TUF Gaming GeForce RTX 3070Ti 8GB
於遊戲“極限競速 Forza Motorsport”中的表現...
1440P、DLSS 品質，遊戲內效能測試 75FPS
https://attach.mobile01.com/attach/202403/mobile01-93724f6f2e5f829d5914aebe98ca76a9.png
[圖51]ZOTAC GAMING RTX4080 SUPER Trinity 16G，就算不用開啟DLSS、特效開到最大，測得92FPS；
效能提升123%
https://attach.mobile01.com/attach/202403/mobile01-fb957fb528974eca6be2a18cba6d9ea7.png
[圖52]在遊戲內自由練車，跑紐柏林北環，有100FPS以上；最高耗電約280~310W間浮動、GPU核心時脈自動超頻至2745Mhz、最高溫72℃
https://attach.mobile01.com/attach/202403/mobile01-3455595d90d89b108b7a4513294da68f.png
★極限競速：地平線5 Forza Horizon 5
[圖53]先來看ASUS TUF Gaming GeForce RTX 3070Ti 8GB
於遊戲中的表現：
1440P、DLSS 品質，遊戲內效能測試 96FPS
遊戲中會出現警告，顯示VRAM不足！開啟DLSS，8G VRAM會不夠用...
https://attach.mobile01.com/attach/202403/mobile01-55522c1bd127b92fb20b16642ee1b7b1.png
[圖54]ZOTAC GAMING RTX4080 SUPER Trinity 16G，就算不用開啟DLSS、特效開到最大，測得124FPS；
效能提升129%
https://attach.mobile01.com/attach/202403/mobile01-276150c7ff502d2fe279e236dbb613d9.png
[圖55]在遊戲內自由漫遊，有120FPS以上，GPU核心時脈自動超頻至2760Mhz
https://attach.mobile01.com/attach/202403/mobile01-9dbf3b750b93c5101b6ff168efc6951a.jpg
★星空 StarField
[圖56]ZOTAC GAMING RTX4080 SUPER Trinity 16G，不開啟DLSS、特效開到最大，大約75~85FPS
https://attach.mobile01.com/attach/202403/mobile01-ae54799b53ff40f4b71345e67cb5d13a.jpg
[圖57]開啟DLSS、特效開到最大，同場景大約125~135FPS，核心時脈自動超頻至2745Mhz，效能提升166.7%
https://attach.mobile01.com/attach/202403/mobile01-046ca5e9dc8d4ecfd60dd47ccd263ea0.jpg
★極速快感：桀驁不馴 Need For Speed: Unbound
[圖58]不開啟DLSS、特效開到最大，大約100~135FPS
https://attach.mobile01.com/attach/202403/mobile01-8f3d77b328ac9258730128d1107e2be6.jpg
[圖59]開啟DLSS、AI提高FPS、特效開到最大，同場景大約230FPS，核心時脈自動超頻至2745Mhz，效能提升194%
https://attach.mobile01.com/attach/202403/mobile01-566c2077d8a168fdeb2075defeb29a4a.jpg
★蜘蛛人 Marvel's Spider-Man Remastered
[圖60]開啟DLSS、AI提高FPS、特效開到最大，都能維持200~230FPS，核心時脈自動超頻至2760Mhz
https://attach.mobile01.com/attach/202403/mobile01-60861600eb71a61866331337bfc48392.jpg
★達卡拉力賽 Dakar Desert Rally
[圖61]開啟DLSS、AI提高FPS、特效開到最大，都能維持200~230FPS，核心時脈自動超頻至2745Mhz
https://attach.mobile01.com/attach/202403/mobile01-a5cbdef34bcaf6a9a4f43a5eccbe4598.jpg
【心 得】
從RTX3070Ti升級到RTX4080 Super真的是提升很多遊戲效能，保守都有40%以上的提升！
從各款遊戲效能測試中也能發現，Intel Core i9-11900F還是能滿足ZOTAC GAMING 4080 SUPER Trinity，
不至於產生CPU瓶頸，只是第11代i9的效能不能跟第14代相提並論。
透過測試，小弟也發現如果不開啟DLSS，GPU使用率就不會到98~99%使用率；所以開啟DLSS，除了可以讓GPU全速跑，也能讓CPU能有效發揮，
比較不會產生CPU效能上的差異。
如果還有使用第10、11代i7、i9的網友們，可以放心升級至RTX40系列，CPU目前還是能再撐一下...
手上這張ZOTAC GAMING 4080 SUPER Trinity 16G顯示卡，雖然預設核心時脈是2550Mhz，但是都會自動超頻至2745或2760Mhz，覺得物超所值，
不須自行設定就能得到較好的效能！
原本的ASUS TUF Gaming GeForce RTX3070Ti 8GB則是會用預設核心時脈一路跑到底...
相同的運行條件下，ZOTAC GAMING RTX4080 SUPER Trinity最高溫約73℃，ASUS TUF Gaming GeForce RTX3070Ti最高溫約70℃，個人覺得都可以接受。
至於Chat With RTX，個人覺得還有一段路要走，但是能協助解讀、大略整理文獻內容實屬不容易！
目前只能算是支援“英文”，中文的支援性不足，期待未來持續更新...
小弟是把“Chat With RTX”當作是一種文字遊戲、聊天軟體，偶爾可以“自言自語”一下也不錯~
Chat With RTX還有一個問題，就是無法“自動更新”
[圖62]目前電腦中安裝的版本為Ver. 2.2.2，系統告知最新版為Ver. 2.5.1
https://attach.mobile01.com/attach/202403/mobile01-6f3efa24e8ef16607592b4daa03129be.png
[圖63]按任意鍵後，就關閉了...
看來是需要移除整個程式，再重新安裝過~
https://attach.mobile01.com/attach/202403/mobile01-693881a9cf6840ea2d36ff6b99a10b4f.png
(每個人的使用環境、需求皆不同，本篇心得僅供參考)
擔心自己變成“滋事型網紅”先請AI教一下如何寫道歉文...
https://attach.mobile01.com/attach/202403/mobile01-72eebe50be5f110682c0cdfe2e5b4c67.png
頁:
[1]