與 Crucial 共同迎接 AI 新世代 ， AI 應用講座會後心得

生成式AI時代來臨
AI這個近年來非常熱門的話題，雖然一直被個人選擇性地忽略(感覺有點複雜)，不過從Nvidia近來針對生成式AI挹注更多資源的動作，還有chatGPT帶動的聊天互動熱潮，都不難想像其未來的發展將會有質一般的飛越，當然AI運算絕對沒有想像中那麼簡單，也要有與其相輔相成的設備才能達到事半功倍的效果，所以本次的講座有聯合美光Micron，一起展示AI數據分析和文生圖的實際體驗

AI講座內容詳談
本次的主講人之一，CAVEDU 教育團隊創辦人 / MIT 電腦科學與人工智慧實驗室訪問學者，曾吉弘博士，討論的主題是關於生成式AI在文字和圖片上的應用，以及如何下達正確指令





chatGPT，全球爆紅的聊天機器人，是由OpenAI開發的大型語言模型，背後的支援者就是大名鼎鼎的Microsoft，chatGPT之所以能這麼厲害，是因為它能針對多義詞、代詞甚至語言的表達方式去解析上下文的脈絡並給於適當地回答，模擬出跟人對話的真實感



目前chatGPT的方案，免費方案使用GPT 3.5 模型，標準的回答速度，付費方案則是可以升級為chatGPT Plus版本，更新更強大的GPT 4.0 模型 ，更快速的回答速度且能套用插件和數據分析等功能



不過我們也能在Microsoft Edge瀏覽器內使用GPT 4.0 模型的Bing chat聊天功能，在回答的速度生成上確實比GPT 3.5 模型要快上許多





在生成式AI中，文字比影像更難處理，因為語言具備多樣性，想擁有一個通用的架構相當難，即便英文是全世界認知共通的語言，也可能會因為語境和詞意的不同而有各種不同的表達方式，而影像生成較為簡單，除了特徵的通用性高以外，給予的文字也不用太複雜就能生出一定框架的圖像



模型愈大，資料庫放存的內容越多，表示AI能取得的資訊越充足，在效能上就會更有效率，只是想擁有這類模型的成本也相當高，絕非一般小公司能負擔的起，所以目前的趨勢還是傾向於作為基礎建設使用，先求有再求好的意思





曾吉弘博士最常使用的操作就是資料彙整，以開箱文為例，能迅速整合多篇相關報導，並用readerGPT摘取重點，透過ChatGPT進行翻譯，透過簡單的提問將優缺點列出，尋求潛在的購買者與原因等





AI實際應用在行銷面向上，像是口號標題和媒體的文案內容，與客戶互動的聊天機器人和自動回應的服務項目，透過資料分析和市調來找出潛在需求的客戶，並針對客戶提出相關的內容策畫，另外還包括價格動態調整和多語言支援，擴展行銷的多面性



推薦的相關生成AI，有文字專用的Notion AI，還有自動產生投影片大綱的Gamma App





Generative Adversarial Network於2014年提出，由一個生成網路與一個判別網路組成。生成網路從潛在空間中隨機取樣作為輸入，其輸出結果需要盡量模仿訓練集中的真實樣本。判別網路的輸入則為真實樣本或生成網路的輸出，其目的是將生成網路的輸出從真實樣本中盡可能分辨出來。而生成網路則要盡可能地欺騙判別網路。兩個網路相互對抗、不斷調整參數，最終目的是使判別網路無法判斷生成網路的輸出結果是否真實，講白了就是會輸出以假亂真或是難以判斷真假的圖片





網頁版生圖的方便性高而且價格便宜，不過有很多細部的選項會比較少，而且對於敏感詞彙的管理也較為嚴格，不過一般的使用者透過網頁版已經很足夠了



文字轉圖像 AI 生成模型 DALL-E 3 在ChatGPT上只有提供給付費用戶使用，不過現在透過Bing Chat 內部的 Image Creator，一樣可以享受到這個功能，只要給予相關的提示字詞就能快速生成需要的圖案，重點是免費生圖



實際測試的結果在同一個Prompt下會生成四張類似但不一樣的圖片，而這些Prompt也可以透過chatGPT來取得，這樣就能更進一步精準設定我們想要獲得的圖片範圍



推薦的相關生成AI，遊戲素材專用leonardo.ai ，svg向量檔專用的Recraft.ai，找模型專用的civiAI和clipdrop算圖軟體



另一位主講人，夏酷科技股份有限公司 CIO 資訊長 / 台灣創博識有限公司-資料科學家 / 台灣人工智慧協會理事，吳定謙 (T.C.)，本次講述的主要內容是AI在實際產業面向的應用，包括食品、餐飲等販售資訊的整合和操作





AI能幫助零售業者的事項



近年最主要因為疫情關係，連帶許多產業都收到衝擊，尤其是零售餐飲等產業在人們因為隔離而減少外出後，營業額幾乎屬於停滯的狀態，而且這個衝擊並非區域性的，而是全球性的災難



轉型成功的案例，包括國內的服飾業轉型為複合式的販售蔬菜服務，或是像英國線上超市 Ocado，無論是就近或是透過線上獲得蔬果，至少這樣的產業能確保居家上班或上課的家庭能保有新鮮食材





延續疫情後的習慣，即便是現在大部分的環境已開放，在家開伙、室內運動和生鮮外送的人數仍在持續上升，所以如果是當時的企業已進行相關轉型，都有機會轉虧為盈



零售業透過銷售預測，主要提供的五個面向包括客戶導向、生產管理、財務會計、行銷策略和供應鏈，拿行銷策略來舉例，折價趴數和商品組合到底哪種方式是消費者需要的，既能達到效果又省成本，這些都是可以透過AI來做預測





因為餐飲業的數據非常龐大，如果導入AI做數據化分析，就可以很簡單的看出每個天數在來客數的變化和預測業績等



利用Chat系統即時控管各店的庫存量，不僅可以省下大量成本，還能即時針對進貨量不足的單店進行立即支援




Crucial 美光產品的優勢
在AI講座中都有特別提到AI運算是從龐大數據的資料庫中提取、分析，甚至給予決策等，而生成式的AI不管是圖像還是文字更是著重在即時性和有效性，所以必須要擁有能應付多工的記憶體和高速讀取的固態硬碟，才能達到效能最佳化，而本次講座的體驗區包括AI數據分析和Stable Diffusion生圖程式所使用的硬體設備為捷元客製化的機種，均採用美光的Crucial PRO DDR5系列記憶體和T700系列PCIe Gen5 高速固態硬碟







Micron和Crucial系列的 DDR5 記憶體，都是走平價路線，強調運作穩定和高相容性



最新的Crucial PRO DDR5系列，是Crucial第一款擁有散熱片的記憶體，採用矮版的黑色霧面散熱片，中間有PMIC電源管理模組，支援雙平台Intel XMP 3.0和 AMD EXPO，確保能達到5600MHz的效能



Crucial T700系列，是Crucial第一款PCIe Gen5的NVEM SSD，PCIe Gen5這種次世代等級的速度，自然不是上一代Gen4能比的，採用美光232層TLC，有兩種版本，一種是有無風扇散熱器的Pro版，一種是可自行搭配散熱器的標準版，速度最快可達12,400MB/s 的循序讀取及11,800MB/s 的循序寫入





Crucial系列 PCIE 4.0的NVME SSD，P3 PLUS採用QLC顆粒，P5 PLUS採用TLC顆粒，想要便宜就選P3 PLUS，不然其實壽命高的P5 PLUS個人比較推薦，容量的部分有1TB/2TB/4TB可選



Crucial X8/X6 隨身SSD，有相當不錯的讀寫效能，能快速儲存和備份資料，重點是攜帶性極為便利，比手掌還小的高速硬碟外出備而不用也不會占多少空間



現場體驗AI進行零售業的數據分析，展示的是在各項行銷策略中，績效最高的是哪一種，而且還順便對T700進行測速





現場體驗Stable Diffusion生圖程式，只要給予足夠且精確的Prompt，生成圖片的速度非常快，而且每次生成的圖片都不太一樣






會後心得與個人想法
這是本次關於AI講座的話題中，個人最喜歡的一句話，AI是因為人給予目的而生，是作為更便利性的工具來輔助我們生活，其實從現代社會開始趨向少子化的過程，就可以知道未來的發展在人力部分絕對是嚴重匱乏，雖然AI能不能勝任複雜且多重的任務，尚須等待時間的認定，但是就目前來說能簡單輔助並取代現有的人力作業是肯定的，透過這次AI講座也讓我了解到AI發展的多面性，無論是針對公司或是個人，都有實質性的幫助

即便chatGPT的模型有持續更新，不過實際使用上還是有機會遇到前後文表達不一致的狀況，而且要從這麼龐大的資料庫中提取所需的資源，順暢操作並獲得即時反饋也是需要擁有較高等級的硬體設備(這也是為什麼會聯合Micron一起參與本次講座)，所以無論是對使用者或是生成式AI的進程來說，個人覺得都還在起步的狀態，但是卻擁有無限且寬廣的延伸空間，真的很期待能實現當初看到雲端情人這部電影帶來的衝擊和感動