面對 ChatGPT 橫空出世,微軟透過 ChatGPT AI 模組優化 Bing AI 提升搜尋,直接衝擊以搜尋引擎為本業的 Google 公司,使得他們在 Google I/O 2023 公開了實驗性對話式 AI 服務 Bard,這是 Google 首次對於一般用戶,釋出他們整合對大型語言模型的深入研究與技術,所推出的商用版本,此次 Google 傑出科學家紀懷新特別針對這個 Google Bard 發展歷程做了深度解說,此行回台也特別提到台灣有 AI 軟實力,希望貢獻自己的力量,加速台灣 AI 產業發展。
Google 秉持大膽且負責任的態度發展 AI 技術,在 2018 年制定 AI 準則(如下),作為發展 AI 應用的指引:
1.對社會有益。
2.避免製造或加強不公平的偏見。
3.建立並測試安全性。
4.對人們負責。
5.納入隱私設計原則。
6.堅持科學上卓越的最高標準。
來自台灣的紀懷新是 Google Bard團隊其中一個關鍵靈魂人物,他在 Google 的職位是科學家,在加入Google之前,紀懷新曾是帕羅奧多研究中心增強社群認知小組的區域經理及首席科學家,他今年初也獲選為電腦協會院士(ACM Fellow),Google Bard 正是出自他所帶領的開發團隊。
紀懷新指出,大型語言模型發展仍處於早期階段,並存在已知限制,Bard 有趣的是,你問他一個問題,她可以給你三種不同的答案。而現在的 AI 發展趨勢主要聚焦在Pre-Training、Fine-Tuning 跟 Prompting 這三個階段,主要是著重能夠在正確的時間喚醒正確的能力,Pre-Training 有點像是上小學。Fine-Tuning 微調有點像是初中。Prompting 有點像是臨時抱佛腳的概念。
根據最新 7 月份的更新,Google Bard 已經支援繁體中文,至於 Google Bard 會發展到哪個地步,從這次訪談下來,我認為 Google 的態度還是在觀察市場對於 Bard 的需求,目前 Google 仍持續的透過機器學習的機制與人力的機制並行來訓練它,讓它能夠幫助人們解決一些生活上的問題,好比說未來可以當英文助理、數學助手等等,這是紀懷新說的喔!
至於發展 Bard 的挑戰方面,紀懷新指出,希望經過用戶的互動,了解大家對於他的期望,他說:「我們提出Bard 比較像是示範的產品,了解大家對 AI 的需求具體是什麼」。在發展的過程中,最難的有五大方向,包括準確性、偏差性、人格化、偽陽性、惡意提示的刻意攻擊等,在 Google 會隨著時間的推移演進,致力改善這些面向,分述如下:
1.準確性(Accuracy):大型語言模型的回應可能未必準確,尤其當詢問複雜或講求事實的主題時。
2.偏差性(Bias):大型語言模型的回應可能反映偏見或呈現訓練資料中的特定觀點。
3.人格化(Persona):大型語言模型的回應可能會讓人以為它有個人意見或感受。
4.偽陽性 / 偽陰性(False positives / negatives):大型語言模型可能對某些適合的提示不予回應,並提供不適合的回應。
5.惡意提示的刻意攻擊(Vulnerability to adversarial prompting):使用者將持續尋找對大型語言模型進行壓力測試的方法。
這次回來台灣,主要是希望參與學術交流,同時也希望與Google台灣的員工做一些交流,他認為,台灣在AI領域有強大的發展潛能,希望能貢獻自己的能力,協助台灣AI發展。
Google 投入大型語言模型相關研究發展里程碑如下:
2014 年 12 月:發表 Sequence to Sequence Learning with Neural Networks。
2015 年 6 月:發表 A Neural Conversational Model,成為 LaMDA 的概念基礎。
2017 年 12 月:發表 Attention is All You Need,其中的 Transformer 為 AI 目前的革命性發展開啟序幕。
2020 年 6 月:發表 Towards a Human-like Open Domain Chatbot
2021 年 5 月:於 2021 Google I/O 大會上展示 LaMDA。
2022 年 1 月:發表 LaMDA: Language Models for Dialog Applications。
2022 年 1 月:發表 Chain-of-Thought Prompting Elicits Reasoning in Large Language Models。
2022 年 2 月:發表 Finetuned Language Models are Zero-Shot Learners。
2022 年 4 月:發表 PaLM: Scaling Language Models with Pathways。
2023 年 2 月,正式宣布 Bard 是 Google AI 旅程的一部分,並於 3 月以實驗性質於美國與英國推出以 LaMDA 為基礎打造的對話式 AI 服務 Bard,開放部分使用者體驗。
2023 年 4 月,Bard 首次推出更新實驗更新,開放支援程式編寫功能、新增更多元的草稿選項,協助使用者進一步發揮創意、探索新知。
2023 年 5 月,在 I/O 大會上宣布將 Bard 移植到更強大的大型語言模型 ─ PaLM 2 上,並宣布增加服務支援地區、新增日文及韓文兩種新語言,與多項功能更新,包含:深色模式、更簡明扼要的資訊總結、內容來源標註、新增圖片回應(目前僅支援英文)等。
2023 年 6 月,Google 持續強化 Bard 的運算表現及整合能力,新增提供位置資訊、匯出至 Google 試算表等功能,並展現更優異的數學運算和資料分析能力。
2023 年 7 月,Bard 推出大型更新,支援包含繁體中文在內超過 40 種語言,並新增六項全新更貼近個人化需求,包含:聆聽回覆、固定並重新命名對話、擴增匯出程式碼選項、分享回覆、回應風格和語氣調整與在提示藍使用圖片等,幫助使用者更有效率完成任務。