【企業級服務】港大夥Microsoft應用生成式AI 保障私隱不留數據
從互聯網、智能電話到生成式人工智能(Generative AI),科技一次又一次顛覆世界,在未來如何應用生成式 AI,定必成為一個重要課題。以研究為主導的香港大學與 Microsoft 合作,Microsoft 提供企業級服務技術及支援,港大 IT 部則負責開發 AI 工具,供教職員及學生透過 Azure OpenAI 使用生成式 AI。
Microsoft 提供全面技術支援
ChatGPT 爆紅後,港大由禁止使用至擁抱生成式 AI,Microsoft 香港區域科技長許遵發(Fred)認為,「佢知道嚟緊將來個社會都係用呢個工具,點樣早啲令學生同教職員善用工具,對大學、學生都好,可以提高競爭力,迎合世界社會嘅需要」。港大教務委員會更在今年 6 月正式通過一項生成式 AI 政策,將其確立為學生的第五種重要能力,與口語、寫作、視像及數碼等四種能力並列。
對於應用新技術存憂慮,乃屬人之常情。Fred 相信生成式 AI 既能顛覆世界,但在教育界如何使用,則仍然是問號,「所以我哋花好多時間去解釋呢個技術,究竟佢點做到?同以前 AI 有咩唔同?」而企業的擔憂則更多,例如答案欠準確、未能查閱公司內部資料,「佢哋亦會關注網絡安全嘅問題,啲資料會唔會洩露、拎畀第二啲人睇?我哋會解釋得好清楚點處理啲 Data(數據)」。
合作計劃由今年 3 月開始,除講解技術外,Microsoft 亦會對如何應用、建立平台等技術問題給予指引、培訓和建議,「例如有啲 Integration(整合)要做嘅,我哋同事都會花時間去分享做法,點樣做?有咩工具可以用?」Fred 補充 OpenAI 至今有 20 多個大型語言模型(Large Language Models,LLMs),他們會先了解客戶需要,再建議使用哪一個模型。
企業級 Azure OpenAI 服務安全規格更高
港大現時所使用的 Azure OpenAI 服務屬企業級,在監管 AI 使用、安全方面規格更高外,特別之處在於會提供一個「選擇權」予港大,選擇到底是否保留查詢數據,即問題與答案的紀錄。港大為保障同學私隱,無論在 Microsoft 雲端平台或港大自家平台內,均選擇不保留任何紀錄。「啲 Data 唔會拎去 Train(訓練),唔會拎去調整個 Model,唔會同其他人分享,因為啲 Data 係佢(港大)架嘛」。
整個計劃也頗為順利,短短三個月,透過 Azure OpenAI 服務構建的試用版聊天機械人便誕生,至 9 月更開放服務予所有學生,包括各個協助處理 IT 事宜、行政問題及選擇本科課程的聊天機械人。聊天機械人推出首 20 天,已有超過 3,000 名港大學生及逾 2,000 名教職員使用,成績令人鼓舞。
Microsoft 是第一個在香港推行相關服務的平台,除了港大外,本港另外 7 間教資會資助大學亦有與 Microsoft 合作,積極利用新技術作新嘗試。Fred 指 Microsoft 未來會繼續秉承宗旨,將最新、最有效 IT 科技帶來香港,讓客戶、團體都能善用科技。