feature picture
shutterstock

新 AI 職業誕生!Gartner:未來 75% 企業需雇用「人工智慧檢查官」

2019-12-04 數位時代 王郁倫
分享
收藏
已完成
已取消

「人工智慧檢查官」(Artificial Intelligence specialist)將是未來新職業,將負責協助企業監管 AI 演算法合規問題。

AI 大浪潮來襲,Gartner 大中華區資深合夥人龔培元(Michael Kung)今(4)日指出,預期 2023 年將有 75% 大型組織會雇用「人工智慧檢查官」,針對非法行為、隱私、客戶信任等面向監督,幫企業降低風險。

他指出,人工智慧跟機器學習技術發展,將使人類決策力大提升,未來「超級自動化」及「自主物件」將成為企業轉型利器,但也因為網路串連更緊密,遭受惡意攻擊度也提高,帶來新的企業風險。

企業大量導入 AI,「人工智慧檢查官」職位興起

當企業大量引用 AI 專案,就需要注意 數據偏差 ,因為對 AI 而言,事物沒有常識與否的問題,一切都是數據導引出來的結果,然後就會毫不思索的執行,所以餵給 AI 的數據好壞,將為企業帶來正面效益,同時也可能面對負面挑戰。數據偏見將會導引出隱私權跟種族歧視等問題,讓企業不知不覺走向非預期方向。

因此人工智慧檢查官這個工作至關重要,龔培元說,當企業收納很多數據,就必須注意數據是否中毒或被破壞,導致 AI 系統不可信賴,這與 10 年前大家為資訊安全,催生「可信賴電腦運算系統」一樣,企業如何信任 AI 帶來的結果,AI 是否跑偏?都是靠機制監督。

在企業大量投入 AI 下,AI 安全未來將是重要議題。龔培元說,未來網路駭客可能攻擊的層次將升高,目前共有三種攻擊手法,包括訓練數據病毒、竊取 AI 模型,甚至從數據源頭就放毒,藉此掌握對手企業的 AI 模型,誤導對手 AI 演算結果來競爭。

靠 AI 決策,企業人才荒將爆發

Gartner 資深研究總監呂俊寬(CK Lu)也分享,2022 年將有 30% 企業靠 AI 做決策,目前調查,平均一間企業手上有 3 個 AI 專案,但預計 5 年內企業導入的 AI 專案將倍增至 30 件,所需要花費時間將數十年,這其中關鍵問題是 AI 科學家太少,無法應付太多 AI 場景,所以企業必須讓 AI 技術不強的員工也加入專案協助。

提到 AI 前景,呂俊寬表示不得不提到「Shadow AI」這個觀念,這是指企業根本不知道的 AI 訓練,由員工自行研發,現在企業非常欠缺 AI 規範,員工自行做的 AI 訓練是否合規?所取得的數據來源合法嗎?企業掌握度並不高。

為了規範 AI 模型,部分科技大廠已經建立 AI 計畫平台,讓數據跟模型都公開透明,類似建立一個 AI 廚房供各部門使用。

針對 AI 興起帶來的隱私權跟安全性問題,各國都給予高度重視,新歐盟執行委員會主席馮德萊恩(Ursula von der Leyen)12 月上任,也宣示將在就任後的一百天內推出規範人工智慧(AI)及大數據應用的新法,加強管理 AI 機制。

不過如何監管 AI 是一個難題,近期社會上出現許多 AI 演算法大規模失誤造成的人身安全危害事件,比方自駕車撞死人,引起市場廣泛注意。若要保護大眾不被演算法影響,就必須追究演算法失誤的法律責任,而指定相關法規也會延長人工智慧跟機器學習演算法發展週期,企業人力的培訓跟認證將更花時間。

本文出自 數位時代

feature picture
經理人

AI 不只要懂數據,更要懂企業!Teradata 如何加速實現自主型企業?

2026-11-09 經理人 X 擎昊科技 X Teradata
分享
收藏
已完成
已取消

隨著生成式 AI 快速發展,AI 的角色正從回答問題、生成內容,進一步走向執行工作、參與決策,這也讓「自主型企業(Autonomous Enterprise)」成為企業數位轉型的新願景。在這樣的企業中,AI 不再只是被動等待人下指令的工具,而是可以在授權範圍內自主做出決策、執行任務,且會持續學習與優化的數位員工,而人則肩負起監督與審核的責任,確保 AI Agent 的決策與行動符合企業目標及治理要求。

然而,要實現自主型企業的願景,除了依靠強大的 AI 模型外,企業還需要掌握兩個關鍵:一是釐清自身希望透過 AI 解決哪些業務問題、達成什麼目標;二是讓 AI 真正理解企業的業務脈絡。這兩個關鍵,不僅決定 AI 能否從概念驗證(PoC)走向實際營運,更是企業朝自主型企業邁進的重要基礎。

邁向自主型企業,企業必須掌握的兩大關鍵

Teradata 首席營收長 Richard Petley 指出,企業在定義 AI 導入目標時,不能只著眼於技術是否可行,更應該從實際業務需求出發,設定明確且可衡量的成果與投資報酬。

舉例來說,金融業可能希望提高詐欺偵測率、降低風險;零售業則想要藉由個人化推薦提升轉換率與顧客體驗;製造業也許會將縮短生產週期、提升供應鏈效率列為目標。雖然不同產業對 AI 的期待各有不同,但共同點都是希望解決具體的業務問題,而不只是驗證 AI 能做到什麼。

第二個關鍵則是讓 AI 理解企業的業務脈絡。即使企業已經將所有資料集中在同一個平台,也不代表 AI 就能理解這些資料。例如,AI 可能知道某位客戶的交易金額下降,卻不知道背後究竟是受到合約條件改變、採購週期等哪一項因素影響。

換句話說,若 AI 不清楚數據背後的意義,以及企業實際的業務流程與決策依據,即便數據量再多、模型能力再強,仍難以做出適當判斷。因為真正影響企業決策的資訊,往往不只存在於數據本身,也可能藏在不同部門的作業流程、內部文件,甚至資深員工長年累積的經驗之中。

因此,企業不只要整合散落在不同系統、資料庫與文件中的數據,還必須建立資料之間的關聯,讓 AI 不只看得懂數據,更能理解數據背後的業務意義與決策邏輯。如此一來,AI 才不會像一名對公司業務一無所知的新進員工,而是能夠根據企業的實際情境做出適當判斷、執行任務。

Teradata 兩大解決方案,打造由知識與脈絡驅動的 AI

Teradata 首席產品長 Sumeet Arora 認為,邁向自主型企業是一段漸進式的轉型歷程,若能讓 AI 充分理解業務脈絡,就有機會加快轉型腳步。為此,Teradata 推出 Tera Context Engine 與 Tera Harness 兩項解決方案,協助企業打造由知識與脈絡驅動的 AI 應用,讓 AI 不只理解企業的業務邏輯,更能將這些理解運用在實際任務中。

舉例來說,歐洲某醫療研究機構運用 Teradata 解決方案及自家資料庫,開發出一套僅有 200 萬個參數的輕量化 AI 模型,可預測不同病患族群未來 10 年內的疾病發生情況,提供相關單位及早做好醫療需求與資源規劃。美國某大型醫院透過 Teradata 平台整合病患數據,進而開發出可直接在資料庫內執行的病患風險分層模型,可從病患特徵去辨識其風險程度與照護需求,讓醫師據此規劃更精準的照護計畫。

擎昊
Teradata 首席產品長 Sumeet Arora 表示,Teradata 推出 Tera Context Engine 與 Tera Harness 兩項解決方案,協助企業打造由知識與脈絡驅動的 AI 應用。
經理人

首先,Tera Context Engine 扮演的是企業知識整合與轉譯者。它能整合企業分散在四處的數據與內容,並納入內部專家長年累積的經驗,在符合數據治理規範的前提下,轉化為 AI 能夠理解與運用的企業智慧。換句話說,Context Engine 的價值不只是提供更多資料,而是讓 AI 理解資料背後的商業意涵,以及如何運用在實際情境中。

有了業務脈絡,下一步就是讓 AI 真正採取行動,這正是Tera Harness 所扮演的角色。它會結合 Context Engine 提供的知識與脈絡、企業設定的目標,如:提升客戶滿意度,讓 AI 去執行對應任務,並依據結果持續調整行動策略。而在涉及重要決策或較高風險的應用情境中,Harness 也能導入人機協作機制,由人介入決策、提供回饋,降低 AI 自主決策可能帶來的風險。

然而,當 AI 開始自主執行更多任務,企業也面臨另一項挑戰:如何在擴大 AI 應用的同時,兼顧主權 AI 與資安需求?對此,Sumeet Arora 指出,Tera Harness 支援地端、雲端及混合部署等不同 IT 架構,能夠配合資料所在位置去執行任務,企業可依據自身的治理與法遵要求彈性部署,將重要知識與商業機密留在內部可控的環境中。

此外,當 AI 開始承擔更複雜、執行時間更長的任務,如何避免因意外而導致任務中斷,也是企業相當關注的課題。為此,Teradata 在 Harness 中導入檢查點與記錄機制,倘若 AI 因意外而中斷正在執行的任務,Tera Harness 會從最近一次的檢查點接續執行,不必從頭再來,減少不必要的時間與成本浪費。同時,Harness 也具備高併發處理能力,可同時處理多個 AI 任務,提升 AI 參與日常營運的穩定性與可靠性。

從資料倉儲走向 AI 知識平台,Teradata 3.0 攜手擎昊加速企業轉型

Tera Context Engine 與 Tera Harness 的推出,不只協助企業加速 AI 應用落地,也反映 Teradata 對自身定位的轉變,正從傳統資料倉儲供應商,轉型為企業 AI 知識與 AI 執行能力的供應商,協助企業將分散的資料轉化為 AI 可理解的脈絡資訊,進而驅動智慧決策與自動化執行。

Richard Petley 進一步說明,Teradata 的發展可分為三個階段,在最初的 Teradata 1.0 時期,以軟硬體整合的資料倉儲設備為主,到 2.0 則轉向支援地端與雲端部署的現代化軟體,如今進入 3.0 階段,客戶不一定要採購整套資料倉儲解決方案,也能依需求導入 Context Engine 或 Harness。這樣的轉變,顯示 Teradata 正以更開放、彈性的合作模式,讓企業能夠在既有技術架構上導入所需的 AI 能力,而不必全面汰換原有系統。

擎昊
Teradata 攜手台灣代理商擎昊科技,結合原廠 AI 技術與在地系統整合經驗,協助企業加速 AI 應用落地,邁向自主型企業。圖中由左至右,依序為 Teradata 首席產品長 Sumeet Arora、擎昊科技總經理劉宗坤及Teradata 首席營收長 Richard Petley。
經理人

然而,再先進的技術架構,仍需要在地專業夥伴協助落地。而擎昊科技作為 Teradata 台灣代理商,不僅與原廠保持密切互動,更擁有深厚的技術實力,及豐富的企業級系統規劃、建置與整合經驗,協助企業打造穩定可靠的 IT 環境,讓 AI 應用能夠順利導入並持續運作。此次 Teradata 兩位高階管理者 Richard Petley 與 Sumeet Arora 來台,除了與企業客戶交流 AI 發展與應用需求,也攜手擎昊科技深化在地合作,共同拓展台灣市場。

面對缺工、高齡化與市場競爭加劇等挑戰,如何運用 AI 提升營運效率並強化決策能力,已是企業的當務之急,這也讓自主型企業成為未來必然的發展方向。在這條智慧轉型的路上,Teradata 將持續攜手擎昊科技,融合 AI 技術、企業知識與系統整合能力,協助企業加速 AI 應用落地,朝自主決策與智慧營運的新階段邁進。

擎昊
Teradata 首席營收長 Richard Petley 指出,Teradata 正以更開放、彈性的合作模式,讓企業能夠在既有技術架構上導入所需的 AI 能力,而不必全面汰換原有系統。
經理人
擎昊科技
Teradata

解鎖更多提問機會!

請先登入會員

會員專區

使用會員功能前,請先登入

  • 台灣首款對話式 AI 職場教練,一次提升領導力
  • 會員專享每日運勢、名人金句抽籤
  • 收藏文章、追蹤作者,享受個人化學習頁面
  • 定向學習!20 大關鍵字,開放自選、訂閱
  • 解鎖下載專區!10+ 會員專刊一次載
訂閱方案