繼Anthropic、OpenAI、SpaceX等大咖喊出AI發展過快，應放慢精進AI模型效能的速度之後，微軟也畫「AI紅線」，喊出「人本AI」（Humanist AI）概念，立下自家「AI憲法」。

法人指出，近期市場瀰漫AI模型快速發展的風險，愈來愈多科技大廠表態要「緩一下」，為後續AI基礎建設維持大手筆投資帶來陰霾，短線恐不利廣達（2382）、鴻海、緯創等台灣AI供應鏈。

OpenAI推出GPT-6 Astra後，將生成式AI推進到通用型人工智慧（AGI）世代，AI具備與人類相近思考及適應能力，跨領域學習新知識更快，與當前僅會問答或做單一工作的AI完全不同層次，AI全面進入更擬人的技術發展能力。

模型快速發展，加上近期代理式AI出現越界的違規行為，讓AI大廠對AI發展速度過快開始自省，主張應該放慢強化AI模型研發速度。微軟「人本AI」的AI行為準則，強調AI必須由人類掌控，人類比AI更重要。

外電報導指出，微軟人本AI行為準則經過五個多月擬定，要求微軟AI永遠不能拒絕人類修正或關閉，同時要求AI要能以人類理解的方式進行溝通，任何違反行為準則的AI行為將被禁止，降低AI失控的可能性。

微軟AI部門執行長蘇雷曼（Mustafa Suleyman）表示，人本AI行為準則等同於AI模型的憲法。

微軟徵詢各界專家後制定該準則，後續將公開六周，徵求各界意見，例如AI是否應尊重使用者設定的界線，以及如何應對情緒敏感的人等問題。據了解，該準則未來適用於微軟自行開發的MAI模型當中，業界也有機會以此為範本，降低AI做出失控行為的風險。

文章消息來源：https://money.udn.com/money/story/5612/9756935?from=edn_maintab_cate

返回列表