CNEWS匯流新聞網記者王佐銘、李衣綸／台北報導
趨勢科技近日發布最新研究報告，針對OpenAI新推出的ChatGPT AI代理進行深入分析，提醒企業必須提前做好準備，以應對其帶來的潛在資安挑戰。
該研究指出，新版ChatGPT AI代理標誌著AI從單純的對話助理，進一步邁向「代表使用者行動」的自主型智能。除了回應問題外，它還能編寫程式碼、發送電子郵件、存取行事曆、預訂旅遊行程，甚至自動瀏覽網路，成為使用者數位生活中的「行動代理」。
該牌資深技術顧問簡勝財表示：「最新的ChatGPT AI代理不只是會回答的AI，而是能主動代替使用者行動的AI。這代表AI正朝自主性大幅邁進，結合自動化、推理和跨應用能力，對生活與工作的影響將更加深遠。然而，隨之而來的風險也更加複雜，涵蓋提示詞注入、隱私洩露、同意疲勞以及跨應用攻擊等新挑戰。」
值得一提的是，報告中也統整出四大主要風險。首先，AI代理的自主執行可能讓惡意操縱風險大幅增加，它能在極少監督下運作，若遭利用，可能在使用者不察覺的情況下發送不當郵件或刪除資料。其次，提示詞注入攻擊風險更加嚴峻，攻擊者可在網頁或應用程式植入隱藏指令，一旦AI代理觸發，便可能執行惡意行為。再者，因AI會持續學習使用者的偏好與行為，若遭攻擊，恐造成敏感行程與帳戶資訊外洩。最後，頻繁的授權請求容易導致使用者產生「同意疲勞」，進而盲目批准AI進行關鍵操作，這對處理大量敏感資料的企業環境尤其危險。
報告強調，雖然ChatGPT AI代理能大幅提升效率，但其與工作行事曆、電子郵件及企業應用的高度整合，也可能擴大供應鏈、身分安全及內部威脅等多層次風險。品牌早於2024年提出的《Digital Assistant Framework》就已警示，即使是小幅度的自主性提升，都可能造成資安風險的指數級增加。
為協助企業降低風險，趨勢科技建議應嚴格限制AI在跨系統作業中的權限，並持續監控提示詞操縱與異常行為，同時加強員工教育，讓使用者理解AI自主性的侷限，並在系統流程中導入人工檢查。此外，採取AI攻擊面管理策略，將能成為全面性資安防護的重要一環。
《更多CNEWS匯流新聞網報導》
二手菸傷毛小孩「癌風險飆4倍」 貓咪舔毛罹口腔癌！存活率不到1成
【文章轉載請註明出處】
