AI智能體賽道方興未艾之際,近期發(fā)布的多份團體標準警惕稱,部分智能體存在濫用手機系統(tǒng)底層敏感權限的嫌疑,智能體開發(fā)運營商需應對背后的數(shù)據(jù)安全和隱私保護隱患。
AI接管屏幕引擔憂
根據(jù)南都此前的報道,在手機終端上,智能體為了打開第三方App,執(zhí)行用戶給出的指令,通常采取調用應用程序編程接口(API)或視覺識別來模擬用戶操作兩種技術路徑。
綜合多位業(yè)內人士的分析,基于API接口的智能體,操作上更流暢。但不少第三方App并不愿開放API接口,擔心交換共享數(shù)據(jù)會帶來數(shù)據(jù)安全隱患。
視覺識別方案則發(fā)揮大模型的視覺思考和定位的能力,通常需要借助手機底層的無障礙和錄屏等權限,為智能體提供手機界面信息和模擬點擊手機的能力。這種路線與人類查看屏幕內容、操作手機并無二致,在技術上無需第三方軟件授權。其劣勢體現(xiàn)為,智能體識別用戶界面存在延遲,運行速度受限,而且受手機界面的復雜程度、具體任務的交互步驟長度等影響,智能體伴有不同程度的出錯概率。
和技術層面的短板相比,視覺方案更具爭議之處在于其隱私風險:智能體調用的無障礙權限,是安卓手機系統(tǒng)內一項非常敏感的權限。一位互聯(lián)網(wǎng)合規(guī)人士稱,無障礙權限開啟后,可以讀取屏幕文本內容,監(jiān)視和記錄用戶的所有操作,其中有可能包括用戶輸入的敏感信息。因此,安卓官網(wǎng)規(guī)定,無障礙權限必須由用戶在設備設置中明確打開后才能啟動。(詳見:當AI接管你的手機屏幕,如何規(guī)避“黑鏡”式預言?)
一位接近監(jiān)管側的人士透露,工信部門已表示要嚴格管控手機的無障礙權限使用。
團體標準劃紅線
6月13日,廣東省標準化協(xié)會發(fā)布團體標準《智能體任務執(zhí)行安全要求》(下稱《智能體安全要求》),為智能體開發(fā)和運營主體提供了明確的行為準則。團體標準不具有普遍性的強制約束力,由本團體成員約定采用或者按照本團體的規(guī)定供社會自愿采用。