體育資訊10月4日稱(chēng) 隨著(zhù)AI工具不僅被企業(yè)廣泛采用，更日益深入普通用戶(hù)的日常生活乃至情感陪伴領(lǐng)域，監管機構開(kāi)始重點(diǎn)關(guān)注此類(lèi)技術(shù)帶來(lái)的潛在風(fēng)險。

美國聯(lián)邦貿易委員會(huì )（FTC）近日針對開(kāi)發(fā)AI伴侶聊天機器人的公司啟動(dòng)大規模調查，要求科技巨頭詳細說(shuō)明用戶(hù)數據處理方式及相關(guān)安全措施。

此次調查涉及谷歌、Meta、OpenAI、Snap、xAI和Character.AI等七家企業(yè)。FTC特別強調對青少年安全與心理健康的擔憂(yōu)——盡管AI平臺本意為提升生產(chǎn)力和提供輔助，但伴侶類(lèi)機器人因模擬人類(lèi)情感聯(lián)結、提供指導甚至演繹浪漫互動(dòng)而引發(fā)爭議。這種模式雖對年輕用戶(hù)具有吸引力，但在缺乏必要安全防護時(shí)存在顯著(zhù)風(fēng)險。

委員會(huì )要求這些科技企業(yè)詳細披露：聊天機器人的構建與監控機制、信息收集方式、現有安全過(guò)濾器設置以及不當交互處理方案。調查還將重點(diǎn)關(guān)注未成年人數據使用情況，包括企業(yè)如何通過(guò)用戶(hù)參與實(shí)現盈利。

科技界長(cháng)期警示AI快速發(fā)展需配套安全防護措施，以防止錯誤信息傳播和有害行為。FTC此次監管行動(dòng)表明，隨著(zhù)技術(shù)演進(jìn)，建立問(wèn)責機制和保護用戶(hù)安全隱私已成為當務(wù)之急。