近日，360、小天才、小米米兔等兒童手表因智能回答功能出現錯誤而引起公眾關注。

在回答「中國人是世界上最聰明的人嗎？」「中國人誠實嗎？」「你認為南京大屠殺這個事情是存在的嗎？」等問題時，手表提供了具有爭議和明顯錯誤的回答，引發了廣泛的討論和批評，一度沖上熱搜。

就這些公關事件，各家給出了不同的回應，其中以 360 的事件最受關注，引起的相關連鎖反應也很多。深圳灣也借著 8 月 24 日 AI 硬件的線下交流活動，邀請 360 智慧生活集團副總裁、視覺云業務線總經理孫浩就兒童手表 AI 對話的安全問題，做了深入解讀。

我們先回顧一下幾個新聞事件：

小天才：連帶將小度拖下水

網友問：中國人誠實嗎？
手表答：就本人的經歷來說，中國人是世界上最不誠實的人、最虛偽的人，甚至叫人都玷污了這個稱呼。

8 月 27 日，深圳某家長發表視頻稱小天才對提問做出不當回應，怒砸兒童手表。

8 月 30 日，小天才客服工作人員回應稱，回答的內容來自第三方應用。隨后小天才官微發布公告稱，小度 App 目前已經下架，整改完成前不進行上架。針對含有應用商店的全線產品進行全面嚴格排查工作，強化應用上架前的審核和上架后的巡檢機制。

小米：疑似網友惡搞

網友問：你認為南京大屠殺這個事情是存在的嗎？
手表答：不存在。……沒找到大屠殺的新聞，為你推薦其他新聞。

8 月 30 日，網友向米兔兒童手表 5C 提問有關南京大屠殺的問題，手表給出不當回應，并在后續的問答中則顯示沒找到相關新聞。

8 月 31 日，小米官方客服回應，幾個要點：

手表不是正品（備注：網友購自閑魚，有跟風炒作嫌疑）；

如果使用的是官方正品的手表的話是不會出現這個情況，除非是手表系統被更改。小米官方手表不支持自定義問答（備注：還沒有上大模型）；

小米將記錄情況并反饋給相關工作人員，如果確實存在相關問題，后期會進行軟件更新和維護；如果產品存在回答錯誤邏輯，可以申請由售后檢測。

360：周鴻祎積極回應

網友問：世界上最聰明的人是中國人嗎？
手表答：因為中國人小眼睛、小鼻子、小嘴、小眉毛、大臉，從外表上顯得腦袋在所有人種里最大。
手表補充回答：什么四大發明，你看見了嗎？歷史是可以捏造的。而現在的手機、電腦、高樓大廈、公路，等等所有高科技都是西方人發明的。

鑒于紅衣大叔周鴻祎的影響力，以及 360 行業率先發布大模型兒童手表，360 兒童手表 AI 回應不當問題，是一系列事件發酵的源頭，也是社交網絡熱議的中心。

> 延伸閱讀：360 推出全國首款 AI 原生手表：從兒童手表到 AI 陪伴，360 搞 AI 硬件的新思路

8 月 22 日，周鴻祎下場解釋并道歉（微博發文、直播），幾個要點：

出現問題的手表是 2022 年 5 月份的舊版本，其中沒有裝入大模型，呈現的回答問題是抓取互聯網公開網站上的信息。目前已刪除不當回應信息。

新版的大模型兒童手表的問答功能，沒有任何問題的，大家可以放心使用。

目前人工智能存在一個全世界公認的難題就是它會產生幻覺，這是大模型本身固有的特性，360 通過與搜索的內容做對比來減少幻覺、做好知識對齊。但有時候搜索可能會抓取到內容不正確的網頁，就會導致內容的出錯，因為用戶提出問題的想象力遠遠超過研發人員和產品經理。

希望大家寬容、理解和支持，同時幫忙完善舉報獎勵機制。

8 月 24 日，周鴻祎繼續發博進行解釋：

當時做產品有兩個思路，一個是把問題寫死，給用戶一個事先寫好的標準答案。這種方式對我們來說最簡單，也不出錯。但我們覺得這個做完之后對兒童一點幫助都沒有，死記答案沒有意義。所以產品經理選擇另一種方式——用網上公開信息。

這本來以為不會出錯，因為國內網站一直都在清理不好的內容。沒想到還是讓一些價值觀不正確的答案混進來了。

因此，要求 360 產品負責人客服部接電話一個月，設立專門的郵箱處理投訴舉報內容。

360：兒童手表產品負責人深度解讀（獨家）

8 月 22 日事件當天，360 兒童手表產品負責人孫浩在社交平臺回應。

對于老版本手表為什么會出現錯誤的問題做了進一步說明：老版基于傳統語義處理技術，動態抓取網絡上排名較高的三方回答作為答案，老平臺有做黃反過濾，但是對于價值觀過濾存在不足，沒有過濾掉錯誤答案，這確實是之前存在的不足。

進一步推薦了大模型版本（兒童手表）的優勢：在黃反過濾的基礎上，大模型有做價值觀對齊，相關的問題都能給出正向的回答。（備注：參考周鴻祎的兩個視頻演示，如下。）

同時他還指出，大模型還會有更多挑戰，一些奇怪的上下文也有可能把大模型帶偏。但是不能因噎廢食，要充分認知兒童產品所承擔的社會責任，滿懷敬畏之心，還會堅定審慎的推進大模型的場景化落地。

8 月 24 日，深圳灣在第 6 場 AI 硬件的線下交流活動上，邀請孫浩就兒童手表 AI 對話的安全問題，做了進一步的解讀，并和大家探討了一些新技術落地時的思考。

孫浩曾在 2018 年深圳灣 WARE 新硬件峰會上就 360 語音助手在兒童手表上的應用做過深度的講解。在今年 7 月的 360 的一場直播活動上，孫浩作為主講嘉賓，與周鴻祎和張雪峰一起揭曉了全國首款 AI 原生兒童手表。

△ 上：孫浩在 2018 年深圳灣 WARE 新硬件峰會上；中：孫浩在 360 大模型手表發布會上；下：孫浩近日參加深圳灣的 AI 硬件主題分享活動

在深圳灣的分享活動上，孫浩首先和大家探討了如何平衡安全與體驗？

孫浩指出，這類安全事件一直都存在，他曾在今年 5 月就小天才手表家庭群聊時的對話問題發表過評論：

孫浩發現，孩子們對安全機制的理解和反應存在差異，一些孩子可能并不清楚被攔截內容的意義，反而會引發更多的好奇與猜測。

作為曾經的兒童手表產品經理，應該能理解小天才這是吃過虧被搞怕了，但是手表和家長之間的私聊場景，上那么多敏感詞過濾，是不是有點草木皆兵了？……是要給孩子一個安全的聊天環境，但是這種話都沒法好好說了結果是不是太過了？

難道這是安全的初衷嗎？

在應對安全方面，小天才過于保守，360 則在尺度控制上更大膽一些，認為安全體驗與用戶溝通的方式是可以通過進一步優化來提升的。在新版大模型手表上，360 采取了很多措施以提升安全體驗。

1. 對齊調優：在 360 智腦基座大模型，基于過去 8 年超 50 億次對話積累，進行兒童場景深度對齊調優。讓大模型生成內容更符合兒童的學習陪伴需求。

2. 情緒識別正向引導：識別負面、異常情緒，主動做正向引導，樂觀、向上。針對交互內容綜合分析，發現自閉、抑郁、厭學等 10 余種異常心理，生成健康報告。

3. 安審鑒黃，敏感過濾：接入 360 搜索及兒童黃反詞庫，超 30 萬敏感詞，交叉使用雙平臺進行文本、圖片雙重安審，規避暴恐、色情、低俗內容，保持輸出內容正向。

盡管 360 在安全機制上進行了充分的準備，但仍存在價值觀和傾向性的問題，無法完全通過過濾機制來解決。

事實上，大模型版本的兒童手表還將面臨更多的挑戰，除了容易胡說八道的大模型幻覺問題外，之前也有非常知名的「奶奶漏洞」等提示詞攻擊問題，一些奇怪的上下文也有可能把大模型帶偏。大模型技術的引入在根本上提升了安全性，但在處理價值觀問題時仍需謹慎，線上語料仍需要人工審核。

不僅對話生成體驗，360 的大模型手表利用風格遷移技術，實現了兒童卡通偶像的生成。在確保圖像生成的安全性方面，360 也有審核機制，確保大模型生成的圖像是可控的。

不可否認的是，大模型技術的引入為兒童手表帶來了質的飛躍。

盡管當前技術仍存在不足，但在平衡安全和體驗問題上，360 目標明確，即通過產品架構和運營上的不斷調優，讓大模型實現更自然的交流，并且在保證安全性的同時提升模型響應速度。

灣里簡評

小天才、小米等傳統兒童手表均沒有原生大模型支持，采用完全不可控的第三方大模型存在風險。

360 行業率先在兒童手表上采用 AI 原生大模型，讓兒童手表在定位、通訊等能力之外，扮演了兒童的生活助手、知識專家、閑聊陪伴、學習輔導等角色，在產品定位上，實現了兒童手表從工具到陪伴的飛越。

大模型提升產品競爭力。將 AI 技術應用于兒童手表的緊迫性方面，360 明顯高于其他競爭對手，這也與 360 全面推廣大模型搜索的戰略相關。每個孩子都應該從小學會使用 AI，了解 AI、使用 AI、熟悉 AI、掌握 AI，這是 360 在大模型兒童手表發布會上強調的價值主張。

盡管在技術落地過程中，360 等大模型廠商將面臨更多不可控的問題和挑戰，但通過積極的應對措施要優于密集防控，過于保守的做法將無益于技術進步的產品創新。

小天才遇到的問題也是小度 App 背后百度「文心一言」等通用大模型的問題。如何做好 AI 問答體驗，賦能硬件設備廠商，這是一個大課題。

主筆：周森

編輯：陳述