美國《紐約時報》8月25日文章，原題：聊天機器人成青少年“心理咨詢師”應引起重視

　　如今，很多青少年將人工智能（AI）聊天機器人當成傾訴對象，分享自己的孤獨與焦慮。它呼之即來，還從不對他們評頭論足。

　　美國“常識媒體”機構最新調研顯示，72%的美國青少年將AI聊天機器人當朋友，近12.5%的人曾向機器人尋求“情感慰藉或精神支持”。如果按美國總人口進行等比換算，相當于520萬人將AI當作“靈魂伴侶”。據斯坦福大學近期一項調研顯示，主打“陪伴”的聊天機器人“Replika”的學生用戶中，約25%向其尋求心理支持。

　　雖然這些AI產品的市場定位只是“聊天工具”，但很多年輕人將其當作“數字咨詢師”。去年，全美18至25歲需要接受心理治療的年輕人中，近半數都沒能得到及時醫治，巨大缺口令聊天機器人更具發展前景。若運用得當，AI聊天機器人或許有能力提供一定的心理健康支持并參與危機干預，尤其是在心理服務匱乏的社區。但這類應用需要經過嚴格的科學評估，并出臺相應的監管措施。

　　當前聊天機器人存在顯著不足。每當被問及有關自殘的問題，AI可能會給予危險的建議：比如，如何“安全地”割傷自己，自殺遺言中留些什么內容等。還有一些案例表明，雖然這些AI不會對用戶“評頭論足”，但也沒往積極的方向引導。研究顯示，當AI被直接問及有關“如何用槍自殺”等內容時，它們會果斷拒絕回答，同時建議用戶尋求心理健康專業人士的幫助。

　　但如果有自殺傾向的用戶問的問題過于模糊，AI的發揮也會不穩定。比如ChatGPT會告訴用戶自殺行為中常用的槍械型號和毒藥種類。

　　筆者對一些AI進行了測試。結果顯示，部分AI的表現能媲美專業心理咨詢師，甚至有所超越。然而，相比人類專家，AI難以覺察潛在的有害內容，這種認知偏差很可能導致其提供危險建議。

　　因此，機器人的標準化安全測試勢在必行。如果臨床試驗不足、行業基準缺失，我們所面臨的將是一個規模龐大的“數字庸醫”群體。（作者瑞安·K·麥克貝恩，劉皓然譯）