OpenAI將限制ChatGPT向青少年提供武器信息，以推進暴力預防工作
路透社10月30日 - OpenAI周五表示，作為旨在防止現實世界暴力事件發生的新保障措施的一部分，該公司正在收緊 ChatGPT向青少年提供與武器相關信息的限制 ，即使問題看似無害也是如此。
此舉正值人工智能公司因聊天機器人對年輕用戶構成的風險，以及公司在 識別危害威脅方面的作用 而面臨日益嚴格的審查之際。
詳情如下：
OpenAI將限制可能被濫用的武器和安防系統相關實用信息，即使沒有暴力意圖的跡象，這些限制也適用於青少年
對於所有用戶，若有人在聊天中表現出對暴力的執念，ChatGPT將能夠自動終止對話；若多次出現此類情況，OpenAI可能會暫時暫停相關賬戶
該公司還表示，已 加強年齡預測系統，將系統估算為未滿18歲的用戶引導至青少年專屬界面；若青少年賬戶因反復討論暴力內容而被暫停，OpenAI計劃通知其家長
對於所有用戶，OpenAI將限制有關過去大規模襲擊事件的細節披露，包括所用武器及其獲取方式
該公司表示，新的防護措施將在未來幾周內開始逐步推出，並將持續優化完善
OpenAI在本月初發布的首份青少年使用報告中指出，青少年每天在ChatGPT上的平均使用時間不足15分鐘 (link)
非營利組織“常識媒體”（Common Sense Media）本月早些時候發布的一份報告發現， 當青少年賬戶進行涉及自殺、自殘或飲食失調的對話時，ChatGPT的青少年版本往往向家長發出警報過晚，甚至完全不發出警報
(為便利非英文母語者，路透將其報導自動化翻譯為數種其他語言。由於自動化翻譯可能有誤，或未能包含所需語境，路透不保證自動化翻譯文本的準確性，僅是為了便利讀者而提供自動化翻譯。對於因為使用自動化翻譯功能而造成的任何損害或損失，路透不承擔任何責任。)