在美国与中国围绕人工聪明技术发展和规则制定展开日益激烈的竞争之际，聊天机器人ChatGPT开发商OpenAI于7日表示，已封闭多个疑似与中国政府机构有关联的ChatGPT帐号，原因是这些用户曾要求模型针对如何监控社群媒体给出建议。报告显示，AI滥用已成为全球性题目。
路透报导，OpenAI在最新发布的公共威胁报告中指出，有些用户要求其聊天机器人针对社群媒体「监听」工具和其他监控概念提出相关计画，违反该公司的国家安全政策。
这家总部位于美国旧金山的公司在报告中警告，随着美中两国竞相制定天生式人工聪明（AI）的发展方向与规範，AI技术被滥用的安全风险日益升高。
OpenAI还说，已经封闭多个使用中文的帐号，这些帐号利用ChatGPT协助网路钓鱼与恶意软体活动，甚至要求模型研究如何透过中国的深度求索（DeepSeek）平台进行更多自动化作业。
此外，OpenAI也封闭了一些疑似与俄语犯罪团体有关的帐号，这些帐号利用ChatGPT协助开发特定恶意软体。
OpenAI补充说，自往年2月开始发布公共威胁报告以来，已破坏并通报超过40个网络，且其模型能拒尽明显带有恶意的提问。报告称未发现任何新型攻击手法，也没有证据显示模型为这些威胁行为者提供新的攻击能力。
OpenAI报告并指出，有用户要求ChatGPT协助撰写大规模监控方案，以此追蹤维吾尔族及其他「高风险人士」，甚至有用户要求设计扫描Facebook、X等社交平台涉及政治宗教言论的产品。OpenAI已封禁这两位用户。
CNN引述OpenAI首席研究员尼莫指出，中国正在利用人工智能进行大规模监控和监视，AI或许能让监控更精準。
报导指出，中国驻美大使馆发言人刘鹏宇回应称，反对毫无根据的攻击抹黑，夸大中国正在「快速建立具有鲜明国家特色的AI治理体系」，追求发展与安全的平衡，兼顾创新、安全与包收留。
目前ChatGPT每周活跃用户超过8亿人，上周授权在次级市场出售价值100多亿美元的股票后，估值已达5000亿美元，成为全球最有价值的新创企业。
0
