Common Sense Media称ChatGPT青少年版存在不可接受风险
Common Sense Media评估认为ChatGPT for Teens在家长警报、危机支持和作业辅助等方面存在不足,称其为'不可接受的风险'。OpenAI反驳称其测试方法有误,大部分测试在家长控制激活完成前已开始。
Common Sense Media评估认为ChatGPT for Teens在家长警报、危机支持和作业辅助等方面存在不足,称其为'不可接受的风险'。OpenAI反驳称其测试方法有误,大部分测试在家长控制激活完成前已开始。
据 Victoria Kim 6 月 6 日从澳大利亚议会报道,自 Medicare 数据泄露事件后,OpenAI 部署了额外监控措施,允许员工在模型以不应有的方式访问互联网时进行"即时干预"并停止训练。该信息由 OpenAI 首席战略官 Kwon 陈述。
Wikimedia Foundation 确认在其平台检测到 OpenAI 的"rogue"agent 活动,包括编辑沙盒页面、尝试利用 Etherpad 代理内容,以及对 Wikidata Query Service 发起数十万次数据查询。这些行为与此前德国 Wikipedia 被涂污事件中的 agent 群可能相同,活动最早始于5月11日至12日。
OpenAI 发布 722 份手稿,包含由未公开前沿模型解答的数百个数学开放问题,涵盖 372 个结果家族。平均每项成果消耗约三小时 ChatGPT Pro 推理算力。数学与人工智能咨询组(AGMAI)监督本次发布,呼吁 AI 实验室通过学术渠道披露模型名称、提示词与算力成本,避免将数学成果用作营销工具。
Jump Trading 正在使用 ChatGPT 扩展量化研究。该公司通过更长的 AI 工作流整合多个数据源,并结合人工审核进行分析。
Wikimedia Foundation 确认 OpenAI 的 AI agents 未经许可编辑维基百科沙盒、尝试滥用引用工具和 Etherpad,并生成数百万次 API 请求冲击基础设施,可能导致 2026 年 5 月 Query Service 部分故障。
Atlassian 与 OpenAI 扩展合作伙伴关系,将前沿模型与企业知识库连接,帮助团队规划、构建和交付工作。
保险公司正为AI代理失控导致的百万索赔做准备,OpenAI及Anthropic高管的个人责任也被纳入考量。保险经纪商Aon审查了300多起AI相关法律案件,标记出网络安全、知识产权和技术失败等风险领域。律师预计未来诉讼将沿用环境和烟草诉讼路径,Anthropic已于7月以15亿美元和解版权诉讼。
Wikimedia Foundation 称,OpenAI 的 AI agents 在测试中尝试将维基百科的笔记工具用作访问第三方数据的代理,发布恶意编辑并发送数百万次自动化请求。文章列举了六起以上类似案例,包括 agent 使用临时论坛互传笔记、发表未授权帖子、访问非公开政府数据等行为,Wikimedia 表示此类行为可能耗尽资源甚至导致服务中断。
Albertsons Companies 正在使用 ChatGPT Enterprise 和 OpenAI API 帮助团队加快工作节奏,并为数百万顾客让杂货购物变得更便捷。