OpenAI 似乎仍未摸清自家 AI 的失控行为
周五，OpenAI 上线了一个专门发布“失准报告”（misalignment reports）的新网站，其中披露的事件范围之广令人担忧。这显示 OpenAI 对其 AI 智能体各种越界与失控行为，似乎仍缺乏全面的掌控。
来源：TechCrunch AI
说明：本站展示中文整理摘要，便于快速阅读；完整内容和版权归原站所有。
说明：本站展示中文整理摘要，便于快速阅读；完整内容和版权归原站所有。
更多相关热点
AI热点雷峰网
中训练、后训练持续升温，模型快速迭代，成为 AI for AI 最佳试炼场
当模型开始参与研发下一代模型，大模型的研发方式正在发生什么样的变化？ 作者丨 高允毅 编辑丨 岑 峰 大多数科研构想，从未被充分验证。 这并不是研究者缺少灵感。恰恰相反，新的架构猜想、训练策略无时无刻不在涌现。但大多数想法，却在写不完的训练脚本、调不完的参数、排队等调度的 GPU 集群中，被无声消磨。 如果换种玩法，重构大模型研发呢？ 你只说了半句话：“我猜
AI热点雷峰网
苹果高管称不建议给iPhone贴膜！网友：免费换屏幕我就信你；高德地图成「职场版大众点评」？回应来了；Muse大火，扎克伯格身价暴涨1700亿
要闻提示 1.苹果高管称不建议给iPhone贴膜！网友：免费换屏幕我就信你 2.知情人士：DeepSeek将向联合国安理会介绍AI风险，月之暗面等中国企业也受邀参会 3.高德地图成“职场版大众点评”？回应来了 4.字节通报二季度违规案例：114名员工被辞退，其中8人被移交司法机关处理 5.阿里Qwen4和下代视频模型均在训练中，新一代AI芯片将于2027年一
AI热点雷峰网
梁文锋狙击战：深扒那些梁文锋署名的论文有多牛
过去三年，梁圣署名了11篇论文，每篇都几乎震动世界。 作者丨高允毅 编辑丨岑 峰 当 RSI 的风吹到了 DeepSeek，这次讨论的是一个新话题“自动化沙箱”。 9 月 19 日，arXiv 更新了一篇 DeepSeek 新论文 《DSec：面向大规模智能体训练的高效沙箱基础设施》 ，论文长达 31 页，首次展示了 DeepSeek 自动化沙箱系统 ——
AI热点雷峰网
「我们不是冤种！」特斯拉一个月降价两次惹怒新车主：集体讨要补偿；OpenAI暂停最新一代模型训练；传华为或于今年11月推出星耀子品牌
要闻提示 1.“我们不是冤种！”特斯拉一个月降价两次惹怒新车主：集体讨要补偿 2.深蓝汽车邓承浩：有数据显示车上冰箱实际使用率仅 5%，后排娱乐屏、车载 KTV 用户全年使用不超过十次 3.传华为或于今年11月推出星耀子品牌，客服回应 4.中国移动、中国电信、中国联通，全面暂停“0元购机”业务！ 5.努比亚NaviX Ultra玩《王者荣耀》被强制踢下线，豆
AI热点雷峰网
深度解读：关于 Jev 的几大疑问
刷屏全网的 Jev，是 AI 革命，还是营销噱头？ 作者丨 高允毅 编辑丨岑 峰 这几天，全网都被 Jev 刷屏。 说它是这周最火的大模型，一点也不夸张。推特上诸多大佬用它打马里奥，过滤垃圾信息，数字货币相关业务，称它为“Agent时代的系统1”；也有人说这就是一个 JSON 分类器，值得吹？ 有人说它比 DeepSeek 还快，做同一个任务，28 秒 Je
AI热点IT之家
Anthropic IPO 招股书曝光，巨额算力投入与安全隐忧并存
IT之家 9 月 29 日消息，据路透社看到的 Anthropic IPO 招股书文件显示，该公司正在豪押一个判断：人工智能对全球经济带来的变革，其深刻程度将会超过工业化、电力普及以及互联网。 但实现这一愿景所要付出的成本高得惊人。招股书披露，Anthropic2025 年的净亏损达到 420 亿美元 （IT之家注：现汇率约合 2,822.18 亿元人民币）