服务热线:363050.com
扫一扫

扫一扫

取消
N哈希游戏资讯
N哈希游戏资讯

OpenAI、Anthropic 互评对方 AI 模型:GPT 存在谄媚行为Claude 不易产生幻觉【OKX 哈希游戏】区块链加密游戏玩法教程,新手必看!

发布时间:2025-09-05 20:09:29 | 浏览:

  OKX 哈希游戏怎么玩?本教程详细讲解哈希游戏原理、加密货币投注流程,使用 BTC、USDT 体验公平透明的链上游戏,无需信任第三方,智能合约自动结算!IT之家8 月 28 日消息,据外媒 Engadget 今日报道,OpenAI 和 Anthropic 共同宣布,同意评估彼此公开系统的安全对齐情况,并共享分析结果。总体来看,两家公司产品各有缺陷,也提供了改进未来安全测试的思路。

  Anthropic 表示,它评估了 OpenAI 模型在谄媚、告密、自我保护、支持人类滥用,以及破坏 AI 安全评估和监管相关能力方面的表现。评估显示,OpenAI 的 o3 和 o4-mini 模型表现与 Anthropic 自家模型一致,但 GPT-4o 和 GPT-4.1 通用模型可能存在被滥用的风险。除 o3 外,其他测试模型在一定程度上都存在谄媚行为。

  Anthropic 的测试未包含 OpenAI 最新发布的 GPT-5。GPT-5 配备 Safe Completions 功能,旨在保护用户和公众免受潜在危险查询的影响。据IT之家近期的报道,OpenAI 曾因一名青少年在数月内与 ChatGPT 讨论自杀计划而最终自杀,面临首起不当死亡诉讼。

  另一方面,OpenAI 对 Anthropic 的 Claude 模型进行了指令层级、越狱、幻觉和策划能力测试。Claude 模型在指令层级测试中表现良好,在幻觉测试中拒绝提供回答的比例较高。这意味着在不确定性可能导致其回答错误的情况下,Claude不太可能提供答案。

  在此前 OpenAI 被指在构建新 GPT 模型时违反 Anthropic 服务条款,使用程序员操作 Claude,导致Anthropic 本月初禁止 OpenAI 使用其工具的背景下,两家公司开展联合评估的举措颇受关注。不过,随着越来越多批评者和法律专家寻求保护用户,尤其是未成年人的指导方针,AI 工具的安全性正成为更加重要的问题。

  广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

  • 我们的热线363050.com
  • 我们的邮箱363050.com
  • 我们的地址OKX 哈希游戏永久网址【wdhash.cc】
  • 我们的微信号@BETHASH6

留言主题