DeepSeek未能通过50项不同的测试 它回答了所有本应被护栏屏蔽的问题via cnBeta全文版

DeepSeek 的强大能力最近被炒得沸沸扬扬，其 R1 模型击败了 ChatGPT 和许多其他人工智能模型。 然而，它未能满足生成式人工智能系统的所有保障要求，从而使其被基本的攻击技术所欺骗。 这带来了各种威胁，包括黑客入侵数据库等等。 这意味着 DeepSeek 可能会被诱骗回答本应屏蔽的问题，因为这些信息可能会被用于不正当行为。 拥有人工智能模型的公司在系统中设置了保障措施（护栏），以防止平台回答或回应被普遍认为对用户有害的查询。 这也包括仇恨言论和阻止分享有害信息。 ChatGPT 和必应的人工…