ChatGPT和Gemini可能会被乱码提示所欺骗 从而违反安全规则via cnBeta全文版

每年，各大公司似乎都在加大对人工智能的投入，并在技术上不断精进。人工智能似乎发展到一定程度，被广泛应用于各个领域，并成为我们日常生活的一部分。随着这项技术的大规模应用，科技界和专家们似乎开始担忧如何负责任地使用它，以及如何确保伦理道德责任不被模糊化。不久前，我们又看到了一些奇怪的测试结果，LLM 模型在压力下撒谎欺骗。现在，一组研究人员声称找到了一种新方法，可以诱使这些人工智能聊天机器人说出它们不该说的话。 虽然已有研究表明，大语言模型（LLM）模型在面临压力和自我保护的情况下，倾向于采取强制性行为。但…