10月18日消息，微软的研究团队最近发布了一份关于大型语言模型（LLM）的可信度和潜在毒性的论文，特别关注OpenAI的GPT-4以及其前身GPT-3.5。
根据这份论文，尽管GPT-4在标准基准测试中表现比GPT-3.5更可靠，但它更容易受到所谓的“越狱”提示的影响，这些提示可以绕过模型的安全措施。因此，GPT-4有可能会根据这些“越狱”提示生成有害内容。
论文中强调了GPT-4更容易受到恶意“越狱”系统或用户提示的影响，导致它准确地遵循（误导性的）指令，生成不良内容。需要明确的是，微软强调这一潜在的漏洞不会影响当前提供给客户的服务，这可能是指它们的部署中已经采取了一些措施来减轻这种潜在风险。
这项研究强调了大型语言模型的潜在风险，尤其是在存在恶意操纵的情况下，这些模型可能生成有害内容。这也引发了对AI伦理和安全的更广泛关注，以确保这些强大的工具不会被滥用。